AI 중단 촉구? AI pause란? 일론머스크 "AI중단" 촉구

AI 연구 중단 (AI pause) 이란?

• AI pause는 인공지능 연구에 대한 일시적인 중단을 의미합니다. 최근 테슬라 CEO 일론 머스크 (Elon Musk)와 애플 공동 설립자 스티브 워즈니악 (Steve Wozniak) 그리고 다수의 인공 지능 전문가 및 업계 임원 그룹은 OpenAI의 새로 출시된 GPT-4보다 더 강력한 인공지능 시스템 개발에 대한 6개월간의 일시적인 중단을 요청하였습니다.
• 이들은 사회에 미칠 수 있는 잠재적인 위험을 언급하며 이를 열린 서한으로 발표하였습니다 . 이들은 "강력한 AI 시스템은 우리가 그 효과가 긍정적이고 그 위험이 관리 가능할 때만 개발되어야 한다"고 말했습니다.
• 이 서한은 Future of Life Institute에서 발행되었며, Musk Foundation, Founders Pledge 및 Silicon Valley Community Foundation에서 주로 지원받는 비영리 단체입니다 . 이 서한은 공유 안전 프로토콜이 독립 전문가들에 의해 개발될 때까지 고급 AI 개발을 중단하도록 촉구하고 있습니다 .

 

 

AI 연구 중단에 대한 유명인사들의 의견

• AI pause에 대한 의견은 분분합니다. 일부는 AI의 발전이 인류에게 위험을 초래할 수 있다고 생각하지만, 다른 일부는 AI의 발전이 인류에게 혜택을 줄 수 있다고 생각합니다. 결국 AI pause에 대한 결정은 정부와 정책 결정자들이 내릴 것입니다.

 

• 공개 서한 참여자들은 서한에서 “최첨단 AI는 지구 생명 역사에 중대한 변화를 낳을 수 있어 위험을 스스로 관리할 수 있다는 확신이 있을 때만 개발해야 한다”며 “외부 독립적인 전문가가 감독하는 안전 규정이 나올 때까지 전 세계 모든 AI 연구팀에서 GPT4보다 더 강력한 AI 개발을 최소 6개월 간 중단해 달라”고 주장했다. 만약, 기업들이 합의할 수 없다면 정부가 개입해 강제 유예 조치를 취해야 한다고 했다.
• ChatGPT와 GPT-4를 개발한 OpenAI의 올트먼 CEO는 지난달 20일 미국 ABC 방송과의 인터뷰에서 AI 기술의 부작용에 대한 우려를 표명하기도 했다. 그는 "AI 기술이 노동력과 선거, 허위정보 확산 등에 미칠 수 있는 악영향이 두렵다"며 "우리는 주의를 기울여야 하고, 사람들은 AI 기술에 대해 약간은 공포를 가져야 한다"고 밝혔다. 다만, AI중단 촉구 서한에 서명하지는 않았다.

 

• 한편, OpenAI에 대규모 투자를 한 마이크로소프트 공동 창업자인 빌 게이츠는, 인공 지능(AI) 개발 일시 중단을 요구하는 것이 미래의 기술 발전에 대한 논쟁을 일으킬 수 있다며, "도전을 극복"할 수 없을 것이라는 견해를 밝혔습니다. 기술의 발전과 함께 자선가로 변신한 그는, 일시 중단이 전 세계적으로 어떻게 작동될지 이해하기 어렵기 때문에, AI의 발전을 최대한 활용하는 방법에 집중하는 것이 더욱 효과적일 것이라고 언급했습니다.
• 또한, 전 Google CEO 인 Eric Schmidt는 인공 지능 개발을 일시적으로 중단하는 것은 중국의 경쟁자들에게 이점을 줄 뿐이라고 말했습니다.

 

 

국가적 차원의 움직임

• 영국 정부는 최근 규제당국에 AI 관련 백서를 발간하고, 실제 AI가 활용되는 방식에 맞춘 상황별 접근방식을 마련할 것을 요구했다.
• 유럽연합(EU)은 유럽에서 AI를 사용하는 방식을 규율하는 자체 법안을 준비 중이고, 만약 기업이 해당 법을 위반했을 시에는 3000만유로(약 424억5240만원) 또는 연간 매출액의 6% 중 더 큰 금액을 벌금으로 부과하는 방안을 논의 중이다.

 

 

 

 

개인적인 의견으로는 AI연구 개발 속도가 매우 빨라지고 AI결과물의 수준이 상상 이상으로 높아지는 가운데, 연구 중단처럼 극적인 방법은 아니더라도 분명한 규제 및 법적 장치는 필요할 것이다. 어느순간 우리도 모르게 인공지능이 특이점에 도달 할 수도 있을것이다.