글로벌 CEO와 석학들 "AI 개발 경쟁 통제 불능, 일시중지" 촉구 왜?

[이코리아] 모든 기업이 첨단 AI의 개발을 일시적으로 중지해야 한다는 내용의 공개서한이 나왔다. 미국의 비영리 단체 퓨처 오브 라이프 인스티튜트(Future of Life Institute)는 현지 시각 29일 '거대 AI 실험 일시중지 공개서한 (Pause Giant AI Experiments: An Open Letter)'이라는 제목의 서한을 공개했다.

서한에는 AI 업계 관계자와 교수, 학자 등의 전문가가 참여했다. 30일 12시 기준 1344명이 서명했는데 일론 머스크 테슬라 CEO, 유발 하라리 '사피엔스' 저자, 스티브 워즈니악 애플 창업자, 얀 탈린 스카이프 창업자, 앤드루 양 미국 정치인, 이마드 모스타크 스태빌리티 AI CEO, 김대식 카이스트 교수 등이 동참했다. 그 외에도 IT 업계 관계자, AI 분야의 저명한 연구자들이 이름을 올렸다.

서한은 인간과 경쟁할 수 있는 지능을 갖춘 AI 시스템이 사회와 인류에 심각한 위험을 초래할 수 있어, 그에 상응하는 주의와 자원을 통해 AI의 위험성을 관리해야 한다고 강조했다. 

또 “최근 몇 달 동안 AI 연구소는 개발자를 포함한 그 누구도 이해하거나 예측하거나 안정적으로 제어할 수 없는 더욱 강력한 AI를 개발하고 배포하기 위해 통제 불능의 경쟁에 몰두하고 있다. 하지만 AI의 수준 맟는 계획과 관리가 이루어지지 않고 있다.”라고 지적했다. 각종 연구소와 제조사들이 경쟁적으로 AI를 개발하는 사이 안전 관리가 소홀해졌다는 비판이다. 

그래서 서한은 모든 인공지능 연구소가 GPT-4보다 더 강력한 인공지능 시스템의 학습을 최소 6개월 동안 즉시 중단해야 한다고 촉구했다. 이 일시중지는 공개적이고 검증 가능해야 하며 모든 주요 행위자를 포함해야 하고, 신속하게 시행될 수 없다면 정부가 나서서 유예 조치를 취해야 한다고 강조했다.

또 이 6개월의 기간 동안 AI의 위험을 통제하기 위한 체계를 마련해야 한다고 말했다. 서한은 “AI 연구소와 독립 전문가들은 이 일시 중단 기간을 활용해 독립적인 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현해야 하며, 이러한 프로토콜을 준수하는 시스템은 합리적 의심의 여지가 없을 정도로 안전해야 한다.”라고 주장했다. 

이에 더해 AI 개발자는 정책 입안자들과 협력해 강력한 AI 거버넌스 시스템을 구축해야 하며, 시스템에는 다음과 같은 요소가 필요하다고 설명했다. △AI를 전담하는 새롭고 유능한 규제 당국 △고성능 AI 시스템과 대규모 연산 능력 풀에 대한 감독 및 추적 △진짜와 가짜를 구별하고 모델 유출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템 △강력한 감사 및 인증 생태계 △AI로 인한 피해에 대한 책임, 기술적 AI 안전 연구를 위한 강력한 공공 자금 △AI가 초래할 극심한 경제적, 정치적 혼란에 대처할 수 있는 충분한 자원을 갖춘 기관.

서한은 “이는 AI 개발 전반의 중단을 의미하는 것이 아니라, 새로운 기능을 갖춘 예측할 수 없는 더 큰 블랙박스 모델을 향한 위험한 경쟁에서 한 발짝 물러나자는 의미일 뿐이다.”라고 덧붙혔다. 또 이를 통해 인류는 강력한 AI 시스템을 만든 보상을 누리고, 모두에게 분명한 이득이 되도록 시스템을 설계하고, 사회에 적응할 기회를 주는 'AI의 여름'을 즐길 수 있을 것이라고 주장했다.

 

= 픽사베이
서한에 서명한 뉴욕대학교의 게리 마커스 교수는 “이 서한이 완벽하지는 않지만, 그 정신은 옳다. 우리는 AI의 파급 효과를 더 잘 이해할 때까지 속도를 늦춰야 한다.”라고 주장했다. 또 “대기업들은 자신들이 하는 일에 대해 점점 더 비밀스러워지고 있으며, 이로 인해 사회가 현실화될 수 있는 모든 피해를 방어하기 어렵다.”라고 말했다.

전 백악관 과학기술정책실 부국장인 수레쉬 벤카타수브라마니안은 “강력한 AI를 개발할 수 있는 권한은 큰 자본을 보유한 소수의 기업 에게만 주어져 왔다. 이러한 AI 모델은 구축하기도 어렵고 민주화하기도 어렵다.”라고 지적했다.

반면, 이에 동의하지 않는 전문가들도 있다. 에밀리 벤더 워싱턴대 교수는 이번 서한이 AI의 실질적인 피해를 알리는 대신, AI가 얼마나 강력한지 홍보해주는 모양새가 되었다고 지적했다.

아빈드 나라야난 프린스턴대 교수는 29일 자신의 트위터에 “이 공개서한은 AI에 대한 과대광고를 더욱 부추기고, 이미 발생하고 있는 실제 AI 피해에 대처하는 것을 더 어렵게 만든다. 나는 이 서한이 우리 사회가 아닌, 규제를 받아야 할 기업 에게만 도움이 될 것이라고 생각한다.”라고 비판했다.

 

한편 이번 공개서한이 챗 GPT를 서비스하며 AI 분야에서 앞서나가고 있는 오픈 AI에 대한 견제라는 주장도 있다. 서한을 공개한 퓨처 오브 라이프 인스티튜트는 인공지능, 생명공학, 핵무기 등 최신 기술들이 인류에게 해가 되지 않도록 하는 것을 목표로 활동하는 비영리 단체이다. 그런데 유럽연합의 투명성 관련 기록에 따르면 이 단체는 머스크 재단의 막대한 기부를 받고 있다. 

일론 머스크는 오픈 AI의 설립자 중 한 명이었지만, 테슬라와의 이해 충돌을 이유로 오픈 AI 이사에서 물러났다. 이후 오픈 AI가 마이크로소프트로부터 투자를 받게 되자 그는 오픈 AI가 영리 회사로 바뀌어 폐쇄적이고 수익을 추구하는 회사가 되었다고 비판하고 있다. 그동안 오픈 AI를 비판해 오던 일론 머스크가 지원하는 단체에서 내놓은 서한이라는 점이 주목받는다.

출처 : 이코리아(http://www.ekoreanews.co.kr)