주요 기술 전문가를 포함한 1,100명 이상의 서명자가 GPT-4보다 더 진보된 AI 시스템 학습을 6개월간 중단할 것을 촉구하는 공개 서한에 서명했다.
이 서한은 인류가 직면한 전 지구적 재앙과 실존적 위험, 특히 첨단 인공지능으로 인한 실존적 위험을 줄이기 위해 노력하는 비영리 단체인 Future of Life Institute에서 작성했다.
이 서한은 “첨단 AI는 지구 생명체의 역사에 중대한 변화를 가져올 수 있으므로 그에 상응하는 주의와 자원을 투입해 계획하고 관리해야 한다”는 널리 지지받는 아실로마 AI 원칙을 인용하며, 계획과 관리가 제대로 이루어지지 않고 있다고 지적한다.
이 서한은 AI 연구소가 누구도 이해하거나 예측하거나 안정적으로 제어할 수 없는 점점 더 강력한 인공지능을 개발하기 위해 ‘통제 불능’의 경쟁을 벌이고 있다고 말한다. 이 서한은 GPT-4와 같은 최신 AI 시스템이 일반적인 작업에서 인간과 경쟁할 수 있게 되면서 AI에 의한 정보 편향, 업무 자동화, 인류 문명에 대한 통제력 상실 위험에 대한 우려를 제기한다.
“우리는 모든 AI 연구소에 GPT-4보다 더 강력한 AI 시스템의 훈련을 최소 6개월 동안 즉시 중단할 것을 요청합니다. 이 일시 중단은 공개적이고 검증 가능해야 하며 모든 주요 행위자를 포함해야 합니다. 이러한 중단 조치가 신속하게 시행될 수 없다면 정부가 나서서 모라토리엄을 시행해야 합니다.”
이 서한은 AI 연구소와 기술 전문가들이 일시 중단 기간을 활용해 독립적인 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 안전 프로토콜을 개발하고 구현할 수 있도록 요청한다. 그러나 미국 저널리스트 제프 자비스는 이 편지가 “도덕적 패닉의 대표적인 표본”이라고 비판했다.
딥마인드 연구 과학자 및 전 세계 여러 대학교수들과 함께 서한에 서명한 기술 및 머신러닝 분야의 주요 인사로는 다음과 같은 인물이 있다.
-
- 요슈아 벤지오, 몬트리올 대학교, 딥 러닝 개발 부문 튜링상 수상자, 몬트리올 학습 알고리즘 연구소장
- 스튜어트 러셀, 버클리, 컴퓨터 과학 교수, 지능형 시스템 센터 소장, 표준 교과서 “인공 지능: 현대적인 접근법”의 공동 저자
- Elon Musk, SpaceX, Tesla 및 Twitter의 CEO
- 에마드 모스타크, Stability AI CEO
- 얀 탈린, Skype 공동 설립자, 실존적 위험 연구 센터, 미래생명연구소(Future of Life Institute)
- 게리 마커스, 뉴욕 대학교, AI 연구원, 명예 교수
- 마크 로텐버그, AI 및 디지털 정책 센터(CAIDP), 회장
로텐버그는 최근 서한을 통해 CAIDP가 연방거래위원회에 불만을 제기할 것이며, 안전장치가 마련될 때까지 Open AI와 ChatGPT에 대한 조사와 제품의 추가 상업적 출시를 금지할 것을 요청할 것이라고 밝혔다.
OpenAI의 CEO인 샘 알트먼은 “우리 기관이 무엇을 해야 할지 파악할 충분한 시간이 필요하다”며 사회가 “잠재적으로 무서운” 생성형 AI 도구에서 멀지 않았다고 인정했다.
“우리는 제도, 법률, 사회가 따라잡을 수 있는 기회를 가질 수 있도록 FTC에 ‘일시 정지 버튼’을 눌러달라고 요청하고 있다. 우리가 통제력을 잃기 전에 우리가 만든 기술에 대한 권한을 주장해야 합니다.”라고 CAIDP 서한에 명시되어 있다.
다른 한편으로, EU 입법자들은 연말까지 EU 국가들과 AI 규정을 시행하기 위한 협정을 체결하는 것을 목표로 하고 있지만, AI를 어떻게 관리해야 하는지에 대한 논쟁이 격화되면서 병목현상에 부딪힐 수도 있다.
