SMW MAGAZINE
서울메타위크 매거진
[SMW Vol.9] Ep.1 OpenAI: AI의 잠재력은 선택의 문제
2023-05-25

OpenAI는 최근 “AGI와 그 이후를 위한 계획”이라는 제목의 문서를 발표했다. 이 문서에는 전 세계가 AGI(인공 일반 지능)의 개발에 가까워짐에 따라 회사의 행동을 이끄는 광범위한 아이디어가 요약되어 있다.

OpenAI: AI는 잠재적으로 사람들에게 많은 해를 끼칠 수 있지만, 발전을 막으려는 시도는 선택사항이 아니다.

OpenAI는 AI가 사람들에게 심각한 해를 끼칠 수 있는 잠재력을 가지고 있지만, 발전을 멈추려는 시도는 선택사항이 아니라고 생각한다. 따라서 우리는 이러한 개선이 크게 악화되지 않도록 유지하는 방법을 배워야 한다. 문서는 여기에서 확인할 수 있다.

이 문서에서 몇 가지 중요한 요소를 강조해 보겠다: OpenAI는 AGI가 사람들이 경제적으로나 과학적으로 삶의 모든 측면에서 번영할 수 있도록 돕기를 원한다. 매우 멋진 대형 AI를 만들어서 즉시 세상에 공개하는 대신, OpenAI는 더 복잡하고 “스마트한” 모델을 점진적으로 도입할 것이다. 점진적으로 증가하는 AI 기능이 세상에 충격을 주지 않고, 인간이 적응하고 경제에 적응하며 AI와 상호 작용하는 절차를 구축할 시간을 준다는 가정하에 말이다.

OpenAI는 모든 조직이 앞서 언급한 원칙(강력한 AI를 점진적으로 도입)을 공식적으로 채택할 것을 권장한다. 또한 알트먼은 모델 학습에 사용할 수 있는 컴퓨팅 리소스의 양을 제한하고 주요 시스템을 일반 대중에게 공개하기 전에 공정한 감사를 실시할 것을 권장한다. “누가 더 멋지고 더 큰 모델을 가장 먼저 출시할 것인가?”와 같은 경쟁에 참여하기보다는 OpenAI는 기업들에게 AI의 안전성을 개선하기 위해 함께 노력할 것을 요청한다. OpenAI는 특정 규모를 초과하는 훈련 실행에 대해 정부에 정보를 제공하는 것이 중요하다고 생각한다. 이는 흥미로운 개념이며, 이와 관련하여 OpenAI의 계획에 대해 더 자세히 알고 싶습니다. 처음에는 이 제안이 그다지 대단해 보이지 않았다.

OpenAI는 AI의 편견과 불리한 행동을 제한하기 위해 보다 신뢰할 수 있고 제어 가능한 모델을 개발하려고 노력할 것이다. 이 경우 OpenAI가 취한 접근 방식은 모델을 매우 제한된 형태로 일반 대중에게 제공하는 동시에 사용자가 개인화할 수 있는 옵션을 제공하는 것이다. 소비자는 어떤 것도 “개인화”할 수 없기 때문에 이것이 모델 전체의 편향성을 줄이는 데 어떻게 도움이 될지 모르겠다. 모델의 행동에 대한 회사의 책임이 면제되지 않는 한 말이다.

전반적으로 이 문서는 올바른 방향을 가리키고 있다. 하지만 “멋진 모델을 대중에게 바로 보여주지는 않겠지만, 주정부와 논의할 것”과 “사람들은 AI의 발전에 대해 알아야 한다”는 의견 사이에 약간의 충돌이 있었다. 요컨대, 우리는 모든 주제에 대해 OpenAI의 자세한 설명을 기다려야 한다.

RELATED EPISODES
Stay Tuned
뉴스레터를 구독하고 서울메타위크 소식지를 받아보세요