GPT-4보다 더 진보된 인공지능 시스템 개발을 중단해 달라는 청원이 사회를 눈에 띄게 양극화시켰다. 특히 데이터 센터 폭격에 대한 유드코프스키의 글은 GPT 모델의 추가 개발 중단을 요구하며 불을 지폈다.
온라인에서 관찰할 수 있는 바에 따르면, 청원 지지자는 반대자보다 훨씬 적은 것으로 보이며, 세 가지 주요 논거를 가지고 있다:
1.
– 진행을 멈출 수 없다.
– 이 청원은 OpenAI 경쟁자들이 만든 것이다.
– 중국은 기다리지 않을 것이다.
2.
– AI를 두려워할 것이 아니라 사람을 두려워해야 한다.
– GPT는 의식, 의지, 열망, 기관이 없으므로 두려워할 것이 없다.
– GPT-4는 아무것도 이해하지 못하고 어리석은 실수를 저지르며 일반적으로 매우 멍청하기 때문에 세상을 노예로 만드는 것과는 거리가 멀다.
– GPT-4는 팔/다리가 없기 때문에 세상을 운영할 수 없다.
3.
– 세 번째 그룹은 애초에 GPT-4가 어떻게 작동하는지 이해하지 못한다.
세 번째 부류는 무지에서 비롯된 입장이기 때문에 집중적으로 다루지 않겠다. 모든 인공지능 반대자들이 인공지능에 대해 모든 것을 알고 있다는 것은 아니다. 인공지능에 반대하는 사람들 중에는 인공지능 기술과 인공지능이 무엇을 수반하는지에 대한 이해가 부족한 사람도 많지만, 유드코프스키는 인공지능에 대해 매우 깊이 알고 있기 때문에 무식하다고 비난할 수는 없다.
첫 번째 그룹의 사람들, 즉 발전을 멈출 수 없다고 믿는 사람들을 살펴보겠다. 이들은 서로 다르지만 비슷한 주장을 펼치는데, 전반적으로 AI의 능력과 도입이 가져올 전망을 부정하지 않으며 어떤 일이 있어도 AI 개발은 계속될 것이라고 믿는다.
멈출 수 없는 진보에 대한 첫 번째 논제는 사실일 필요는 없는 슬로건이다. 사람들은 일부 과학 실험을 중단한 것처럼 보이며 한때 허용되었던 많은 연구 프로젝트는 더 이상 윤리적이지 않은 것으로 간주되며 오늘날에는 유사한 프로젝트가 허용되지 않을 것이다. 하지만 과거 중국과 다른 나라에서 종교재판과 기타 종교적 박해, 도서 금지, 과학자 살해 등으로 인해 얼마나 많은 과학적 진보가 멈췄을까요? 이는 생존자 편견으로 인해 우리가 완전히 파악할 수 없는 부분이다.
다른 논문에서는 “우리가 아니면 저들이 할 것이다”로 요약할 수 있는 접근 방식을 사용한다. 이러한 사고 방식은 더 이해하기 쉬울 수 있지만 올바른 해결책은 아닌 것 같습니다. 이는 게임 이론의 죄수의 딜레마와 매우 유사하다.
두 번째 주장이 가장 흥미로운 주장이다. 개인적으로 어느 정도 동의하지만 몇 가지 주의해야 할 점이 있다. 예를들면 AI에는 의식, 의지, 주체성 등이 없다. 코로나19도 마찬가지지만 전 세계를 혼란에 빠뜨렸다. 바이러스로 인해 지구상의 생명체가 전멸하는 시나리오는 상상할 수 없는 일이 아니다. 할 일이 끝나면 의자를 테이블 위에 올려놓고 불을 끄고 영원히 떠날 수 있다.
생물학적 비유를 계속 이어서 “디지털 진화의 놀라운 창의성”이라는 멋진 기사가 있다: 진화 계산 및 인공 생명 연구 커뮤니티의 일화 모음”이라는 글에서 프로세스가 예상치 못한 방향으로 나아갈 때의 많은 예를 제공한다. 진화 과정이 아니더라도 모든 것이 잘못된 일반화인 ‘목표 오일반화’에 빠질 수 있다: 올바른 사양만으로는 올바른 목표에 도달할 수 없는 이유.” 최적화 프로세스에 자유를 부여하면 잘못될 수 있다는 내용은 “고급 머신 러닝 시스템에서 학습된 최적화로 인한 위험”에서 설명한다.
동시에, 우리는 일반적으로 AI의 악의적인 사용과 오용의 위험성을 고려하지 않기 때문에 AI 자체가 아니라 사람을 두려워해야 한다는 주장에 힘을 실어줄 뿐이다. 하지만 사실 AI는 악의적인 사람이 없어도 나쁜 영향을 미칠 수 있다.
모델이 어리석은 실수를 저지른다는 사실에 동의하지만, 인간도 실수를 저지르며 해를 끼칠 수 있다는 것을 알고 있다. 모델은 많은 실수를 저지르지만, 일반인이 해결할 수 없는 멋지고 복잡한 문제도 많이 해결할 수 있다.
악명 높은 연구 ‘인공 일반 지능의 불꽃’에서 발췌한 내용입니다: GPT-4를 사용한 초기 실험”에서 저는 AI가 페르미 문제와 같은 복잡한 수학 문제를 항상 정확하게 풀지는 못하지만 풀 수 있다는 사실에 놀랐습니다. AI의 마음 이론과 다른 사람의 행동을 “이해하는 능력”도 매우 인상적이었습니다. 이 모든 것들이 AI의 지능을 가리키고 있습니다. 존재하지만 우리와 완전히 같지는 않습니다.
AI 모델이 저지르는 실수 중 적어도 일부를 제거하는 것은 일반적으로 가능하기 때문에 지능은 더욱 향상될 수 있다. 정확한 계산을 위한 모듈, 팩트 베이스, 다른 모델과의 검증을 추가하기만 하면 된다.
이 모든 이야기에서 가장 중요한 것은 AI의 발전 속도이다. GPT 모델은 어지러울 정도로 빠른 속도로 성장해 왔다. 이제 ChatGPT 플러그인을 사용할 수 있고, GPT 모델을 사용하여 코드를 작성할 수 있으며, API가 일반 대중에게 공개되고, 사전 교육 없이도 외부 도구를 사용할 수 있다.
물론 GPT-4는 세계를 정복하지는 못하지만 경제를 크게 흔들 수 있다. GPT-5와 향후 모델의 반복은 그리 멀지 않을 수 있으며 훨씬 더 강력한 기능을 제공 할 가능성이 높다. 그리고 현실을 직시하자, 우리는 아직 존재하지 않는 모델을 이해하기를 바랄 수 없으며 이미 존재하는 모델에 대한 이해에 근접하지도 못했다. 이런 의미에서 6개월의 휴식은 좋은 생각일 수 있지만 충분하지 않을 수도 있다.
AI 경쟁이 시작되었기 때문에 학습할 시간이 없다. 일반적으로 이 모든 것을 고려하여 저도 청원에 서명했다. 어떤 식으로든 도움이 될 것이라고는 생각하지 않는다.
