세계보건기구(WHO)는 인공지능(AI)과 대규모 언어 모델(LLM)을 둘러싼 논의에 동참하여 인간의 웰빙, 인간의 안전, 자율성을 보호 및 증진하고 공중 보건을 보존하기 위해 안전하고 윤리적으로 사용할 것을 촉구하고 있다.

OpenAI의 ChatGPT, Google의 Bard 등과 같은 생성형 AI 플랫폼의 급속한 발전으로 인공지능은 대량의 환자 및 임상 데이터를 분석하여 잠재적인 신약과 치료법을 개발하고 의사가 환자를 위한 맞춤형 치료 계획을 수립하는 데 도움이 되는 인사이트를 제공함으로써 의료 산업을 혁신할 수 있는 잠재력을 가지고 있다.

또한 AI는 잠재적인 질병을 식별하고 증상이 나타나기 전에 예방 조치를 추천하는 데 도움을 줄 수 있다. 최근 연구자들은 췌장암 발병 위험을 정확하게 예측할 수 있는 획기적인 AI 모델을 발견했다.

AI 규제를 둘러싼 논의가 계속되는 가운데 WHO는 이 기술이 해로운 목적으로 사용될 수 있다는 우려를 제기하며 환자와 의료 산업에 해를 끼칠 수 있는 위험을 완화하기 위한 안전장치의 개발을 촉구하고 있다.

또한 의료 데이터에 대한 접근성을 개선하거나 의사결정 지원 도구로, 또는 자원이 부족한 환경에서 진단 역량을 강화하기 위해 LLM을 사용할 때는 그 위험성을 면밀히 검토하는 것이 중요하다고 강조한다. WHO는 신기술의 적절한 사용을 지지하지만, LLM에 대한 주의가 일관되게 이루어지지 않는 것에 대해 우려하고 있다.

WHO에 따르면 AI와 LLM이 안전하고 효과적이며 윤리적인 방식으로 사용되기 위해 엄격한 감독이 필요한 우려 사항에는 다음이 포함됩니다:

• 편향된 데이터가 AI 학습에 사용되어 건강, 형평성, 포용성에 위험을 초래할 수 있는 오해의 소지가 있거나 부정확한 정보를 생성할 수 있습니다;
• LLM은 최종 사용자에게는 권위 있고 그럴듯해 보일 수 있지만 완전히 부정확하거나 심각한 오류가 포함된 응답을 생성할 수 있습니다;
• LLM은 허가 없이 획득한 데이터로 학습될 수 있으며, 사용자가 응답을 생성하기 위해 애플리케이션에 제공하는 민감한 데이터(상태 데이터 포함)를 보호하지 못할 수 있습니다;LLM은 대중이 신뢰할 수 있는 건강 콘텐츠와 구분할 수 없는 텍스트, 오디오 또는 비디오 콘텐츠의 형태로 매우 설득력 있는 허위 정보를 생성하고 유포하는 데 오용될 수 있습니다;
• WHO는 인류의 건강을 개선하기 위해 AI와 디지털 헬스 등 신기술을 활용하는 것을 지지하지만, 정책 입안자들은 기술 기업이 LLM을 상용화하기 위해 노력하는 동안 환자 안전과 보호를 우선시할 것을 권장합니다.WHO는 이러한 우려를 해결하고 의료 산업에서 AI를 광범위하게 구현하기 전에 AI의 실질적인 이점에 대한 철저한 평가를 권장한다. 2021년에는 보건용 인공 지능의 윤리 및 거버넌스에 대한 지침을 발표했다. 이 보고서는 AI 기술의 개발은 윤리와 인권을 설계, 배포 및 사용의 중심에 두어야 한다고 명시하고 있다.