억만장자 피터 틸이 설립한 기술 기업 Palantir는 미국 이민 및 관세 집행 기관을 위한 국내 감시 서비스를 넘어 사업 영역을 확장하기 위한 움직임을 보이고 있다. 이 회사는 최신 제품인 팔란티르 인공 지능 플랫폼(AIP)의 비디오 데모를 공개했는데, 이 플랫폼은 OpenAI의 GPT-4 및 Google의 BERT와 같은 대규모 언어 모델(LLM)을 민간 운영 네트워크에 통합하도록 설계되었다.

이 영상에서 팔란티어는 현대전 시나리오에서 군이 자사 소프트웨어를 어떻게 사용할 수 있는지 보여주었다. 운영자는 ChatGPT 스타일의 챗봇을 사용하여 드론 정찰을 명령하고, 공격 계획을 생성하고, 적의 통신 교란을 조정할 수 있다. AIP의 출시는 팔란티르가 군사 작전에 관여하는 윤리적 의미에 대한 의문을 불러일으킬 것이다.

윤리적이고 합법적인 사용을 위해 팔란티어 AIP는 세 가지 “핵심 기둥”을 기반으로 구축되었다. 첫째, AIP는 기밀 시스템 내에서 작동하여 기밀 및 비기밀 데이터를 실시간으로 분석하는 동시에 윤리적 및 법적 준수를 보장한다. 두 번째 기능은 사용자가 네트워크에서 작동하는 각 LLM 및 자산의 동작을 관리할 수 있도록 지원한다.

AIP는 전체 작업에 대한 안전한 디지털 기록을 생성하며, 이는 민감한 기밀 환경에서 중대한 법적, 규제적, 윤리적 위험을 완화하는 데 매우 중요하다고 비디오는 주장한다. 마지막으로, AIP는 무단 작업을 방지하기 위해 업계 최고의 가드레일을 갖추고 있어 시스템의 안전한 사용을 보장한다.

영상에 등장하는 군 작전 요원은 동유럽의 잠재적 위협에 대응하기 위해 팔란티어의 시나리오를 실제로 적용하는 모습을 보여준다. 이 작전 요원은 AIP를 사용하여 적의 군사 장비에 대한 더 많은 정보를 효율적이고 효과적으로 수집할 수 있었다. 또한 AIP의 대규모 언어 모델 덕분에 운영자는 신속하게 질문하고 정확한 답변을 얻을 수 있었다.

AIP의 능력은 효과적으로 입증되었지만, 팔란티어는 특히 군사 활동과 같은 민감한 상황에서 LLM과 알고리즘의 적용을 관리하는 것이 중요하다는 점을 잘 알고 있다. 또한 기술의 신뢰성과 효과에 대한 우려, 특히 LLM이 허위 사실과 세부 정보를 생성하는 것을 방지하는 것에 대한 우려도 있다.

팔란티어는 정부 기관에 논란의 여지가 있는 데이터 분석 소프트웨어를 제공하는 것으로 악명을 떨쳤다. 이 회사는 개인 정보 보호 전문가들로부터 사람들의 프라이버시를 침해하는 데이터 감시 및 분석으로 비판을 받아왔다. 미국 이민 당국이 불법체류 이민자를 체포하는 데 이 회사의 기술을 사용하면서 시위를 촉발하기도 했다. 영국에서도 이 회사가 취급하는 건강 데이터로 인해 경각심을 불러일으켰다.