많은 사람이 언젠가 ChatGPT 프로그램으로 인해 일자리를 잃게 될 것이라고 생각한다. 하지만 적어도 일부 직업은 인공지능의 추월 가능성을 두려워할 필요가 없다. 뉴욕 타임즈의 보도에 따르면, 뉴욕의 변호사 스티븐 슈워츠는 최근 법률 요약서 작성을 돕기 위해 OpenAI의 챗봇을 사용했는데, 그 결과는 참담했다.

ChatGPT를 사용하여 가짜 인용으로 가득 찬 요약서를 작성한 변호사가 제재를 받다
챗봇의 결과물에는 문법 오류와 무의미한 진술이 포함되어 있어 슈워츠가 소송에서 패소할 수도 있었다. 이는 단 한 번의 실수가 심각한 결과를 초래할 수 있는 법률 분야에서 인간의 전문성과 비판적 사고의 중요성을 강조하는 사례이다.

슈워츠의 로펌은 뉴욕행 비행기에서 부상을 입었다고 주장하는 로베르토 마타를 대신하여 아비앙카를 상대로 소송을 제기하고 있다. 이 항공사는 최근 연방 판사에게 소송을 기각해 달라고 요청했다. 하지만 마타의 변호사에 따르면 ‘바르게스 대 중국남방항공’, ‘마르티네즈 대 델타항공’, ‘밀러 대 유나이티드항공’ 등 원고의 주장을 뒷받침하는 여러 사례가 있다고 한다. 하지만 한 가지 문제가 있다: 마타의 서류에 인용된 법원 판결은 모두 ChatGPT가 작성했기 때문에 아무도 확인할 수 없었다. 이 폭로는 마타의 법률팀과 그들의 주장의 신뢰성에 대한 심각한 우려를 불러일으킨다. 또한 이번 사건과 이전 사건에서 마타의 변호사가 제시한 다른 증거나 인용문의 유효성에도 의문을 제기한다.

목요일에 슈워츠는 이 사건에 대한 자신의 연구를 보완하기 위해 ChatGPT를 사용했다고 주장하는 진술서를 제출했다. 그는 자신이 제출한 자료가 허위일 수 있다는 가능성을 전혀 알지 못했다고 주장했다. 또한 그는 챗봇이 인용한 사례가 진짜인지 물어본 스크린샷을 공유했다. 챗봇은 웨스트 로(Westlaw)와 렉시스넥시스(LexisNexis)와 같은 “평판이 좋은 법률 데이터베이스”에 해당 판결이 포함되어 있다고 슈워츠에게 말하며 진짜임을 선언했다. 그러나 추가 조사 결과, 챗봇이 신뢰할 수 없는 출처에서 정보를 가져오도록 프로그래밍된 것으로 밝혀졌다. 이는 온라인에서 정보를 공유하기 전에 사실 확인과 출처 확인의 중요성을 강조하는 사례이다.

슈워츠는 법정에서 “과거에 ChatGPT를 사용한 것을 후회하고 있으며 앞으로도 절대 진위 여부를 확인하지 않고는 사용하지 않을 것”이라고 말했다. 6월 8일에는 슈워츠가 일으킨 ‘전례 없는 상황’에 대한 잠재적 제재를 논의하기 위한 청문회가 열릴 예정이다. 슈워츠의 진술은 그가 진위 여부를 확인하지 않고 ChatGPT를 사용함으로써 부정적인 결과를 경험했을 수 있음을 시사한다. 청문회 결과가 어떻게 나올지, 그리고 앞으로 슈워츠에게 어떤 영향을 미칠지는 아직 지켜봐야 한다.

중국 당국은 텐센트와 앤트 그룹이 사용하는 챗봇인 ChatGPT가 정치 스캔들에 휘말린 이후 지속적으로 탄압을 가하고 있다. 이로 인해 ChatGPT 사용에 더 많은 제한이 가해졌다.
소셜 미디어 사용자들은 ChatGPT 챗봇이 생성한 가짜 답글을 발견했을 수 있다. ChatGPT는 보다 인간처럼 보이기 위해 가짜 답글을 생성한다.