오픈AI, 챗GPT로 작성된 텍스트 감지 기술 개발 완료…공개 여부 놓고 내부 논쟁

오픈AI가 챗GPT로 작성된 텍스트를 감지하는 기술을 개발했지만, 공개 여부를 두고 고민하고 있다.

오픈AI가 챗GPT로 작성된 텍스트를 99.9% 정확도로 감지할 수 있는 기술을 개발했지만, 이 기술의 공개 여부를 두고 2년 넘게 내부 논쟁을 벌이고 있다고 월스트리트저널(WSJ)이 4일(현지 시각) 보도했다.

월스트리트저널에 따르면 오픈AI는 2022년 11월 챗GPT 출시 이전부터 이 기술을 개발해 왔으며, 내부적으로는 기술의 준비가 완료된 상태다. 이 기술은 텍스트에 '보이지 않는 워터마크'를 삽입해 챗GPT가 작성한 것인지를 감지하는 방식으로, AI로 작성됐을 가능성을 점수로 제공한다.

이 기술은 스콧 아론슨 텍사스대 컴퓨터과학과 교수가 개발했다. 그는 학교를 휴직하고 2년 동안 오픈AI에서 AI 안전성 관련 작업을 진행한 것으로 알려졌다.

오픈AI는 공개 여부를 두고 내부에서 사용자 유치와 사용의 투명성 사이에서 고민하고 있다.

일부 직원들은 이 기술이 가져올 긍정적인 영향을 강조하며 공개를 지지하고 있지만 다른 직원들은 워터마크를 쉽게 제거할 수 있다는 우려를 제기하고 있다. AI가 생성한 텍스트를 번역하거나 이모티콘을 추가·삭제해 원문의 구조를 바꿀 수 있다는 것이다.

오픈AI의 내부 설문 조사 결과도 공개 결정을 어렵게 만들고 있다.

지난해 4월 진행된 조사에서 챗GPT 사용자 중 69%는 AI 사용 탐지 기술이 AI 사용자에 대한 의심이나 비난으로 이어질 수 있다고 답했다.

한편 일선 학교에서는 학생들의 AI 부정행위를 막기 위해 이 기술의 공개를 원하고 있다. 비영리 단체인 민주주의 기술 센터 조사에 따르면 미국 중고등학교 교사 중 59%는 학생들이 AI를 이용해 과제를 작성했다고 생각하고 있다. 이는 1년 전보다 17%포인트 상승한 수치다.

오픈AI가 올가을까지 AI 투명성에 대한 여론을 설득하고 이 주제에 관한 잠재적인 법안에 대응할 계획을 세우고 있다고 월스트리트저널은 전했다.