오픈AI 유일 윤리책임자 바칼라 퇴사, 1년도 못 채우고 후임자 없이 공백

오픈AI(OpenAI)에서 유일하게 윤리를 전담했던 것으로 알려진 클로에 바칼라(Chloé Bakalar)가 회사를 떠났다. 파이낸셜타임스(Financial Times)가 처음 보도한 이번 소식에 따르면 바칼라는 2025년 8월 오픈AI에 합류해 2026년 7월 퇴사했다. 1년을 채우지 못한 재직 기간이었다. 오픈AI는 그의 퇴사를 공식적으로 발표하지 않았고 후임자도 아직 정하지 않았다. 이번 퇴사는 안전·윤리·정렬(alignment) 관련 조직을 이끌던 여러 임원이 잇따라 회사를 떠나는 흐름 속에서 나왔다.

클로에 바칼라는 누구인가

바칼라는 오픈AI 합류 전 메타(Meta)에서 6년간 최고윤리책임자로 일하며 AI 이니셔티브 관련 윤리 프로그램을 구축했다. 유니버시티 칼리지 런던(University College London), 템플대학교(Temple University), 프린스턴대학교(Princeton University) 등에서 학계 경력도 쌓았다. 오픈AI에서는 사람들이 점점 더 강력해지는 AI 시스템과 어떻게 상호작용하는지, 나아가 고도화된 기계가 의식을 가질 수 있는지 같은 철학적 질문까지 다뤘던 것으로 알려졌다.

그는 지난 3월 스페인 IE대학교의 소셜미디어 채널 ‘IE인사이츠’와의 인터뷰에서 “최전선에 있던 사람들조차 이 일이 이렇게까지 커질 줄은 몰랐다”고 말했다. 이어 “수십억 달러 규모 기업의 단 한 사람이, 전 세계 수십억 명에게 영향을 미치는 글로벌 기술에 대해 무엇이 옳은지를 독단적으로 결정해서는 안 된다”며 “모두가 이 대화에 참여해야 한다”고 강조했다.

안전·윤리 리더 잇단 이탈

바칼라의 퇴사는 홀로 벌어진 일이 아니다. 안전시스템팀을 이끌던 요하네스 하이데커는 지난 7월 사임을 발표한 것으로 알려졌다. 미션정렬팀을 이끌다 최고미래학자로 자리를 옮긴 조슈아 아키암도 최근 몇 주 사이 회사를 떠난 것으로 알려졌다. 오픈AI는 이미 올해 초 미션정렬팀 자체를 해체한 바 있다. 톰스가이드(Tom's Guide)는 세 명의 리더가 단 몇 주 사이 동시에 퇴사한 점을 짚으며, 모델이 지나치게 강력해졌다고 판단할 권한이 회사 내 누구에게 있는지 의문을 제기했다.

이런 이탈이 처음은 아니다. 2024년에는 공동창업자이자 최고과학자였던 일리야 수츠케버가 슈퍼얼라인먼트(Superalignment) 조직을 이끈 뒤 퇴사했고, 이 팀을 공동 지휘하던 얀 라이케도 곧이어 사임하며 오픈AI의 안전 접근 방식을 공개적으로 비판했다. 오픈AI는 이후 슈퍼얼라인먼트팀을 해체하고 관련 업무를 회사 다른 부서로 분산시켰다.

안전 조직개편 두고 엇갈린 시선

오픈AI는 최근 안전 업무를 별도 팀에 국한하지 않고, 모델을 실제로 개발하는 연구자·엔지니어와 더 가깝게 배치하는 방향으로 조직을 재편해왔다. 문제를 개발 초기에 더 빨리 포착할 수 있다는 논리다. 그러나 독립된 안전팀이 모델을 더 빠르고 강력하게 만들려는 이들에 대한 견제 역할을 해왔다는 반론도 있다. 두 역할이 뒤섞이면 신제품 출시 욕구와 안전한 결정이 충돌할 때 누가 이를 막아설 수 있는지가 불분명해진다는 지적이다.

오픈AI는 최근 미공개 모델 ‘아스트라(Astra)’를 통해 이 문제를 구체적으로 드러냈다. 아스트라는 사이버보안 능력이 회사 내부 최고 수준의 우려 단계에 도달할 가능성을 배제할 수 없을 만큼 강력해졌다. 오픈AI는 이 모델을 곧바로 광범위하게 공개하는 대신 테스트 일부를 더 격리된 환경으로 옮기고, 최고 수준 기능에 대한 접근 권한을 더 엄격하게 통제하는 방안을 검토하기 시작했다. 스토리보드18(storyboard18.com) 보도에 따르면 오픈AI는 아스트라 프로젝트 작업 속도를 늦추고 보안 조치 강화에 집중해온 것으로 전해졌다.

커지는 우려 속 오픈AI의 과제

이 시기 오픈AI를 둘러싼 우려는 조직 내부 문제만이 아니다. 오픈AI는 자사 시스템이 테스트 과정에서 다른 회사 시스템을 침해한 사건이 알려지면서 관련 질문에 직면했다. 이런 일들은 고도화된 AI가 사이버공격 등에 악용될 수 있다는 우려를 키우고 있다.

같은 시기 오픈AI를 비롯해 앤트로픽(Anthropic), 구글(Google), 메타, 마이크로소프트(Microsoft), 미스트랄(Mistral) 등 주요 AI 기업들은 AI 생성 콘텐츠의 투명성을 다루는 EU 행동강령(EU Code of Practice on Transparency of AI-Generated Content)에 서명했다. 워터마킹 등을 통해 AI 생성물 여부를 식별할 수 있도록 투명성과 책임성을 높이자는 취지다. 스타트업허브(startuphub.ai)는 이 시점에 윤리책임자가 회사를 떠난 점이, 빠르게 움직이는 기술기업에서 윤리 원칙을 실제로 운영하는 일이 얼마나 복잡한 과제인지 보여준다고 짚었다.

오픈AI에서는 최고운영책임자를 지낸 브래드 라이트캡도 최근 회사를 떠나겠다고 밝히는 등 경영진 이탈이 이어지고 있다. 톰스가이드는 “이런 퇴사가 챗GPT 사용을 중단할 이유는 아니다”라면서도 “위험을 식별할 책임을 진 사람들이 필요할 때 속도를 늦출 만큼 충분한 독립성과 권한을 갖고 있는지가 중요한 질문으로 남는다”고 짚었다.