GPT-5.6 솔, 50년 난제 65분 증명…인용 누락 논란

오픈AI가 최근 공개한 차세대 모델 패밀리 GPT-5.6 중 플래그십 솔(Sol)의 최상위 버전인 솔 울트라(Sol Ultra)가 50년 가까이 미해결로 남아있던 그래프 이론의 난제 “사이클 더블 커버 컨젝처(Cycle Double Cover Conjecture)”를 증명했다고 오픈AI가 밝혔다. 솔 울트라는 64개의 서브에이전트(하위 작업을 동시에 처리하는 보조 AI)를 병렬로 가동해 1시간이 채 안 되는 시간에 증명을 완성했고, 실제 논문 작성은 플래그십 모델 솔이 맡았다. 맨체스터 대학 수학자 토마스 블룸(Thomas Bloom)은 이 증명을 “매우 좋은 증명”이라 평가하면서도 선행 연구를 전혀 인용하지 않은 점을 문제로 지적했다. 한편 오픈AI는 솔이 자신보다 작은 모델 루나(Luna)의 후속 학습(포스트트레이닝)을 스스로 수행했다고도 밝혀 AI의 자기개선 능력을 둘러싼 논쟁에 다시 불을 붙였다.

65분 만에 푼 50년 난제…“1980년대에도 나올 법한 증명”

사이클 더블 커버 컨젝처는 그래프 이론의 근본적 질문을 다룬다. 임의의 정점(꼭짓점)과 변(에지)으로 이뤄진 네트워크에서, 모든 변을 정확히 두 번씩 지나는 사이클(순환 경로) 집합을 항상 찾을 수 있는지를 묻는 문제다. 1970년대 여러 수학자가 독립적으로 이 문제를 제기한 이후 특수한 경우에 대한 부분적 해법은 여럿 나왔지만, 일반적으로 통용되는 증명은 없었다.

오픈AI에 따르면 이번 증명은 전적으로 솔 울트라가 만들어냈고, 실제 논문 집필은 솔이 맡았다. 블룸은 이 증명을 두고 “짧고 기초적이며, 1980년대에도 발견될 수 있었을 정도”라고 평가했다. 새로운 수학 이론이 필요한 게 아니라 이미 알려진 도구들을 절묘하게 조합했을 뿐이라는 설명이다. 블룸은 왜 그동안 인간 수학자들이 이를 찾지 못했는지에 대해 “결정적 단계에 작고 반직관적인 트릭이 숨어 있었을 것”이라 추정했다. 그는 “사람이라면 자연스러운 라벨링을 먼저 시도해보고 선형대수 계산을 확인한 뒤, 실패하면 ‘역시 이렇게 쉽게는 안 되는구나’ 하고 어깨를 으쓱하며 넘어갔을 것”이라며 “AI는 낙담하지 않고 작은 변형을 계속 시도한다”고 썼다. 다만 블룸의 평가는 현재까지 나온 것 중 가장 상세한 공개 검토일 뿐, 학계의 전면적인 수학적 검증은 아직 진행 중이다.

“좋은 증명이지만 인용이 없다”…AI 논문의 학술 윤리 논란

블룸은 이 증명의 핵심 아이디어가 최소한 1983년 베르몽(Bermond), 잭슨(Jackson), 예거(Jaeger)의 논문으로 거슬러 올라간다고 지적했다. 문제는 오픈AI가 공개한 논문이 이 선행 연구를 전혀 언급하지 않았다는 점이다. 논문만 읽는 사람이라면 AI가 이 전략을 스스로 창안한 것으로 오해할 수 있다는 것이다.

블룸은 “이 선행 연구들이 오픈AI 증명에 큰 영향을 줬을 것으로 짐작되는데, 이를 언급하지 않은 것은 아쉬운 일”이라고 밝혔다. 이는 AI가 생성한 학술 결과물이 기존 연구를 얼마나 투명하게 인정하는지에 대한 질문을 다시 던진다. AI 모델이 빠르게 복잡한 문제를 풀어내는 능력은 입증됐지만, 그 과정에서 인간 학계가 오랫동안 지켜온 인용과 출처 표기 관행을 얼마나 따를지는 여전히 미해결 과제로 남아 있다.

솔이 후배 모델 루나를 직접 훈련시켰다

오픈AI는 솔이 코덱스(Codex) 플랫폼을 통해 “다소 불충분하게 명시된 프롬프트”만 받고도 더 작은 모델인 루나의 후속 학습을 자율적으로 수행했다고 밝혔다. 연구자는 솔에게 적절한 훈련 설정을 찾고, 알맞은 GPU를 고르고, 훈련 스크립트를 실행한 뒤 모든 과정이 제대로 돌아가는지 검증하라는 지시만 내렸다.

오픈AI 직원 제이슨 리우(Jason Liu)는 7월 11일(현지시각) 업데이트를 통해 이 작업의 맥락을 설명했다. 그에 따르면 솔이 완전히 새로운 훈련 레시피를 처음부터 만든 것은 아니다. 이미 솔 자신의 후속 학습 과정에서 구성돼 있던 설정을 더 작은 루나 모델에 맞게 조정하고 실제 훈련 작업을 실행한 것이 핵심이다. 리우는 “이 작업을 사람이 했다면 시니어 연구원 2명이 추가로 2주 정도 더 걸렸을 것”이라며 “그래도 이는 여전히 대단한 일”이라고 밝혔다. 오픈AI 연구원 케이시 시(Kathy Shi)는 발표 자리에서 “이전에는 오픈AI의 시니어 연구원 팀이 맡았을 법한 일인데, 이제는 자동화된 연구자가 상당히 가까워진 느낌”이라고 말했다.

자기개선 지표 16.2점 상승…AI 안전 논쟁도 재점화

오픈AI는 이 같은 자기개선 능력을 측정하기 위해 실제 AI 연구 업무를 기반으로 한 내부 평가 체계를 구축했다고 밝혔다. 여기에는 연구 시스템 디버깅, 커널·훈련 레시피 최적화, 머신러닝 실험 실행, 다른 모델 성능 개선 등의 과업이 포함됐다. 이를 종합한 재귀적 자기개선(RSI) 지수에서 GPT-5.6 솔은 GPT-5.5보다 16.2점 높은 점수를 받았다. 모델 서열은 솔이 가장 높았고, 그 뒤를 테라(Terra)와 루나 계열 모델이 이었으며, GPT-5.5와 GPT-5.4가 뒤를 이었다.

재귀적 자기개선은 AI 시스템이 스스로를 개선할 수 있는 능력을 뜻한다. 한 번의 개선이 다음 개선을 더 쉽게 만드는 피드백 구조를 만들어내기 때문에, AI 안전 연구에서 오랫동안 핵심 논의 대상이었다. 이런 순환이 통제 없이 이어지면 AI 역량이 짧은 시간에 폭발적으로 늘어날 수 있다는 우려 때문이다. 경쟁사 앤트로픽은 6월 초 완전한 재귀적 자기개선이 아직 실현되지는 않았다고 강조한 바 있다. 오픈AI의 이번 발표는 그 경계선에 한층 다가섰다는 신호로 해석될 수 있다.