그 누구도 풀지 못한 '60년 수학 난제'…'한국인 남성'이 마침표 찍었다

60년 가까이 수학 난제로 꼽히던 ‘소파 움직이기 문제’를 한국인 수학자가 최초로 풀어내는 데 성공했다.

수학계에 따르면, 미국의 저명한 과학 전문지 '사이언티픽 아메리칸'은 2025년 10대 수학 혁신 사례 중 하나로 백진언 고등과학원 허준이수학난제연구소 박사의 연구를 선정했다.

'소파 움직이기 문제'는 폭이 1인 직각 복도를 통과할 수 있는 가장 넓은 면적의 도형을 찾는 문제다. 1966년 캐나다 수학자 레오 모저가 처음 제시한 이 문제는 복잡한 수식 없이도 누구나 직관적으로 이해할 수 있어 미국 수학 교과서에 실릴 만큼 대중적으로 널리 알려졌다. 하지만 그 해답을 찾는 과정은 지극히 험난했다. 1968년 영국 수학자 존 해머슬리가 넓이 약 2.2074 소파를 처음 제시했고, 1992년 미국 조셉 거버 교수가 18개의 곡선으로 이루어진 면적 2.2195의 '거버의 소파'를 제시한 이후 30년 넘게 이보다 더 넓은 소파를 찾거나, 이것이 최적임을 입증하는 연구는 답보 상태에 머물러 있었다.

백 박사는 7년간의 끈질긴 추적 끝에 2024년 말, 119쪽에 달하는 방대한 논문을 통해 거버의 소파보다 더 넓은 소파는 존재할 수 없다는 사실을 완벽히 증명해 냈다. 기존의 연구들이 주로 컴퓨터 계산을 통해 수치적 상한선을 좁히는 방식에 의존했다면, 백 박사는 치밀한 논리적 추론을 통해 거버의 소파가 최적의 모형임을 이론적으로 확립했다. 그는 이번 연구에 대해 "이 소파 문제는 역사적 맥락이 많지 않고 뒤에 이론이 있는지도 모호하지만, 연구에서 기존에 알려진 이론과 연결 짓고 최적화 문제로 바꾸며 문제에 맞는 아이디어들을 만들어냈다"며 "문제에 맥락이 생기는 데는 시간이 오래 걸리기에 작은 씨앗을 하나 만들었다는 느낌"이라고 소회를 밝혔다.

어린 시절부터 수학의 매력에 빠졌던 백 박사는 국가수리과학연구소 전문요원으로 복무하던 중 이 문제를 처음 접했다. 이후 미국 미시간대 박사과정 중에도 포기하지 않고 연구를 이어간 끝에 마침내 결실을 보았다. 그는 문제를 해결해 나가는 과정을 고통스러운 고뇌보다는 창의적인 몽상에 비유했다. 백 박사는 "평소 몽상가에 가까운데, 내게 수학 연구는 꿈을 꾸는 것과 깨는 것 사이의 반복"이라고 표현하며 수학을 향한 깊은 애정을 드러냈다.

또한 "어린 시절 박부성 경상대 교수님의 수학 퍼즐 책을 너무 좋아했고 그런 간단하지만 풀리지 않은 문제들을 계속 수집하고 풀고 싶었다"며 "학계 대부분은 더 깊은 이론 위의 문제를 좋아하는데, 저는 간단하게 이해할 수 있는 문제들이 지금까지도 제일 좋다"고 덧붙였다.

백 박사의 이번 성취 뒤에는 개인의 천재성뿐만 아니라 사회적 배려와 지원도 큰 역할을 했다. 그는 넉넉하지 못한 형편 속에서도 어머니의 헌신과 중학교 교사들이 사비를 모아 마련해 준 노트북, 영어 학원 지원 등을 통해 꿈을 키울 수 있었다. 백 박사는 “형편은 넉넉하지 않았지만 어머니가 교육 정보를 꾸준히 찾아주셨고, 그 과정에서 KAIST 사이버 영재교육원을 알게 됐다”고 회상하며, “그런 도움들이 쌓여 지금의 제가 있다. 언젠가는 그 도움을 다시 사회에 돌려주고 싶다”는 다짐을 전했다.

현재 백 박사는 만 39세 이하의 유망한 수학자를 지원하는 '허준이펠로우'로 선정되어 연구를 이어가고 있다. 그는 학계의 성과 평가 방식에 대해서도 소신 있는 목소리를 냈다. 백 박사는 "논문 수나, 단기간에 여러 일들을 시키면서 빠르게 성과 점검을 하는 것보다 더 긴 호흡을 가지고 어떤 근본적 문제를 푸는지에 대한 종합 평가가 된다면 더 좋을 것"이라며 "저는 지금 상황에 만족하지만, 그게 다른 이들에게도 더 갔으면 하는 바람"이라고 전했다. 세계 수학계가 주목한 이번 연구는 기초과학 분야에서 대한민국이 지닌 저력을 다시 한번 증명했다.