'신의 입자' 발견 반응까지... 전 세계 수학계 술렁이게 만들고 있는 논문

공학용 계산기의 수십 가지 버튼이 사실 단 하나의 연산에서 비롯될 수 있다는 연구 결과가 나와 수학·컴퓨터과학계에서 화제를 모으고 있다. 폴란드 연구자가 지난달 공개한 논문이 최근 소셜미디어를 통해 빠르게 확산되면서 전 세계 수학·IT 커뮤니티의 관심을 받고 있는 것이다. 일각에서는 이를 두고 수학의 '신의 입자'를 발견했다는 평가까지 나올 만큼 반향이 크다.

폴란드 야기엘론스키대학교 이론물리학연구소의 연구원인 안드제이 오드지보웩은 지난달 23일 학술 논문 사전 공개 사이트 arXiv에 논문 '단일 이진 연산자로부터의 모든 기본 함수(All elementary functions from a single binary operator)'를 공개했다. 핵심 주장은 이렇다. 사인(sin), 코사인(cos), 제곱근(sqrt), 로그(log) 등 공학용 계산기에 있는 다양한 수학 함수를 단 하나의 연산으로 표현할 수 있다는 것이다. 지금까지 이 함수들은 각각 별개의 연산을 필요로 한다고 여겨져 왔다.

그가 제시한 연산자는 eml(x, y) = exp(x) − ln(y)다. 'exp(x)'는 자연상수 e를 x제곱한 값이고, 'ln(y)'는 자연로그다. 이 둘을 빼기만 하면 된다. 연산자 이름 EML은 Exp(지수)에서 Log(로그)를 Minus(뺀다)는 뜻에서 붙였다. 논문에 따르면 이 연산과 숫자 1만 있으면 사인·코사인·탄젠트 등 삼각함수는 물론 덧셈·뺄셈·곱셈·나눗셈의 사칙연산, 거듭제곱, 원주율 π, 자연상수 e, 심지어 허수 i까지 모두 표현할 수 있다고 주장한다. 오드지보웩은 과학 계산기에서 많이 쓰이는 함수 목록을 정리한 뒤, EML이 이를 충족할 수 있는지를 검토했다고 밝혔다.

이해를 돕기 위해 비유하자면 이렇다. 디지털 컴퓨터의 모든 복잡한 연산은 NAND라는 단 하나의 논리 게이트로 분해된다. 스마트폰, 서버, 슈퍼컴퓨터 안에서 벌어지는 수많은 계산이 결국 이 하나의 원소로 쪼개진다는 것은 컴퓨터 과학에서 널리 알려진 개념이다. 이에 비춰볼 때 연속 수학에서도 이와 유사한 단일 연산 구조를 제시한 것이라는 해석이 나온다.

EML의 구조 자체도 단순하다. 이 연산자를 반복 적용하면 어떤 수식이든 동일한 모양의 노드로 이뤄진 이진 트리 형태로 표현된다. 가지가 둘씩 뻗어 나가는 나무 구조를 떠올리면 된다. 모든 노드가 똑같이 생긴 이 구조는 문법적으로도 단순하다. 'S는 1이거나 eml(S, S)다'라는 규칙으로 표현된다는 것이 논문의 설명이다.

이 발견은 AI 분야와의 연관성에서도 주목을 받고 있다. 지금까지 AI가 데이터를 보고 수식을 스스로 찾아내는 '기호 회귀(symbolic regression)' 연구는 여러 연산자를 조합해가며 탐색하는 방식이었다. 덧셈인지 곱셈인지 로그인지 등을 구분하며 경우의 수를 줄여야 했다. EML 하나로 다양한 함수를 표현할 수 있다면, AI가 탐색해야 하는 구조가 단순해질 수 있다는 설명이다.

오드지보웩은 논문에서 EML 구조를 활용해 수치 데이터로부터 수학 공식을 찾아내는 실험도 함께 수행했으며, 일부 단순한 경우에서 원래 공식을 복원하는 결과를 보였다고 밝혔다.

논문 내용은 수정본이 공개된 뒤 해외 IT 매체 등을 통해 앞다퉈 소개됐고, 이후 소셜미디어를 통해 빠르게 확산하면서 관련 논의가 이어지고 있다.

다만 해당 발견이 실제 계산에 바로 활용될 수 있느냐는 별개의 문제다. EML로 단순한 덧셈 하나를 계산하려면 지수함수와 로그함수를 반복적으로 적용해야 해 계산량이 크게 늘어난다. 일반적인 방법보다 효율성이 떨어질 수 있다는 지적이 나온다.

또 다른 기술적 한계도 있다. EML은 연산 과정에서 복소수가 개입될 수 있어 실수 체계만으로는 모든 계산이 완결되지 않을 수 있다. 일부 환경에서는 표준적인 수치 연산 방식과 차이가 발생할 가능성도 제기된다.

오드지보웩 본인도 이 연구가 엄밀한 수학적 증명이라기보다 수치 계산과 탐색 기반 방법론으로 도출된 결과임을 논문에서 설명했다. 해당 논문은 현재 arXiv에 공개된 상태로, 정식 학술지 게재나 동료 평가를 거치지 않았다. 영국 IT 전문 온라인 매체 더 레지스터(The Register)는 이 같은 소식을 전하면서 오드지보웩의 연구 결과가 시간의 검증을 견뎌낼지는 미지수라고 보도했다.