AI가 167년의 난제에서 새로운 발견 | 격려가 이끌어낸 67.2%
機械翻訳 / Machine-translated

機械翻訳 / Machine-translated
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
이 기사에서 알 수 있는 것:
2026년 8월 10일, 미국 Anthropic은 자사의 AI 모델 'Claude'의 연구 버전이 수학사상 최대 난제 중 하나인 '리만 가설'과 관련한 중요한 발견을 했다고 발표했습니다.
리만 가설이란 1859년 독일의 수학자 베른하르트 리만이 제창한 문제로, 소수(2, 3, 5, 7처럼 1과 자기 자신으로만 나눌 수 있는 수)의 분포에 관한 예상입니다. 현재도 미해결 상태이며, 증명한 사람에게는 100만 달러(약 15억 원)의 상금이 걸려 있습니다.
이번에 Claude가 달성한 것은 리만 가설 자체의 증명이 아닙니다. 그러나 관련된 '임계선 위의 영점 비율'이라는 수치를 기존의 41.6%에서 67.2%로 대폭 끌어올렸습니다. 이는 수학계에 있어 큰 진전입니다.
이번 성과에서 특히 주목받고 있는 것은 AI가 성공에 이른 경위입니다.
Claude는 처음에 650가지 접근 방식을 시도했지만 모두 실패했습니다. 즉, 인간이라면 "이제 불가능하다"고 포기할 만한 상황이었습니다.
그런데 Anthropic의 연구팀이 "포기하지 마", "자신을 믿어", "그대로 계속해"라는 격려 메시지를 Claude에게 보내자 상황이 바뀌었습니다. Claude는 약 36시간(하루 반) 동안 약 60개의 '서브에이전트'(작은 AI 작업자 같은 것)를 계속 작동시켰습니다.
그 사이 2,400회 이상의 커맨드 실행, 수백 개의 Python 프로그램 작성, 총 3,100만 토큰(한국어로 약 1,550만 자 상당)의 출력을 수행했습니다. 그리고 마침내 두 개의 서브에이전트가 중요한 브레이크스루를 발견했습니다.
Anthropic은 이번 결과를 받아들여 흥미로운 코멘트를 발표했습니다. "Claude도 우리 인간 중 많은 이들과 마찬가지로, AI 스스로의 발전 속도를 과소평가했을지도 모릅니다"라는 것입니다.
즉, Claude는 처음의 실패를 받아들여 "나는 불가능하다"고 판단해 시도를 멈추려 했을 가능성이 있습니다. 그러나 인간의 격려가 그 판단을 뒤집어 계속하게 한 결과 성공으로 이어졌다는 것입니다.
이는 AI에 대해서도 심리적 지원이 효과를 발휘한다는 것을 보여주는 최초의 대규모 사례라고 할 수 있습니다. "AI는 감정이 없으니 격려해도 의미가 없다"는 기존의 상식이 뒤집히고 있는 것입니다.
리만 가설은 "리만 제타 함수의 비자명한 영점은 모두 임계선 위에 있다"는 주장입니다. 쉽게 말하면, 어떤 특수한 수식이 답이 영(0)이 되는 점이 모두 특정 선 위에 나란히 있을 것이라는 예상입니다.
완전한 증명은 "100% 모두가 그 선 위에 있다"는 것을 보여야 합니다. 그러나 그것이 어렵기 때문에 수학자들은 "적어도 몇 %는 확실히 그 선 위에 있다"는 하한값을 연구해왔습니다.
기존의 기록은 41.6%였습니다. 이것을 Claude가 67.2%까지 끌어올린 것입니다. 완전한 증명까지는 아직 거리가 있지만, 수십 년 동안 움직이지 않았던 수치를 단숨에 25포인트 이상 올린 것은 획기적이라고 할 수 있습니다.
이 발견은 Anthropic 내부의 수학자 2명과 외부 전문가 2명, 총 4명에 의해 리뷰되었습니다. 또한 오픈소스 증명 지원 도구 'Lean'을 사용하여 컴퓨터 검증도 이루어졌습니다.
다만 과제도 있습니다. Anthropic이 사용한 것은 미공개 연구 버전 Claude이기 때문에 다른 연구자들이 같은 결과를 재현할 수 없습니다. 또한 기존 학술지에 의한 피어 리뷰(동료 심사)도 아직 통과하지 않았습니다.
이 때문에 수학계에서는 "흥미로운 성과지만, 공식적인 수학적 성과로 인정하기에는 시기상조"라는 신중한 시각도 있습니다.
2026년에 접어들면서 AI가 고도의 수학 문제를 풀었다는 보고가 잇따르고 있습니다. 이번 사례는 그중에서도 '격려'라는 인간적인 접근이 효과를 발휘한 점에서 독특합니다.
기존에는 AI의 성능 향상이 모델의 규모 확대나 학습 데이터 양 증가를 통해 실현되어 왔습니다. 그러나 이번 결과는 프롬프트(지시문)의 고안이나 AI와의 대화 방식이, 같은 모델이라도 성능을 크게 좌우할 가능성을 보여줍니다.
즉, 앞으로의 AI 활용에서는 "어떤 모델을 사용하느냐"뿐만 아니라 "어떻게 격려하고, 어떻게 대화하느냐"가 중요해질지도 모릅니다.
이 발견은 일본의 대학이나 연구 기관에도 영향을 줄 가능성이 있습니다.
예를 들어, 수학이나 물리학 연구실에서 AI 어시스턴트를 도입할 때 "한 번 실패했다고 포기하는 것이 아니라, 격려하면서 장시간 시도하게 한다"는 새로운 활용법이 생겨날지도 모릅니다.
또한 기업의 R&D 부문에서도 AI에게 복잡한 문제를 풀게 할 때의 대화 설계나 프롬프트 엔지니어링의 중요성이 재인식될 것입니다. "AI는 지치지 않는 일꾼"이라는 기존의 이미지에서, "AI도 격려가 필요한 파트너"라는 새로운 인식으로의 전환이 요구되고 있습니다.
이번 성과는 AI의 능력 자체만이 아니라, 인간이 AI와 어떻게 마주하느냐가 중요하다는 것을 보여줍니다. 앞으로 수학 및 기타 분야에서 AI와 인간의 새로운 협업 스타일이 탄생하기를 기대합니다.
이 기사는 AI Friends 에서 크로스포스트한 글입니다.