특집 · AI와 수학

"AI가 아름다운 수학을 유독성 폐기물로 만든다"…수학계 1인자 테렌스 타오가 폭로한 '코드 레드'

"오픈AI가 미해결 수학 문제 722개의 답을 내놨다. 그런데 사람들은 그 답을 반길 수 없다." 세계 최고 수학자로 꼽히는 테렌스 타오 미국 로스앤젤레스 캘리포니아대(UCLA) 교수가 23일(현지시간) 영국 옵서버 인터뷰에서 AI가 수학에 남긴 것을 '유독성 폐기물'이라 불렀다. 그가 말한 장면을 하나씩 짚어 봤다.

1. @haider1 · X ↗

   "필즈상 수상자가 실리콘밸리 뒤치다꺼리를 한다"

   51세의 타오는 수학의 노벨상이라는 필즈상을 최연소급으로 받은 석학이다. 그는 지금 동료들과 함께 오픈AI가 내놓은 답들을 "어떻게 이 결론에 이르렀는지" 거꾸로 짚으며 검증하고 있다고 했다. 더글러스 애덤스의 소설 '은하수를 여행하는 히치하이커를 위한 안내서'에서 슈퍼컴퓨터가 750만 년을 들여 '42'라는 답만 내놓은 장면에 빗대, "답은 나왔는데 그게 무슨 뜻인지 다시 밝혀야 하는 상황"이라고 했다.

2. 왜 수학 문제였나…"이제 AI가 훈련할 거리가 수학밖에 안 남았다"

   타오는 AI 회사들이 "가장 강력한 모델을 향해 경주하면서" 성능이 나아지는지 확인할 시험이 필요한데, 최신 모델이 웬만한 시험을 다 깨 버려 더 낼 문제가 없다고 설명했다. "수학 문제가 이제 거의 유일하게 남은 훈련 거리라, 우리 분야의 가장 큰 상과 목표가 그들의 벤치마크가 됐다"는 것이다. 그 부산물로 "대단한 결과이긴 하지만 끔찍한 증명들"이 쏟아지는데, "얼마나 우아한지, 누가 이해하는지, 다음에 뭘 할지에는 관심이 없다"고 했다.

3. 밀레니엄 문제를 둘러싼 '코드 레드'

   타오에 따르면 '유독성 폐기물'의 투기는 앤트로픽 연구진이 7개의 밀레니엄 난제(각 상금 100만달러) 중 하나에 근접했다는 소문이 돌면서 시작됐다. 그는 "오픈AI의 내 지인들은 이게 최우선 '코드 레드'가 됐다고 했다. 수천만 달러를 쏟고 1만 개 AI 에이전트 떼를 풀어 문제를 공격했다"고 전했다. 오픈AI는 이 '코드 레드'라는 표현을 부인하며, 가입을 중단하거나 타오가 말한 만큼 돈을 쓰지도 않았다고 반박했다.

4. 나비에-스토크스 방정식, 그리고 '멈춰 선 가입'

   오픈AI가 공격한 것은 유체의 운동을 기술하는 나비에-스토크스 방정식 문제였다고 타오는 말했다. "며칠간은 프리미엄 서비스에 가입조차 할 수 없었다. 그 한 문제에 모든 연산을 몰아줬기 때문"이라는 것이다. 9월 8일 오픈AI는 이 방정식이 특정 조건에서 깨진다는 증명을 발표했지만, 검토 결과 오류가 있을 수 있다는 지적이 나왔다. 오픈AI는 결과를 숨기지도, 서둘러 내놓지도 않았다는 입장이다.

5. "폐기물은 쌓아 두거나, 쏟거나, 사람을 사서 처리한다"

   타오는 반발이 일자 오픈AI가 난감해졌다고 했다. "오랫동안 이 문제들로 모델을 시험하면서 아주 거칠게 다듬어진 해답을 잔뜩 쌓아 뒀는데, 어떻게 할지 몰랐다"는 것이다. 그는 "유독성 폐기물을 만들면 좋은 선택지가 없다. 영원히 깔고 앉거나, 한꺼번에 쏟아 내거나, 조금씩 흘리거나, 사람을 사서 처리하게 하는 것뿐"이라고 말했다. 앤트로픽은 수학자에게 돈을 주고 자사의 '문제 더미'에 대한 결과를 정리하게 하는 다른 길을 택했다고 그는 전했다.

6. "칠판 하나면 됐던 수학, 이제 초거대 AI가 있어야 한다"

   타오는 이 변화가 수학의 '무기 평등'을 깬다고 우려했다. 그동안 수학은 분필과 칠판만 있으면 누구나 할 수 있는 분야였지만, 이제 최첨단 연구를 하려면 초거대 AI 모델에 접근해야 한다는 것이다. "그들이 논문을 누가 쓸지 고르게 된다"고 그는 지적했다.

7. "감자튀김 봉지에 담아라, 테렌스"…밈이 된 석학

   '유독성 폐기물' 발언 뒤 타오는 "감자튀김 봉지에 담아라, 테렌스(Put the fries in the bag, Terence)"라는 밈이 됐다. 수학자들이 곧 맥도날드에서 일하게 될 거라는 조롱이다. 타오는 이를 언급하자 웃으며 "소셜미디어는 소셜미디어답게 구는 것"이라고 했다. 그는 "수학에 안 좋은 경험이 있던 사람들이 고소해하는 건 이해한다"면서도, 밈이 핵심을 놓쳤다고 봤다.

8. 그래도 타오가 바라는 것 "결과만큼 과정과 우아함을"

   타오는 수학 문화가 바뀌어야 한다는 데는 동의한다고 했다. 문제를 누가 먼저 풀었느냐로 공을 다투기보다, 그것을 설명하는 쪽으로 더 협력적이 되기를 바란다는 것이다. "수학은 반은 과학, 반은 인문학이다. 결과도 중요하지만 거기 이르는 과정, 가는 길에 배운 것도 중요하다"고 그는 말했다. 오픈AI는 "이미 선도적 수학자들과 함께 결과를 공유하는 방식을 개선하고 있으며, 수학계가 AI로 이룬 발견을 검토·이해·발전시키도록 500만달러를 지원하기로 했다"고 밝혔다.