악마의 문제 '리만가설' 해결에 다가간 필즈상 수상자

악마의 문제 '리만가설' 해결에 다가간 필즈상 수상자

2024.07.30 13:51

 

제임스 메이나드 옥스퍼드대 교수, 160여년간 난제 해결에 진전

 

2022년 7월 동아사이언스와 만난 제임스 메이나드 영국 옥스퍼드대 교수. 수학동아 제공

 

2022년 필즈상을 수상한 영국 수학자가

'악마의 문제'라는 별칭을 가진 난제 '리만가설'을 해결하는 데 기여하는 연구결과를 발표해 화제다.

리만가설이 160여 년 동안 풀리지 않은 난제인 데다 미국 클레이수학연구소가 100만 달러(약 13억 1870만 원)의 상금을 걸고 있어 크게 주목받고 있다. 

 

● 소수 개수를 알려주는 '리만가설' 

 

제임스 메이나드 영국 옥스퍼드대 교수와 래리 거스 미국 매사추세츠공대(MIT) 교수는

논문사전공개사이트 '아카이브'에 지난 5월 '디리클레 다항식에 대한 새로운 큰 값 추정'이라는 이름의 논문을 실었다. 

 

메이나드 교수는 '소수'의 비밀을 푼 성과로 2022년 수학계의 노벨상이라고 불리는 필즈상을 수상한 인물이다.

리만가설도 소수의 비밀을 파헤치는 난제다.

노벨경제학상을 받은 존 내시가 리만가설을 풀다가 정신병을 앓게 됐다는 소문이 퍼지며 악마의 문제라는 별명을 얻었다. 

 

소수는 2, 3, 5, 7처럼 1과 자신 외에는 나눌 수 없는 수다.

세상에 존재하는 모든 수는 소수의 곱으로 표현할 수 있어 수학자들은 소수를 수를 이루는 궁극의 기본 단위로 생각해왔다. 소수의 비밀을 알아내면 수를 완전히 이해할 수 있다고 여겼다.

 

하지만 소수의 비밀을 알아내는 건 쉬운 일이 아니었다.

소수가 등장하는 패턴과 특정 범위에서 나타나는 소수 개수 등에서 특별한 규칙이 나타나지 않았기 때문이다.

'칼 프리드리히 가우스', '레온하르트 오일러' 등 수많은 수학자가 소수의 규칙을 찾기 위해 뛰어들었다. 

 

1859년 독일 수학자 베른하르트 리만이 발표한 리만가설은 여러 소수의 규칙 중 소수 개수의 규칙을 알아내는 난제다.

리만가설이 옳으면 어떤 수 이하의 소수 개수를 어림잡아 구할 수 있다.

리만가설을 풀면 소수에 기반을 두고 있는 현대 암호체계를 흔들 수 있다는 추측 때문에

리만가설은 과학계와 산업계 전반의 관심을 받고 있다. 

 

● 80년 동안 진전 없던 문제에 도전하다 

 

리만제타함수의 자명하지 않은 해가 복소평면에서 2분의 1 선상에만 있어야 한다는 것을 나타내는 그림. 브리태니커백과사전 제공

그런데 리만가설이 맞는다고 증명하려면 '리만제타함수의 자명하지 않은 해가 복소평면에서 2분의 1 선상에만 있다'는 조건을 증명해야 한다.

리만제타함수는 소수 개수를 추측할 수 있는 함수다.

간단히 말하면 특정 해가 좌표평면에서 특정 선에 일직선상으로 쭉 놓여 있다는 점을 증명해야 한다는 것이다. 

 

역시나 단박에 이를 증명하는 것은 매우 까다로웠다.

그래서 수학자들은 조금 쉬운 방법을 선택해 간접적으로 증명하고자 했다.

2분의 1 선상이 아닌 다른 선상에서 해가 없다는 점을 증명하기로 한 것이다.

이마저도 바로 증명할 수 없어 각 선상에 해가 몇 개까지 존재할 수 있는지 '상한'을 증명해왔다.

이 상한을 조금씩 낮춰 0개로 만드는 것이 수학자의 과제인 셈이다. 

 

메이나드가 발표한 이번 논문이 바로 이 상한을 개선한 결과다.

메이나드 교수는 거스 교수의 전문 분야인 '조화해석학'의 개념을 이용해 연구했다.

조화해석학은 함수와 그 함수의 푸리에 변환의 성질을 파악하고 연구하는 학문이다.

푸리에 변환은 시간이나 공간에 대한 함수를 시간 또는 공간 주파수 성분으로 분해하는 변환을 가리킨다.

 

이윤복 인천대 수학과 교수는 "메이나드 교수와 거스 교수는 '행렬' 개념을 이용해 연구했다"면서

"기존 방법과 다른 획기적인 방법으로 문제를 이해한 점이 좋은 평가를 받고 있다"고 말했다. 

 

맨 위 파란색 그래프가 영국 수학자 알베르트 잉엄이 1940년에 증명한 것을 나타내는 그래프다. 빨간색 그래프가 메이나드 교수가 증명한 결과로 0.7과 0.8 사이에 있는 4분의 3 지점에서 잉엄의 그래프보다 0에 가깝게 다가갔다는 것을 알 수 있다. 이규환 교수 제공

 

이번 연구는 지난 80여 년 동안 큰 진전이 없다가 나온 결과라 관심을 받고 있다.

이규환 미국 코네티컷대 수학과 교수는

"1940년대 영국 수학자 알베르트 잉엄이 상한을 밝히는 결과를 낸 이후 수학계에 특별한 진전을 보인 연구가 없었다"면서 "그만큼 이 문제에서 작은 진전을 보이는 것이 까다롭고 어려운 문제이기 때문"이라고 말했다.

메이나드 교수는 4분의 3 선상에서 상한을 개선했다. 

 

또한 필즈상 수상자가 '필즈상의 저주'를 깨고 중요한 연구결과를 냈다는 점에서도 메이나드 교수는 주목을 받고 있다.

필즈상의 저주란 필즈상을 수상한 뒤 뚜렷한 연구성과를 내지 못하는 현상을 말한다.

이 교수는 "메이나드 교수는 정수론의 기본적인 문제에 꾸준히 시도하고 해결하려고 노력하는 수학자로 학계에 알려져 있다"고 평가했다.  

 

 

출처

악마의 문제 '리만가설' 해결에 다가간 필즈상 수상자 : 동아사이언스 (dongascience.com)

악마의 문제 '리만가설' 해결에 다가간 필즈상 수상자