페르마의 마지막 정리가 증명되기까지

페르마의 마지막 정리: 350년간 수학자들을 괴롭힌 세기의 문제

한 줄의 메모가 만든 수학사 최대의 미스터리

1637년, 프랑스의 아마추어 수학자 피에르 드 페르마(Pierre de Fermat)는 사실 법조계의 사람이었는데 사람과의 접촉이 잦으면 재판에서 올바른 판단을 할 수 없다고 여겨 수학을 취미로 시작했다고 합니다. 그는 디오판토스의 『산술』이라는 고대 그리스 수학서를 읽다가 책 여백에 한 줄의 메모를 남겼습니다. 그 짧은 메모가 훗날 수학사상 가장 유명한 추측이 되었고, 350년 동안 수많은 수학자들의 도전을 받게 됩니다.

 

"$n > 2$ 인 자연수일 때, $x^n + y^n = z^n$을 만족하는 양의 정수 해 x, y, z는 존재하지 않는다."

 

페르마는 이 명제에 대해 "나는 이것에 대한 참으로 놀라운 증명을 가지고 있다. 하지만 이 여백이 너무 좁아서 그것을 담기에는 부족하다"라고 적어놓았습니다. 

단순해 보이지만 깊은 수학의 세계

페르마의 마지막 정리는 언뜻 보면 매우 단순합니다. 피타고라스 정리에서 알 수 있듯이 n=2일 때는 해가 존재합니다. 예를 들어 3² + 4² = 5² (9 + 16 = 25)처럼 말이죠.

피타고라스의 정수해

 

 하지만 지수가 3 이상으로 올라가면 상황이 완전히 달라집니다. 이 정리가 특별한 이유는 단순한 형태 뒤에 숨어있는 엄청난 수학적 깊이 때문입니다. 증명 과정에서 현대 수학의 가장 정교한 이론들이 동원되어야 했고, 그 과정에서 수학 자체가 크게 발전하게 되었습니다.

350년간의 도전과 좌절

페르마의 마지막 정리는 수많은 수학자들의 도전을 받았습니다. 

 

18세기 레오나르드 오일러는 n=3일 때의 경우를 증명했고, 19세기 소피 제르맹은 특정 조건하에서의 부분적 증명을 제시했습니다. 에른스트 쿰머는 정규 소수에 대해 정리를 증명하며 이데알 이론의 토대를 마련했습니다.

20세기에 들어서는 컴퓨터의 도움으로 매우 큰 지수에 대해서도 정리가 성립함을 확인할 수 있었지만, 모든 경우에 대한 완전한 증명은 여전히 불가능해 보였습니다.

 

아마추어 수학자가 만들어낸 문제 하나가 350년동안 풀리지 않았습니다. 정작 수학 전공이 아닌 페르마는 이미 증명을 했다고 하니 수학자로서 굉장히 자존심이 상했을 것입니다.

앤드루 와일스의 역사적 증명

1995년, 영국의 수학자 앤드루 와일스(Andrew Wiles)는 마침내 페르마의 마지막 정리를 완전히 증명했습니다. 그의 증명은 페르마가 상상했을 법한 "놀라운 증명"과는 완전히 달랐습니다.

와일스는 20세기 수학의 최첨단 이론들을 동원했습니다:

• 타니야마-시무라 추측: 모든 타원곡선이 모듈러 형식과 연결되어 있다는 이론
• 갈루아 표현 이론: 대칭성을 연구하는 추상대수학의 한 분야
• 대수적 수론: 정수론과 대수기하학이 만나는 영역

그의 증명은 100페이지가 넘는 방대한 논문이었고, 당시 극소수의 수학자만이 완전히 이해할 수 있을 정도로 고도의 수학 이론을 요구했습니다.

수학 발전에 미친 영향

페르마의 마지막 정리는 단순히 하나의 문제를 해결한 것 이상의 의미를 가집니다. 이 정리를 증명하기 위한 350년간의 노력 과정에서:

• 대수적 수론이 크게 발전했습니다
• 타원곡선 이론이 정립되었습니다
• 모듈러 형식 이론이 깊이 연구되었습니다
• 갈루아 이론이 확장되었습니다

와일스의 증명 이후, 그가 사용한 기법들은 다른 수많은 수학 문제들을 해결하는 데 활용되고 있습니다.

현대적 의미와 교훈

페르마의 마지막 정리는 우리에게 여러 가지 교훈을 줍니다:

첫째, 단순해 보이는 문제도 놀라운 깊이를 가질 수 있다는 것입니다. 둘째, 한 문제를 해결하기 위한 노력이 전체 학문 분야를 발전시킬 수 있다는 것입니다. 셋째, 때로는 문제를 정면돌파하는 것보다 우회하는 접근이 더 효과적일 수 있다는 것입니다.

마치며

페르마가 책 여백에 남긴 한 줄의 메모는 350년간 수학자들의 도전 정신을 자극했고, 결국 현대 수학의 가장 아름다운 성취 중 하나를 만들어냈습니다. 혹자는 정수론의 문제를 타원으로 우회해서 풀었기 때문에 정수론으로서 증명을 해야한다고 주장하는 사람도 있습니다만  비록 페르마 자신이 생각했던 "놀라운 증명"은 아니었지만, 와일스의 증명은 그 자체로 수학의 힘과 아름다움을 보여주는 걸작이 되었습니다. 

 

오늘날에도 페르마의 마지막 정리는 수학의 매력과 신비로움을 상징하는 대표적인 사례로 여겨지고 있습니다. 단순한 식 하나가 인류 지성사에 이토록 큰 족적을 남길 수 있다는 사실 자체가, 수학이라는 학문의 무한한 가능성을 보여주는 것이 아닐까요?

 

함께 보면 좋은 글

 

Gps 원리 속 삼각함수

 

GPS 내비게이션 속 숨겨진 수학 이야기