1. 개요
본 문서에서는 페르마의 마지막 정리(이하 FLT)의 증명의 발전 과정과 최종적인 증명들의 수식을 소개한다. 기본적인 과정에서 차근차근 접근하고 싶다면 FLT의 기본적인 틀인 디오판토스 방정식을 참조하는 것이 좋다.[1] 또한 본 문서에선 읽는이의 이해를 돕기 위해, 특정한 n값에서의 증명은 많은 증명법들이 개발되었으므로 문단에서 최초 증명법을 고안한 수학자에 대해 설명하고 있더라도 해당 수학자의 증명법과 비교하여 좀더 대중적이거나 난도가 낮은 증명법이 있다면 후자를 소개한다.[2]2. 와일즈의 증명 이전
2.1. 들어가기 전에
FLT 는 [math(n \ge 3)] 인 모든 수에 대해서 언급하지만, 실제로는 4와 [math( n \ge 3 )] 인 모든 (홀수) 소수에 대해서만 확인하면 된다. FLT가 어떤 정수 [math( n=m )]에서 증명되면 [math( m )]의 배수인 [math( n=mk )]에서도 성립하기 때문이다.[증명]
FLT가 [math(n=m)]인 상황에서 참이라 증명된 상황에서, 귀류법을 사용하여 [math(n=mk)]인 경우 자명하지 않은 해의 쌍 [math(a, b, c)]([math(abc\neq0)])가 존재한다고 하자. 이 세 수 사이에는 다음 관계가 성립한다.
[math(a^{mk}+b^{mk}=c^{mk})]
그런데, 이 관계식은 [math(\left(a^k\right)^m+\left(b^k\right)^m=\left(c^k\right)^m)]이라고 볼 수 있으므로 여기서 [math(x=a^k)], [math(y=b^k)], [math(z=c^k)]라고 치환하면, [math(x^m+y^m=z^m)]를 만족하는 정수쌍 [math(x, y, z)]가 존재한다. 그런데, FLT는 [math(n=m)]일 때 참이라고 증명되어 있으니, 이 관계식을 만족하는 [math(x, y, z)]는 존재하지 않는다. 이는 전제삼은 FLT [math(n=mk)]에서 거짓임을 의미하고, FLT는 [math(n=mk)]에서도 성립한다.
모든 홀수 소수에 대해 증명하고 그 배수에 대해서도 성립함을 보였으면 남은 경우의 수는 [math( n = 2^k )]([math( k\ge2 )])뿐이므로 [math(n = 4)]일 때만 증명하면 되는 것이다.
2.2. n=4인 경우
n=4인 경우는 페르마의 정리의 원작자인 페르마가 직접 남겨놓은 유일한 증명으로, n=3일 때보다 일찍 발표되었으므로 먼저 서술한다. 페르마의 경우 무한강하법으로 증명했다. 사실 페르마가 연구했던 것은 '직각삼각형의 두 변을 이루는 정수로 된 네제곱 수가 존재할 수 없다'는 것으로 방정식 [math(x^4 + y^4 = z^4)]의 미지의수 x, y, z의 정수해가 존재하지 않는다는 것인데 이 방정식의 양변을 정리하면 FLT의 기본 꼴인 [math(x^n + y^n = z^n)]꼴로 치환된다. 이 페르마의 증명법은 n=3의 증명중 오일러의 증명법과 연계되며, 페르마의 < 직각삼각형 정리>에 수록되어있다. n=4인 경우는 1600년대부터 현재까지 수십명의 학자들이 증명 논문을 발표했으며, 이 중엔 페르마의 증명법을 재탐구 한 논문도 많다. 증명은 다음과 같으며 여기에서는 먼저 [math(x^4 + y^4 = z^2)]의 사례를 통해 무한강하법으로 유도했다.1. 귀류법을 사용한다. 즉, [math(x^4 +y^4 = z^2 (x>0, y>0, z>0))]을 만족하는 정수해가 존재한다고 가정하자[3].
2. 우선 x와 y를 서로소로 두자[4]. 둘이 서로소라면 x와 y 중 하나는 반드시 홀수이다. 따라서
- A. x와 y 둘 다 홀수, z는 짝수
- B. WLOG[5]) x가 짝수, y가 홀수, z는 홀수
한편 홀수의 네제곱은 8로 나눈 나머지가 1이고[7], 짝수의 네제곱은 8로 나눈 나머지가 0이다.
이 정리에 의해, A의 경우
준식 [math(x^4 +y^4 = z^2 (x>0, y>0, z>0))]의 좌변을 8로 나눈 나머지는 2, 우변을 8로 나눈 나머지는 0이므로, A의 경우는 성립할 수 없다.
따라서 x는 짝수, y는 홀수, z는 홀수이다.
3. 2에 의해
[math(x^2 = 2ab)]
[math(y^2 = a^2 - b^2)]
[math(z = a^2 + b^2)](단 a와 b는 서로소[8], a>b)
을 만족하는 a, b가 존재하다.
y는 홀수이므로 y²을 4로 나눈 나머지는 1이다.[9]
[math(y²=a²-b²)], 즉 a²-b²을 4로 나눈 나머지 역시 1이어야 하므로, a는 홀수, b는 짝수이다.[10]
여기서 b=2c라고 두면 a와 b가 서로소이므로 a와 c도 서로소이다.
위 식[11]에서 서로소인 두 수의 곱이 제곱수이므로 각각의 수 a와 c는 제곱수이다[12].
따라서 " [math(a=u², b=2c=2v²)] "이라고 둘 수 있다.
4. 위 식을 [math(y^2 = a^2 - b^2)]에 대입하면
[math(y^2 = u^4 - 4v^4)]
[math(4v^4 + y^2 = u^4 )]
[math((2v^2)^2 + y^2 = (u^2)^2 )]
이라고 하는 식을 새로 얻을 수 있다.
2v²과 y가 서로소이고 2v²이 짝수이므로, 다시
[math(2v^2 = 2lm)]
[math(y =l^2 - m^2)]
[math(u^2 = l^2 + m^2)](단 l과 m은 서로소, l>m)
이라는 식을 얻는다.
한편 [math(v²=lm)]에서 l과 m이 각각 제곱수, 즉
[math(l=r², m=s²)]이며, 이를 [math(u^2 = l^2 + m^2)]에 대입하면
[math(r^4 + s^4 = u^2)], 즉 1에서 주어진 식과 완전히 똑같은 형태의 식을 얻는다.
한편 [math(u ≤ u² = a ≤ a² < a² + b² = z)],
즉 [math(u<z)]이다.
5. 1, 2, 3, 4를 종합하면
[math(x^4 +y^4 = z^2 (x>0, y>0, z>0))]을 만족하는 정수해가 존재한다고 가정하면
[math(r^4 +s^4 = u^2 (r>0, s>0, u>0))]이면서 u<z를 만족하는 정수해가 항상 존재한다. 그런데 무한강하법에 의해 이는 성립할 수 없으며, 가정이 잘못되었다는 결론을 얻는다. 따라서, n=4일 때 페르마의 마지막 정리는 성립한다.
Q.E.D.
2.3. n=3인 경우
n=3의 증명은 여러가지가 있는데, 이중 가장 유명한것은 오일러의 증명법이다. 오일러는 페르마의 n=4의 증명에서 착안하여 n=3일때를 증명해냈다. n=4인 경우를 증명하는 것 보다 약간 발전한 정도의 난이도이다. n=3인 경우를 증명하는 것은 n=4인 경우를 증명하는 것과 함께 페르마의 마지막 정리를 증명하는 과정의 첫출발점이고 난이도도 쉽다. 오일러가 발표한 귀류법식 증명은 다음과 같다.페르마의 마지막 정리- n=3일때의 증명 1
페르마의 마지막 정리- n=3일때의 증명 2
페르마의 마지막 정리- n=3일때의 증명 3
참고로 이것도 위의 n=4와 마찬가지로 무한강하법을 이용하였다.
한편 n=3인 경우를 단절 오차(truncation error)를 통해서도 훨씬 간결하게 증명할 수 있다.
2.4. 소피 제르맹의 정리
소피 제르맹( 1776년 4월 1일 ~ 1831년 6월 27일)은 18세기의 프랑스 여성 수학자이다.n=3일 경우 FLT가 참이라는 단계까지 진척되자,[13] FLT를 연구하는 학자들 사이에서는 n의 개별적인 값에서 FLT를 증명하기 보다는 반드시 일반론적인 방법에서 접근해야 FLT의 최종 증명에 조금이라도 더 가까워질 가능성이 높아진다고 보는 풍조가 더욱더 강해졌다. 소피 제르맹은 이 같은 학계의 분위기에서 FLT의 증명에 큰 진보를 이뤄냈다.
1823년 소피 제르맹의 정리라는 정리를 하나 발표했고, 이를 이용해서, '100 미만의 정규 홀수 소수(소피 제르맹 소수) p에 대해 페르마의 마지막 정리는 항상 참이다.' 라는 당대로서는 충격과 공포급의 엄청난 발표를 내놨다. [14] 이를 분석한 다른 수학자에 의해서 197로 커졌다가, 1700 이하에서는 모두 성립한다는 것이 확인되었다. 참고로 100보다 작은 소피 제르맹 소수는 2, 3, 5, 11, 23, 29, 41, 53, 83, 89이다.
소피 제르맹의 발표 이후 학계는 현대로 치자면 모듈러성 정리와 FLT와의 관계를 밝혀낸 게르하르트 프라이의 발표 정도의 충격적인 것이었으며, 이를 접한 수학자들은 하나같이 난리가 났었다.(...) 남들은 n=3, 4, 5... 하나씩 증명하고 있는데 대범하게 수많은 가짓수를 한 번에 해결한 것이다. 다만, 이에 해당되는 n 이 무한에 준할 정도로 많고, 어쩌면 무한할지도 모르지만, 문제는 해당하지 않는 케이스도 여전히 무한하다는 점이다.
이렇듯 소피 제르맹은 FLT를 부분적으로 참이라고 증명해냈지만, 소피 제르맹 소수가 무한히 많을지는 현재까지도 증명이 안 됐다.
2.5. n=5인 경우
상술한 소피 제르맹의 자료를 활용하여 증명되었다. 디리클레 함수로도 유명한 독일의 수학자 디리클레와 르장드르 다항식으로 유명한 르장드르가 각각 1825년 처음으로 발표했다. 이후 가우스, 라메 곡선으로 유명한 라메 등이 추가로 발표하였다.2.6. n=14인 경우
디리클레가 증명하였다.2.7. n=7인 경우
1839년 가브리엘 라메가 증명하였다.2.8. 에른스트 쿠머
모든 정규 소수(regular prime)에 대해서 페르마의 마지막 정리가 맞다는 것을 증명하였다. [math( \mathbb{Q}(\zeta_p) )]의 class number를 나누지 않는 소수 [math( p )]를 정규 소수로 정의하고, 정규 소수가 아닌 소수를 비정규 소수 (irregular prime)으로 정의한다. 그러나 전체 소수 중 정규 소수가 무한히 많은지, 만약 그렇다면 그 비율이 얼마나 되는지는 현재까지도 해결되지 않은 문제이다. 반면, 비정규 소수는 무한히 많음이 1915년 Jensen에 의해 증명되었다.쿠머의 증명은 데데킨트 정역 위의 아이디얼이 유일한 소아이디얼 인수분해를 가지는 점을 활용해, 더 큰 수체인 [math( \mathbb{Q}(\zeta_p) )] 위에서 비자명해가 갖는 성질들을 관찰하여 모순을 이끌어낸다. 귀류법을 사용하기 위해 서로소인 [math(x, y, z \in \mathbb{Z})]와 정규 소수 [math( p )]가 존재하여 [math( x^p + y^p = z^p, xyz \not= 0 )]를 만족한다고 가정한다. [math( p )]가 [math( xyz )]를 나누는지에 따라 다른 증명법이 적용된다.
1. [math( p \nmid xyz)]. [math( p = 3 )]일 때는 mod 9에 대해 양변을 비교하여 쉽게 증명할 수 있다. 따라서 [math( p > 3 )]를 가정한다. 이를 가정하면, y와 -z 를 적당히 바꾸어 x, y가 mod p에 대해 합동이 아닌 반례를 만들 수 있다. [math( K = \mathbb{Q}(\zeta_p) )] 위에서의 아이디얼 분해 [math( (z)^p = (z^p) = (x^p + y^p) = \prod_{i=0}^{p-1} (x + \zeta_p^i y) )]를 관찰한다. x, y가 mod p에서 합동이 아니라면, 아이디얼 [math( (x + \zeta_p^i y) )]은 모든 쌍이 서로소이거나, 많아야 [math( (1 - \zeta_p) )]를 최대공약수로 갖는다. [math( (p) = (1 - \zeta_p)^{p-1} )]임을 쉽게 확인할 수 있으므로 Case 1에서는 어느 두 쌍도 서로소이다. [math( (z)^p )]에서의 소아이디얼 분해를 생각해보면 오른쪽 항에 등장하는 아이디얼 [math( (x + \zeta_p^i y))]들은 각각 어떤 아이디얼의 [math( p )]승 꼴로 나타난다. [math( p )]의 정규성에 의해 [math( (x + \zeta_p^i y))]는 주아이디얼의 [math( p )]승 꼴로 되어야 한다. [math( (x + \zeta_p y) = (\alpha)^p )]라고 하면, 어떤 단원(unit) [math( u )]에 대해 [math( x + \zeta_p y = u \alpha^p )]이다. 다음을 관찰하자.
보조정리 1. [math( \alpha^p )]는 mod p에서 어떤 정수 a와 합동이다.
보조정리 2. 단원 [math( u \in \mathcal{O}_K^\times )]에 대해 어떤 정수 r과 실수인 단원 v가 존재하여 [math( u = \zeta_p^r v )]이다.
[math( x + \zeta_p y = u \alpha^p )]의 켤레복소수를 mod p에서 관찰하면, [math( x + \zeta_p y \equiv \zeta_p^{r} (x + \zeta_p^{-1} y) \pmod{p} )] 꼴로 나타난다. p가 x, y를 나누지 않는 점을 이용하여 모순을 이끌어 낼 수 있다.
2. [math( p \mid xyz)]. Case 2의 경우, 무한강하법을 이용하여 좀 더 일반적인 명제를 증명한다. [math( x, y, z_0 \in \mathcal{O}_K )]에 대해, [math( x^p + y^p = u (1 - \zeta_p)^{kp} z_0^p )]를 만족하는 비자명해는 존재하지 않는다. 이 때, [math( k \in \Z, u \in \mathcal{O}_K )]이고 [math( x, y, z_0 )]는 [math( 1 - \zeta_p )]로 나누어지지 않는다. x, y, z는 각각 서로소이므로 [math( p \mid z )]인 반례를 만들 수 있고, [math( p )]는 [math( u (1 - \zeta_p)^{p-1})] 으로 나타낼 수 있으므로 페르마의 마지막 정리는 이 명제의 특수한 경우로 생각할 수 있다. 가정에 의해 [math( k \ge 1 )]를 얻을 수 있는데, 가장 작은 k값을 갖는 반례가 존재한다면 k-1에서도 반례를 만들 수 있게 된다.
대수적 정수론에 대한 지식이 있다면 다음 문서를 통해 쿠머의 증명을 확인해 볼 수 있다: Keith Conrad
2.9. 해리 반다이버
미국의 수학자 해리 반다이버가 컴퓨터를 이용해서 2000 이하의 모든 소수에 대해서 참임을 증명하였다.2.10. 게르하르트 프라이, 장-피에르 세르, 케네스 리벳
게르하르트 프라이는 페르마의 방정식을 다음과 같이 대수적 기법을 이용하여 타원곡선으로 바꿀 수 있다는 것을 발표하였다.[math(n)]이 3 이상의 홀수일 때 [math(a^{n}+b^{n}=c^{n})]을 만족시키는 양의 정수쌍 [math(\left(a, b, c\right))]가 존재한다고 하자.
그렇다면 다음 두 타원곡선은 유리수체 [math(\mathbb{Q})]상에서 동치가 된다.
[math(y^{2}=x(x-a^n)(x+b^n))]
이 타원곡선을 프라이 곡선(Frey's Curve)이라고 부른다.
이로부터 수학자들은 페르마의 대정리가 타니야마 시무라의 추론와 관련이 있을 것이라는 점을 알게 되었다. FLT가 틀렸다는 가정 하에 정수해를 가지고 프라이 곡선으로 변형을 시켰을 때, 프라이는 이 타원곡선이 상당히 기묘한 형태를 지니고 있기 때문에 어떠한 모듈러 형식의 급수와도 대응되지 않는다는 추측을 제시했다. 반대로 이야기 하면, 타니야마 시무라의 추론이 참이라면, 프라이 곡선을 유도한 페르마 방정식이 존재하지 않는다는 의미가 되며, 이는 즉 페르마의 방정식을 만족하는 정수가 존재할 수 없다는 것을 의미한다. 다시 말해, 타니야마 시무라의 추론만 증명하면 FLT도 증명될 것이라고 예상했다. 다만, 프라이는 이에 대한 완벽한 증명은 하지 못했고, 장-피에르 세르가 추가로 필요한 조건을 찾아내어 이를 '엡실론 추측'이라고 불렀다.[15] 즉 다음 도식을 완성한 것이다.
[math(\mathrm{Taniyama-Shimura}+\epsilon \rightarrow FLT)]
엡실론 추측은 켄 리벳이 풀어 리벳의 정리가 되었다. 즉, 타니야마 시무라의 추론을 증명하면 FLT가 증명된다는 사실을 증명한 것이다. 추가로, 타니야마 시무라의 추론의 모든 경우를 확인할 필요 없이 반안정상태의 타원곡선에 대해서만 증명해도 FLT가 증명됨도 확인하였다.
소피 제르멩과 에른스트 쿠머는 수많은 수에 대해서 성립함을 보이면서 수학계에 큰 파장을 남겼는데, 프라이와 리벳에 의해서 아예 한방에 모든 경우를 다 해결할 가능성을 찾아 냈다는 점에서 어마어마한 충격을 주었다.
그러나, 이 당시에는 타니야마-시무라의 추론이 증명될 기미가 전혀 없었다는 점이 문제였다.
결국 앤드루 와일스가 '반안정상태의 타원곡선에 대해, 타니야마-시무라의 추론이 맞음'을 증명하면서, 동시에 FLT 의 증명도 완결하였다.
참고로, 와일스의 제자들이 다른 경우의 타원곡선에 대해서도 모두 증명을 완료하여, 타니야마 시무라의 추론은 완전히 증명이 끝났고, 모듈러성 정리로 이름이 바뀌었다.
3. 와일스의 최종 증명
와일스의 논문[16]을 직접 인용해보자.Theorem 0.4. Suppose that [math(E)] is a semistable elliptic curve defined over [math(\mathbf{Q})]
Then [math(E)] is modular.
Then [math(E)] is modular.
Theorem 0.5. Suppose that [math(u^p+v^p+w^p = 0)] with [math(u,v,w\in \mathbf{Q})] and [math(p\ge 3)], then [math(uvw = 0)].
(Equivalently - there are no nonzero integers [math(a,b,c,n)] with [math(n>2)] such that [math(a^n +b^n=c^n)].)
(Equivalently - there are no nonzero integers [math(a,b,c,n)] with [math(n>2)] such that [math(a^n +b^n=c^n)].)
정리 0.4의 내용은 모듈러성 정리 참고.
이제 정리 0.4를 이용해 정리 0.5 즉 페르마의 마지막 정리를 증명하기 위해 다음 반례가 존재한다고 가정하자.
[math(a^p+b^p=c^p)], ([math(a,b,c)]는 0이 아닌 정수고 [math(p)]는 5이상의 소수)
위 반례를 이용하면 프라이 곡선 [math(y^2=x(x-a^p)(x+b^p))]을 만들 수 있다. 해당 프라이 곡선은 준안정이라는 성질을 갖고, 와일즈가 증명한 정리에 따르면 반안정인 타원 곡선은 어떤 보형 형식 [math(f)]와 대응된다. 프라이 곡선에 대응되는 보형 형식은 갈루아 표현론 이론과 리벳의 정리[17]로부터 무게가 2고 레벨이 2인 또다른 보형 형식 [math(g)]의 존재성을 함의한다. 하지만 보형 형식 이론에 따르면 무게가 2고 레벨이 2인 보형 형식은 존재하지 않는다.
따라서 귀류법에 따라 페르마의 마지막 정리는 참이다.
후에 와일즈의 논문에서 쓰인 콜라야긴-플라흐 이론에 오류가 있었단게 밝혀져 와일즈의 논문 또한 진위가 불문명해졌으나, 전 제자였던 리차드 테일러와의 공동연구를 통해 자신의 주 전공이던 이와사와 이론을 쓰면 문제를 피해 갈 수 있음을 증명했다. 이로써 모든 n의 값에 따라 항상 참인 명제로 밝혀져 완전히 해결되었다. 증명에서 나온 방법론을 이용해 테일러를 포함한 후대 수학자들이 모듈러성 정리 전체를 증명하였다.
[1]
n=2인 경우는
피타고라스의 정리와
페르마의 마지막 정리 문서 참조.
[2]
페르마가 경이적인 방법으로 증명했다고 한것이 간단하다는 것은 아니다.
[3]
z의 지수가 2일 때 이 식을 만족하는 정수해가 없다는 것을 보여주면, 지수가 4일 때도 마찬가지임은 자명하다.
[4]
x와 y가 공약수를 갖는다면 z 또한 같은 공약수를 가지므로 "아니면 x와 y가 서로소를 갖는 경우에 대한 예외는 x와 y가 둘 다 홀수이거나 (그 경우에 대해서는 본문 참조) x가 홀수, y가 짝수인 경우는 x가 짝수, y가 홀수인 경우와 수학적 가치가 같고, 이제 x와 y 둘 다 짝수인 경우만 고려한다면, 페르마의 마지막 정리의 증명을 느낄 수 있을 것이다.
[5]
without loss of generality, 일반성을 잃지 않고
[6]
물론 B의 경우 x가 홀수, y가 짝수로 둬도 준식이 대칭식이기 때문에 증명방법은 동일하다.
[7]
[math((2k+1)^4 = 16k^4+32k^3+24k^2+8k+1\equiv 1\left(\text{mod}\,8\right))]
[8]
2.에서 [math(x,y)]가 서로소라 가정
[9]
[math((2k+1)^2=4k^2+4k+1\equiv 1\left(\text {mod}\,4\right))]
[10]
홀수나 짝수의 제곱수를 4로 나눈 나머지는 0 또는 1이므로 이 둘을 더하거나 뺐을때 4로 나눈 나머지가 1이 되려면 a는 홀수, b는 짝수이다. [math((2p+1)^2-(2q)^2)], [math((2p)^2-(2q+1)^2)]을 비교해보면 간단하다.
[11]
[math(x^2 = 2ab)]
[12]
서로소인 두 수의 곱이 제곱수이면 각각의 수는 서로 같거나, 각각 제곱수이다. 하지만 a는 홀수, b는 짝수이므로 같을 수 없다
[13]
n=4와 n=3이 증명되기까지 FLT 발표 이후 100년이 걸렸다.
[14]
하지만 아이디어를 낸 것은 제르맹이지만, 그녀는 이 명제에 대해 완벽한 증명을 하지는 못했다. 그녀가 증명한 정리는 100 미만인 소수 p에 대해 xyz가 p를 법으로 하여 합동이 되어야 한다는 조건이 붙어 있었고, 이 조건을 떼는 데에 성공한 것은 가브리엘 라메이다.
[15]
한편 세르는
타니야마 시무라의 추론과 비슷한 추측을 남겼는데, 해당 추측으로부터
타니야마 시무라의 추론을 증명할 수 있음을 보였다. 세르의 추측은 찬드라셰카르 카레와 장-피에르 윈텐버르거가 2008년에 증명하였다.
[16]
비록 논문 자체는 읽기 힘들지만 대수적 정수론 등 어느정도 선수 지식이 있다면 참고할 만한 교재 및 강의 노트들이 많이 있다.
[17]
리벳은 타원 곡선에 대응되는 레벨 [math(N)]인 모듈러 형식이 있을 때 특정 조건을 만족하는 레벨의 소인수 [math(p)]를 제거한 더 작은 레벨 [math(N/p)]을 갖는 모듈러 형식의 존재성을 밝혔다. 프라이 곡선의 경우 모든 홀수가 이를 만족해 최종적으로 2만 남게 된다.