체르멜로,프랑켈,폰노이만 같은 천재들을 필두로 산술의 공리계가 완성되어갔고, 그는 이내 몇년내로 산술의 공리계의 완전성이 증명 될 것이라고 장미빛 전망을 내비쳤고, 형식주의자들은 희망에 젖어 있었습니다
그리고 심지어 물리학도 이런 구조로 형식화 할 수 있을것이라는 예측까지 하였습니다
이 예측마저 맞다면 세상의 모든 물리법칙들마저 모르는 문제가 없게 됩니다
그러면 인간은 문자 그대로 신이 되는거죠 과연 그렇게 될 수 있을까요?
불완전성 정리의 등장
'쿠르트 괴델'
이분이 현대에 미친 영향은 지대하다라는 표현으론 부족할 정도입니다
빈 대학 물리학과에 입학한 그는 입학때부터 천재성으로 이름을 날렸고 당대 최고의 지성들만 모이는 사교모임인 '빈서클'에 초청됩니다
그러나 그는 골수 플라톤주의자였습니다
1탄에서 소개한것 처럼 수학적 지식은 저 머나먼 세계 어딘가에 정해져있다는 생각을 가지고 있었습니다
그러나 빈서클은 형식주의자들이 대다수였고, 그곳에서 비주류였던 그는 그들을 반박하기 위해 조용히 연구에 몰두했고 23살이 되던해, 어마어마한 연구결과를 세상에 내놓게 됩니다
1930년 쾨니히스베르크, 그 해 거기서 열린 학회에서 그는 박사논문(!!)을 발표합니다
일개 대학원생이 내놓은 발표에 학자들은 듣는둥 마는둥 심드렁 하고 있었는데...
7살때 8자리 암산이 가능했고 자기가 만든 컴퓨터랑 암산 배틀에서 이긴 전설의 천재 폰노이만은 듣자마자 논문의 진가를 알아봤고 그와 함께 논문을 정리합니다
31년 고등과학원에서 이를 발표하면서 불완전성 정리는 세상에 알려지게 됩니다
잡설이 길었습니다. 불완전성 정리가 무엇일까요?
1. 자연수의 사칙연산이 포함된 공리계는 무모순이면 불완전하다, 즉 무모순이면 증명불가능한 명제가 하나 이상 있다.
2. 산술을 포함하는 공리계가 무모순인것은 공리계 내부에서 증명이 불가능하다.
말이 조금 어렵습니다. 풀어 써보도록 하죠
1번을 요약하면 다음과 같습니다
'수학은 증명 불가능한 명제가 존재한다'
??????????
증명이 불가능한 명제가 하나 이상 존재한다는 것입니다
그럼 수학은 완전하지 못합니다
왜냐하면 모든것이 증명 가능하지 않기 때문이죠
혼돈을 뒤로하고 2를 보죠
2는 요약하면 무모순인것은 그 체계 안에서 증명이 불가능 하다는 것이다.
어떤 수학 체계가 있으면 그 내부로부터 무모순인것이 증명 불가능하다.
그 체계가 무모순인걸 증명하려면 다른 외부의 체계를 하나 더만들어서 그로부터 그걸 증명해야한다.
이것이 맞다면 힐베르트와 형식주의자들의 꿈은 박살이 납니다
수학은 완전하지도 않으며, 무모순성을 내부로 부터 증명 할 수도 없다!
이 획기적인 정리를 괴델은 어떻게 증명했을까요?
아주 복잡합니다. 하지만 여기서 최대한 간략하게 설명해보겠습니다.
괴델은 먼저 다음과 같은 명제를 만들었습니다
A: A가 참인 것을 증명 할 수 없다
자기자신이 참인것을 증명 할 수 없다 라는 명제이다.
만약 A가 참이라면 아무런 문제가 생기지 않는다.
그러나 A가 거짓이면 A는 참인 것이 증명이 된다는 뜻이다.
근데 A는 거짓이라고 가정했으니 모순이다.
따라서 A는 무조건 참이다. 결국 A는 증명불가능하다.
그리고 그는 이 명제를 사칙연산과 자연수로 나타낼 수 있음을
증명했다. (자세한 방법은 추후에 따로 글을 올리겠다. 존나게 복잡하고 어렵다)
따라서 산술에는 A와 같이 증명 할 수 없는 명제가 하나는 반드시 존재하게 된다.
1정리가 증명이 된다.
그런데 만약 공리계의 무모순을 내부에서 증명 할 수 있다고 치자,
1정리는 '무모순이면 그 안에 A와 같은 명제가 존재한다'
라고 정했습니다
그런데 A는 위에서 말했듯이 무조건 참입니다
따라서 무모순을 내부에서 증명 할 수있으면 A라는 참인 명제가 있다는 것을 알게 됩니다
근데 증명이란 무엇인가? 수학에서 증명은 P이면 Q이다의 형식을 띄죠
가령 'n각형의 내각의 합은 180*(n-2)이면, 삼각형의 내각의 합은 180이다'
와 같이.
'A는 증명불가능하다' 라는 명제는 증명이 아닙니다
그저 선언적인 명제에 불과합니다
그러나 '어떤 체계에 무모순을 내부에서 증명할 수있다면 그 안에 있는 A는 참이다.'
라는 문장은 p이면 q이다 라는 꼴입니다. 따라서' A는 참이다' 라는 것이 증명되는 셈입니다.
그런데 A는 증명 불가능한 명제이다. 따라서 모순이다
고로 어떤 체계의 무모순성은 그 체계 안에서 증명이 불가능하다!
머리가 아파오지요...
이제 이런 말장난 같은 정리가 수학계와 이를 넘어 인간 생활 전반에 어떤 파급을 가져왔는지 더 자세히 알아보도록 하죠
1)헬게이트 오픈, 그리고 연속체가설
괴델의 불완전성 정리는 수학계에 헬게이트를 열어버리게 됩니다
형식주의자였던 폰 노이만은 이런 말 까지 합니다
'아, 이제 우린 다 끝났군요'
그런데
'수학에는 증명불가능한 명제가 하나 이상 존재한다'
라는 기묘한 결론을 뒷받침 할만한 증거는 있긴한것인가?
괴델은 '연속체가설'이 그에 해당하는 명제라고 주장합니다
연속체가설은 한마디로 요약하자면
'자연수보다 많고 실수보다 적은 개수의 집합이 존재하는가?'
입니다
없다라고 추측이 되었지만 풀릴듯 말듯한 이 문제는 나온 시점에서 40년 가까이증명이 되지 않고 있었습니다
당장 이 가설의 제시자인 칸토어마저 이 문제를 풀다가 정신병이 와버려서 정신병원에서 죽어버렸습니다
그런데 괴델은 이 문제가 '증명 불가능한 문제'라고 가설을 제시하고 '참으로 가정해도 문제가 없다'를 증명하게 됩니다.
그리고 1963년, 폴 코엔은 이 문제가 '부정으로 가정해도 문제가 없음'임을 증명하면서 증명이 불가능함을 증명하게 됩니다
즉 연속체가설은 참이여도 거짓인지 정할 수 없으며 둘 중 어느것이라도 상관없다는 뜻이죠
이런 기묘한 결론을 어떻게 해석해야 하는가?
에 대해서 수학자들은 고민하기 시작합니다.
1935년, 막스 뉴만은 이 불완전성 정리에 대해 새로운 해석을 내놓게 됩니다
바로 무한과 결부시킨 해석입니다
괴델의 불완전성 정리는 다음과 같은 명제를 인정하면서 시작합니다
A는 증명 불가능하다 = A
이 명제는 근본적으로 자기 자신을 자기자신으로 기술하는 명제입니다.
그러나 일반적인 상황에서는 자기 자신을 자기자신으로 기술하는 명제는 있을 수 없습니다
가령 다음과 같은 명제를 보도록 하죠
X=X+1
이 명제는 자기 자신을 자기자신으로 기술하는 명제입니다.
그러나 이건 초등학생도 대답할 수 있는 문제입니다.
이런 건 세상에 존재하지 않는다!....... 라고 생각할 수 있지만 딱 하나 예외가 존재합니다
2)저 머나먼 무한의 세계로, 나는 가자
x=무한 이라고 생각해보죠
무한=무한+1
이라고 하면 위식은 성립합니다.
무한에 1을 더해봤자 똑같은 무한이기 때문이죠.
그런고로 뉴만은 이런 해석을 내놓습니다
'괴델은 유한한 방법으로 찾을 수 없는 문제가 있다는걸 찾은것이다!'
말장난 같은 명제는 사실 무한을 유한적인 방법으로 기술한 것이죠.
유한한 관념만 담을 수 있는 인간에겐 머리가 꽤나 아픈 일이겠지만 괴델은 이를 훌륭하게 수학적 언어로 증명했습니다
그리고 이 강의를 듣던 한 청년이 있었습니다
그의 이름은 '앨런 튜링'
튜링은 우연히 이 강의를 듣고 이 문제에 대한 다른 접근을 시도해보게 됩니다
'사람은 유한한 방법으로 풀 수 없다 치자, 기계는 어떨까?'
사실 우리가 도저히 유한한 시간안에 할 수 없는 일을 기계는 수십초안에 뚝딱 해내곤 합니다
예를 들어
1800년대 샹크스란 수학자는평생을 바쳐 원주율을 707자리 까지 손으로 계산했지만 1900년대 한 수학교사가 탁상용계산기로 그것을 검산해보았고,528번째 자리부터 모조리 틀렸다는게 밝혀지게 됩니다
오늘날 평범한 컴퓨터, 우리가 롤이나 오버워치 돌리는 컴퓨터로 원주율을 계산하는 속도는, 100만자리를 계산하는데 1초정도입니다
어쨌든 우리 튜링은 수학적 문제를 풀 수있는 기계를 고안해 내고 이를 '계산가능한 수에 대해서, 수리명제 자동생성 문제에 응용하면서' 라는 논문에서 발표합니다
그 기계가 뭐냐고요? 바로 여러분이 지금 보고 있는거
바로 '컴퓨터'입니다. ( 난 폰으로 보는데? 할 수도 있지만 스맛폰도 엄밀히 따지면 컴퓨터입니다)
그는 컴퓨터의 원시적 형태인 '튜링머신'을 제시합니다
튜링머신을 구성하는 아이디어 역시 괴델의 증명에서 따왔습니다
괴델은 '괴델수'라는 개념을 도입해서 모든 명제를 숫자로 환원시켰습니다
가령 1+1=2 는 45234235, 이런식으로 말이죠
컴퓨터는 모든 문제를 0과1로 수식화시켜 계산합니다
이 아이디어 역시 괴델의 아이디어에서 따온것입니다
어찌됐든 튜링은 논문에서 이 기계를 사용하여 컴퓨터가 '무한한 시간이 걸리는 문제'를 어떻게 다룰 지를 연구하였고, 꽤나 김빠지는 대답을 도출합니다
'컴퓨터는 어떤 수학적문제를 푸는데 무한한 시간이 걸리는지 아닌지 일반적으로 파악 조차 할 수 없다!'
더 쉽게 요약하자면
'컴퓨터가 어떤 수학적 문제를 풀 수있는지 없는지 조차 일반적으로 알아낼 수 없다'
입니다
여기서 '일반적'이라는 표현에 주목해야합니다
하나의 프로그램으로 '모든 문제'를 해결하는 상황을 상정한것이죠.
개개의 경우에는 풀 수 있는지 없는지 알아낼 수 있습니다.
가령 위에서 말한 '연속체 가설'의 경우 우리는 풀 수 없음을 증명했습니다.
일반적인 상황, 즉
이 세상 모든 수학적 문제를 집어넣으면 문제가 풀릴 수 있을지 없을지 모두 뱉어낼수 있는 '하나의 프로그램' 을 만들 수 있는가? 에 대해 '불가능하다'라고 답을 내린것이죠.
이로서 기계의 힘을 빌려서도 수학은 불완전 하다는 것이 더더욱 확고해지게 됐습니다.
또한 튜링은 여기에서 한발자국 나아가 또다른 문제를 제기합니다
'그럼, 풀 수있고 없고를 떠나 모든 수학적 문제를 컴퓨터로 실행이 가능한가?'
그리고 그는 이 문제를 풀어내기 위해
'인간의 뇌를 본뜬 완벽한 컴퓨터를 만들면 되지 않을까?'
라는 생각을 했고, 이에 따라 요즘 핫한 ai ,
즉 인공지능이란 개념을 구상하기도 했습니다
인공지능이 발달해 가고 있는 지금, 위 문제는 해결되었을까요?
아직까진 해결되지 못했습니다
튜링은 사실 괴델의 정리를 파헤치는 과정에서 이런 기계를 고안해 낸것이지 실용적인 목적을 위해 고안한 것은 아닙니다
하지만 누가 알았으랴! , 그것이 지금 인류의 문명을 비교도 안되게 풍요롭게 해줬고,
이제 우린 컴퓨터 없인 살 수 없는 사람이 되었으며, 현대 문명의 8할은 컴퓨터에게 빚졌다고 해도 과언이 아닙니다 또한 여기서 파생된 인공지능이란 개념은 지금 4차산업혁명이니 뭐니 하면서 벌써 시대를 선도하고 있지 않나요
여기까지 읽으면서 '아니 수학자들은 할 짓도 없나, 왜 이런걸 고민하지?'
라고 반문 했을수도 있을것입니다. 그러나 이런 쓸데없어 보이는 논쟁에서 인간의 삶을 편리하게 해주는 실용적 기술이 무한하게 파급되어 나타납니다
'왜 기초과학에 투자해야 하느냐?' 라고 묻는다면 이걸로 대답을 대체할수 있겠네요
3)아 그럼 누가 맞냐고요
그럼 누가 맞을까요?
사실 이렇게 기술했으니 '플라톤주의자'가 맞았다! 라고 답할 수 있겠지만
다음과 같은 의문이 생깁니다
'수학이 불완전하다면 그것이 신의 지식이라고 봐야 하는가?'
일반적으로 신은 완전하죠
그런데 수학은 수학의 내재적 특성상, 무조건 불완전합니다
그렇다면 수학을 신의 지식이라고 봐야하는가?
대답하기가 쉽지 않습니다
또한 우리는 수학을 정립하는 과정에서 수많은 역설을 발견했고 이를 잠정적으로 없애기 위해 공리를 설정해서 강제적으로 없앴습니다
이런 본질이 과연 '완벽한 수학'과 합치하는가?
이 역시 대답하기가 쉽지 않습니다
(말년의 괴델, 아인슈타인과 괴델은 절친이였다고 합니다.)
괴델의 연구는 아이러니 하게도 플라톤주의자였던 괴델 자신에게도 타격을 주었습니다.
이의 영향이였는지, 괴델 역시 정신병에 걸려 죽게 됩니다.
형식주의자들도 타격을 입었기는 마찬가지입니다.
완벽한 형식체계를 만들어 신의 영역인 수학을 인간의 것으로 만들겠다는 꿈이 박살나 버렸습니다.
숨죽이고 있던 플라톤주의자들이 다시 등장해 형식주의자들을 공격하기 시작했습니다.
그러나 완전히 주저 앉은것은 아니다.
공격은 공격이고, 힐베르트 프로그램은 계속 진행되어야 합니다.
그들은 곧 산술의 무모순성을 산술로 부터 증명할 수 없다는걸 인정했고, 재빨리 태세전환을 해 산술의 외부에서
이를 증명하려 시도하게 됩니다
겐첸이란 수학자는 '초한귀납법'이라는 새로운 방법을 써서 산술의 무모순성을 증명하는데 성공합니다
그러나 이 방법은 산술을 벗어나는 형태이고 무한을 사용하기 때문에 형식주의자들의 원래 목표에서 한참 벗어난 방법이긴 합니다
어쨌든 이렇게 형식주의자들이 만들어낸 수학적 틀은 지금의 현대수학 그 자체가 되었습니다
그래도 가장 깔끔하게 수학을 설명 할 수있는 틀인건 변함없는 사실이기 때문이죠
당신이 수학과에 진학해 수학을 배운다면 , 당신이 배우는 수학은 다 이 형식주의자들이 만들어낸 수학일것입니다
4)마치며......
수학적 지식의 본질은 무엇인가?
원래부터 정해져있나?
아니면 우리가 임의적으로 만든것인가?
에 대한 대답은 '아직도 모른다' 입니다
지금도 플라톤주의자와 형식주의자의 논쟁은 계속되고 있습니다
하지만 이런 쓰잘떼기 없어 보이는 논쟁에서 컴퓨터가 나오고 ai가 나왔으면 본전은 건진것 아닐까요?
마무리가 생각보다 김빠지는것 같지만, 그래도 이렇게 마무리 하겠습니다
1+1은 왜 2인가? 에 대한 대답은 '아직도 모른다' 이지만,이걸 논쟁하는 과정에서 인간의 삶은 전과 비교도 안되게 윤택해졌다!
개인적으로 정말 재밌게 봐서 퍼왔습니다 이분은 무슨 커뮤니티 사이트에 책을 다 올리셨네요...
수식을 거의 안쓰고 쉽게 설명하셔서 저는 정말 재밌게 읽었네요... 공짜로 보기 미안한 글이였습니다
개인적으로 수학의 역사에 흥미로운 감정을 느끼고 있는데 수학사에 관련된 이런 글이나 책,다큐등을 보면 수학이라는 학문은 우주를 기술하는 언어이자 정말 중요하고 대단한 학문이라고 느끼기도 합니다
쓰잘데기 없어 보이는 순수수학의 논쟁,정리들이 수십년,수백년뒤 물리에서 그대로 응용되는것 보면 신기하기도 하구요
우주,물리,수학의 역사는 정말 언제봐도 신비로운것 같아요 일개 인간이 조금씩 세상의 진리에 다가간다는게...정말 매력적입니다