19세기 초반에 등장했다 20대의 젊은 나이로 요절한 두 천재 수학자가 있습니다. 한 명은 노르웨이의 수학자 닐스 헨리크 아벨 (Niels Henrik Abel, 1802-1829), 다른 한 명은 프랑스의 수학자 에바리스트 갈루아 (Évariste Galois, 1811-1832)입니다. 두 사람이 19세기 초반의 유럽 사람이라는 것, 30세도 안 되어 요절했다는 것, 수학계에 제대로 등장하여 이름을 날리기도 전에 사망했다는 것 (둘 다 이렇다 할 학교에서 교수직을 얻지 못 한 채, 병환과 불운이 겹쳐 요절했습니다) 을 제외하면 별 다른 공통점이 없어 보입니다. 그러나 두 사람의 공통점은 수학적 측면에서는 매우 뚜렷합니다. 그것은 바로 두 사람이 군론의 기초를 만든 수학자였다는 것입니다. 아벨은 5차 방정식의 근이 존재하지 않는다는 증명에서 촉발된 대수적 군론 (group theory), 갈루아 역시 아벨의 대수 방정식을 더욱 일반적으로 확장하여, 대수적 순열군을 이용, 주어진 방정식의 해들이 서로 어떻게 (대칭적으로) 대응하는지를 계산하였는데, 이 계산 과정에서 갈루아는 처음으로 '군 (groupe)'이라는 용어를 사용합니다.

19세기 후반이 되자, 이번에는 대수 분야가 아닌, 기하학 분야에서도 군론에 대한 탐색이 시작됩니다. 우리에게는 '클라인의 병'으로 유명한 독일의 수학자 펠릭스 클라인 (Felix Klein, 1849-1925)은, 대수학에서 발전된 군론의 개념을 차용하여, 3차원을 초월하는 차원에서 비유클리드 기하학 구조체의 특성을 어떻게 수학적으로 정의할 수 있는지에 대한 연구를 하였고, 이를 기초로 에를랑겐 계획 (Erlangen program, 에를랑겐은 클라인이 처음 수학과 교수로 임용된 대학의 이름이기도 합니다)이라는 접근법을 제시합니다. 이 프로그램에서 클라인은 리만 (Georg Friedrich Bernhard Riemann, 1826-1866)과 가우스 (Johann Carl Friedrich Gauss, 1777-1855)가 탐색했던 비유클리드 기하학을 사영기하학으로 재해석하려는 시도를 하고, 그를 위해 개념적으로 이미 대칭의 개념을 담고 있는 군론을 도입하고자 합니다. 즉, 기하학을 설명하는 언어로서 군론에서 말하는 대칭성을 이용하자는 제안을 하였고, 이는 곧, 올바른 제안인 것으로 발견되어, 기하학과 군론의 결합이 이루어지게 되는 계기가 됩니다.

사실, 왜 기하학을 설명하는데 군론이 필요한지 이해하기 위해서는 몇 가지에 대해 알아 둘 필요가 있습니다. 예를 들어 원뿔 곡선을 한 번 생각해 보겠습니다. 원뿔 곡선은 수학적 정의 상, 직교 좌표에서 어떤 이차 방정식을 만족시키는 무한 개의 점으로 이루어져 있습니다. 이 때, 원뿔 곡선을 평면 상에서 회전 변환하면, 당연히 원뿔 곡선의 대수 방정식 형태는 달라지지만, 여전히 원뿔 곡선 자체의 기하학적 특성은 보존됩니다. 하지만, 원래의 원뿔 곡선과 회전 변환된 원뿔 곡선을 그래프로 그리기 전에, 두 곡선을 묘사하는 대수 방정식만 보고도, 우리는 이 두 방정식이 나타내는 대상이 사실 기하학적으로는 같은 대상이라는 것을 알 수 있는 방법이 있을까요? 즉, 어떤 대수 방정식에서 다른 대수 방정식으로 변환이 이루어질 때, 우리는 어떤 것이 변하지 않는지 (즉, 불변량이 무엇인지) 판단할 수 있는 도구가 있을까요? 생각보다 이에 대한 계산은 쉽지는 않습니다.

사실 원뿔 곡선은 중학생도 이해할 수 있을만한 매우 간단한 대상이지만, 이미 원뿔 곡선 안에는 불변량, 행렬, 대칭성, 변환, 위상 등 대수 기하학의 핵심 개념이 내포되어 있습니다. 이중에서도, 클라인은 특히 변환에 집중했는데, 이 원뿔 곡선이 이른바 사영 기하학 (projective geometry)으로 다루기에는 적절하지만, 원이나 각도 개념은 사영 변환 (projection operator)로 다루기 어렵다는 것에 착안하여, 고유의 기하학적 대상을 구분하는 것은 그 대상에 내포된 어떤 '불변량'일 것이라는 아이디어를 내어 놓습니다. 사실 이 아이디어는 클라인이 아닌 밤 중에 홍두깨식으로 갑자기 얻은 아이디어는 아니고, 프랑스의 수학자 카미유 조르당 (Camille Jordan, 1838-1922)이 저술한, 군론의 기초를 닦은 교과서로 평가되는, '대수적 치환과 방정식에 관한 소론'과 노르웨이의 수학자 소푸스 리 (Marius Sophus Lie, 1842-1899)와의 지적 교류를 통해 파생된 아이디어로 볼 수 있습니다. 이 아이디어를 통해, 클라인은 유클리드 기하학은 평면 등거리 변환군 (group of isometry)에 대해 불변하며, 사영 기하학은 교차비 (cross ratio) 불변이라는 것을 발견했습니다.

이런 발견에서 자신감을 얻은 클라인은 앞서 언급했던 에를랑겐 계획을, 자신의 에를랑겐 교수 취임 강연에서 발표했으며, 이는 당대의 수학자들에게는 마치 '당신들이 연구하고 있는 모든 주제를 군론화 시키시오!' 라는 정언 명령으로 다가 올 정도로 획기적이고 마치 헌법처럼 느껴질 수준의 프로그램처럼 여겨질 정도였습니다. 클라인에게 처음에 군론의 아이디어를 제시했던 리 역시, 이에 대해 화답을 했는데, 그 결과물은 바로 리군 (Lie group)의 창안입니다. 사실 비 전공자가 리군을 제대로 이해하는 것은 매우 어려운 일입니다. 그도 그럴 것이, 리군은 연속 변환군에 대한 내용이자, 일반적 종류의 다양체 (variety)에 대한 내용을 포괄하고 있는 개념이기 때문입니다.

2차원의 원을 생각해 봅시다. 이 원은 중심점을 기준으로 어떤 각도로 회전해도 모양이 똑같습니다. 육각형이나 사각형은 60도 혹은 90도라는 정해진 값으로만 회전해야 똑같은 모양이 나오지만, 원은 그렇게 정해진 각도가 없습니다. 이 때, 우리는 원을 연속적인 대칭성을 가지고 있다고 합니다 (SO(2) 대칭이라고도 합니다). 수학적으로는 이러한 연속 대칭 같은 변환을 이루는 요소를 다 모으면 연속 변환군이 될 것인데, 과연 이런 연속 변환군에도 유한군에서 발견되는 것 같은 불변량이 있을 것인지, 있다면 그것을 발견하기 위한 대수적 계산 (예를 들어 미적분)이 가능할 것인지가 관건이었습니다. 리는 이것이 가능하다는 것을 증명하였으며, 이후 대수 기하학 (Algebraic Geometry)는 번성을 거듭하게 됩니다. 대수 기하학에서는 사영기하학, 비유클리드 기하학, 다양체에 대한 리만의 기하학, 복소평면에서의 기하학 같이 서로 다른 존재감을 가졌을 것 같은 대상들이 모두 '군' 이라는 하나의 체계로 정리되기에 이른 것입니다.

이러한 정리는, 독일의 대수학자 다비트 힐베르트 (David Hilbert , 1862-1943)에 이르러 거의 완성 단계에 이릅니다. 그는 당시 수학의 중심지로 여겨지고 있던 (그리고, 나중에는 노벨상의 산실이 되는) 괴팅엔 대학 (Universität Göttingen)에서 교수 자리를 잡은 후, 전통적인 유클리드 기하학 역시 비유클리드 기하학 (Non-Euclidean geometry, "직선 밖의 한 점을 지나 그 직선에 평행한 직선은 단 하나 존재한다"는 유클리드 기하학의 제 5 공리를 부정하는 비전통적인 기하학)과 마찬가지로, 순수하게 추상적 공리들의 세트로부터도 도출될 수 있음을 보였으며, 힐베르트는 대수 기하학 뿐만 아니라, 이른바 힐베르트 공간 (Hilbert space)라는 공간을 창시하여 함수 해석학의 기반을 닦았고, 이후 함수 해석학은 '아인슈타인-힐베르트 작용 (스칼라 곡률의 시공간에 대한 적분)'에 이용되어, 일반상대성이론의 장 방정식 (field equation)을 도출하는데 응용되고, 슈뢰딩거 (Erwin Rudolf Josef Alexander Schrödinger, 1887-1961)와 막스 보른 (Max Born, 1882-1970)에게는 양자 역학의 파동 함수에 대해, 수학적 의미를 부여하는 동시에, 물리적 해석 도구를 제안할 수 있게 하는데 도움을 줍니다.

사실, 다방면에 걸친 넓고도 깊은 힐베르트의 업적은 이 짧은 글에 몇 단락으로 정리할 수 있을 정도의 그런 수준이나 규모가 아닙니다. 책으로 쓰면 아마 수십 권의 백과 사전이 나와야 할 정도로 오일러-가우스의 명맥을 잇는 수학의 거의 최고봉 중에 한 명이기 때문에, 이 포스팅과 관련이 있는 업적만 언급해도 공간이 모자랄 정도입니다. 이 포스팅에서 힐베르트까지 언급하고 있는 것은 사실, 그의 정언 명령과 그가 제창한 공리계 때문입니다. 힐베르트의 명언 중 아래와 같은 말이 있습니다.

"Wir müssen wissen. Wir werden wissen."

이 말은 힐베르트가 1930년, 괴팅엔 대학 수학과 교수직에서 은퇴하면서 남긴 고별사 중 일부입니다. 이를 번역하면, "우리는 알아야만 한다. 우리는 알 것이다." 입니다. 힐베트르가 거의 평생에 걸쳐 순수 수학, 응용 수학, 이론 물리학, 이론 화학까지 다방면에 걸쳐 학문을 탐색하고 연구하고, 알려지지 않은 현상을 발견하고, 풀리지 않은 난제를 해결한 끝에, 그가 내린 결론 중 하나입니다. 힐베르트 정도의 업적을 쌓은 수학자라면 자신 있게 이런 선언을 할 수 있을 것만 같습니다.

사실, 유클리드 기하학을 전통적인 공리계 도움 없이, 추상적인 공리계만으로도 도출할 수 있었다는 증명은, 힐베르트에게는 또 하나의 자신감을 심어 줬는데 그것은 바로, '물리학의 공리화' 였고, 이는 1900년, 20세기 벽두를 맞아 열린 파리 세계 수학자 대회에서 그가 제창한 20세기 수학의 23가지 문제 (이른바 힐베르트의 23가지 문제)중, 여섯 번째 문제로서 제창되기에 이릅니다. 실제로 잘 알려지지는 않았지만, 힐베르트는 아인슈타인의 특수상대성이론을 접한 후, 중력에 대한 연구를 독자적으로 시작하여, 1915년, 아인슈타인과는 독립적으로, 거의 비슷한 시기에 일반상대성이론에서 도출되는 장 방정식을 거의 완벽한 형태로 유도하기에 이릅니다. 현재 과학사가들은 아인슈타인이 물리적 실체로부터 물리적으로 타당한 방정식을 유도한 것에 대비하여, 힐베르트는 오로지 수학적 추상성만 고려하여 유도한 것을 빌미로, 일반상대성이론의 제창에 있어 힐베르트의 공적을 매우 제한적으로만 인정하고 있지만, 이러한 사례는 힐베르트의 수학적 정치함이 얼마나 극에 달해 있었고, 그가 왜 물리학 마저 공리화시킬 수 있다고 자신감을 갖게 되었는지를 이해하는 데에도 힌트를 줄 수 있는 대목입니다.

힐베르트는 수학적 증명법의 하나인 귀류법을 별로 좋아하지 않았으며, 아름다운 증명은 오로지 공리계를 통한 수식으로 완성된다는 형식 주의를 제창하였습니다. 그러나, 1931년 오스트리아의 수학자 쿠르트 괴델 (Kurt Gödel, 1906-1978)이 '불완전성 원리'를 증명하면서, 힐베르트가 꿈꾸던 무 모순의 순수 공리계에 대한 꿈은 수그러들게 되었고, '수학은 자신의 무 모순성을 증명할 수 없다'는 괴델의 정리로 인해, 힐베르트는 한 발 물러 설 수 밖에 없었습니다.

19세기 초반부터 20세기 초반까지, 거의 100년이 넘는 시간 동안, 유럽의 수학계는 이러한 놀라운 발견과 통합과 연결과 재해석이 끊임 없이 반복되어 차곡차곡 쌓여 갔고, 그러한 학문 분위기에 빠져 있던 일군의 물리학자들 역시 이러한 자신감과 수학적 아름다움에 흠뻑 젖어 있었을 것임은 쉽게 상상할 수 있을 것입니다. 특히, 상대성이론과 양자역학의 태동-발전 시기와 많이 겹치는 힐베르트의 시대에 이르러서는, 이러한 자신감은 극에 달해 있었고, 심지어는 '물리학마저 공리계로 치환할 수 있을지도 모른다'는 추론을 할 수 있을 수준까지 이르게 되었으니, 물리학자들이 이로부터 영향을 받지 않았다면 거짓말일 것입니다.

확실히 19세기 후반-20세기 초-중반에 활동하던 물리학자들은 이러한 수학적 정합성과 아름다움에 심취해 있음을 볼 수 있는 대목이 여러 군데 있습니다. 고대 그리스까지 거슬러 올라갈 필요 없이, 이미 중세 르네상스 시대부터

"단순함은 궁극의 정교함이다" - 레오나르도 다빈치
"철학은 우주라는 드넓은 책에 쓰였다. … 그것은 수학의 언어로 쓰였으며 그것의 문자는 삼각형, 동그라미와 다른 기하학적 수치들이다." -갈릴레오 갈리레이

같은 선현의 가르침, 그리고 뉴턴과 맥스웰로 이어지는 과정에서 정교한 도구로서의 위치에서 이론의 아름다움을 판별하는 도구로 수학의 위상이 격상된 분위기, 그리고 19세기 초-중반에 시작된 여러 분야 수학의 통합과 새로운 종류의 수학의 탄생, 그리고 그 과정에서 수학이 찾아낸 자연의 아름다움, 수학이 결국 최종의 답일 것이라고 믿는 대수학자 힐베르트의 영향력 속에서 철학자들, 수학자들, 그리고 물리학자들은 이런 믿음을 보입니다.

"신은 세상을 창조할 때 다른 선택의 여지가 없어서 지금과 같은 형태로 창조했을까? 나는 이 점이 정말 궁금하다." -알버트 아인슈타인

"If you are receptive and humble, mathematics will lead you by the hand . . . along an unexpected path, path where new vistas open up . . . from which one can survey the surroundings and plan future progress." -Paul Dirac
"Any two of the very large dimensionless numbers occurring in Nature are connected by a simple mathematical relation, in which the coefficients are of the order of magnitude unity." -Paul Dirac

"그것을 올바르게 고찰된 수학에 있는 것은 진실만은 아니다. 거기에는 지고의 미, 즉, 조각이 가지는 냉담하고 엄숙한 미, 인간의 약한 성질이 끌리는 일 없이, 회화나 음악의 화려한 함정 없이, 여전히 숭고하고 순수한, 그리고 위대한 예술만이 보일 수 있는 강고한 완성도의 유능성을 갖추고 있다. 진정한 환희의 정신은 고양, 인류 이상의 것이라는 감각, 가장 탁월한 우월성의 시금석이며, 시가 그렇듯이 확실히 수학에서 발견되는 것이다." -버트란드 러셀

"수는 왜 아름다운 것인가. 그것은 베토벤의 교향곡 제9번이 왜 아름다운지 묻는 것이다. 당신이 그 답을 모르면, 다른 아무도 대답할 수 없다. 나는 수가 아름답다는 것을 알고 있다. 만약 수가 아름답지 않다면, 세상에 아름다운 것은 아무것도 없다." -에르되시 팔

"신은 굉장히 높은 차원의 수학자이고 고등 수학을 사용해 우주를 설계했다고 표현할 수도 있겠다." -폴 디랙

"The miracle of the appropriateness of the language of mathematics for the formulation of the laws of physics is a wonderful gift which we neither understand nor deserve. We should be grateful for it and hope that it will remain valid in future research and that it will extend, for better or for worse, to our pleasure, even though perhaps also to our bafflement, to wide branches of learning." -Eugene Wiegner

사실 찾아 보면 물리학자들이 왜 수학이 물리학에 영감을 주고 있으며, 물리학이 나아갈 길을 보여 주고 있는지에 대해 이런 저런 이야기를 한 것을 더 많이 찾을 수 있을 것입니다. 위에서 잠깐 언급했지만, 이런 '믿음'은 거의 도그마 수준으로까지 올라 오게 되었는데, 사실 그 과정에 힐베르트 다음 세대의 수학자 두 명이 큰 역할을 했습니다.

첫 번째 인물은 바로 독일의 수학자 에미 뇌터 (Amalie Emmy Noether, 1882-1935)입니다. 비운의 여성이자 유대계 수학자였던 그녀는 뇌터 링 (Noether ring) 정리, 라스커-뇌터 정리 같은 순수 수학에 대한 업적 외에도, '뇌터 정리 (Noether theorem)'라는 업적을 남겼는데, 이 정리는 20세기 이론 물리학자들에게 큰 영향을 미치게 됩니다. 어떤 물리계의 운동을 라그랑지안 (Lagrangian)으로 다룰 수 있을 때 (예를 들어 마찰이나 점성이 없는 계), 그 물리계의 미분 가능한 작용 (action)에 대칭성이 있다면, 그것에 1:1로 대응되는 보존량이 있다는 것을 의미합니다. 실제로 뇌터 정리를 적용하면 그간 물리학자들이 금과옥조로 받아 들이고 있던 각종 물리량의 보존 법칙이 어떤 대칭성과 1:1로 연결되어 있는지 깨끗하게 드러납니다. 예를 들어, 시공간 병진 대칭 (translational symmetry)는 4차원 시공간에서의 에너지와 운동량의 보존법칙에 각각 대응하며, 회전 대칭은 4차원에서의 각운동량 보존법칙, 전자기 U(1) 회전 변환 불변량은 전하 등으로 나타나게 되는 것입니다. 물리학자들은 이러한 보존량:대칭성의 1:1 대응 성질을 우연의 일치로 간주하지 않았습니다. 오히려, 그것이 자연에 숨겨진 질서일 것이라고, 나아가 그것이 자연의 자연다움, 아름다움의 본질일 것이라고 믿게 됩니다.

이러한 믿음을 한 단계 더 강하게 만들어 준 수학자는 힐베르트의 제자이기도 한, 독일의 수학자 헤르만 바일 (Hermann Klaus Hugo Weyl, 1885-1955)입니다. 바일은 뇌터의 정리를 꾸준히 연구하였고, 연속대칭변환군에 대한 이론인 리군에 대한 이론을 확립하는 과정에서, 1918년, 보존 법칙은 그냥 대칭도 아니고, '국소 대칭변환'과 관련되어 있다는 중요한 결론을 얻었습니다. 그는 국소 대칭이라는 개념을 설명하기 위해 이른바 '게이지 대칭 (gauge symmetry)'라는 개념을 도입합니다. 바일이 도입한 게이지는 폭이 일정한 선로의 비유에서 따온 개념인데, 그의 이론에 따르면, 일반공변성원리는 사실 게이지 불변성 (게이지 변환에 대해 불변)의 한 사례로 볼 수 있으며, 따라서, 아인슈타인의 중력 이론으로부터 맥스웰 방정식까지 유도할 수 있음을 증명하였습니다. 당시, 아직 약력이나 강력이 알려지기 전 이었음을 고려하면, 물리학자들에게 알려진 자연의 근본 힘이 중력과 전자기력이었던 것을 생각해 봅시다.

바일이 이 두 가지 힘이 서로 다른 힘 같지만, 사실 같은 힘이지 않을까 하는 결론을 이끌어 낸 것입니다. 당연히, 이 정리로 인해 물리학자들이 받은 충격은 어마어마 했습니다. 완전히 서로 다른 두 대상을 하나의 프레임으로 설명할 수 있었던 것을 목격한 것이니까요. 아마 뉴턴이 사과가 떨어지는 것과 달이 지구 주위를 도는 것은 사실 같은 원리라는 것, 케플러의 세 가지 법칙을 모두 하나의 이론으로 설명할 수 있다는 것을 발표했을 때, 당시의 천문학자들이 느꼈을 충격도 이렇게 크지는 않았을 것 같습니다.

이러한 깔끔한 정리를 목도한 물리학자들은 아마 더욱 수학의 정치함과 아름다움에 취했을 것이고, 수학적으로 아름다운 이론이 결국 진리에 가까워질 것이라 믿었던 것도 어찌 보면 당연히 이해가 되는 대목입니다. 금과옥조처럼 믿었던 보존 법칙은 수학적으로 대칭성에 대한 뇌터 정리로 설명되고, 특히 여기에 국소 대칭성을 도입하면, 두 가지 서로 다른 힘이 하나의 프레임에서 설명될 수도 있다라는 사실은, 수학이 애초 이러한 물리학적 해석을 목표로 만들어진 것이 아니었다는 것을 다시금 떠 올린 물리학자들에게는 더욱 믿음직한 것으로 다가 왔을 것입니다. 수학이 만들어지지 않았다는 것은 다시 말해, 글의 서두에서도 언급했지만, 19세기초부터 발전한 군이론, 그것을 기하학에 도입한 대수 기하학, 그로부터 파생된 뇌터의 정리와 헤르만 바일의 해석, 이 모든 수학적 발견과 정리가 딱히 어떤 물리적 현상을 설명하기 위해 능동적으로 (actively) 발명된 것이 아니라는 뜻입니다. 이런 의도가 없었음에도 불구하고, 그리고 시차가 많게는 수십 년씩이나 차이가 남에도 불구하고, 수학자들이 먼저 이룩해 놓은 정리들은 굳건한 공리계 위에 단단히 서서 마치 물리학자들이 해석해 주기만을 기다리고 있었던 것 같은 모양새입니다. 물론 수학자들은 그것을 의도하지는 않았지만서도요.

물리학자들은 이러한 전후 관계 때문에, 더더욱 자연을 설명하는 '단 하나의 언어'로서 수학에 더더욱 매달리게 되었으며, 수학으로 깔끔하게 서술될 수 있는 이론의 아름다움에 더욱 심취하게 되었습니다. 일례로, 양자역학의 파동 방정식 창시자인 오스트리아의 물리학자 에르빈 슈뢰딩거 (Erwin Rudolf Josef Alexander Schrödinger, 1887-1961)는 덴마크의 물리학자 닐스 보어 (Niels Henrik David Bohr, 1885-1962)가 제안한 수소 전자의 양자 수의 미스테리가 사실 바일이 제안한 게이지 인자의 주기성과 분명히 관련이 있을 것이라는 믿음으로, 프랑스의 물리학자 드 브로이 (Louis Victor Pierre Raymond de Broglie, 1892-1987)의 물질파 이론 (matter wave theory)에 힌트를 얻어, 1926년 유명한 파동역학 (wave mechanics)을 제안하여, 전자의 양자화를 성공적으로 설명하기에 이릅니다. 즉, 바일이 구축한 리군 중, 원의 연속회전변환과 비슷한 대칭 변환 기능을 하는, 복소 변수를 변환시키는 유니타리 군 (unitary group)을 이용하여, 슈뢰딩거는 전자를 서술하는 파동 함수의 위상 변화 (phase change)와 전자기장의 위상 변화가 일치하면, 바일의 게이지 대칭을 보존될 수 있다는 것을 증명한 것입니다. 사실 이러한 파동 역학의 탄생은 역으로 슈뢰딩거 방정식을 발견한 바일이 자신의 게이지 대칭 이론을 더욱 정교하게 다듬는데 도움을 주기도 했으니, 그야말로 수학과 물리학은 상부상조하면서 발전했던 것으로 볼 수도 있겠습니다.

스위스 태생 영국의 물리학자 폴 디랙 (Paul Dirac, 1902-1984)이 1927년, 특수상대성이론과 양자역학을 통합한 상대론적 양자역학을 설명하는 디랙 방정식을 발표한 후, 물리학자들은 고전 전자기학과 양자역학의 통합이 이론적으로 가능할 것이며, 수학이 아름답기 때문에, 당연히 수학을 활용한다면 그 아름다움을 제대로 구현할 수 있도록 통합해야한다는 의무감에 사로잡힙니다. 이것이 양자전기역학 (quantum electrodynamics, QED)의 시작이라고 볼 수 있습니다. 1930년대, 헝가리 태생 미국의 물리학자이자 수학자인 유진 위그너 (Eugene Paul Wigner, 1902-1995)는 위그너 정리 (Wigner theorem, 힐베르트 공간에서 내적을 보존하는 전사 함수는 유니타리 변환 혹은 반 유니타리 (anti-unitary) 변환이라는 정리)를 증명했습니다. 이는 물리학자들에게 더 정교한 수학적 도구를 제공하였는데, 왜냐하면, 어떤 물리계에 근본적인 대칭이 있다면, 그 대칭을 따르는 현상이 있을 것이고, 특히 양자역학에서 가능한 대칭은 결국 '수학적으로 자명한' 대칭 밖에 없을 것이라는 의미를 보여주고 있기 때문입니다. 여기서 수학적으로 자명한 대칭은 결국 유니타리/반 유니타리 대칭 밖에는 없습니다. 수 많은 리 군 중에, 유니타리/반 유니타리 대칭을 만족시키는 군의 후보는 확 줄어들 것이고, 대칭성은 이렇게 줄어든 후보에서 찾으면 되는 것이니, 실제로 물리학자들이 더욱 정교한 양자역학을 수립하는데, 이러한 정리가 매우 큰 도움이 되었음은 자명한 일입니다 (예를 들어, 양자 게이지 이론에서는 리군이 유니타리 또는 반 유니타리 대수군이 되어야 하므로, 가능한 대칭군이 가약 리 군 (reductive Lie group)으로 줄어 들게 됩니다). 실제로, 위그너 자신도 이를 이용하여 게이지 대칭성을 핵력에까지 확장하는데 성공한 바 있습니다.

2차 대전이 발발하여, QED의 발전은 다소 지체되긴 했지만, 종전 후, 미국의 물리학자 줄리언 슈윙거 (Julian Seymour Schwinger, 1918-1994), 또 다른 미국의 물리학자이자 대중에게 매우 유명한 과학자이기도 한 리처드 파인만 (Richard Phillips Feynman, 1918-1988), 그리고 일본의 물리학자 도모나가 신이치로 (朝永 振一郎, 1906-1979) 등, 많은 이론 물리학자들이 수학적으로도 아름답고 실험 결과와도 놀랍도록 정확하게 일치하는 QED 이론의 근간을 이루어 냅니다. QED의 성립 역시 바일이 제안한 국소 대칭성에 근간을 두고 있습니다. 전자기력을 매개하는 광자 (photon)와 전하를 가진 입자 사이의 최소 결합 (minimal coupling) 관계가 결국 게이지 대칭성으로 유일하게 결정되는 이론적 구조를 갖추는데 성공한 것입니다. 사실 QED 이후에 나온 QCD, QFT, 그리고 표준 모형 (standard model) 모두, 이론적 모형의 근간은 QED와 수학적으로 매우 유사하기 때문에, QED가 갖는 중요성은 이루 말할 수 정도라고도 할 수 있을 것입니다. QED 이후, 강력을 설명하는 QCD, 약력을 설명하는 힉스 메커니즘 (Higgs mechanism) 및 자발 대칭성 깨짐 (spontaneous symmetry breaking, 고유의 물리계를 설명하는 방정식에 원래 대칭성이 내포되어 있으나, 그 물리계의 특정한 바닥 상태는 대칭을 보이지 않는 현상을 의미합니다. 낮은 에너지 상태에서는 이러한 대칭성이 나타나지 않는데 (혹은 숨겨져 있는데), 이는 마치 원뿔 모양의 언덕 위에 올라 간 공의 상태와 비슷합니다. 공은 360도의 각도에 대해 모두 대칭이지만, 주변 보다 위치에너지가 높아서 더 낮은 곳으로 굴러 내려가고 싶을 것입니다. 즉, 에너지적으로 불안정하므로, 대칭성을 포기하더라도, 에너지를 낮추고 싶어할 것입니다. 이 때, 공이 스스로 굴러간다면, 공의 회전 변환 대칭은 자발적으로 깨지게 됩니다.) 등의 원리 역시 게이지 대칭을 기본 원리로 믿어 온 물리학자들의 성과가 집약된 이론들입니다. 이런 이론들이 모여서 1970년대에 이르러, 사실상 우리가 현재 표준 모형이라고 부르는 입자 물리학 이론 체계가 거의 완성되었으며, 2012년에는 유럽의 LHC에서 마지막으로 힉스 보존 (Higgs Boson)이 발견됨으로써, 표준 모형은 거의 완성 단계에 이르렀습니다. 표준 모형의 개략적인 역사에 대해서는 연세대 물리학과 박성찬 교수의 소개 글을 보시면 더욱 좋습니다. (http://webzine.kps.or.kr/…/…/webzine/webzine/14762087825.pdf).

지금껏 살펴 본 것은, 19세기부터 시작된 대수 기하학, 그리고 함수 해석학의 발전이 어떻게 물리학자들에게 영감을 주었고, 어떻게 그것을 해석했으며, 어떻게 그것을 이용하여 물리적으로도 그렇고 수학적으로도 아름다운 이론을 만들어 냈는가에 대한 내용이었습니다. 그 상호 작용의 역사를 돌이켜 보면, 약간의 차이는 있지만, 수학자들이 한 발 앞서 어떠한 물리적 intuition 없이, 오로지 순수 수학에만 의존하여 정해진 추상적 공리계만 활용하여 수학적 정리를 만들거나 어떤 사실을 증명하면, 수 년에서 수십 년의 시차를 두고, 물리학자들이 그것을 가져다가 쓰고, 물리학자들의 이론에서 아이디어를 얻은 수학자들이 다시 수학적 정리를 더욱 정교하게 다듬어 갔던 사이클이라고도 볼 수 있겠습니다. 일종의 선순환을 이루어 갔던 것이죠.

사실, 이렇게 수학과 물리학이 긴밀하게 상호 작용할 수 있었던 이유는, 대부분의 수학적 정리와 최신 사실이 주로 유럽에서 발견되었고, 공유되었으며, 활발한 학술 교류와 회의 역시 주로 유럽에서 지속되었기 때문이라고 볼 수 있습니다. 같은 학교 (예를 들어 괴팅엔 대학교)의 캠퍼스에서 물리학자는 수학자의 방에 찾아가 아이디어를 나눌 수 있었고, 점심을 같이 하며 잡담을 나누다가 번뜩이는 아이디어를 얻기도 했으며, 같은 도시의 어느 구석을 저녁에 산책하다가 영감을 얻기도 했으며, 심지어 다른 나라에 있는 수학자를 찾아가는 것 역시, 마치 옆 동네에 살고 있는 친구 만나러 가듯, 부담 없이 생각하는 그런 문화가 있었습니다. 수학의 경우, 오일러 시대 이후, 도제식 교육이 잘 이어지고 있었고, 물리학의 경우, 서신 교류와 학회 활동이 매우 활발하게 장려되고 있던 분위기였습니다. 이런 상황에서 물리학자와 수학자가 서로 아이디어를 주고 받으며 서로의 분야를 발전시켜 오고, 또 서로 영향을 주고 받았다는 것은 어찌 보면 당연한 이야기이기도 하겠습니다. 또한, 유럽에 있었던 수학자들과 물리학자들에게는 매우 행운인 조건이기도 했고요.

수학적 아름다움, 특히 대칭과 보존량 (불변량), 그리고 그것을 발견하게 해 주는 변환이 주는 아름다움이 미시 세계 (양자 역학) 혹은 거시 세계 (상대성이론)에 내재되어 있다는 것을 발견한 물리학자들은, 대칭성을 일종의 '도그마'로 받아 들이기에 이릅니다. 오스트리아 태생의 영국 과학철학자 칼 포퍼 (Karl Raimund Popper, 1902-1994)가 목 놓아 주창한 반증주의 철학은 이내 뒷전에 놓이게 되었습니다. 앞서 언급했던 게이지 대칭을 처음으로 주창한 독일의 수학자 헤르만 바일은, 이러한 대칭성에 매료된 나머지 이런 말을 하기도 했습니다.

"나는 항상 수학에서 진리와 미를 결합하려고 노력해 왔다. 만약 둘 중 하나를 선택해야 한다면 나는 항상 미를 선택한다"

이런 바일의 철학에 동조하여, 오로지 수학적 방정식 하나 만으로 실험적 관측이 전혀 없는 상황에서, 반물질의 존재를 예견한 물리학자 폴 디랙은 이런 말을 남기기도 했습니다.

"물리학자가 아름다움의 관점에서 방정식을 찾는 과정에서 뚜렷한 영감과 마주친다면 그는 올바른 길에 들어선 것이다"

즉, 수학적 아름다움과 정합성이 진리로 가는 이정표라고 말한 셈입니다. 디랙은 한 발 더 나아가 이런 과감한 말을 남깁니다.

"물리 방정식은 실험과의 일치보다 구조적인 아름다움이 더 중요하다."

위에서 디랙이 말한 구조적인 아름다움은 다름 아닌 '대칭성'이며, 다시 말해, 물리 방정식에 있어서는 실험 관측과의 합치에 앞서, 그 고유의 대칭성을 가능하게 해 주는 불변량이 있는지가 더 중요하다는 의미이기도 합니다. 이는 과학자들이 흔히 이야기하는 가설 단계의 이론을 넘어서는, 일종의 '도그마'에 가까운 것이라고 저는 개인적으로 생각합니다. 디랙은 이것이 물리계를 서술하는 방정식이 마땅히, 당연히, 필히, 갖춰야 할 제 1원칙으로 간주했으며, 디랙 이후의 물리학자들 중에는 많은 이들이 이러한 원칙을 가슴에 새기며 표준 모형의 기초를 닦는데 일생을 헌신하기도 했습니다. 이런 철학에 경도되어, 방정식이 실험 결과와 맞지 않는 것으로 나오면, 오히려 실험이 잘못 된 거 아니냐고 되묻는 경우가 왕왕 발생했을 정도로, 표준 모형에 매진한 물리학자들은 대칭성이 이론에 가하는 압박감을 오히려 큰 영광이자 진리에 더 가까워지게 만들어 줄 수 있는 촉매로 여기며, 수학적으로 아름다운, 자연스럽게 우아한, 방정식 찾기에 몰두하게 되었습니다.

이런 전통 속에, 유진 위그너는 수학이 주는 실로 엄청날 정도로 정확한 결과와, 또 동시에 믿지 못할 정도로 단순함 속에 감춰진 '우아한' 특성이 과연 그저 우연의 산물인가에 대한 철학적 의문을 제기하기도 했습니다. 그가 노벨 물리학상을 받기 3년 전의 시점인 1960년, 위그너는 "Communications on Pure and Applied Mathematics"라는 저널에, "The Unreasonable Effectiveness of Mathematics in the Natural Sciences"라는 제하의 기고문을 출판한 바 있습니다. 그 페이퍼에서 그는 아래와 같은 소회를 남겼습니다.

"The miracle of the appropriateness of the language of mathematics for the formulation of the laws of physics is a wonderful gift which we neither understand nor deserve. We should be grateful for it and hope that it will remain valid in future research and that it will extend, for better or for worse, to our pleasure, even though perhaps also to our bafflement, to wide branches of learning."

즉, 위그너의 감상에 따르면, 인간의 인식 한계 안에서는 도대체 무슨 이유로 이러한 순수 수학에서 비롯된 우아함과 단순함이 우리가 매일 같이 겪는 실체의 다양한 현상을 잘 설명할 수 있는지 이해하기 어렵다는 것입니다. 그냥 그럴 수 있었다는 것 자체에 감사해야 하고 그것을 행운으로 생각해야 할 것이며, 앞으로도 수학이 우리를 그렇게 이끌어 주리라 기대할 수 밖에 없다고 위그너는 이야기합니다. 실제로, 그가 사용한 'gift', 'deserve', 'grateful', 'hope' 라는 표현은 모두 엄밀성을 추구하는 물리학자가 사용할 법한 표현들은 아닙니다. 객관적이라기 보다는 주관적인 표현이라고 봐야 할 것입니다. 아마 위그너는 이러한 표현들을 사용하면서, 혹시나 어떤 '초월적 존재'가 수학이라는 선물 혹은 설계도를 자연에 감춰 둔 것은 아닐까, 인간이 그것을 발견하도록 허락한 것은 아닐까 추측하는 것처럼 느껴지기도 하는 대목입니다.

위그너가 의문을 갖는 (혹은 이해하기 힘들다고 생각하는) 부분은 크게 두 가지 입니다.

1) 애초에 왜 물리 법칙이 수학이라는 한 가지 언어로 아름답게 기술될 수 있는 것인가?
2) 그리고 왜 인간은 그것이 가능하다는 것을 인지할 수 있는 것인가 (humanly comprehensible)?

사실 위그너는 물리 법칙 혹은 방정식만 언급하는 것이 아니라, 다른 분야에 대해서도 수학이 한 가지 언어로서 자연과학 (Natural Science's')을 기술할 수 있다는 것에 대해 놀라움을 표시합니다. 그가 지적했듯, 입자 물리학 뿐만 아니라, 물리학의 다른 분과인 통계 물리학, 응집물질물리학, 광학, 그리고 지질학, 천문학, 화학, 그리고 생물학 같이 물리학과 조금 거리가 있을 것 같은 인접 학문에 대해서도 수학은 놀라울 정도로 효과적이고 정확한 기술 능력과 더불어 아름답게 느껴질 정도의 이론적 합치성과 단순함, 그리고 조화로움을 제공합니다. 물론 여전히 의학이나 사회 과학 분야에서는 수학이 모든 현상을 깔끔하게 설명한다는 것과는 거리가 있습니다만 (예를 들어, 경제학이 수학을 그렇게나 많이 사용하지만, 실물 경제가 경제학 이론만으로 다 설명된다고 보는 경제학자는 아무도 없는 것을 생각하면 됩니다. 하물며 수학을 주 언어로 잘 사용하지 않는 다른 사회 과학은 더 말 필요가 없습니다.), 80년대 이후 급격하게 발전한 계산 과학 (computational science)는 이에 대한 접근마저도 원론적으로는 복잡계 (complex systems) 역시 수학적 언어로 해석과 기술과 예측이 가능하다는 것을 점점 더 많은 사례를 통해 보여 주고 있습니다.

위그너의 1960년 페이퍼는 이후 반 세기 동안 과학자, 공학자, 그리고 과학철학자들에게는 좋은 토론 거리였습니다. 실제로 구글 스칼라를 찾아 보면, 위그너의 페이퍼는 지금까지 무려 2,200회에 달할 정도로 이곳 저곳에서 꾸준히 인용되고 있습니다. 여전히 이에 대한 답은 확실히 정해진 바가 없습니다. 그렇지만, 여러 과학자들과 과학 철학자들은 나름의 답을 내어 보려 노력해 왔습니다.

예를 들어, 통신 이론의 선구자 중 한 사람인 미국의 컴퓨터 과학자 리처드 해밍 (Richard Wesley Hamming, 1915-1998)은 위그너의 질문에 답하기 위해 다양한 측면에서의 접근을 시도합니다. 인간은 애초에 자연을 관찰하는 것을 너머, 그것에 대해 상상할 수 있는 능력이 있다라는 것 (즉, 사고 실험을 통해 논리적으로 어떤 결론에 이를 수 있다는 것, Humans see what they look for.), 어떤 상황에 들어 맞는 수학을 찾거나 발명할 수도 있다는 것 (즉, 스칼라만으로는 부족하니 벡터나 텐서를 발명한 예, Humans create and select the mathematics that fit a situation), 수학은 인간이 경험하는 모든 것을 설명할 수는 없다는 것 (Mathematics addresses only a part of human experience.), 그리고 진화의 역사 자체가 인간을 수학적 추론과 이론 정립을 할 수 있는 능력을 가진 존재로 만들었다는 것 (Evolution has primed humans to think mathematically) 같은 것으 그렇습니다. 그러나 해밍 본인도 인정했듯, 이러한 접근은 위그너의 질문에 일부만 답을 할 수 있을 뿐이었습니다. 다중우주론 (multiverse)자의 선두 주자이자, 인기있는 대중 과학서 여러 권을 저술하기도 한, 스웨덴 태생 미국의 우주론 물리학자 맥스 테그마크 (Max Tegmark, 1961-)는 아예 위그너의 질문에 이렇게 답합니다.

"physics is so successfully described by mathematics because the physical world is completely mathematical, isomorphic to a mathematical structure, and that we are simply uncovering this bit by bit."

즉, 테그마크가 보기에, 물리학은 수학의 현실에 대한 현현 (顯現) 그 자체인 것입니다. 애초 세상과 자연은 수학적인 구조 그 자체이고, 우리는 논리나 실험으로 그것을 조금씩 조금씩 발견하는데, 그 결과가 물리학으로 나타날 뿐이라고 이야기하는 것이죠. 테그마크는 그렇게 발견되는 것 자체가 자연과 우주가 원래 수학적인 구조였기 때문이라고 역설하는 것입니다. 테그마크는 아예 이러한 접근을 바탕으로 우주 자체가 수학적 구조이다라는 수학적 우주 가설 (mathematical universe hypothesis, MUH)를 제창하기에 이릅니다. 테그마크는 MUH에서 이런 과감한 가설을 제시합니다.

"수학적으로 존재하는 모든 구조는 물리적으로도 존재한다."

이를 조금 더 깊게 생각하면 이렇게 번역됩니다.

"인간과 같은 지적 생명체 (물리적 존재)를 포함할 만큼, 이렇게 우주 자체가 물리적으로 복잡하다면, 우주는 그러한 지적 생명체가 주관적으로 우주 자체를 현실로서 인식할 수 있게 해 줄 정도로 수학적이다."

라는 것입니다. 굉장히 어렵게 생각되는 접근입니다. 실제로, 테그마크의 MUH는 우주론, 과학철학 등 여러 분야에서 공격 받고 있습니다. MUH에 대한 결론이 어떻게 마무리 될지 모르겠지만, 테그마크의 MUH는 위그너의 질문에 대해 가장 극단적인 답 중 하나라고 생각할 수도 있을 것입니다.

앞서, 위그너의 1960년 페이퍼에서, 그가 사용한 표현들이 물리학자가 사용할 법한 엄밀한 류의 표현이 아니었다고 말씀 드린 바 있습니다. 사실, 이로부터, 위그너는 수학으로 자연이 모두 이해될 수 있다는 것 자체를 일종의 '미스테리'로 생각하여, 모종의 초월적 존재 (그것이 꼭 신(God)이 아니어도 말입니다.)를 마음 속에 둔 것은 아닌가라고 생각할 수도 있고, 이런 이유로 위그너를 초월론자 (transcendentalist)로 보는 시각도 있습니다. 만약 위그너가 초월론자로 생각할 수 있다면, 그와 맥을 같이 하는 물리학자나 철학자의 계보는 사실 고대 그리스까지 거슬러 올라 가서, 피타고라스-플라톤을 위시로, 다빈치-갈릴레이, 힐베르트-바일-제임스 진스 (James Hopwood Jeans, 1877-1946) 같은 선배들, 그리고 위그너 본인을 포함하여 디랙 등 동 시대 물리학자들을 거쳐, 스티븐 와인버그 (Steven Weinberg, 1933-)-프리먼 다이슨 (Freeman John Dyson, 1923-)-그리고 로저 펜로즈 (Roger Penrose, 1931-), 그리고 물리학자로서는 최초로 필즈상을 수상한 인물인 에드워드 위튼 (Edward Witten, 1951-)에 이르기까지, 유구한 역사 속에 지금까지 이어지는 계보로도 볼 수 있을 것 같습니다.

이러한 계보의 현 세대로 분류될 수 있는 사람 중에, 이스라엘 태생 미국의 천체물리학자 마리오 리비오 (Mario Livio, 1945-)라는 사람이 있습니다. 그는 2009년 '신은 수학자인가? (Is God a Mathematician?)' 라는 책을 펴냈는데, 그 책에서 위그너의 질문에 대한 답을 찾는 과정을 서술하고 있습니다. 특히, 리비오는 수학의 '비합리적일 정도의 효용성 (unreasonable effectiveness)'에는 수학의 능동적 (active)인 측면과 수동적 (passive)인 측면이 동시에 있다고 이야기하면서, 어떻게 이 두 측면이 물리학의 발전과 맞물려 상호 작용을 이루고 발전하는지를 언급합니다.

그가 예로 든 것은, 제가 예전 포스팅에서도 한 번 언급한 바 있는 켈빈의 매듭 이론 (Knot theory)입니다 (https://cdn.pgr21.com/pb/pb.php?id=freedom&no=77357&divpage=16&sn=on&ss=on&sc=on&keyword=cheme). 수학적으로 매듭은 꼬인 정도와 배열에 따라 그 고유한 패턴이 부여되고, 따라서 구분될 수 있는 성질이 있습니다. 이런 특성 때문에, 19세기 후반 한 때 유럽에서는 원자의 모델로서 '매듭'이 유효하지 않을까? 라고 일부 학자들이 열정적으로 매달린 바 있습니다. 그 때까지 알려진 원자의 특성에 맞추기 위해, 스코틀랜드의 물리학자이자 수학자인 피터 테이트 (Peter Guthrie Tait, 1831-1902) 같은 학자들이 먼저 매듭의 특성을 더욱 정교한 기하학과 대수학으로 접근하였고, 그 결과 풍부한 연구 결과물이 나왔습니다. 이러한 사례는 수학이 특정 자연 현상을 설명하기 위해 active 하게 사용된 예 중 하나입니다. 하지만, 이런 노력에도 불구하고, 19세기 후반-20세기 초반, 톰슨과 러더포드의 실험 등으로 양자 역학이 태동되던 시기, 이러한 모형의 유효성은 사라지게 되었고, 매듭 이론은 물리학의 세계에서 퇴출되는 듯싶었습니다. 그렇지만, 일부 수학자들은 오로지 그저 매듭 자체의 특성에만 매달리게 되었고, 20세기 초반-후반에 걸쳐, 매듭에 대한 이론은, 이제 대수학과 위상 기하학의 큰 흐름이 되어서 많은 수학적 정리가 쏟아져 나왔습니다. 1928년 미국의 위상 수학자 제임스 알렉산더 (James Waddell Alexander, 1888-1971)는 현재는 '알렉산더 다항식 (Alexander polynomial)' 이라고 부르는 대수적인 표현을 발견했는데, 이 표현은 매듭 고유의 교차점 패턴에 대응할 수도 있다는 것이 밝혀졌습니다 (trefoil knot = t^2 - t + 1 같은 사례). 물론 그것이 1:1 대응까지는 아니었기 때문에, 알렉산더 다항식은 매듭에 불변량 (knot invariant)이 있다는 것까지는 밝혀냈지만, 매듭에 관한 완전한 정리에는 도달하지 못했습니다. 반 세기가 넘는 시간이 흐른 후, 이번에는 1984년, 뉴질랜드 태생의 미국 수학자 보간 존스 (Vaughan Jones, 1952-)는 매듭 이론과는 전혀 상관 없을 것 같은 수학의 다른 분야인 폰 노이만 대수학 (von Neumann algebras)가 사실 매듭 이론과 긴밀한 관계가 있음을 밝혀냅니다. 이 발견으로 인해, 그간 불완전한 정리로 남아있던 알렉산더 다항식은 이제 매듭의 고유 꼬임 패턴과 1:1 대응을 이룰 수 있게 되었고, 이 다항식은 존스 다항식 (Jones polynomial)로 불립니다. 특히 존스 다항식을 사용하면, 꼬임 패턴은 같지만, 거울상 대칭을 이루는 두 매듭 마저 구분할 수 있게 되기 때문에, 존스 다항식은 매듭의 불변량은 물론 대칭성마저 설명할 수 있다는 특성을 가지고 있음이 밝혀지게 되었습니다.

켈빈의 모델이 실패한 이후, 매듭 이론에 매달렸던 수학자들의 연구는, 당연히 어떤 물리적 특성이나 자연에서 관찰된 현상을 설명하기 위해 추구된 것은 아닐 것입니다. 사실 오히려 동기를 잃어 버린 상태였음에도 불구하고, 추구된 순수 수학이라고 봐야 할 것입니다. 이런 관점에서, 리비오는 오로지 순수 수학적 동기에서 추구된 20세기 초반 이후의 매듭 이론을 수학이 가진 unreasonable effectiveness의 passive 측면으로 이해합니다.

그런데, 놀랍게도, 순수 수학의 정리로만 남을 것 같았던 매듭 이론, 특히 존스 다항식은 다시 이론 물리학과 접점을 찾게 됩니다. 표준 모형의 성립 이후, 자연계에 존재하는 네 가지 힘 중, 이제 물리학자들은 전자기력-강력-약력 이라는 세 가지 힘에 대해서는 거의 대부분 이해하게 되었고, 무엇보다도 대칭성과 자발적 대칭성 깨짐이라는 도구를 이용하여, 이 세 가지 힘이 아주 높은 에너지 상태에서는 하나로 통일될 수 있음까지 확인한 상황이었습니다. 그러나, 물리학자들의 발바닥에 박힌 가시 한 가지가 있었으니, 그것은 바로 나머지 한 개의 힘인 중력이었습니다. 중력은 앞의 세 가지 힘에 비해 너무도 너무도 작은 힘이었고, 애써 중력을 세 가지 힘과 통일시키기 위해서는 표준 모형의 틀을 바꾸지 않으면 안 될 정도의 불일치가 심했습니다. 이를 해결하기 위한 이론이 많이 제안되었지만, 이들 중 가장 수학적으로 우아하고 심오하다고 평가받았던 이론이 바로 끈이론 (string theory), 나중에는 표준 모형의 초대칭 (supersymmetry, SUSY)까지 가미된 초끈이론 (superstring theory)입니다. 초끈이론에서, 물리학자들은 다양한 끈의 진동과 꼬임과 얽힘으로 핵자들의 형성을 설명하고자 했는데, 위상수학적 관점에서는 이 끈은 다름아닌 매듭의 일종으로 볼 수 있습니다. 끈이론을 연구하는 물리학자들이 발견한 것은 바로 이런 매듭 이론, 특히 존스 다항식이 위상학적으로 복잡한 끈의 구조를 전부 표현할 수 있다는 것이었습니다. 19세기 후반의 매듭 이론이 원래 미시 세계의 원자를 설명하려고 발명된 (active) 상태였다가, 그 후보에서 탈락된 후 순수 수학으로 돌아갔다가 (passive), 다시 미시 세계를 더 자세히 그리고 단순하게 이해하기 위한 수단으로 재등장하여 불나게 연구된 사례 (active)는 수학과 이론 물리학의 씨줄-날줄 같은 상호 작용에 대한 사례이자, 위그너가 주목했던 수학의 unreasonable effectiveness의 사례로도 생각될 수 있을 것 같습니다.

(초)끈이론을 표준 모형과 합치시키고, 중력까지 아우르기 위해, 실로 다양한 수학이 사용되었으며, 이중 몇 가지는 순수 수학의 관점에서도 그 가치를 인정 받아, 앞서 언급한 에드워드 위튼 같은 물리학자는, 수학자가 아님에도 불구하고, 필즈상을 수상할 정도로 그 위업을 인정 받기에 이릅니다. 그러나, 21세기의 두 번째 십 년대가 끝나 가는 현재, (초)끈이론은 이제 입자 물리학자들 사이에서는 점점 잊혀져 가고 있습니다. 가장 주된 이유는 (초)끈이론이 수학적으로 아름답지 않거나 우아하지 않아서가 아니라, 그 이론이 제시된 이후, 수십 년 동안 이에 대한 실험적 증거가 관측되지 않았고, 앞으로도 없을 것 같다는 전망 때문입니다. 이론 자체는 수학적은 극한까지 밀어 부친 격이지만, 초끈이론은 애초, 순수 수학이 아니라, 어떤 현상 어떤 대상을 설명하기 위한 물리 방정식이었다는 것을 상기한다면, 이에 대해 물리학자들이 더 이상 끌리지 않는다고 느끼는 것은 어찌 보면 당연한 일입니다. '끈' 이라는 가상의 양자를 실험적으로 관측하기 위해서는, 현재 가동 중인 유럽의 LHC 같은 가속기의 충돌 에너지 (~14 TeV) 정도의 규모로는 어림도 없고, 일부 학자들에 따르면, 태양계 규모의 가속기가 있어야 겨우 관측할 수 있을까 말까한 규모의 에너지가 필요할 것으로 생각됩니다. 가까운 미래에 인류가 이 정도 규모의 가속기를 건설할 수 있을 것이라 믿는 사람은 아마 없을 것입니다. 끈이론의 또 다른 약점은, 다른 물리학 이론들 (예를 들어, QED나 QCD)과는 달리, 특정 현상에 대한 예측을 할 수 없다는 것입니다. 지금까지 알려진 현상에 대한 설명, 특히 네 가지 힘을 통합할 수 있는 설명은 우아함의 극치로도 볼 수 있겠지만, 사실 지금까지 '알려진' 현상만 설명할 수 있다는 것은 이론의 치명적인 약점으로 생각되는 부분입니다.

여전히 입자 물리학자들은 대칭성과 불변량에 대한 끈을 놓지 않고 있고, 어딘가에 이에 대한 비밀이 감춰져 있을 것이라 굳게 믿고 있습니다. 초대칭 입자의 강력한 후보이자 암흑 물질의 강력한 후보이기도한 WIMPs (weakly interacting massive partices)에 대한 실험적 탐색을 지금도 세계 곳곳에서 활발하게 하고 있으며, 양자 중력이론 (quantum gravity) 같은 대안에 대한 연구도 활발히 진행되고 있습니다. 지금 수학자들이 매달리고 있는 특정한 분야의 수학이 또 언제 어느때 어떻게 쓰일지 모르는 일이고, 과거에 별 것 아니라고 묻어 뒀던 가설들이 다시 조명을 받게 될 날이 올지도 모릅니다. 결국 앞으로도 수학이 물리학의 발전의 원동력이 될 것인가는, 아마 시간만이 그 답을 말해주겠지만, 저는 개인적으로는 그럴 것이다에 제 돈을 걸고 싶네요.

마지막으로 많은 물리학자들이 철썩 같이 믿고 있는 '수학적 미' (mathematical beauty)가 도대체 무엇일까 잠깐 생각하고 넘어가면 좋지 않을까 합니다. 사실 여기서 말하는 '수학적 미'와 '수학의 미 (beauty of mathematics)'은 좀 다른 개념입니다. 전자는 모든 사상의 수학적 측면에서 발현되는 심미적 가치를 의미하는 데 반해, 후자는 수학이라는 학문에 내재된 심미성을 의미하는 것이기 때문입니다. 우리는 주로 물리학자들이 이야기하는 '수학적 미'를 언급할 것이므로, 전자에 초점을 맞추고 있다고 생각해야 합니다.

어떤 문제를 해결함에 있어, 매우 간결하고 직관적인 방법과 오랜 시간과 지저분한 계산이 필요한 방법이 있다면, 인간은 어떤 방법을 더 아름답다고 여길까요? 아마 대부분 전자의 방법이 더 아름답다고 생각할 것입니다. 그래서 아마도 페르마의 마지막 정리 (Fermat’s last theorem)가 많은 수학자들의 인생을 앗아 간 것일지도 모르겠습니다. 왜냐하면, 페르마의 마지막 정리는 문제도 이해하기 쉽지만, 페르마 자신이 여백이 부족해서 적지 못했다는 식의 이야기를 할 정도로 해법이 매우 짧을 것임을 암시하고 있었기 때문이었을 것입니다. 수학자들은 분명히 간결하고 직관적이고 아름다운 증명 방법이 있을 것이라 믿었습니다. 그렇지만, 결론은 페르마가 이 문제를 제시한 후, 358년이라는 긴 시간이 지난 후에야, 영국의 수학자 앤드류 와일즈 (Andrew Wiles, 1953-)가 거의 일평생 매달려 얻은 길고 지난한 (그렇지만, 아름답지 않은 것은 아닐 것입니다) 증명이었습니다. 1부에서 예로 들었던 세상에서 가장 아름다운 방정식이라고 부르는 오일러 공식 역시, 그 단순함과 더불어, 식이 내포하고 있는 다양한 존재들의 합치에서 많은 사람들이 수학적 아름다움을 느끼고 있습니다. 간결함과 직관적인 깨달음을 동반한 수학적 미는 다른 분야에 대한 원동력이 되기도 합니다. 4부에서 언급했던 passive vs active 한 수학적 효용성에 있어서도, 수학자들이 어떤 정리를 도출함에 있어 아름다움을 발견했다면, 그 아름다움이 자연 어딘가에는 구현되어 있을 것이라 믿고 그것을 적극적으로 찾아 보려고 하는 과정에서 그 아름다움을 재확인하려는 시도가 항상 뒤따릅니다. 만약, 재확인된다면, 처음 발견된 아름다움과 맞먹을 정도의 수학적 아름다움이 또 느껴지게 될 것입니다.

앞서 언급했던 군에 관한 내용 중, 리군 (Lie group)에 대해 잠깐 이야기한 적이 있었습니다. 리군의 핵심적 특성은 연속변환불변량을 갖는 다양체와 군을 동시에 아우르고 있다는 것입니다. 노르웨이 수학자 소푸스 리는 이른바 '매끄러운 다양체'에 대한 군이론의 창시자로 알려져 있는데, 그가 연구했던 대상 중에는 복소수 예외적 단순 리군이라는 것이 있습니다. 이 군들 중, 가장 큰 것으로 알려진 E8라는 군은 1887년에 발견되었습니다. 발견 이래, 이 군은 너무도 복잡한 구조 때문에, 시각화 하기는커녕, 제대로 이해되는 것조차 매우 난해한 그런 종류의 군이었습니다. 왜냐하면, 이론적으로 E8군은 248차원에 있는 다양체이고, 각 차원에 걸친 모든 대칭성을 알아 내는 것은 너무나 지난한 작업이었기 때문입니다. 발견된 지 120년이 흐른 후에야, 계산 과학의 도움을 받아, 2007년 일군의 컴퓨터 과학자들과 수학자들은 E8군의 구조를 알아 내는데 성공하였고, E8군의 8차원 근계를 2차원에 사영하였을 경우 어떤 모습이 되는지 시각화 하는데 성공하였습니다. 첫 번째 첨부한 그림은 바로 이 사영된 E8군 근계의 모습입니다. E8군이 무엇인지 정확히 인지하지 못하더라도, 이 사영된 모습만으로, 많은 이들은 모종의 아름다움을 느낄 것이고 (동양 철학에 익숙한 사람들이라면 아마 만다라를 보았을지도 모르겠습니다.), 이를 연구했던 수학자들은 아마 소름이 돋을 정도의 아름다움을 느꼈을 것입니다. E8군 자체의 추상 수학적 아름다움도 중요하지만, 이렇게 인지할 수 있는 체계 안에서 다시 시각화 되었을 때도, 내부에 있던 아름다움이 발현되는 사례는 수학적 아름다움이 이기론 (理氣論) 같이 겉과 속에서 동시에 발현되는 것임을 보여 주는 사례라고도 할 수 있겠습니다.

이에 대해 조금 더 자세하게 생각해 보겠습니다. 이기론과 비슷한 관점에서 생각하였을 때, 수학의 아름다움이란, 단순하고 직관적인 수학적 정리 그 자체가 주는 아름다움도 있을 것이지만, 단순하고 직관적인 수학적 방정식에서 도출되는 결과물의 아름다움 역시 수학적 아름다움의 한 측면이라고 볼 수 있을 것입니다. 예를 들어, 복소 수열의 발산 문제를 해결하는 과정에서, 프랑스 수학자 브누아 만델브로 (Benoît B. Mandelbrot, 1924-2010)는 (계산 과학의 도움을 받아) 자기 닮음꼴 (self-similar structure, 예를 들어 고사리 같은 모양)의 기하학적 모양을 보이는 대상을 발견하였고 (복소 해를 시각화하는 과정에서), 이를 프랙탈 (fractal)이라는 대상으로 불렀습니다. 복소 수열 자체에서 아름다움을 느끼는 사람은 적겠지만, 두 번째 첨부한 그림과 같이, 이것이 시각화된 이미지에서 아름다움을 느끼는 사람은 많을 것입니다. 그 자체로도 화려함과 질서를 암시하고 있고, 자기 닮음꼴과 대칭성이 나타나고 있기 때문이기도 하지만, 그러한 특징들이 자연에서 오랜 역사에 걸쳐 인간이 이해할 수 있는 대상에 이미 구현되어 있다는 것을 발견했기 때문이기도 합니다. 이러한 발견에서 우리는 또한 수학적 아름다움을 찾을 수 있을 것입니다.

사실 프랙탈까지 않더라도, 매우 단순한 수학 방정식을 풀어 낸 결과가 아름다운 결과로 이어지는 사례는 수도 없이 많습니다. 제가 박사 과정 때 사이드 주제로 연구한 주제 중 하나는, 화학 반응-확산-상 분리 (chemical reaction-diffusion-phase separation)이 혼합된 매우 복잡한 시스템이었습니다. 이 시스템을 수학적으로 최대한 간단하게 만들면, 네 쌍의 미분 방정식이 나옵니다. 이 미분 방정식을 통제하는 파라미터는 화학 반응 계수, 확산 계수, 성분 간 계면 에너지 등 총 6개였습니다. 6개의 파라미터 중, 특정 조건을 만족시키는 조합을 가지고 (instability condition) 초기 조건과 초기 노이즈를 임의로 부여하여, 미분 방정식을 풀면, 매우 아름다운 패턴이 나타나게 됩니다. 그런 패턴을 기대한 것은 아니지만 말입니다. 만약 상 분리를 생각하지 않고, 오로지 화학 반응-확산의 조합만 생각한다면, 방정식은 2개로 줄어 들고, 이 방정식의 파라미터는 3개 밖에 남지 않습니다. 역시 초기 조건과 초기 노이즈를 부여하여, 이 방정식 시스템을 풀어 보면, 시간이 지남에 따라,

View post on imgur.com

세 번째 첨부한 사진과 같은 매우 아름다운 패턴이 출현하게 되는데 (http://science.sciencemag.org/content/329/5999/1616), 이 패턴을 튜링 패턴 (Turing pattern)이라고 부릅니다. 튜링 패턴은 기하학적인 대칭성과 질서도 자체로도 아름답지만, 그것을 만들기 위해 처음부터 뭔가를 디자인한 것은 아니었고, 파라미터의 조정만으로 다양한 대칭성과 주기를 갖는 패턴을 만들 수 있다는 사실, 그리고 첨부한 사진에도 나와 있듯, 일부 패턴은 동물 피부의 줄무늬나 열대어의 겉 무늬 등, 자연에서 흔히 관찰할 수 있는 패턴과 매우 유사하다는 사실 때문에, 튜링 패턴은 수학적 아름다움의 주요 사례로도 자주 언급되는 패턴입니다. 심지어, 일부 수리생물학자들은 이러한 튜링 패턴의 원리를 기초로, 생명의 유전 시스템에 애초 이런 튜링 패턴을 만들 수 있는 유전자 (morphogen)가 있는 것은 아닐까라는 주제를 가지고 연구하는 사람도 있습니다.

일부 학자들은, 이러한 '수학적 미' 자체도 혹시 측정(정량화)될 수 있는 대상이 아닐까 하여, 이에 대한 연구를 진행한 사례도 있습니다. 예를 들어, 독일의 컴퓨터 과학자 위르겐 슈미트후버 (J. Schmidhuber, 1963-) 같은 사람은 수학적 미의 핵심 가치로 '단순성'에 주목하여, 그것을 정량화하기 위해 정보이론 (information theory)의 관점에서 콜모고로프 복잡도 (Kolmogorov complexity) 같은 지표를 도입하여, 복잡도를 낮추는 알고리듬이 더 아름다운 알고리듬이고, 복잡도가 낮은 이론이 더 아름다운 이론임을 보였습니다 (http://people.idsia.ch/~juergen/locoart/locoart.html). 물론 모든 수학적 이론이나 시각화된 이미지, 심지어는 수학을 기반으로 한 예술 작품이 모두 콜모고로프 복잡도로 이해되거나 측량될 수 있는 것은 아니지만, 적어도, 그 기저에는 뭔가 공통적인 요소가 있지 않을까 힌트를 얻을 수 있는 연구 결과이기도 합니다.

이렇게 수학적 미는 그 자체로도 연구 대상이며, 그로부터 파생되는 결과물도 풍성합니다. 위그너가 제시했던 수학의 비합리적일 정도로 풍부한 효용성은 어찌 보면 애초 수학의 미와 연결된 개념일지도 모르겠습니다. 그래서 수학의 우아함을 믿은 물리학자들이 수학을 등불 삼아, 등대 삼아, 나침반 삼아, 지금도 자연을 끝까지 탐색하려는 시도를 하고 있는 것인지도 모르겠습니다.