‘이세상에 수학보다 더 아름다운 것은 없다’. <자연의 수학적 본성>(김동광 옮김·동아출판 펴냄)을 쓴 이언 스튜어트가 이 말을 했을 때 그는 자연적인 것과 인위적인 것의 완벽한 조화로서 수학을 이야기한 것이다.

대부분의 사람은 고교 시절의 인수분해와 미적분을 수학의 전부라고 이해한다. 수학에 대하여 좀더 지식을 가진 사람도 현대 수학을 난해한 기호와 논리의 장난쯤으로 여기기도 한다.

그러나 우리는 뉴턴 시대, 아니 아주 오래 전 그리스 시대부터 수학을 사용해 왔다. 그리고 자연 현상은 놀라우리만큼 수학으로 잘 기술된다. 자연에 대한 이해가 깊어 갈수록 수학의 역할도 더욱 커진다. 뉴턴 시대에 역학은 미적분학으로, 20세기 초에 일반 상대성 이론은 미분기하학으로, 양자역학은 편미분방정식·행렬이론·조르단(Jordan) 대수, 함수 해석학 등으로 잘 기술되었다.

수학과 물리학은 발전의 동반자

최근 물리학의 새로운 이론은 수학의 최근 이론으로 기술된다. 수학의 매듭이론·게이지이론·양자군론·모듈라이론 등은 현대 물리학인 양자장론·초대칭이론·끈이론(string이론) 등에 필수이다. 이렇게 수학으로 무장된 현대 물리학은 새로운 도약을 이루고 있다. 물리학의 발전은 수학자로 하여금 새로운 수학 구조를 연구하게 하여 새 수학을 탄생시키는 데 크게 도움을 주고 있다.

우리는 자연 현상뿐 아니라 사회 현상을 설명하는 데, 그 완성의 척도를 얼마나 수학화했나에 두고 있다. 학문의 발전이란 바로 수학화하는 과정이라고 주장하는 사람도 있다. 이 책은 자연과 수학에 대하여 이야기한다. 저자는 서문에서 카오스 현상을 꿈 속에 나타나는 환상적인 현상이라고 설명하면서 독자를 유도한다. 매우 복잡하지만 현란하게 아름다운 현상이다. 이런 현란한 꿈은 실현되지 않지만 수학자의 머리에 항상 들어 있다.

우주가 어디에 있는지 모르지만 우리를 감싸고 있듯이, 수학 우주는 우리의 정신을 감싸고 우리가 우주를 바라보는 데 가장 심오한 관찰 수단을 준다. 우주는 매우 대칭적이다. 시간·공간·물질 모든 곳에서 동일하다. 그뿐 아니라 이들을 지배하는 법칙도 어디서든 동일하다. 그러려면 삼라만상이 똑같아 보여야 한다. 아인슈타인은 이런 불변성의 원리에 근거하여 일반 상대성 이론을 만들었다.

우리는 매일 여러 가지 모양을 보고 지낸다. 이웃의 얼굴, 멋진 옷차림, 바둑이의 점 무늬, 손의 지문, 마음을 포근하게 해주는 눈, 파도, 수도꼭지에서 떨어지는 물방울, 담배 연기…. 그런데 자세히 보면 이런 현상들은 모두 정확하게 똑같은 것이 없다.

이런 현상을 설명하기 위하여 복잡한 이론이 필요할까. 그렇지 않다. 몇 가지 변수만을 가진 단순한 식으로부터 이런 복잡한 현상이 나오는 것이다. 이것이 최근의 수학이 말해주는 혼돈이론이다. 수학적으로 완벽한 결정론적인 계에도 필연적인 조그만 오차가 결국 큰 차이를 주는 것이다. 이것은 우주 진행이 결정론적인가 우연적인가에 대한 논쟁에 답을 준다.

이 새로운 수학은 질서와 무질서, 결정론과 우연, 예측 가능성과 임의성에 대한 우리의 사고 방식에 혁명적 전환을 가져다 주었다. 새로운 수학은 결정론적인 계가 예측 불가능한 방식으로 움직일 수 있다는 것을 말해준다. 뿐만 아니라 새로운 수학은 ‘카오스 제어’라는 방법으로 우리의 실생활에 편리함을 가져다 준다. 이 방법은 인공위성을 제어하는 데에도 유용하게 사용된다. 카오스 제어는 또 지능형 인공 페이스 메이커(심장박동기)를 가능하게 하였고, 뇌조직 내의 전기적 활동을 제어하는 데 쓰여 간질 발작을 예방할 길을 열어 주었다. 수학은 관념적인 면이 강하지만 이처럼 매우 실용적이기도 하다.

저자는 수학의 이러한 여러 모습을 수학의 심오함을 잃지 않으면서 우리에게 잘 설명해 준다. 비전공자들에게 수학을 설명하기란 아주 어려운 일이나, 이 책을 읽으면 비전공자도 수학의 본질에 대해 더 깊이 이해할 수 있을 것이라 확신한다.