수학의 추상 세계로 떠나는 아찔한 〈무한〉 여행

당신 머릿속에 담을 수 있을 정도로 작지만,
한편으론 너무 커서 우주에는 담을 수 없는 것이 있다면 그것을 어떻게 불러야 할까?
음… 이렇게 부르면 어떨까? 〈무한〉이라고.

〈무한〉이라는 신비한 개념을 추적하며, 수학의 추상 세계에서 벌어지는 놀라운 풍경들을 담아낸 매력적인 대중서다. 학창 시절 누구나 무한(∞)이란 개념을 접해 봤을 것이다. 1, 2, 3, … 이렇게 끝없이 이어지는 수를 보며 묘한 호기심을 느꼈을 누군가도 있겠고, 〈임의의 수 n을 ∞으로 보냈을 때 다음 식의 값을 구하라〉와 같은 끔찍한 수학 시험의 악몽으로 기억할 사람도 있겠다. 하지만 〈무한〉은 일반인들이 짐작하는 것보다 훨씬 까다로운 개념이다. 이 매혹적이고 아찔한 개념의 안내자로 나선 이는 영국 셰필드 대학교 순수수학과 명예 선임연구원 유지니아 쳉이다. 〈고차원 범주론〉을 전문적으로 연구하고 있으며, 각종 국제 수학 학회에 참여해 꾸준히 논문을 쓰고 발표하는 수학자다. 그녀는 〈수학을 아주 잘하는 사람도, 수학을 연구하는 사람도 무한에 관해서는 대답할 수 있는 것보다 물어볼 것이 더 많다〉며 〈무한〉이 수학자들에게도 매우 당혹스러운 개념임을 토로한다. 이를테면, 이런 수수께끼는 어떤가? 〈추첨 공이 무한히 많은 로토가 존재하는 경우 당신이 로토에 당첨될 확률은?〉 〈객실이 무한히 많은 호텔이 있는데 이미 객실들은 꽉 찼다. 그런데 또 다른 손님이 찾아온다면 손님을 받을 수 있을까? 받을 수 있다면 어떻게?〉 〈순환 소수 09999……는 1과 완전히 같은 값일까?〉 무언가 영원히 커지고, 영원히 작아지고, 영원히 계속된다는 것은 그 자체로 우리의 직관을 비껴간다. 도대체 〈영원〉이란 개념을 어떻게 수학 안으로 집어넣을 수 있을까? 〈무한〉을 과연 수(數)로 간주할 수 있는가? 〈무한〉이 수라면 과연 어떤 수인가? 많은 수학자들이 〈무한〉의 정체를 밝히기 위해 부단히 고민하고, 속절없이 그 매력에 빠져든 이유다.

그렇다고 이 책이 어려울 거라 지레 겁먹을 필요는 없다. 수학자라는 딱딱한 직함이 무색하게 쳉의 인생 모토는 〈세상에서 수학 공포증을 몰아내는 일〉이다. 「스콘에 들어갈 크림의 완벽한 양을 재는 방정식」과 「완벽한 크기의 피자를 만들기 위한 수학 공식」 등 겉보기에 엉뚱한 논문들은 수학의 대중화를 위한 그녀 나름의 노력인 셈이다. 그녀에게 수학은 어떤 거창한 목적을 위한 수단이 아니라, 그 자체로 즐거움이자 사고의 지평을 넓혀 주는 매력적인 학문이다. 따라서 이 책 곳곳에는 딱딱한 수식과 개념보다 다채로운 비유가 넘쳐 난다. 무한을 네스호의 괴물로 비유한다거나(경외감을 불러일으키는 압도적인 크기를 갖고 있으면서도 그 정체를 분명히 알 수 없기 때문에), 꼬마 당근을 통해 중간값의 정리를 설명하거나(어떻게 꼬마 당근이 성인 당근으로 연속적으로 성장하는지 증명할 수 있을까?), 레고 캐릭터의 헬멧을 가지고 〈덧셈에 대한 역원〉을 설명하는 식이다. 독자들은 이 책의 색인에서 「곰돌이 푸우」와 우사인 볼트, 각종 요리 이름을 보고 놀랄 필요가 없다. 마치 이모나 언니의 손을 잡은 아이처럼 〈무한〉이라는 거대한 산을 한 걸음 한 걸음 밟아 오르기만 하면 된다. 그러면 수학의 낯선 기호와 용어들도 별것 아니라는 생각이 금방 들 것이다.