재미있는 수학이야기-수학적 상상력

문학은 상상이란 토양 위에 핀 꽃이다.

풍부한 상상력 없이 마음을 흔드는 시나 소설을 쓸 수가 없다.

수학은 어떤가. 수학이라고 하면 우선 상상력은 고사하고 복잡한 방정식이나 그래프 등이 떠오를 것이다.

수학은 항상 정확하고 빈틈없으며 정해진 방식대로만 가야하는 학문, 또 픽션과는 전혀 거리가 먼 것으로 생각된다.

수학의 아이디어나 개념은 모두 상상의 허구이다.

초등학교 때부터 배우는 유클리드 기하학의 점이나 직선, 평면 등 모든 것은 상상 속에서만 존재하는 것이지 실존의 대상이 아니다.

삼각형, 사각형, 원도 마찬가지다.

정사각형을 네변의 길이와 각을 정확히 같도록 사각형을 그린다는 것은 현실 세계에서는 불가능한 일이다.

직선은 시작도 끝도 없이 무한히 곧게 뻗어 있는 선이라는 상상의 개념이므로 눈으로 볼 수 있는 대상이 아니지만 수학자들은 예사로 한 직선에 원점을 찍고, 자유롭게 단위 길이를 정해 그 직선을 수직선으로 만든다.

이 모든 것들은 모두 상상의 소산으로 가상적 존재이다.

'이상한 나라의 엘리스'는 영국의 수학자 찰스 루트윗지 닷슨(루이스 캐롤의 필명)이 쓴 동화이다.

책을 읽고 있는 언니 옆에서 지루해하는 어린 소녀 엘리스가 조끼를 입고 말을 하는 흰 토끼를 좇아 굴 속으로 들어가는데서 이 이야기는 시작된다.

굴 속에서 벌어지는 여러 가지 사건으로 구성된 이 동화는 상상의 나라에서나 있을 법한 일들로 채워진다.

이것은 마치 유클리드 기하학이 만질 수도, 느낄 수도 없는 허상을 가지고 시작하지만 무한한 상상의 힘으로 실존하는 존재로 형상화된 것과 같다.

엘리스는 언니가 깨울 때까지 강둑에서 긴 잠을 잔 것이고, 그녀의 신비로운 이야기는 꿈 속에서 본 것들이었다.

문제는 그 꿈속에 벌어졌던 일들이 잠을 깸과 동시에 사라지는 게 아니고, 그 이야기를 들은 그녀의 언니에게 이상한 나라의 일로 남아 있다는 것이다.

허구 위에 건설된 유클리드 기하학도 엘리스의 꿈처럼 실존적 존재로 남게된다.

이처럼 수학과 문학은 상상력이 있을 때 비로소 가능하다는 공통분모를 가진다.

다만 문학의 표현방식이 우회적이라면 수학의 표현방식은 직접적이고, 문학이 호소하는 바가 관능적이라면 수학이 호소하는 바는 지성적이라는 점이 차이라면 차이일 뿐이다.

십삼인의 아이가 도로를 질주하면서 각 아이가 무섭다고 그랬지만 결국 그들 중에는 무섭다고 한 아이도 있었고 무섭지 않다고 한 아이도 있었노라고 이상의 '오감도'는 그리고 있다.

상식이 수용할 수 없는 이 초현실적 상황의 우회적인 표현을 우리는 어떻게 해석해야 할 것인가. 어떤 다른 방식으로 이 상황을 투영해 볼 수 있을까, 아니면 도무지 이것이 가능이나 한 일일까.

그러나 우리는 수학이란 텔레스코프를 통해 이 괴이한 현상이 실제 일어날 수 있는 가능성을 엿볼 수 있다.

기다란 직사각형 모양의 띠의 양쪽 끝 가장자리 부분을 꼬아 서로 붙이면 삼차원 공간에서만 존재하는 새로운 띠가 만들어진다.

이를 '뫼비우스의 띠'라고 한다.

이 띠의 한 면 위에서 띠의 길이를 따라 기어가는 개미는 이윽고 띠의 양쪽 면을 모두 지나 원래 출발한 위치로 돌아오게 된다.

이것은 뫼비우스의 띠에는 면의 안팎 구별이 없다는 사실을 말한다.

결국 뫼비우스의 띠는 십삼인의 아이 중 누군가가 무섭다고 한 것이나 무섭지 않다고 한 것이 결국은 같을 수밖에 없는 초현실적 현상의 우회적 표현을 실체적 현상의 직접적 표현으로 옮겨주는 수레가 된다.

문학은 상상, 즉, 꿈의 화원에 핀 꽃이다.

뉴턴의 만유인력의 법칙이나 케플러의 천체 운행의 법칙이 그들의 무한한 상상력 없이는 불가능했던 것처럼 수학은 상상이 없으면 만들어질 수 없는 성질의 것이다.

문학자가 작품을 쓰기 위해 꿈을 꾸듯이 수학자도 새로운 수학을 만들기 위해 끊임없이 꿈을 꾼다.

문학에서나 수학에서나 그 꿈은 어제 꿈이었지만 오늘 문득 현실로 다가오고 현실은 또 새로운 꿈을 꿀 자리를 편다.

그래서 참다운 수학자는 루이스 캐롤이 엘리스의 꿈을 엮어가듯 수학적 몽환의 세계를 유영한다.

황석근(경북대 수학교육학과 교수)