미해결 수학 난제? 위상수학 본질 깨닫게 한 100년 논쟁!
꼬불꼬불한 선 안에 숨겨진 정사각형 찾기! (새겨진 사각형 문제)
세상에 아무도 답을 모르는 질문이 있어. 펜을 떼지 않고 종이에 꼬불꼬불하게 그린 선이 있다고 상상해봐. 이 선은 시작점과 끝점이 같아서 동그랗게 닫혀있어. 만약 이 닫힌 선 안에서 네 개의 점을 찾아서 정사각형을 만들 수 있다면, 이걸 '내접 정사각형'이라고 불러.
근데 아직 아무도 풀지 못한 문제가 있어. 어떤 닫힌 꼬불꼬불한 선이든, 그 안에는 반드시 내접 정사각형이 숨어있을까? 이게 바로 1911년에 오토 토플리츠라는 수학자가 던진 질문이고, '새겨진 사각형 문제'라고 불려.
이 문제의 쉬운 버전으로, "닫힌 선 안에 반드시 내접 직사각형이 있을까?" 라는 질문에 대한 아주 멋진 증명이 있어. 이건 수학계에서 정말 유명한 증명 중 하나야.
이 증명은 클라인 병이라는 신기한 모양을 생각하게 하는데, 이게 그냥 장식용이 아니라 문제를 푸는 데 아주 중요한 역할을 해.
왜 이런 어려운 문제를 풀려고 할까?
"아니, 닫힌 선 안에 직사각형이 있는지 없는지가 뭐가 중요해?" 라고 생각할 수도 있어. 솔직히 당장 어디에 쓰이는지는 잘 모르겠어. 하지만 이런 어려운 퍼즐을 풀다 보면 문제 해결 능력이 길러지고, 나중에 예상치 못한 곳에 도움이 될 수도 있거든.
하지만 내가 이 증명을 좋아하는 더 큰 이유는 따로 있어. 이걸 처음 봤을 때, '위상수학'이 뭔지 처음으로 감을 잡았기 때문이야.
보통 위상수학이라고 하면 이상한 모양의 도형들을 연구하는 거라고 생각하기 쉬워. 예를 들어, 종이를 반쯤 꼬아서 붙여서 뫼비우스 띠를 만드는 것처럼 말이야. 이런 건 안쪽과 바깥쪽 구분이 없는 '비가향성 표면'이라고 하는데, 쉽게 말해 앞면, 뒷면 구분이 없는 거야. 위상수학은 마치 고무 시트처럼, 찢지 않고 모양을 변형할 수 있으면 같은 걸로 보는 학문이야.
근데 이런 설명들은 뭔가 답답했어. "이게 대체 수학이랑 무슨 상관이야? 실제로 문제 해결에 어떻게 도움이 되는 거야?" 하고 말이야.
하지만 이 증명을 끝까지 따라가면, 이런 이상한 도형들이 그냥 신기한 게 아니라, 논리와 추론을 위한 진짜 도구라는 걸 알게 될 거야.
문제 풀이 시작! (직사각형 찾기)
먼저, 원래 질문을 조금 바꿔서 생각해 보자.
"정사각형의 네 꼭짓점인 네 점을 찾는 대신, 두 선분의 중간점이 같고 길이가 같은 두 개의 다른 점 쌍을 찾는 것"이라고 생각해 봐.
이게 왜 직사각형을 찾는 거랑 똑같은지 금방 알 수 있을 거야. 만약 어떤 공간에서 두 개의 선분을 찾았는데, 그 두 선분의 중간점이 같고 길이도 같다면, 그 네 개의 끝점은 반드시 직사각형을 만들게 돼. 이건 간단한 기하학 문제로 증명할 수 있어.
이제 우리가 할 일은, 주어진 닫힌 선에서 가능한 모든 점의 쌍을 생각하는 거야. 각 점 쌍에 대해 두 가지를 살펴볼 거야.
- 중간점의 위치: 이건 마치 평면의 (x, y) 좌표처럼 두 개의 숫자로 생각할 수 있어.
- 두 점 사이의 거리: 이건 또 다른 숫자 데이터야.
수학자들은 이렇게 세 개의 숫자로 된 정보를 보면, 이걸 3차원 공간의 한 점으로 생각하는 걸 좋아해.
상상해봐. 닫힌 선이 있는 평면이 있고, 그 위에 점 (x, y)가 있어. 이 점 (x, y)와 두 점 사이의 거리 'd'를 합쳐서 3차원 공간의 한 점 (x, y, d)로 생각하는 거야.
닫힌 선에 있는 점 쌍 (A, B)은 3차원 공간의 한 점으로 매핑돼. 그리고 다른 점 쌍 (C, D)은 3차원 공간의 또 다른 점으로 매핑되지.
우리가 하는 건, 닫힌 선의 점 쌍을 3차원 공간의 점으로 옮기는 '매핑'을 만드는 거야. 이 매핑의 중요한 특징은 '연속적'이라는 거야. 즉, 점 쌍을 아주 조금만 바꿔도 3차원 공간의 점도 아주 조금만 바뀌어. 갑자기 껑충 뛰는 일은 없어.
우리가 찾는 건, 두 개의 다른 점 쌍이 똑같은 3차원 공간의 점으로 매핑되는 경우야. 왜냐하면, 그렇게 되면 그 두 점 쌍은 중간점이 같고 거리도 같다는 뜻이고, 이건 곧 직사각형을 만든다는 뜻이니까!
신기한 표면의 등장!
이제 수학자들은 이런 '충돌'이 반드시 일어난다는 걸 어떻게 증명할 수 있을지 궁금해할 거야. 닫힌 선의 모든 점 쌍과 그에 해당하는 3차원 공간의 모든 점을 살펴보면, 충돌이 꼭 일어난다고 어떻게 확신할 수 있을까?
이때 등장하는 게 바로 '매우 아름답지만 복잡한 표면'이야. 마치 프랭크 게리의 건축물처럼 복잡하게 생긴 이 표면은, 닫힌 선의 모든 점 쌍에 해당하는 3차원 공간의 점들을 모아놓은 거야.
이 표면을 옆에서 보면, 닫힌 선 자체와 거의 비슷하게 보여. 이건 나중에 다시 설명할 아주 중요한 사실이야.
만약 우리가 닫힌 선의 두 점 쌍 (A, B)와 (C, D)를 찾았는데, 이 둘이 똑같은 3차원 공간의 점으로 매핑된다면, 이건 곧 중간점과 거리가 같다는 뜻이고, 이건 직사각형을 만든다는 뜻이야.
이런 '충돌'이 일어나는 모든 지점은 3차원 공간에서 표면이 자기 자신과 겹치는 부분으로 나타나. 마치 거울에 비친 모습이 겹치는 것처럼 말이야. 이런 자기 교차점이 있다는 건, 그만큼 닫힌 선 안에 내접 직사각형이 있다는 증거가 되는 거지.
원은 어떨까?
가장 간단한 닫힌 선인 '원'을 생각해 보자. 원의 점 쌍에 해당하는 3차원 공간의 표면은 놀랍게도 '돔'처럼 생겼어.
겉보기에는 자기 교차점이 없는 것처럼 보이지만, 돔의 꼭대기 부분에서 뭔가 재미있는 일이 일어나고 있다는 힌트를 줘. 원 안에는 무수히 많은 직사각형이 숨어있어. 이 직사각형들은 모두 원의 중심을 중간점으로 가지고 있고, 대각선 길이는 원의 지름과 같아.
이건 무슨 뜻이냐면, 원의 점 쌍을 3차원 공간의 돔 꼭대기라는 '하나의 점'으로 매핑할 때, 무한히 많은 다른 점 쌍이 같은 점으로 매핑된다는 거야. 그래서 '충돌'이 반드시 일어나고, 직사각형이 존재한다는 걸 증명할 수 있지.
뫼비우스 띠와 클라인 병의 등장
이제 좀 더 복잡한 이야기로 넘어가자. 우리가 직사각형을 찾기 위해 점 쌍의 중간점과 거리를 살펴봤는데, 만약 점 쌍의 순서를 신경 쓰지 않는다면 어떻게 될까? 즉, (A, B)와 (B, A)를 같은 것으로 본다면 말이야.
이걸 표현하기 위해 '뫼비우스 띠'가 등장해. 뫼비우스 띠는 종이를 반쯤 꼬아서 붙인 건데, 안쪽과 바깥쪽 구분이 없어.
우리가 닫힌 선의 모든 점 쌍을 뫼비우스 띠 위에 표현하면, 뫼비우스 띠의 가장자리에서 자기 교차점이 나타나. 이 자기 교차점은 곧 중간점과 거리가 같은 두 개의 다른 점 쌍이 존재한다는 뜻이고, 이건 직사각형을 만든다는 증거가 돼.
더 나아가서, 두 개의 뫼비우스 띠를 합치면 '클라인 병'이라는 더 신기한 모양이 만들어져. 클라인 병은 3차원 공간에서는 자기 자신과 겹치지 않고는 표현할 수 없는 모양이야.
클라인 병이 3차원에서 자기 자신과 겹치지 않고는 표현될 수 없다는 사실은, 우리가 처음에 생각했던 닫힌 선 안에 반드시 내접 직사각형이 존재한다는 것을 증명하는 데 결정적인 역할을 해.
왜 '부드러운' 곡선이 중요할까?
이 증명에서 '부드러운' 곡선이 왜 중요한지 생각해 보자. 부드러운 곡선은 모든 점에서 접선이 잘 정의되어 있어. 마치 매끄러운 도로처럼 말이야.
만약 점 쌍이 점점 가까워질 때, 그 사이의 각도가 깔끔하게 제한된다면, 이건 마치 잘 정의된 접선처럼 행동하는 거야. 하지만 프랙탈처럼 '거친' 곡선에서는 이 각도가 제한되지 않을 수 있어.
이것이 바로 '새겨진 사각형 문제'가 풀리지 않는 이유 중 하나야. 거친 곡선에서는 우리가 원하는 대로 깔끔한 증명을 하기가 어렵기 때문이지.
결론
이 증명을 통해 우리는 수학자들이 이상한 도형들을 연구하는 것이 단순히 신기해서가 아니라, 문제를 풀기 위한 강력한 도구를 만들기 위해서라는 것을 알 수 있어. 때로는 이런 도구들이 예상치 못한 곳에서 문제를 해결하는 데 도움을 주기도 하고, 때로는 그 자체로 재미있는 연구 대상이 되기도 하지.
뫼비우스 띠나 클라인 병 같은 도형들은 단순히 기괴한 모양이 아니라, 연속적인 관계와 그 관계 속에서 가능한 것과 불가능한 것을 이해하는 데 도움을 주는 중요한 개념들이야. 수학자들은 이런 논리와 제약, 불가능성을 탐구하면서 발전해 나가는 거지.