집합론, 현대 수학의 기초를 세운 '무한'을 다루는 방법

집합론, 현대 수학의 기초를 세운 '무한'을 다루는 방법

"세상에 숫자는 총 몇 개나 있을까요?", "무한대(∞)는 그냥 엄청나게 큰 수 아닌가요?", "끝이 없는 것을 어떻게 수학적으로 다룰 수 있죠?" 이런 질문들을 한 번쯤 품어보신 적이 있을 겁니다. 눈에 보이지도 않고, 끝까지 셀 수도 없는 '무한'이라는 개념은 우리를 혼란스럽게 만들지만, 동시에 강력한 호기심을 자극합니다. 현대 수학과 과학 기술은 바로 이 '무한'을 길들이는 방법을 찾아내면서 폭발적으로 발전했습니다. 그 중심에는 '집합론'이라는, 생각보다 아주 단순하고 강력한 아이디어가 숨어 있습니다. 이 글에서는 집합론이 어떻게 무한이라는 거인을 다루고, 우리 세상을 구성하는 기초가 되었는지 가장 쉬운 언어로 풀어보겠습니다.

집합론, 모든 것을 담는 그릇

1. 집합이란 무엇일까요?

집합(Set)은 전혀 어려운 개념이 아닙니다. 쉽게 말해 '특정한 조건에 맞는 것들의 모임'을 담는 그릇이라고 생각할 수 있습니다. 예를 들어, ‘과일 바구니’라는 집합에는 사과, 바나나, 딸기 등이 담길 수 있습니다. 여기서 사과, 바나나, 딸기 하나하나를 집합의 ‘원소’라고 부릅니다. 또 다른 예로 ‘10보다 작은 짝수들의 모임’이라는 집합을 만들면, 그 안에는 2, 4, 6, 8이라는 원소들이 들어갑니다. 이처럼 집합은 명확한 기준에 따라 대상을 묶고 분류하는 아주 기본적인 도구입니다.

2. 일상 속 숨어있는 집합의 예시

우리는 이미 일상생활에서 자신도 모르게 집합의 개념을 사용하고 있습니다. ‘우리 반 친구들’, ‘내가 즐겨 듣는 노래 목록’, ‘장바구니에 담은 상품들’이 모두 집합의 예시입니다. 컴퓨터 폴더에 파일을 정리하는 것도 집합의 원리를 이용한 것입니다. ‘사진’ 폴더라는 집합 안에는 여러 사진 파일이라는 원소들이 있고, 그 안에 ‘2023년 여행’이라는 더 작은 집합(부분집합)을 만들 수도 있습니다. 이처럼 집합은 세상을 체계적으로 이해하고 정리하는 가장 근본적인 사고방식 중 하나입니다.

3. 집합으로 세상을 정리하는 방법

집합론이 강력한 이유는 단순히 무언가를 모아두는 것에서 그치지 않기 때문입니다. 여러 집합을 합치거나(합집합), 공통된 부분만 찾아내거나(교집합), 한 집합에서 다른 집합의 원소를 빼는(차집합) 등의 연산을 할 수 있습니다. 예를 들어 ‘농구를 좋아하는 학생들의 집합’과 ‘축구를 좋아하는 학생들의 집합’이 있다면, 두 집합의 교집합은 ‘농구와 축구를 모두 좋아하는 학생들’이 됩니다. 이런 논리적인 연산은 모든 컴퓨터 프로그래밍과 데이터 분석의 기초가 되어 복잡한 문제를 해결하는 열쇠 역할을 합니다.

'무한'이라는 거인을 길들이다

1. 셀 수 있는 무한과 셀 수 없는 무한

집합론의 창시자 게오르크 칸토어는 ‘무한에도 종류가 있다’는 혁명적인 아이디어를 제시했습니다. 1, 2, 3, 4… 와 같이 끝없이 이어지는 자연수를 생각해 봅시다. 비록 끝까지 다 셀 수는 없지만, 하나씩 순서대로 번호를 붙여 나열할 수는 있습니다. 칸토어는 이런 무한을 ‘셀 수 있는 무한’이라고 불렀습니다. 하지만 0과 1 사이의 모든 숫자들처럼, 순서대로 나열하는 것조차 불가능한 무한도 있습니다. 0.1, 0.11, 0.111… 등 소수점 아래로 숫자가 끝없이 펼쳐지기 때문입니다. 이것이 바로 ‘셀 수 없는 무한’입니다.

2. 무한 호텔의 신비로운 손님맞이

‘무한개의 방이 모두 꽉 찬 호텔’이 있다고 상상해 봅시다. 이때 새로운 손님 한 명이 찾아오면 방을 내어줄 수 없을까요? 유한한 호텔이라면 불가능하지만, 무한 호텔에서는 가능합니다. 지배인은 모든 방의 손님에게 ‘자신의 방 번호에 1을 더한 방으로 옮겨주세요’라고 안내방송을 합니다. 그러면 1번 방 손님은 2번 방으로, 2번 방 손님은 3번 방으로… 모든 손님이 한 칸씩 이동하고, 신기하게도 1번 방이 비게 됩니다. 이처럼 무한의 세계는 우리가 아는 상식적인 셈법이 통하지 않는 독특한 규칙을 따릅니다.

3. 크기가 다른 무한의 발견

칸토어는 여기서 한 걸음 더 나아가 ‘셀 수 없는 무한’이 ‘셀 수 있는 무한’보다 더 크다는 것을 증명했습니다. 즉, 자연수의 개수보다 0과 1 사이 실수의 개수가 훨씬 더 많다는 것입니다. 둘 다 무한하지만, 그 무한의 ‘등급’ 또는 ‘크기’가 다르다는 사실을 밝혀낸 것입니다. 이 발견은 당시 수학계에 엄청난 충격을 주었고, 인간이 무한을 논리적으로 비교하고 분석할 수 있는 새로운 길을 열었습니다. 무한은 더 이상 막연하고 신비로운 대상이 아니라, 수학적으로 다룰 수 있는 연구의 대상이 되었습니다.

집합론이 만든 현대 기술의 초석

1. 컴퓨터는 0과 1로 생각합니다

우리가 매일 사용하는 컴퓨터와 스마트폰은 어떻게 그토록 복잡한 연산을 해낼까요? 그 비밀은 {0, 1}이라는 원소를 가진 아주 단순한 집합에 있습니다. 컴퓨터는 모든 정보를 ‘전기가 켜진 상태(1)’와 ‘꺼진 상태(0)’라는 두 가지 원소의 조합으로 처리합니다. 집합론의 논리 연산(그리고, 또는, 아니다 등)을 전기 회로로 구현한 것이 바로 컴퓨터의 중앙처리장치(CPU)입니다. 결국 현대 디지털 문명 전체가 집합론이라는 단단한 반석 위에 세워진 셈입니다.

2. 데이터베이스, 정보의 바다를 정리하다

인터넷 쇼핑몰에서 ‘가격이 50000원 미만이면서, 평점이 4점 이상인 신발’을 검색하는 상황을 생각해 봅시다. 이것은 ‘가격이 50000원 미만인 신발 집합’과 ‘평점이 4점 이상인 신발 집합’의 공통 부분, 즉 교집합을 찾는 과정입니다. 이처럼 수억 개의 상품 정보를 관리하는 데이터베이스 시스템은 집합론의 원리를 이용해 방대한 데이터를 분류하고, 사용자가 원하는 정보를 빠르고 정확하게 찾아줍니다. 집합론이 없었다면 빅데이터 시대는 불가능했을 것입니다.

3. 암호 기술과 상상할 수 없는 확률

은행 거래나 개인정보를 보호하는 현대 암호 기술 역시 집합론에 깊이 의존합니다. 예를 들어, 256비트 암호화는 2의 256제곱만큼의 가능한 열쇠(Key) 집합을 만듭니다. 2의 256제곱은 우리가 상상조차 하기 힘든 숫자인데, 우주에 있는 모든 원자의 수보다도 훨씬 더 큰 수입니다. 공격자가 이 거대한 집합에서 실제 열쇠를 찾아내는 것은 현실적으로 불가능에 가깝습니다. 이처럼 집합론은 눈에 보이지 않는 안전을 만들어내는 핵심적인 역할을 하고 있습니다.

결론

집합론은 단순히 수학자들의 머릿속에만 존재하는 어려운 이론이 아닙니다. 이것은 우리가 세상을 분류하고, 논리적으로 생각하며, 끝이 없어 보이던 ‘무한’이라는 개념까지 다룰 수 있게 해준 강력한 사고의 도구입니다. 과일 바구니를 정리하는 단순한 아이디어에서 출발해, 컴퓨터 과학, 데이터베이스, 암호학 등 현대 기술 문명의 근간을 이루었습니다. 수학이 어렵게만 느껴졌다면, 우리 주변의 모든 것을 ‘모임’으로 바라보는 집합론의 시각으로 세상을 한번 살펴보는 것은 어떨까요? 복잡해 보이던 세상이 훨씬 더 단순하고 명쾌하게 보이기 시작할 것입니다.