최근 수정 시각 : 2022-06-18 04:33:06

범주론

수학기초론
Foundations of Mathematics
{{{#!wiki style="margin:0 -10px -5px"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin:-6px -1px -11px"
{{{#!wiki style="letter-spacing: -1px"
다루는 대상과 주요 토픽
수리논리학 논리 · 논증{ 귀납논증 · 연역논증} · 공리 및 공준 · 증명{ 자동정리증명 · 귀류법 · 수학적 귀납법 · 반증 · PWW} · 논리함수 · 논리 연산 · 잘 정의됨 · 조건문( 조각적 정의) · 명제 논리( 명제, 아이버슨 괄호 · · · 대우) · 양상논리 · 술어 논리( 존재성과 유일성) · 형식문법 · 유형 이론
범주론 함자 · 수반 · 자연 변환 · 모나드 · 쌍대성
집합론 집합( 원소 · 공집합 · 집합족 · 곱집합 · 멱집합) · 관계( 동치관계 · 순서 관계) · 서수( 하세 다이어그램 · 큰 가산서수) · 수 체계 · ZFC( 선택공리) · 기수( 초한기수) · 절대적 무한
계산가능성 이론 튜링 기계 · 바쁜 비버 · 정지 문제 · 재귀함수 · 계산
정리
드모르간 법칙 · 대각선 논법 · 러셀의 역설 · 거짓말쟁이의 역설 · 뢰벤하임-스콜렘 정리 · 슈뢰더-베른슈타인 정리 · 퍼스의 항진명제 · 굿스타인 정리 · 불완전성 정리 · 힐베르트의 호텔 · 연속체 가설
기타
예비사항( 약어 및 기호) · 벤 다이어그램 · 수학철학 }}}}}}}}}}}}



1. 개요2. 내용3. 참고 서적4. 여담5. 관련 항목

1. 개요

, [1] / category theory

수학 전반에서 등장하는 각종 수학적 구조와 그들 간의 관계를 메타 개념으로 생각하여, 그들을 범주(category)라는 추상적인 개념으로 묶어서 다루는 이론.

2. 내용

수학과 학부 전공심화과정 이상의 수준에서 대수학 위상수학 등을 일정 수준 이상으로 공부하다 보면, 배우는 분야마다 해당 분야에서 관심이 있는 '특정 구조를 가지는 집합'들과 '그 집합들 사이의 대응관계'라는 비슷한 구조가 나타나며 심지어는 자기가 읽고 있는 교과서가 여러 가지 논리전개나 서술 방식을 우려먹는(?)다는 느낌도 받게 된다. 그렇다고 주화입마했다가는 다른 분야 교과서가 더 이해하기 편하다고 시험 기간에 다른 책을 보다가 성적이 떨어지는 불상사를 겪는 수가 있다 예를 들면, 현대대수학 교과서에서 ()과 군(환) 사이의 준동형 사상 혹은 동형 사상, 선형대수학 교과서에서 벡터 공간 사이의 선형 변환, 위상수학 교과서에서 위상 공간 사이의 연속함수 등을 다루는 것을 오랫동안 음미하다보면 사상, 변환, 함수들 간에 어떤 특정한 구조가 약간의 용어나 서술방식만 달리한채 반복되고 있다는 점을 알 수 있다. 항등 사상이 항상 저런 특정한 '집합들 사이의 대응관계', 혹은 속칭 '모피즘' 내지는 '화살표' 중 하나에 속한다든가 화살표와 화살표의 합성 또한 화살표라는 것도 있지만, 이런 기초적인 것 말고도 몇몇 독특한 구조들이 서로 상관 없어 보이는 분야 여기저기서 나타난다. 가장 대표적인 예로 split exact sequence를 들 수 있고, universal object라는 구조[2]도 좋은 예에 속한다. 화살표들을 갖고 놀다 보면(...) 이런 예들을 심심찮게 찾을 수 있다. 니콜라 부르바키의 정체 중 하나였던 사무엘 에일렌베르크(Samuel Eilenberg)와 손더스 맥레인(Saunders Mac Lane)이 대수적 위상수학, 특히 호몰로지 이론을 연구하면서 이러한 각 수학 분야들에서 부지기수로 나타나는 공통된 구조를 다시 한번 추상화시켜서 다룰 수 있지 않을까 하는 데에 착안하여 범주(category)라는 개념을 도입하게 된다.

범주론에서 다루는 범주(category)는 쉽게 말하면 아주 간단한 몇몇 조건을 만족시키는 대상(object)과 그 대상들 사이의 관계를 나타내는 사상(morphism)의 모음인데, 이 대상과 사상은 그 조건만 만족시키면 말 그대로 무엇이든 가능해서, 대상은 굳이 어떠한 집합일 필요가 없고 사상도 굳이 어떠한 함수일 필요도 없다. 물론 이렇게 정의된 범주들 사이의 대응관계도 생각해볼 수 있는데, 두 범주를 대응시키는 사상을 '함자(functor)'라고 한다. 물론 이 범주들과 함자들을 또 하나의 범주로 보고(...) 범주의 범주를 정의할 수도 있다.


범주론을 전공한 수학자 겸 피아니스트 겸 작가인 Eugenia Cheng 박사가 전세계 함수형 프로그래머들의 정모인 Lambda World 2017에 참석하여 가진 프리젠테이션 영상. 본업이 프로그래머가 아니다보니 어려운 프로그래밍에 관한 주제보다는 비전공자를 위한 실생활 속 예시를 들며 범주론 소개에 치중한 내용이라 비전공자에게도 영어가 들린다면 범주론에 대해 흥미를 돋구기 좋다. 소프트웨어 개발자들 중에도 수포자는 널리고 널렸기 때문에

이렇듯 고도로 추상적인 분야이지만 기존 집합론이 한계를 보여줬던 많은 분야에서 범주론이 그 대안으로 인식되기 시작되면서 수학 전반에 걸쳐 사용되기 시작하고, 심지어는 컴퓨터 공학과 같은 응용 학문에서도 범주론을 끌어다 쓰기까지 한다. 오히려 어떤 면에서는 대수학 전공자가 아니라 덕력 높은 프로그래머 및 컴퓨터 사이언티스트들이 범주론을 논하는 업계 학계의 주류로 발돋움하고 있는게 아닌지 갸우뚱할 지경이나, 사실은 프로그래머들도 어지간한 내공이 쌓이지 않으면 수학을 이 정도로까지 체화하고 함수형 프로그래밍을 능수능란하게 해낼 정도는 되지 않기에 2020년대 초반 기준으로 '아직까지는' 흔한 코딩 부트캠프에서 범주론을 마스터한 함수형 프로그래머를 찍어낼 수준으로까지 진입장벽이 낮아진 것은 아니다. 대신 위의 Eugenia Cheng 같은 순수수학자들도 밥벌이는 말할 것도 없고 학문적 필요에 의해 프로그래밍을 공부해야 하는 지경이 되었는데, 이런 점에서는 범주론이 수학, 수리논리학, 컴퓨터과학 등의 학제간 연구분야가 되어간다고 볼 수도 있을 것이다. 대표적으로 함수형 프로그래밍 언어 Haskell에서는 범주론에 등장하는 개념들이 아주 중요하게 사용되며, 이 하스켈이나 Scala를 비롯한 함수형 프로그래밍 언어를 완벽하게 써먹을 정도로 숙련된 전문가들은 수학 전공자나 그에 맞먹는 대수학적 내공을 쌓은 용자들이 대부분이다.

3. 참고 서적

보통 이 분야의 창시자 중 한명인 Saunders Mac Lane이 집필한 《Categories for the working mathematician》이 스탠다드 교재로 평가받지만 제목에서 알 수 있듯이 업계 종사자(?)들을 주 타겟으로 쓰인 책이라 처음 카테고리 이론을 배우려는 학생들 눈높이와는 조금 괴리감이 있을 수 있다. 그 외에도 Mac Lane의 제자인 Steve Awodey의 《Category Theory》도 참고서로 종종 언급되는 편. 그리고 대학원 수준 대수학 교재에서는 한 소챕터나 부록 등에 간단한 카테고리 이론이 들어가 있는 경우도 많으니 참고하자. 예를 들면 대수학의 명저 중 하나인 서지 랭의 《Algebra》에서도 카테고리 이론 챕터가 나오는데, 정말 핵심적인 내용만 소개하고 넘어가지만 그것만으로도 평이 상당히 좋다.

집합론이나 수리논리학을 다룬 교과서 중에서 카테고리 이론을 다루는 예도 있다. 일례로 Peter J. Cameron의 《Sets, Logic and Categories》가 있다. 다만 이 영어 교과서에서는 흔히 쓰이는 기호들과는 조금 다른 표기법을 쓰기 때문에 읽을 때 다소 어색함을 느낄 수 있으므로 다른 집합론 책에 익숙한 독자들에게는 약간의 불편을 초래하는데, 《 실버만 복소해석학》 번역에도 참여한 수학 나라의 앨리스 출신 역자들이 번역을 맡아 《수리논리학입문》이란 제목으로 출간한 번역본은 원저자가 써먹은 특이하거나 오래된 표기법을 오늘날 흔히 쓰는 표기법으로 많이 교정한 채로 제법 깔끔하게 번역되었다.

이 책이 위 영상에 등장하는 Eugenia Cheng 박사가 요리책 컨셉으로 저술한 교양서 《수학을 요리하다》(절판)에 소개된 것을 제외하면 한국어 (번역) 교재로서 카테고리 이론을 다루는 사실상 유일한 사례이며, 범주론만을 전문적으로 다룬 고급과정 교과서를 본격적으로 번역하는 용자 번역자들은 아직 나오지 않고 있다. 물론 프로그래머 독자도 낚아올리기에 좋은 블루오션이므로 번역서가 언젠가는 나오리라는 기대는 걸어볼만 하지만, 이 분야는 아직 한국어 용어도 제대로 정립되지 않은 분야이기 때문에 첫 발을 내딛는 번역자는 누가 되었건 굉장한 욕을 들어먹을 것이 확실하다. 우선 집합과 모임이 다르고 함수와 사상이 다르고 인젝션과 모노모피즘이 다르고 서젝션과 에피모피즘이 다른 판이니 이런 분야의 전공서적은 번역에 앞서 국립국어원과 국가수리과학연구소, 대한수학회 정도의 권위를 갖춘 학술기구에서 규범을 정립할 필요가 있는데, 그쪽의 국어학과 수학 박사님들이 이런 대업을 해낼만큼 대수학과 한국어에 능통한지는 모르겠다.(...) 이런 말을 엄밀하게 구분하지 않고 쓰는 많은 교과서와 많은 저자들을 죄다 수알못으로 규정할 수도 없는 일이니 보통 난관이 아닐 수 없다. 이걸 영어 서적은 물론 프랑스어로 쓰인 니콜라 부르바키의 원론 시리즈나 독일어, 일본어 등 다른 언어로 된 고전 논문과 교과서들까지 분석해가며 번역을 해내는 용자가 나온다면, 번역이 맘에 안 든다고 까내리기에 앞서 부디 응원과 격려를 보내주자.

다만 아예 이 쪽을 전공으로 하지 않는다면 굳이 한 우물만 팔 필요는 없고, 다른 수학분야(주로 대수학)를 공부하면서 해당 개념이 등장할 때 관련 서적을 찾아서 개념을 보충하는 정도로 공부해서 이미지를 잡아가도 충분하다. 물론 대수기하학이나 호몰로지 대수와 같은 고도로 추상적인 분야를 공부하게 되면 반드시라고 해도 좋을 정도로 카테고리 이론의 철학이 끼어들어가니 공부하다 보면 언젠가는 승부를 봐야 하는 분야이다.

한편으로 교재들을 비교하면서 주의할 점이 있는데, 아직도 맥레인과 에일렌베르크의 직계 1세대 제자들이 학계와 강단에서 활동하고 있을 정도로 카테고리 이론이라는 학문분야의 역사가 그리 길지 않다보니 '카테고리'라는게 무엇인지를 정의하는 첫 챕터에서부터 정의 및 용어가 미묘하게 일정치 않은 부분이 있다. 예를 들어 카테고리 공리는 보통 1. Object의 클래스, 2. Morphism의 클래스(일명 hom-set), 3. Morphism의 정의역과 공역, 4. Morphism의 합성 및 합성의 결합법칙, 5. 각각의 Object가 갖는 Identity Morphism이 보장되면 카테고리라 하는 것으로 정하고 있는데, 여기서 '6. 정의역과 공역에 각각 해당하는 두 Object 간 Morphism들의 모임인 hom-set이 두 개 주어질 때 두 hom-set의 정의역과 정의역, 공역과 공역이 제각기 일치하지 않는다면 두 hom-set은 서로소'라는 성질을 카테고리가 반드시 만족하는 카테고리 공리에다 추가하는 책이 있다. 게다가 Morphism의 모임인 hom-set에 대해서도 hom-set은 이름처럼 '집합'인지, 아니면 관례상 그렇게 쓸 뿐 정말로 반드시 집합일 필요는 없는지, 집합일 필요가 없다고 간판까지 hom-class나 arrow-class 같이 갈아치워버려야만 하는지(...) 등을 두고 책마다 저자마다 교수자마다 다르게 설정하고 만리장성을 쌓아나간다. 이런 책마다의 차이가 익숙해지려면 어떤 책이든 1회독 이상을 해내야 하는데, 가뜩이나 낯선 접근을 시도하는 생소한 분야에서 제각기 서술이 다른 책을 여럿 들여다볼수록 초보자에겐 혼란이 가중될 수 있으니 초보자에겐 처음 고른 책이 맘에 안 들어도 1회독은 억지로라도 해내는 인내심과 근성이 요구되는 분야라 할 수 있다.

4. 여담

알렉산더 그로텐디크 니콜라 부르바키꼰대 선배들이 범주론의 접근법 및 언어를 원론 시리즈 저술에 있어 잘 써먹지 않으려 하자 아예 탈퇴해버리고 오랜 기간을 부르바키까로 지냈지만, 그로텐디크의 제자들 중 몇몇은 훗날 부르바키에 가입하기도 했다. 이처럼 범주론은 20세기 중반 즈음 부르바키를 난장판으로 만든 뜨거운 감자 중 하나였는데, 그로텐디크처럼 부르바키를 그만두고 안티로 돌아선 탈퇴자 중 대부분이 범주론에 대해 호의적인 입장이었다고 봐도 무방할 정도였다. 이를 보다못한 손더스 맥레인이 이런 논쟁에서 지나치게 까이던 범주론을 실드쳐보려고 미국에서 프랑스로 넘어와 정모에 참석해봤으나 험악한 논쟁에 끼어들기엔 프랑스어가 서툴러서(...) 별로 큰 역할을 하지는 못했다고.[3]

5. 관련 항목



[1] 권(圈)론. 주로 일본에서 쓰이는 명칭이다. [2] Free object(group, associative algebra 등)들을 보자. lie algebra에서 나타나는 universal enveloping algebra라든가 위상수학에서 나타나는 universal covering space도 보자. [3] 맥레인은 바이마르 공화국 시절의 독일 괴팅겐 대학에서 학위를 받은 독일 유학파 출신이라 독일어에는 능했지만, 이 시기 부르바키 멤버들은 에일렌베르크 같은 폴란드계 회원도 극소수에 불과할 정도로 프랑스인들이 절대다수를 차지했다. 그나마 모어가 독일어였던 그로텐디크만이 맥레인 같은 독일계 학자들과의 의사소통이 쉬웠던 편. 그래서 후세에는 20세기 중반 부르바키의 핫이슈였던 이 범주론 논쟁을 독일계와 프랑스계 수학자들의 기싸움이었다 해석하기도 한다.