최근 수정 시각 : 2022-09-22 02:54:25

범주론


수학기초론
Foundations of Mathematics
{{{#!wiki style="margin:0 -10px -5px;min-height:2em"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin:-6px -1px -11px"
다루는 대상과 주요 토픽
수리논리학 논리 · 논증{ 귀납논증 · 연역논증 · 귀추 · 유추} · 공리 및 공준 · 증명{ 자동정리증명 · 귀류법 · 수학적 귀납법 · 반증 · 더블 카운팅 · PWW} · 논리함수 · 논리 연산 · 잘 정의됨 · 조건문( 조각적 정의) · 명제 논리( 명제 · 아이버슨 괄호 · · · 대우) · 양상논리 · 술어 논리( 존재성과 유일성) · 형식문법 · 유형 이론 · 모형 이론
집합론 집합( 원소 · 공집합 · 집합족 · 곱집합 · 멱집합) · 관계( 동치관계 · 순서 관계) · 순서쌍( 튜플) · 서수( 하세 다이어그램 · 큰 가산서수) · 수 체계 · ZFC( 선택공리) · 기수( 초한기수) · 절대적 무한
범주론 함자 · 수반 · 자연 변환 · 모나드 · 쌍대성
계산가능성 이론 계산 · 오토마타 · 튜링 기계 · 바쁜 비버 · 정지 문제 · 재귀함수
정리
드모르간 법칙 · 대각선 논법 · 러셀의 역설 · 거짓말쟁이의 역설 · 뢰벤하임-스콜렘 정리 · 슈뢰더-베른슈타인 정리 · 집합-부분합 정리 · 퍼스의 항진명제 · 굿스타인 정리 · 불완전성 정리 · 힐베르트의 호텔 · 연속체 가설 · 퍼지 논리
기타
예비사항( 약어 및 기호) · 추상화 · 벤 다이어그램 · 수학철학
틀:논리학 · 틀:이산수학 · 틀:이론 컴퓨터 과학 · 철학 관련 정보 · 논리학 관련 정보 · 수학 관련 정보 }}}}}}}}}



[[대수학|대수학
Algebra
]]
{{{#!wiki style="margin:0 -10px -5px;min-height:2em"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin:-6px -1px -11px"
이론
기본 대상 연산 · 항등식( 가비의 이 · 곱셈 공식( 통분 · 약분) · 인수분해) · 부등식( 절대부등식) · 방정식( 풀이 · ( 무연근 · 허근 · 비에트의 정리( 근과 계수의 관계) · 제곱근( 이중근호 · 개방법) · 환원 불능) · 부정 · 불능) · 비례식 · 다항식 · 산술( 시계 산술)
수 체계 자연수( 소수) · 정수( 음수) · 유리수 · 실수( 무리수( 초월수) · 초실수) · 복소수( 허수) · 사원수 · 대수적 수 · 벡터 공간
다루는 대상과 주요 토픽
대수적 구조
군(group) 대칭군 · 기본군 · 자유군 · 리 군 · 괴물군 · 점군 · 순환군 · 군의 작용 · 동형 정리 · 실로우 정리
환(ring) 아이디얼
체(field) 갈루아 이론
대수 가환대수 · 리 대수 · 불 대수( 크로네커 델타)
마그마· 반군· 모노이드 자유 모노이드 · 가환 모노이드
선형대수학 벡터 · 행렬 · 텐서( 텐서곱) · 벡터 공간( 선형사상) · 가군(Module) · 내적 공간( 그람-슈미트 과정 · 수반 연산자)
정리·추측
대수학의 기본정리 · 나머지 정리 · 유클리드 호제법 · 부분분수분해 · PID 위의 유한생성 가군의 기본정리 · 산술·기하 평균 부등식 · 바이어슈트라스 분해 정리 · 호지 추측미해결 · 가환대수에서의 호몰로지 추측미해결
관련 하위 분야
범주론 함자 · 수반 · 자연 변환 · 모나드 · 쌍대성 · 층 이론( 층들) · 토포스 이론 · 타입 이론
대수기하학 대수다양체 · 스킴 · 사슬 복합체( 에탈 코호몰로지) · 모티브
대수적 정수론 타원곡선 · 디오판토스 방정식 · 유리근 정리 · 모듈러성 정리
가환대수학 스펙트럼 정리
표현론 실베스터 행렬
대수적 위상수학 호모토피
기타 및 관련 문서
수학 관련 정보 · 추상화 · 1학년의 꿈 · 노름 · 혼합계산 · 분배법칙 · 교환법칙 · 결합법칙 · 교재 }}}}}}}}}


1. 개요2. 내용3. 참고 서적4. 여담5. 관련 항목

1. 개요

, [1] / CATEGORY THEORY

수학 전반에서 등장하는 각종 수학적 구조와 그들 간의 관계를 메타 개념으로 생각하여, 그들을 범주(category)라는 추상적인 개념으로 묶어서 다루는 이론. 본래는 대수학 및 대수위상수학에서의 필요에 의해 창시되고 체계화하였지만, 점차 토포스 이론, 층 이론, 타입 이론 등 깊고 깊은 세부 및 연계 분야가 발전해나가며 수많은 분야에 영향을 끼치고 공리적 집합론의 대안으로까지 거론되는등 현대수학의 뼈대가 되는 핵심 이론으로 주목받고 있다.

2. 내용

수학과 학부 전공심화과정 이상의 수준에서 대수학 위상수학 등을 일정 수준 이상으로 공부하다 보면, 배우는 분야마다 해당 분야에서 관심이 있는 '특정 구조를 가지는 집합'들과 '그 집합들 사이의 대응관계'라는 비슷한 구조가 나타나며 심지어는 자기가 읽고 있는 교과서가 여러 가지 논리전개나 서술 방식을 우려먹는(?)다는 느낌도 받게 된다. 그렇다고 주화입마했다가는 다른 분야 교과서가 더 이해하기 편하다고 시험 기간에 다른 책을 보다가 성적이 떨어지는 불상사를 겪는 수가 있다 예를 들면, 현대대수학 교과서에서 ()과 군(환) 사이의 준동형 사상 혹은 동형 사상, 선형대수학 교과서에서 벡터 공간 사이의 선형 변환, 위상수학 교과서에서 위상 공간 사이의 연속함수 등을 다루는 것을 오랫동안 음미하다보면 사상, 변환, 함수들 간에 어떤 특정한 패턴이 약간의 용어나 서술방식만 달리한채 반복되고 있다는 점을 알 수 있다. 항등 사상이 항상 저런 특정한 '집합들 사이의 대응관계', 혹은 속칭 '모피즘' 내지는 '화살표' 중 하나에 속한다든가 화살표와 화살표의 합성 또한 화살표라는 것도 있지만, 이런 기초적인 것 말고도 몇몇 독특한 구조들이 서로 상관 없어 보이는 분야 여기저기서 나타난다. 가장 대표적인 예로 split exact sequence를 들 수 있고, universal object라는 구조[2]도 좋은 예에 속한다. 화살표들을 갖고 놀다 보면(...) 이런 예들을 심심찮게 찾을 수 있다. 니콜라 부르바키의 정체 중 하나였던 사무엘 에일렌베르크(Samuel Eilenberg)와 손더스 맥레인(Saunders Mac Lane)이 대수적 위상수학, 특히 호몰로지 이론을 연구하면서 이러한 각 수학 분야들에서 부지기수로 나타나는 공통된 구조를 다시 한번 추상화시켜서 다룰 수 있지 않을까 하는 데에 착안하여 범주(category)라는 개념을 도입하게 된다.

범주론에서 다루는 범주(category)는 쉽게 말하면 아주 간단한 몇몇 조건을 만족시키는 대상(object)과 그 대상들 사이의 관계를 나타내는 사상(morphism)의 모음인데, 이 대상과 사상은 그 조건만 만족시키면 말 그대로 무엇이든 가능해서, 대상은 굳이 어떠한 집합일 필요가 없고 사상도 굳이 어떠한 함수일 필요도 없다. 물론 이렇게 정의된 범주들 사이의 대응관계도 생각해볼 수 있는데, 두 범주를 대응시키는 사상을 '함자(functor)'라고 한다. 물론 이 범주들과 함자들을 또 하나의 범주로 보고(...) 범주의 범주를 정의할 수도 있다.


범주론을 전공한 수학자 겸 피아니스트 겸 작가인 Eugenia Cheng 박사가 전세계 함수형 프로그래머들의 정모인 Lambda World 2017에 참석하여 가진 프리젠테이션 영상. 본업이 프로그래머가 아니다보니 어려운 프로그래밍에 관한 주제보다는 비전공자를 위한 실생활 속 예시를 들며 범주론 소개에 치중한 내용이라 비전공자에게도 영어가 들린다면 범주론에 대해 흥미를 돋구기 좋다. 소프트웨어 개발자들 중에도 수포자는 널리고 널렸다

이렇듯 고도로 추상적인 분야이지만 기존 집합론이 한계를 보여줬던 많은 분야에서 범주론이 그 대안으로 인식되기 시작되면서 수학 전반에 걸쳐 사용되기 시작[3] 하고, 심지어는 컴퓨터 공학과 같은 응용 학문에서도 범주론을 끌어다 쓰기까지 한다. 오히려 어떤 면에서는 대수학 전공자가 아니라 덕력 높은 프로그래머 및 컴퓨터 사이언티스트들이 범주론을 논하는 업계 학계의 주류로 발돋움하고 있는게 아닌지 갸우뚱할 지경이나, 사실은 프로그래머들도 어지간한 내공이 쌓이지 않으면 수학을 이 정도로까지 체화하고 함수형 프로그래밍을 능수능란하게 해낼 정도는 되지 않기에 2020년대 초반 기준으로 '아직까지는' 흔한 코딩 부트캠프에서 범주론을 마스터한 함수형 프로그래머를 찍어낼 수준으로까지 진입장벽이 낮아진 것은 아니다. 대신 위의 Eugenia Cheng 같은 순수수학자들도 밥벌이는 말할 것도 없고 학문적 필요에 의해 프로그래밍을 공부해야 하는 지경이 되었는데, 이런 점에서는 범주론이 수학, 수리논리학, 컴퓨터과학 등의 학제간 연구분야가 되어간다고 볼 수도 있을 것이다. 대표적으로 함수형 프로그래밍 언어 Haskell에서는 범주론에 등장하는 개념들이 아주 중요하게 사용되며, 이 하스켈이나 Scala를 비롯한 함수형 프로그래밍 언어를 완벽하게 써먹을 정도로 숙련된 전문가들은 수학 전공자나 그에 맞먹는 수리논리학적, 대수학적 내공을 쌓은 용자들이 대부분이다. 이 분야 거장 중 하나인 Steve Awodey는 오리건 대학 여름 강의에서 범주론이 크게 람다 칼큘러스 등 논리학적 관점과 대수학의 관점이라는 두 갈래 관점으로 나뉘면서도 이 둘은 상호보완적이라고 지적했는데, 프로그래머들의 관점은 후자보다는 전자에 해당한다 할 수 있겠다. 하지만 범주론은 결국 대수적 구조를 다룰 때 비슷한 패턴으로 반복되어 나타나는 현대대수학의 클리셰에서 출발하는 내용이므로 결국 함수형 프로그래밍을 깊이 학습하고자 하는 컴퓨터 사이언티스트 및 프로그래머들은 소프트웨어 개발자들이 흔히 배우는 미적분학, 선형대수학 선을 훨씬 넘어 수학 전공자 수준의 역량을 갖출 것이 요구되며, 컴퓨터공학 및 기타 이공학 전공자들에겐 낯설게 느껴지는 대수학적 역량을 바탕으로 프로그래밍을 배우는 수학 전공자들이 업계에서 우대받고 있는 형편이다.

3. 참고 서적

보통 이 분야의 창시자 중 한명인 Saunders Mac Lane이 집필한 《Categories for the Working Mathematician》[4]이 스탠다드 교재로 평가받지만 신생분야치고는 연식이 오래된 책이라 처음 카테고리 이론을 배우려는 학생들 눈높이와는 조금 괴리감이 있을 수 있다. 그 외에도 Mac Lane의 제자인 Steve Awodey의 《Category Theory》도 참고서로 종종 언급되는 편. Francis Borceux가 지은 《Handbook of Categorical Algebra》 3부작은 카테고리 이론을 바탕으로 대수학도들이 목말라하는 주제를 폭넓게 다루고 있다. 이외에도 대학원 수준 대수학 교재에서는 한 소챕터나 부록 등에 간단한 카테고리 이론이 들어가 있는 경우도 많으니 참고하자. 예를 들면 대수학의 명저 중 하나인, 서지 랭의 《Algebra》에서도 카테고리 이론 챕터가 나오는데, 정말 핵심적인 내용만 소개하고 넘어가지만 그것만으로도 평이 상당히 좋다. 이야기책(...)으로 악명 높은 서울대 이인석 교수의 《학부 대수학 강의 II : 대수학》에서도 그 영향으로 초반부터 카테고리 이론을 통해 구조에 대해 추상적으로 접근한다.

당연하지만 대수학 전공자들만 범주론을 공부하는 것은 아니라서, 집합론이나 수리논리학을 중심으로 다룬 교과서 중에서 카테고리 이론을 다루는 예도 있다. Nonworking Mathematician 일례로 Peter J. Cameron의 《Sets, Logic and Categories》가 있다. 이 영어 교과서에서는 흔히 쓰이는 기호들과는 조금 다른 표기법을 쓰기 때문에 읽을 때 다소 어색함을 느낄 수 있으므로 다른 집합론 책에 익숙한 독자들에게는 약간의 불편을 초래하는데, 《 실버만 복소해석학》 번역에도 참여한 수학 나라의 앨리스 출신 역자들이 번역을 맡아 《수리논리학입문》이란 제목으로 출간한 번역본은 원저자가 써먹은 특이하거나 오래된 표기법을 오늘날 흔히 쓰는 표기법으로 많이 교정한 채로 제법 깔끔하게 번역되었다. 물론 맥레인과 손더스가 지은 Categories for the Working Mathematician 같은 맥빠지는 오역이 아예 없다는건 아니다 물론 범주론이 이 책의 메인 토픽까지는 아니라서 수리논리 전공자들에겐 이 정도도 입문용에 불과하다. Steve Awodey의 《Category Theory》는 수리논리학도는 물론 대수학도를 비롯한 타전공자에게도 두루 널리 읽혀 《Categories for the Working Mathematician》 다음가는 명저로 꼽히며, Emily Riehl이 지은 《Category Theory in Context》는 Awodey의 저서에 비해 대수학도들이 좋아하는 내용의 비중을 줄이고 수리논리학도들의 학습에 중요한 부분을 강조한 덕에 집합론에만 익숙한 학생들이 무작정 읽기에는 난해한 구성으로 이뤄져 있다. 그 외에 Andrei Rodin이 지은 《Axiomatic Method and Category Theory》는 공리적 집합론 및 수리논리학의 역사에 대해 조망한 후 카테고리 이론에 대해 소개함으로써 수학사서적인 면모도 묻어나는 빌드업을 선보이기도 한다.

다만 아예 이 쪽을 전공으로 하지 않는다면 굳이 한 우물만 팔 필요는 없고, 다른 수학분야(주로 대수학)를 공부하면서 해당 개념이 등장할 때 관련 서적을 찾아서 개념을 보충하는 정도로 공부해서 이미지를 잡아가도 충분하다. 물론 대수기하학이나 호몰로지 대수와 같은 고도로 추상적인 분야를 공부하게 되면 반드시라고 해도 좋을 정도로 카테고리 이론의 철학이 끼어들어가니 공부하다 보면 언젠가는 승부를 봐야 하는 분야이다. 이 때문에 일부 학자들은 이제 막 집합론을 배우는 학부 저학년생들에게도 일찍부터 범주론을 가르쳐야 한다는 주장을 펴기도 하나, 처음부터 미분다양체 및 미분동형사상 같은 어마어마한 예시를 거론하는 교재들을 이제 막 엡실론-델타 논법을 배우는 1~2학년 햇병아리들에게 읽히는 것은 부담스럽기만 하다. 대개의 교재들도 학부 저학년생보다는 고학년생 및 대학원생 독자를 대상으로 쓰이는 것이 현실이라 이런 주장은 아직은 실현되지 않고 있다.

한국어로 된 서적은... 사실상 없다고 봐도 무방하다. 윗 문단에서 소개한 《수리논리학 입문》이 위 영상에 등장하는 Eugenia Cheng 박사가 요리책 컨셉으로 저술한 교양서 《수학을 요리하다》(절판)에 소개된 것을 제외하면 한국어 (번역) 교재로서 카테고리 이론을 다루는 사실상 유일한 사례이며, 범주론만을 전문적으로 다룬 고급과정 교과서를 본격적으로 번역하는 용자 번역자들은 아직 나오지 않고 있다. 그나마 한국어로 된 교재 중에 서울대 수리과학부 이인석 교수가 지은 《학부 대수학 강의 II : 대수학》이 대수적 구조를 가르치기 위해 범주론의 개념을 동원하기는 하지만 이 책 역시 본질적으로는 대수학 서적이라 범주론 찍먹을 넘어 본격적으로 다루지는 않는다는게 수리논리학도들에게는 아쉬움으로 남는다. 물론 프로그래머 독자도 낚아올리기에 좋은 블루오션이므로 번역서가 언젠가는 나오리라는 기대는 걸어볼만 하지만, 이 분야는 아직 한국어 용어도 제대로 정립되지 않은 분야이기 때문에 첫 발을 내딛는 번역자는 누가 되었건 굉장한 욕을 들어먹을 것이 확실하다. 일단 아무리 대수학에서 중요하게 쓰인다고는 해도 교과서를 저술할만큼 통달한 학자들은 결국 수리논리학자들인데, 수리논리학은 국내 대학에서 근무하는 전문가의 수도 그리 많지 않은 분야라서 국역에 있어서도 여러 용어가 제대로 정립되거나 합의되지 않은 주제가 많다. 우선 집합과 모임이 다르고 함수와 사상이 다르고 인젝션과 모노모피즘이 다르고 서젝션과 에피모피즘이 다른 판이니 이런 분야의 전공서적은 번역에 앞서 국립국어원과 국가수리과학연구소, 대한수학회 정도의 권위를 갖춘 학술기구에서 규범을 정립할 필요가 있는데, 그쪽의 국어학과 수학 박사님들이 이런 대업을 해낼만큼 대수학과 한국어에 능통한지는 모르겠다.(...) 이런 말을 엄밀하게 구분하지 않고 쓰는 많은 교과서와 많은 저자들을 죄다 수알못으로 규정할 수도 없는 일이니 보통 난관이 아닐 수 없다. 이걸 영어 서적은 물론 프랑스어로 쓰인 니콜라 부르바키의 원론 시리즈나 독일어, 일본어 등 다른 언어로 된 고전 논문과 교과서들까지 분석해가며 번역을 해내는 용자가 나온다면, 번역이 맘에 안 든다고 까내리기에 앞서 부디 응원과 격려를 보내주자.

한편으로 교재들을 비교하면서 주의할 점이 있는데, 아직도 맥레인과 에일렌베르크의 직계 1세대 제자들이 학계와 강단에서 활동하고 있을 정도로 카테고리 이론이라는 학문분야의 역사가 그리 길지 않다보니 '카테고리'라는게 무엇인지를 정의하는 첫 챕터에서부터 정의 및 용어가 미묘하게 일정치 않은 부분이 있다. 예를 들어 카테고리 공리는 보통 1. Object의 클래스, 2. Morphism의 클래스(일명 hom-set), 3. Morphism의 정의역과 공역, 4. Morphism의 합성 및 합성의 결합법칙, 5. 각각의 Object가 갖는 Identity Morphism이 보장되면 카테고리라 하는 것으로 정하고 있는데, 여기서 '6. 정의역과 공역에 각각 해당하는 두 Object 간 Morphism들의 모임인 hom-set이 두 개 주어질 때 두 hom-set의 정의역과 정의역, 공역과 공역이 제각기 일치하지 않는다면 두 hom-set은 서로소'라는 성질을 카테고리가 반드시 만족하는 카테고리 공리에다 추가하는 책이 있다. 게다가 Morphism의 모임인 hom-set에 대해서도 hom-set은 이름처럼 '집합'인지, 아니면 관례상 그렇게 쓸 뿐 정말로 반드시 집합일 필요는 없는지, 집합일 필요가 없다고 간판까지 hom-class나 arrow-class 같이 갈아치워버려야만 하는지(...) 등을 두고 책마다 저자마다 교수자마다 다르게 설정하고 만리장성을 쌓아나간다. 이런 책마다의 차이가 익숙해지려면 어떤 책이든 1회독 이상을 해내야 하는데, 가뜩이나 낯선 접근을 시도하는 생소한 분야에서 제각기 서술이 다른 책을 여럿 들여다볼수록 초보자에겐 혼란이 가중될 수 있으니 초보자에겐 처음 고른 책이 맘에 안 들어도 1회독은 억지로라도 해내는 인내심과 근성이 요구되는 분야라 할 수 있다.

4. 여담

알렉산더 그로텐디크 니콜라 부르바키꼰대 선배들이 범주론의 접근법 및 언어를 원론 시리즈 저술에 있어 잘 써먹지 않으려 하자 아예 탈퇴해버리고 오랜 기간을 부르바키까로 지냈지만, 그로텐디크의 제자들 중 몇몇은 훗날 부르바키에 가입하기도 했다. 이처럼 범주론은 20세기 중반 즈음 부르바키를 난장판으로 만든 뜨거운 감자 중 하나였는데, 그로텐디크처럼 부르바키를 그만두고 안티로 돌아선 탈퇴자 중 대부분이 범주론에 대해 호의적인 입장이었다고 봐도 무방할 정도였다. 이를 보다못한 손더스 맥레인이 이런 논쟁에서 지나치게 까이던 범주론을 실드쳐보려고 미국에서 프랑스로 넘어와 정모에 참석해봤으나 험악한 논쟁에 끼어들기엔 프랑스어가 서툴러서(...) 별로 큰 역할을 하지는 못했다고.

5. 관련 항목


[1] 권(圈)론. 주로 일본에서 쓰이는 명칭이다. [2] Free object(group, associative algebra 등)들을 보자. lie algebra에서 나타나는 universal enveloping algebra라든가 위상수학에서 나타나는 universal covering space도 보자. [3] 집합론이 한계를 보여줬다는 말은, ZFC 공리계가 아닌 다른 공리계를 익혀 써먹는 것도 각오해야 한다는 뜻이다. 이런 생소함을 덜기 위해 사전에 ZFC와 더불어 익혀두면 좋은 공리계로는 폰 노이만-베르나이스-괴델(von Neumann-Bernays-Gödel)과 모스-켈리(Morse-Kelley) 공리계가 있는데, ZFC의 보존적 확장이라 할 수 있는 NBG의 증명가능성은 집합에 관한 명제에 있어 ZFC의 증명가능성과 동치이며, MK는 NBG와 비슷해보이나 재귀적 정의의 허용과 유한공리화의 불가능성 등 약간의 차이가 있는 공리계이다. 이런 대안적인 공리계는 카테고리 이론 학습에 있어 필수까지는 아니어도 미리 ZFC와 더불어 사전에 익혀두는 것이 교과서를 읽어나가는 데에 편리하다. 이외에도 범주론을 학습하다보면 NBG처럼 ZFC의 큰 틀에서 크게 벗어나지 않는 공리계 뿐만 아니라 그로텐디크 유니버스라는 것을 정의하는 타르스키-그로텐디크 집합론 등 여러 참신한 공리계를 접하게 된다. [4] 이 Working Mathematician이라는 요상한 말은 원래 니콜라 부르바키에게서 나왔다. 부르바키는 기호논리학 저널에 낸 기고와 원론 시리즈를 통해 자신은 (수학자라기보다는 철학자라 봐야 할 듯한) 수리논리학자들이 좋아하는 메타수학보다는 논리를 가지고 호몰로지 대수라던가, 대수위상이라던가, 가환대수라던가, 대수기하학 같은 실용적(...)인 연구를 하는 수학자들의 언어에 더 큰 관심을 갖고 있다는 취지로 이 말을 썼는데, 부르바키의 본체 중 하나였던 에일렌베르크와 함께 범주론의 기초를 다진 맥레인도 이 말을 썩 맘에 들어했는지 고전으로 남은 교과서의 제목에다 박제를 해버렸다. 결국 Emily Riehl 등 후대의 카테고리 이론가들도 즐겨 쓰는등 Working Mathematician이라는 말은 반쯤 밈이 되어버렸다. 이외에 가끔 수학과를 나와 연구를 계속 하고 싶었지만 생계를 위해 학계를 떠난 소프트웨어 개발자나 사교육 강사 등이 이 말을 자조적으로 쓰기도 한다.