| 인공지능의 단계 | ||
| 약인공지능 |
강인공지능 ( 인공 일반 지능, 인공 의식) |
초인공지능 ( 인공지능 특이점) |
1. 개요
強 人 工 知 能 / strong AI, true AI약인공지능에 대비되는 의미로 만들어진 용어이다. 약인공지능은 어떤 특정한 한 가지 분야의 주어진 일을 인간의 지시에 따라 수행하는 인공지능을 말하는데 이러한 약인공지능의 제한된 기능을 뛰어넘어 더 발달된 인공지능이 바로 강인공지능이다.
2. 특징
강인공지능은 인간의 지성을 컴퓨터의 정보처리능력으로 구현한 시스템이다. 인간과 동일한 지성을 가진 프로그램이건, 뇌를 통째로 스캔을 떠서 컴퓨터로 돌리건 상관없다. 당연히 아예 하나의 인간으로 보아도 무방한 수준의 지적 능력을 가지고 있다는 의미가 되는데 이 때문에 현재 논란이 되는 인공지능의 문제도 대부분 강인공지능으로부터 비롯된 우려에서 시작되고 있다.3. 현황
사실 강인공지능이라고 불릴 만한 수준의 인공지능은 지금도 개발되지 않았다. 개발은커녕 개념조차도 모호한데, 인간의 지성이 대체 무엇인지 명확히 정의되지 않았기 때문이다. 기계가 어느 정도의 일을 할 수 있어야 인간과 동등하다고 볼 수 있을까? 과거에는 체스를 둘 수 있거나 바둑을 잘 둘 수 있으면 사람하고 비슷하지 않을까라고 생각했다. 그러나 특정한 일의 수행 가능 여부를 기준으로 인간의 지성 유무를 판단하는 건 의미가 없고, 이는 지금까지 수없이 증명되어 왔다. 그림을 보는 것이나 소리를 듣는 등 기존에 사람만이 가능하다고 생각되던 일들을 이제는 대부분 컴퓨터로도 얼마든지 처리할 수 있기 때문이다.사람과 비슷한 수준의 일을 할 수 있게 되었다고 해도 강인공지능이 탄생하기 위한 장벽은 많다. 예컨대 의식이나 마음, 생각이 어떻게 발생하는지는 뇌 과학이 완벽하지는 아닐지라도 많이 해명됐다. 그러나 이를 넘어 뇌를 완벽히 모방했을 때, 의식이 존재하는지 알아낼 수 없다는데 있다. 자세히는 아래문단에서 설명.[1] 아무튼 이와 관련하여 심신 문제라고 하는 것이 있는데 하드웨어로 볼 수 있는 뇌와 소프트웨어라고 볼 수 있는 정신을 서로 떼어놓고 생각할 수 있는지 없는지에 대한 논제다. 육체와 영혼을 서로 별개의 존재로 보는 관점을 이원론, 하나로 보는 관점을 일원론이라 한다. 대게 이원론은 종교적으로 지지 받는 이론이라(참, 거짓이 증명 불가능) 과학적인 측면에서 이 토의는 보통 일원론을 전제로 진행하게 된다.
강인공지능의 개발 가능 여부는 곧 정신을 뇌가 아닌 컴퓨터에 구현할 수 있냐의 여부인데, 이게 가능하려면 뇌만 인위적으로 재현해도 정신이 나타나야 한다. 따라서 강인공지능을 가능하다고 보는 것은 심신일원론적인 시각과 부합된다. 현재 과학계에서는 당연히 심신일원론의 입장을 취하고 있고[2] 각종 실험으로 증명도 했지만 "어떻게?" 라는 질문에는 아직 더 연구가 필요하다.
위에서 언급된 중국어방 논변이 이런 문제에 대해서 인공지능의 지능 유무를 판정하는 튜링 테스트를 디스하기 위한 논변인데, 한 마디로 요약하면 정보처리기계는 문제를 이해하지 못하더라도 계산과 정보처리를 통해 그 문제에 맞는 답을 찾아 제시할 수 있지만, 이는 문제를 이해하는 능력, 즉 지능을 가졌다고 볼 수는 없다는 것이다 물론 이 논변 역시 많은 반박을 받았으나, 결정적으로 반론되었다고 말할수도 없다[3]. 이는 강인공지능의 개발에 대해서도 상당히 유의미한 문제인데, 만약 강인공지능(이라고 여겨지는 무언가)이 개발되었을때 그것은 정말 인간과 같은 의식을 가지고 있을수도 있지만 단지 알고리즘에 따라 단순히 정해진 반응을 내놓는 것 뿐이지만, 그 알고리즘이 진짜 의식의 결과물로 오인될만큼 정교하게 짜여 있는 것일 뿐일수도 있는 것이다. 그렇다면 이 차이를 무엇을 기준으로 어떻게 판단할 수 있을 것인가?[4]
게다가 이게 끝이 아니라 더욱 근본적인 문제도 있다. 사람들은 일반적으로 자유의지를 가진 인간의 의식을 알고리즘에 따라 반응하는 프로그램과는 다른 별개의 무언가로 생각하지만 사실 자유의지의 존재도 증명되지 않았다. 쉽게 말해 위에서 언급된 것처럼 '인간처럼 진짜 의식이 있는 것'과 '프로그램처럼 외부에서 볼 때 의식이 있는 것처럼 보일 뿐인 것'을 구분하려 한다면, 먼저 '인간처럼 진짜 의식이 있는 것'이 무엇인지부터 정의해야 하는데, 아직 대다수 학자들이 합의하는 결론이 없다는 것이다. 따라서 어쩌면 인간의 의식은 그저 많이 복잡한 프로그램이라는 공식은 사실일 수도 있다. 이에 대해서는 중국어 방, 자유의지, 결정론 항목 등을 참고하자. 또한 경험주의적인 관점에서 강인공지능은 받아들이기 어려운 것인데 인간 스스로가 경험하지 않은, 인공지능에 의해 성찰 없이 입력된 정보는 정보가 될 수 없기 때문이라는 문제도 있다. 관료제의 문서만능주의나 사이버 렉카질이 인공지능의 오용에 의해 일어날 수 있다는 것이다. 다만 현재 대다수 엔지니어들은 철학적인 문제보다는 눈앞의 현실적인 문제의 해결에 집중하므로 당장은 그리 중요한 사안은 아니라 할 수 있겠다. 바빠서 그런 것까지 신경 쓸 여유가 없기도 하고.
아무튼 위의 내용 말고도 각 분야 박사들 입장에서 머리 터지는 문제가 산재해 있기 때문에 지금의 강인공지능 연구라는 것은 이론을 토대로 만들기보다는 뇌의 동작방식을 직접 뜯어서 연구하거나 아니면 시뮬레이션을 목표로 연구가 진행되고 있다. 하지만 뇌를 현실에 가깝게 시뮬레이션 한다는 것 역시 현대 컴퓨터의 정보처리 능력으로는 아직 무리이기에 근시일 내에 결과물을 보기 어렵다는 점은 확실하다. 결국 '인간의 지성이라는 것은 무엇인가?' 에 대한 물음의 해답이 아직도 나오지 않은 것이 가장 큰 장애물인 셈이다.
강인공지능은 일반적으로 모든 상황에 대해 스스로 행동과 학습이 가능하며, 그것을 수행할 수 있는 인간 수준의 지능을 지닌 인공지능을 말한다. 실제로 사람들이 AI에 대해 떠올리는 보편적인 이미지는 강인공지능이라서, AI가 뭐든지 할 수 있다고 믿으며, 약인공지능을 데이터와 환경을 외운 것이 아니라 AI가 스스로 지성을 갖추고 행동하는 것이라 오해하기도 한다. 강인공지능은 상술한 바와 같이 아직 기술적인 갈피조차 잡지 못하고 있는 상황[5]이기에 정확한 출현시기를 특정할 수 없다.[6]
최근 들어, 대중은 종종 강인공지능이 이미 존재하거나 곧 실현될 것이라 믿는다. 특히 GPT-4와 같은 발전된 AI 모델이 특정 작업에서 뛰어난 성능을 보이며 AGI로 오인되기도 한다. 그러나 이러한 모델은 단지 사전에 학습된 데이터를 기반으로 작동할 뿐, 진정한 의식이나 자율성을 가지지 않는다.
예를 들어, 2023년, 마이크로소프트는 "AGI의 불씨: GPT-4에 대한 초기 실험"이라는 논문을 통해 GPT-4가 AGI에 가까워질 가능성을 제기했다. 하지만 이 논문은 검증되지 않은 초기 연구이며, AGI 구현이 가까워졌다는 주장은 섣부르다는 비판을 받았다.
또한, OpenAI를 비롯한 기업들은 AGI 개발을 목표로 내세우며 투자 유치를 위한 마케팅 전략으로 AGI 용어를 사용하는 경향이 있다.
하지만 2024년 12월 이후로 빅테크 업계의 관계자들은 빠른 시일 이내로 강인공지능이 등장할것이라 주장하고 있다. o1모델을 개발한 인공지능 개발사인 오픈AI의 이사회는 15년 이내로 AGI가 등장할것이라 주장했다. # 또한 scale AI의 CEO인 현재 AI는 인류의 마지막 시험을 앞두고 있으며, 이를 통과하면 AGI가 된다고 주장하였다. # 그리고 OpenAI의 CEO인 샘 알트만은 AGI가 예상보다 빠르게 도달할것이라 언급한바가 있으며 # 오픈AI의 공동 창업자중 한명인 일론 머스크 역시 2025년 이내로 AGI 도달이 가능할것으로 전망했다. #
4. 세분화
강인공지능이라는 개념은 더 구체화되어서, 일반적으로 생각하는 인공지능의 발전 단계인 인공 일반 지능(artificial general intelligence)과 그와는 별개의 개념인 인공 의식(artificial consciousness)이라는 개념으로 분리되었고, 그 중 인공 일반 지능은 더 나아가서는 초지능이라는 개념을 만들어 냈다.5. 관련 문서
[1]
약간은 다른 말이지만 일부 물리학자들은 생명이 탄생하면 의식은 창발적으로 발생하는 것이라 생각한다. 폴 데이비스 "우리뿐인가?" 123-24쪽. 김영사
[2]
아주 당연한 소리지만
의식을 인공으로 구현하고자 하는 강인공지능 입장에서 이원론은 아예 승산이 없다. 상식적으로 뇌를 완벽히 똑같이 만들었는데도
정신이 재현되지 않으면 어떻게 강인공지능을 만든단 말인가?
[3]
단, 2014년 영국 레딩대학교에서 개발한 <유진 구스트만>이 '우수한 지능보다 알고리즘의 약점을 심리학으로 때워' 튜링 테스트를 통과함으로써 존 설 교수의 논리를 다시 한번 입증해버렸다' 식으로 주장하는 이들도 있으나, 이는 지나치게 과장된 주장이다. 일단 레딩대의 유진이 튜링테스트를 통과했다고 판정된 기준 자체가 정해진 시간동안의 테스트에서 심사위원중 33%에게 인간으로 인정을 받음으로써 합격 기준인 30%를 넘었다는 의미이기 때문. 즉, 이전에도 20%대의 인정을 받은 AI는 있었고, 유진은 그런 AI들보다 좀 더 질문 DB와 배경설정을 공들여 짜서 조금 높은 성과를 냈다는 정도의 의미이므로 튜링 테스트 및 중국어방 논변을 둘러싼 논쟁에 대해 어떤 유의미한 변화의 계기를 제공했다고 볼 정도는 아니다.
[4]
예를 들어 대안중에는 그 차이를 굳이 구별할 수 없다, 학자들은 둘째 치고라도 일반인들이 대상이 의식이 있다고 여기고, 의식을 가진 상대로 인식한다면 그것에는 의식이 있다고 인정해 줄 수 있다는 의견이라거나, 의식과 구별할 수 없을 정도로 고도로 정교한 알고리즘에 대해 우리는 어렴풋이 상상할 수 있을 뿐 구체적인 예측은 아직 할 수 없으며, 그 정도로 극히 복잡한 알고리즘이라면 우리가 의식이라 부르는 무언가에 필적하는 복잡성을 가질 수도 있을 것이라는 의견 등도 제시되고 있다.
[5]
인간의 지능에 대한 정의 문제, 인공적으로 구현한 지능이 인간이 정의한 지능과 상통하는지에 대한 문제 등.
[6]
전문가들의 인터뷰나 트위터 내용 등으로 보자면 최소한 아무리 못해도 5년 이상은 지나야 윤곽이라도 보일 듯하다.