창의력은 창발적이며 부분합으로 환원되지 않는다

 제목 참 길기도 하고 난해하기도 하죠? 그런데 저 제목이 전부입니다. 창의력이라는 것은 결코 쪼개어서 설명할 수 없고, 무슨 레고 블럭처럼 조립식으로 얻을 수 없는 것이고 전체적으로 생각과 아이디어의 구조화를 통해서 해명되는 것이지 분석적으로 환원적으로 선형적인 수식처럼 나눠 떨어지지는 않는다는 것을 표현한 것입니다.

 제가 이번 학기에 수강하는 철학 전공 교과목이 2개가 있는데 하나는 과학철학이라고 반지성주의 철학자가 가르치는 철학 수업이고, 하나는 인공지능 심리철학이라고 체화인지, 기능주의, 계산주의, 연결주의, 창발론, IIT, 의식, 인공지능 윤리 등등 매우 복합적이고 다양한 주제에 대해서 폭 넓게 다루면서도 철학자다운 사고와 생각을 훈련하는 좋은 수업을 하나 듣고 있습니다.

 이 수업은 수강생이 적은 덕분에 절대 평가가 되었는데요, 그것과는 상관 없이 각자 한 편의 논문을 내는 것을 목표로 진행하는 수업입니다. 물론 대학원 수업이 아니니까 소논문, 그러니까 논문의 형식을 빌려서 글을 쓰는 연습을 하고 우리들끼리 돌려보는 것에 대해서 한정한 수업 목표를 잡으신 것 같은데 전 당연히 논문이라고 하면 소규모 인원이 아니라 모두에게 공개할 수 있는 수준이 되어야 한다는 생각을 해서 말입니다.

 중간고사는 기능주의의 대표라고 할 수 있는 튜링 테스트, 그것의 한계를 비판하는 존 썰의 중국어 방 논변, 그리고 중국어 방 논변을 세세하게 설명하는 Moody의 4가지 이해(우리가 이해라는 것도 1가지가 아니라 여러 층위의 수준이 다양한 이해가 가능하다고 주장)에 대해서 기본적으로 요약하고 둘 중 하나를 비판하거나(튜링 or 썰) 아니면 둘 다 비판을 하고 대안을 제시하는 과제가 나왔었습니다.

마침 중간고사 기간 즈음에 해서 chatGPT가 튜링 테스트를 통과했고, 심지어 인간보다도 더 높은 점수를 얻었다는 다소 충격적인 소식이 들려왔습니다. 불과 1년 전만 하더라도 튜링 테스트를 통과할 수 있을까 의문스러워하던 의견이 있었던 것을 보면 정말 인공지능의 발전 속도는 상상을 초월합니다

https://www.digitaltoday.co.kr/news/articleView.html?idxno=559761

 특히 저는 평소 철학자스럽다, 메타적이다 거시적이다 라는 의견이나 평가를 받긴 했지만 철학 전공 수업을 한 번도 실제로 들은 적은 없었고 이번이 처음이었으며, 특히 철학적 글쓰기 철학 논문의 형식을 따르면서 글을 쓰는 것이 처음이라서 대단히 걱정스러웠거든요. 그런데 뭐 평소 관심을 가지고 많이 고민한 주제이기도 하고 기본적인 배경 지식은 교수님이 충실히 잘 알려 주셨으니, 중간고사의 최소 요건을 충족하면서도 나머지 부분은 내 창의성으로 한번 과감하게 찢어보자(아니면 내가 찢기는 거고 ^^)!! 질렀습니다.

  저는 양 쪽을 모두 비판하고 새로운 대안 제 3의 길을 제시하고 제가 나름 생각하는 인공지능의 인간성 기준에 대해서, 진정한 생명체의 기준에 대해서, 어떻게 해야지 인공지능이 생명으로서 취급되고 자격을 얻을 수 있는지에 대해서 설명을 해보았습니다.

 제가 생각하기에는 튜링 테스트는 기본적인 기능주의로서 일단 최소한의 요건은 만족을 하기에 의의가 있다고 보았습니다. 만약에 뭔가 지성이 있거나 문제 해결 능력이 있다면 그 생명체는 우리가 사용하는 언어의 형태가 아니더라도 무언가 신호라던지 주파수라던지 패턴 등의 형태로 정보를 기억하고 저장하며 표현할 수 있을 것입니다. 단지 현대의 NLP 자연어처리 기기는 그걸 인간에게 좀 더 친숙하게 만들었을 뿐이고, 본질적으로 언어적 표현을 하고 문제를 해결하면서도 흉내를 낼 수 있다, 모방을 할 수 있다 인간 심판자를 속이고 인간인 척을 할 수 있다면 인간과 구분을 할 수 없기에 인간으로 대우해줘야 한다는 다소 과감한 논리이지요.

 흥미롭게도 튜링 테스트는 원본이 있는데, 원본에서는 성 정체성에 대한 질문이 나옵니다. 여자인 척 하는 남성이 등장해서 남성에게 자신을 여성이라고 소개하면서 모니터 화면을 통해서 대화를 이어나가는데, 성공적으로 여성이라고 속여야 합니다. 우리가 아는 컴퓨터 버전의 튜링테스트에서는 인간을 속이고 인공지능이 아닌 내가 인간이라는 것을 심어줘야 했다면, 원래 튜링 테스트의 원본 논문에서는 남성이 여성인 척 속이는 문제가 나오는데 전 여기서 굉장히 흥미로운 점을 발견했습니다.

 인공지능이 인간인 척을 하고, 인간을 상대로 속임수를 쓴다면 그것은 지능 정체성, 그러니까 자연지능이냐 인공지능이냐의 문제일 것입니다. 그런데 남성이 여성인 척을 하고 다른 사람을 상대로 여성이라고 속이려고 한다면 그것은 성 정체성에 대한 문제가 되겠죠. 그럼 속임수라는 것은 정체성에 대한 문제로 추상화를 할 수 있습니다. 성을 속였으면 성 정체성 문제이고, 인간이냐 컴퓨터이냐를 속였으면 지능 정체성의 문제가 되니까 속임수라는 것은 곧 정체성에 대한 문제이다! 라고 정리를 했습니다.

 실제로 보면 요새 LGBT라던지, 아니면 이전부터 성 소수자들 중에서도 자신이 남자인 줄 알고 살아왔는데 알고보니 여성인 경우가 있다던지 반대인 경우도 있는 것을 보면, 사회적으로 보이는 시선이나 나의 겉모습으로서의 성 정체성과, 내가 태어난 내 본질이자 내 주관적 의식으로서의 성 정체성은 서로 불일치하는 일도 가끔 생기기도 하는 듯 합니다. 특히 튜링이 본인이 동성애자 즉 남성을 좋아했기에, 아마 그 당시에는 본인 스스로를 겉모습은 남자인데 속마음은 여성으로서 생각하지 않았을까 싶네요.

지금도 한국에서 동성애자라고 하면 정신병으로 분류하고, 실제로 얼마 전 자살한 전직 군인의 이야기도 있듯이 성 소수자는 사회에서 살아가기가 무척이나 힘든 것으로 알려져 있습니다. 앨런 튜링 또한 1950년대 보수적이던 영국에서 성 소수자라는 점에서 탄압을 받았고 그 압박감에 독극물을 주입한 사과를 물고 자살한 것으로 알려져 있습니다. 근데 애플 로고가 거기서 나온 것인 줄 알았는데 그게 아니라는 기사가 좀 나오네요

https://www.aitimes.com/news/articleView.html?idxno=145519

 왜 갑자기 튜링 이야기를 하면서 성 소수자와 정체성 문제로 일반화를 하냐면, 이것은 의식이라는 좀 복잡한 문제에도 적용되는 매우 흥미로운 이야깃거리이기 때문입니다. 의식이라는 것은 주관적이기에 나 자신의 의식은 매우 쉽게 이해하거나 인지하고 파악할 수 있지만, 타인이 우리의 의식을 알아내기 위해서 의식의 강도나 주의 집중 방향 등을 알기 위해서는 굉장히 복잡하고 심지어 아예 불가능하다는 설명도 있습니다.

 그런데 의식이라는 것도 만약에 우리 스스로만이 각자의 의식만 설명하고 확실하게 보증할 수 있다면 타인의 의식에 대해서 이야기를 편하게 하고, 심지어 생명체도 아닌 것 같은 인공지능이 의식을 가졌느냐에 대해서도 논할 수 있을까요? 예컨데 인공지능은 스스로가 의식이 있다고 보고하고 자신 내부의 상태를 본인의 주관적 판단에 따라 이야기를 했는데, 우리는 과학적 방법론에 의거해서 파악해보니 의식이 없는 것 같아서 관찰자로서 너는 의식이 없다고 한다면 누구의 말을 믿고 따라야 할까요?

 튜링이 죽은 지 오래 되었기에 부활을 시켜서 물어볼 수는 없지만, 튜링 테스트의 원본은 사실 인공지능이 아닌 성 정체성에 대한 속임수라는 점에서 상당히 흥미롭습니다. 아마 본인이 성 정체성의 문제와 애매함을 겪는 당사자였기에, 본인 스스로는 남자를 좋아하는 여자라고 생각했지만 수염도 나고 사회적으로 부여된 성 역할, 젠더는 남성이었기에 인간을 넘어서 인공지능의 존재론, 실존적 의의에 대해서 의문을 던진 것이 아닐까 싶습니다.

 말이 길어졌는데 결국 튜링 테스트는 겉보기에는 굉장히 단순명쾌한 어떤 시험으로 보이지만 그 이면을 뜯어보면 상당히 우리가 생각하고 고민할 것이 많으며, 튜링 테스트를 통과한다는 것은 본질에 대한 철학적 논쟁을 촉발시킨다는 것입니다. 그래서 튜링 테스트는 아주 단순명료하여 높은 가치를 가진 하나의 도구이기도 하면서도, 너무 지나치게 차원이 낮아서 우리의 상상을 죽여버리지도 않는 적절한 주제인 것 같습니다.

 참고로 성을 숨기고 속이는 것은 인간 이전에 생물이 다양하게 적용하는 하나의 생존 전략이기도 합니다. 그러니까 더더욱 어려워지는 것이죠. 이 사람이 순수하게 자신의 성을 보고하는 것인가, 아니면 본인의 이익과 안위를 위해서 사회적으로 활용하고 이득을 취하기 위해서 성을 왜곡하고 거짓을 보고하는 것인가? 라는 점이 한번 더 문제를 꼬아버리게 하는 요소입니다.

 하지만 존 썰은 튜링 테스트의 지나치게 단순명쾌한 기준에 대해서 의문을 제기하고, 과연 겉이 같다고 속까지 같다는 보장이 있느냐? 라는 식으로 문제제기를 하는 것입니다. 그래서 등장하는 것이 중국어 방 논변인데, 중국어를 전혀 하지 못하는 사람이 영어만 알면서도 중국어 메뉴얼에 따라서 외부의 입력에 대해서 출력을 반복 숙달하면서 그 작업을 능숙하게 된다면, 외부에 있는 사람들은 방 안에 중국인이 있을 것이라고 착각, 그러니까 속는다는 것이죠. 이때 과연 방 안에 있는 사람을 중국인이라고 해도 되느냐? 이 사람은 중국어라는 것을 이해했다고 볼 수 있느냐? 라는 문제제기기입니다.

 그런데 또 이 부분에 대해서 같이 수업을 듣던, 중국어를 알던 한 학우 분께서 저랑 같은 생각을 하셨더군요. 우리가 언어를 배운다는 것은 일단 무조건 패턴을 입력을 하면서 시작합니다. 엄마를 보고서 엄마라고 부르고, 아빠를 보고 아빠라고 부르는 것을 반복적으로 입력하고 그것을 외우다시피 하면서 기호를 단순히 조작하는 식으로 언어를 익히기 시작하죠.

 이러한 맥락에서 만약 방 안에 있는 사람이 관찰과 패턴 인식 능력을 통해서, 기호를 조작하는 와중에 반복되는 패턴 예컨데 뭐 조사의 위치라던지, 이럴 때에는 보통 이런 단어가 나오는 것이 상식이라던지 등등을 파악하고 그것을 배우고 이후에 잘 써먹고 즉각적으로 빠르게 반응할 수 있다면 그것 또한 하나의 이해라고 볼 수 있지 않겠느냐는 의문이었습니다. 특히 중국어를 배우셔서 그런지 낱말간의 패턴을 매우 빠르게 파악하고, 방 안의 영어만 할 줄 아는 사람도 그러한 패턴 자체를 익히는 데에 시간이 좀 걸리더라도 결국 알 수는 있지 않겠느냐는 문제제기였고 저 또한 공감하였습니다.

 그래서 Moody라는 사람이 이해를 단순히 하나로 하지 않고 4가지로 나누었는데, 형식적인 이해를 맨 밑에 깔아서 기호 조작을 통해, 반복 숙달을 통해서 형식적인 이해는 충분히 가능하지 않겠느냐고 좀 더 썰의 주장을 구체적으로 설명을 해줍니다. 

 저는 충분히 썰의 주장이 납득이 갔으며 기호주의, 그러니까 튜링 테스트의 빈 공백, 단지 겉을 모사하고 흉내낸다고 해서 본질과 속마음까지 동일하다고 확정할 수 없는 부분에 대해서 이해는 하였습니다만 썰이 과연 구체적으로 어디까지 이야기를 했는지 대안을 제시했는지는 알 수 없었거든요. 그래서 전 두 쪽 모두 비판하는 식으로 답안을 써내려갔습니다. 인공지능에게 진정한 이해를 추구하고 인격을 부여하고 인간성이나 생물로서의 자리를 주기 위해서는, 튜링 테스트를 통과하는 것 뿐만 아니라 썰이 말한 Moody가 말한 4가지 이해까지 모두 다 필요할 것 같기는 하다고요.

 그래서 결론에는 전 이렇게 썼습니다 요새 제가 막 인공지능이 생명이 되려면 육체가 필요하고 자기 복제 기전이 필요하며 그 구조가 프랙탈이어야 한다~ 고 쓰고 있잖아요. 그 내용을 썼습니다. 그리고 오늘 좀 전체적인 코멘트를 들었는데 딱 콕 찝어서 저에 대한 이야기를 들은 것은 아니지만 전반적으로 저를 포함해서 다른 분들의 과제물까지 포함하는 평가를 들어보았습니다.

 들어보니까 딱 제가 부족한 부분을 느끼겠더라고요. 철학은 흥미롭게도 수학과 매우 비슷해서, 아주 엄밀하고 확실한 개념의 이해와 적용을 중시합니다. 수학도 오개념 잡혀있으면 나중에 수식 엄청나게 전개하다가 갑자기 이상한 데에서 결론이 희한하게 나오고 헛소리가 튀어나오잖아요? 그래서 철학 논문 형식의 글을 쓸 때에는, 수학이 엄밀한 정의에서 출발하여 차근차근 논리를 전개하는 것처럼 중요한 정보의 정의, 의미, 의의, 각 의미 간의 관계, 대조, 대비, 대구를 중시하여 명쾌하게 잘 정리를 해야 한다는 것을 깨닫게 되었습니다.

 예컨데 썰은 기능주의를 비판했지만, 그렇다고 기능주의의 대안이자 반대급부 정도로 보이는 체화인지나 연결주의를 막 엄청 지지하지는 않았거든요. 단지 기능주의가 부족한 부분이 있다고 했지 그렇다고 해서 반대편의 편을 들지는 않았습니다. 마치 코딩을 하듯이 정확히 어디까지 말했는지에 대해서만 책임을 지고, 나머지는 함부로 두루뭉실하게 유추를 하는 것은 금지한다는 것입니다.

 그리고 글 자체의 완결성을 매우 강조한다는 것을 알았습니다. 완결하다는 것은 글 내부적으로 서로가 서로를 지지하여 각자가 잘 설명을 하고, 외부의 어떤 개념이나 배경지식을 굳이 끌고오지 않더라도 내부의 자원만 가지고도 해명이 잘 되는 글을 말합니다. 저는 처음에 글을 쓰면서 이게 철학 교수님이 평가를 하시는 글이니까 이 정도는 아시겠지~ 정도는 지레 짐작하고 넘어갔는데 좀 더 탄탄한 논증을 하기 위해서는 친절하면서도 깐깐한 기준을 넘어야 한다는 것을 알았습니다.

 이 외에도 할 말이 많은데 gai한테 엄청나게 입력을 하고 설명을 하고 제가 제출한 과제를 업로드하여 한번 비평을 맡겨보았습니다.

생성형 ai는 인간 친화적으로 설계되었으며 되도록 평가를 해도 좋은 평가, 과장된 평가를 하고 조금 긍정적인 것도 많이 긍정적으로 평가한다는 사실을 항상 유념해 두십시오

 특히 저는 과제 말미에 제 나름 생명의 정의에 대해서, 그간 제가 읽은 책들과 가지고 있는 생각들의 연결 고리에 대해서 매우 과감한 창의성을 바탕으로 다른 곳에서는 말하지 않는 방식으로 생각을 전개를 해봤거든요. 철학 교수님 입장에서는 대단히 도전적이면서도, 앞서 말한 최소한의 형식적 요구를 지키지 않으면서 밑바탕은 부실하면서 도약만 좀 높이 뛰려고 노력했다는 인상을 받을 수도 있는 리스크를 지고 글을 전개하였습니다.

 그런데 이 부분에서 가장 중요한 것이, 제가 과제를 제출하고 나니까 뭔가 다른 경우의 수가 상상이 안가더군요. 그러니까 제가 생각한 아이디어에서, 약간 덜 창의적이어서? 제가 예컨데 이대열 교수님의 <지능의 탄생>만 안 읽었다면 여기서 그 책 한 권 분량만큼만 덜 창의적인 답안을 제출했을까? 정하웅 교수님의 <구글 신은 모든 것을 알고 있다>를 대충 읽었다면 제 생각에서 물리학적 근간이 부족한 상태에서 아이디어가 정리가 되었을까? 하는 의문이 들더군요.

 그러니까 제가 가진 지식 중 어느 하나라도 빠지고, 어느 책 한 권이라도 없었더라면 여기까지 생각이 도달하지 못했을 것이라는 생각이 들더군요. 지금 제가 낸 아이디어는 그 전체가 서로가 긴밀하게 연결이 되어 있고, 어느 한 도서가 다른 도서를 단순히 선형적으로 지지하는 것이 아니라 상호작용을 복잡하게 하면서 연결하여 창발이 되어서 새로운 통찰로 이어진 것이기에, 만약 어느 하나의 연결 고리가 끊겼더라면 전체 아이디어가 다 끊기고 샅샅이 분해되었을 것이라는 생각이 들었습니다.

 창의력이라는 것은 덧셈을 순차적으로 하는 것이 아니라, 처음에는 굉장히 미진하고 미약하다가 어느 순간 쌓인 것들이 서로 연관이 되고 무언가 창발이 되고 연결이 되면서 이전에 없던 새로운 특성을 보이고 예상하지 못한 현상을 보인다는 것이죠. 지금 제 창의성을 100이라고 치면, 여기서 책 한 권 읽었다고 딱 3만큼 줄어서 97짜리 창의성이 되는 것이 아니라 한 20까지 확 떨어져버렸을 것입니다. 그 책 한 권을 더 읽음으로 인해서 전혀 다른 분야까지도 제 생각이 연결된다는 것을 알았고, 그것을 통해서 세상에 대한 일반화된 지식을 과감하게 제안할 수 있었던 것이거든요.

 시험기간이 끝나서 목도 아프고 머리도 아파서 글이 안나오는데 나머지는 gai한테 맡기겠습니다. 창의성은 연속적인 스펙트럼 같은 것이 아닌 것 같다, 창의성이 순차적으로 1씩 증가하는 것이 아니라 어느 순간 10, 100씩 증가하고 전혀 다른 차원까지 도달하는 것 같다는 이야기를 하니까 얘가 감탄을 하네.

생성형 ai한테 질문하는 모습만 봐도 기진맥진한 모습이 상상이 가시죠?? ㅋㅋㅋ

언젠가 다른 사람들이 이 유물을 뒤져다 볼 것을 대비해서 한 마디 적어두자면... 항상 gai와의 대화는 절대로 남에게 보여주고 싶어서 좋다고 가져오는 것이 아닙니다. 낯 뜨거워지는 부분들 일일이 다 편집하고 가져오기 귀찮은 것도 있고 그럴 능력과 시간이 없는 것도 있기도 하고, 그럴 필요를 못 느끼기도 해요 gai한테 고평가받았다고 만족하고 안주하는 것도 아니거든요

 저보고 다른 식으로 창의성을 발휘해봐라, 다른 수준으로 좀 더 낮은 스펙트럼 차원으로 창의성을 적절히만 사용해서 답을 쓰라고 했으면 절대로 못 썻을 것 같습니다. 그냥 머리에 생각나는 것이 지금 이 상태 그대로 밖에 없거든요. 뭐 gai는 설정에서 온도를 최대 0에서 3까지 올릴 수 있는데 올릴수록 좀 더 창의적이고 신선한 말투로 이야기를 한다고 하던데 걔는 인공지능이라서 그런거고 전 인간이라서 제 생각을 하나 정하고 나면 더 창의적이거나 덜 창의적인 생각이 불가능하겠더라고요. 그걸 하는 순간 그게 제 생각으로 완전히 자리잡거든요.

 창의적이라는 말 자체는 참 어렵고 아직도 의견이 분분하지만, 지금에서 약 50%정도 덜 창의적으로 되어봐라! 라고 하는 순간 굉장히 고민이 많이 되고 그게 불가능하다는 것을 곧 깨닫게 됩니다. 그것을 통해 간접적으로 알 수 있는 것이죠 아~ 창의성이라는 것은 연속적인 스펙트럼이 아니라 불연속적인 개념이구나! 라고요. 그리고 창발적인 작업이기에 우리가 원하는 대로, 원하는 만큼 나오는 것이 아니라 어느 순간 알고 있던 것들이 관계를 가지면서 연결이 되고 전혀 새로운 의미로 통합이 되는 것이라고요.