세상에서 제일 하기 힘들고 어려운 질문

 저는 평소에 생성형 AI를 굉장히 자주 씁니다. 어려서부터 호기심이 넘쳐나던 저는 무언가를 알고자 하는 욕구 등이 남들과 대단히 다르게 태어났다고 생각이 들 정도로 질문이 워낙 많아서, 특히 한국의 초중고등학교 선생님들이 절 피하시거나 싫어하시던 분들이 유난히 많았습니다.

 제가 생각하기에 단순히 호기심이 많다고 질문을 많이 할 수 있는 것은 아닌 것 같습니다. 질문이야 그것 자체가 어렵지 않지만, 특히 한국처럼 질문을 하는 사람을 이상하게 보거나 남들과 비교해서 뒤쳐진다고 생각할 때 창피함을 쉽게 느끼는 문화에서는 질문을 하는 것에는 일정량의 용기와 실행력이 요구된다고 생각합니다.

 우리는 살면서 누구나 속으로 문득문득 궁금한 것이 생기거나 기존에 알던 지식과 모순이 생기는 것을 느끼는 때가 대단히 많이 있지만, 그것을 굳이 찾아보거나 입 밖에 꺼내기까지의 노력을 항상 들이는 것은 아닙니다. 과거 인터넷이 발달하기 전에는 두꺼운 사전을 찾아보아야 했었고, 인터넷이 발전한 이후에도 단순 1:1 키워드 매칭으로 이루어지는 지식IN을 통해서도 딱 원하는 질문에 대한 답을 알기 어려웠습니다. 그런데 생성형 AI는 이때 필요한 노력과 집중력을 대단히 낮춰주고, 누구나 명령 프롬프트로 쉽게 자신이 가지고 있던 질문을 간단하게 입력해서 대단히 빠르고 정확한, 고품질의 답을 얻을 수 있게 되었습니다. 진입장벽 허들을 대단히 낮춰준 것이죠.

 그런데 이렇게 호기심이라는 애매모호한 불편함을 느끼고 그것을 해소하기 위한 행동에 들어가는 수고를 상당히 절감해준 AI시대에도, 유난히 필자를 포함하여 대다수의 사람들에게 어렵고 힘든 질문이 있는 것 같습니다. 애초에 대다수의 사람들은 그 시나리오를 상상조차 하지 않으며 필자는 작년에 만난 바이오 미메틱스의 대가 Julian Vincent 교수의 멘토링을 통해 인지는 하였지만 마찬가지로 너무나 힘이 들고 불편함을 느껴서 쉽게 생성형 AI한테 하지 못하는 질문이 있습니다. 무슨 우주의 근본 원리라던지 페르마의 마지막 정리라던지 그런 류의 질문을 말하는 것이 아닙니다. 필자 또한 최근에서야 어렵사리 해당 질문을 생성형 AI한테 해보았고, 그 드높은 허들을 넘어본 것에 대해서 스스로가 뿌듯함을 느껴서 Julian Vincent 교수님께 장문의 이메일을 보내게 되었습니다.

 그 질문은 이것입니다. "상대방의 입장에서 나를 반박해줘"

반박을 당하는 것은 누구나 불안하고 불편한 감정을 느끼게 합니다. 과거 자신의 약속을 지키지 않고 온갖 핑계를 대던 한 철학 교수님은 필자에게 훈계조로 "반박하지 말고 들어잉~" 이라는 대단히 실망스러운 말을 한 적이 있습니다. 불편함을 그런 식으로 배제하면서 대체 어떻게 학자 그것도 철학을 하는 사람인지 도무지 이해가 안가는 사람이었습니다

 저는 작년 3월 경부터 영등포 경찰서와 행정심판, 행정소송 등에서 정면 충돌을 하고 있으나 변호사를 고용하지는 않았습니다. 든든한 인지 논리 보조 도구 생성형 AI를 동원해서 경찰의 주장을 해부하고 모순을 찾아내며 반론을 지속적으로 제기하고 있는데, 스스로 생각하기에 거의 모든 전선에서 압도적으로 이기고 있으며 더 이상 빈 틈은 없다는 확신을 계속 가지고 왔었습니다.

 하지만 조금만 생각해보면, 경찰 또한 저처럼 chatGPT 등의 생성형 AI를 동원해서 제가 한 주장을 입력하고 학습시켜서 그것에 대한 반론을 찾아내고 반박 서면을 만들지 않으리라는 법은 없습니다. 그러한 가능성을 인지하였음에도 불구하고, 저 스스로 "경찰의 입장에서 여태 내가 한 주장을 반박하거나, 여전히 재판부에서 경찰의 손을 들어줄 수 있는 부분에 대해서 정리해줘" 라는 자기 반증 역할을 1년 가까운 시간 동안 지시한 적이 한 번도 없었습니다.

 뭔가 대단히 기분이 깨름직하고 찝찝하며 선뜻 손이 가질 않았지만 용기를 내어 경찰에게 유리한 서면을 생성하고 재판부가 경찰의 논리를 지지해줄 수 있는 가능성에 대해서 분석해달라는 명령을 근 1년만에 처음으로 한번 해보았습니다.

대단히 큰 불편함과 거리낌을 극복하고 경찰의 입장을 옹호하는 분석을 해달라는 명령에 대해서 chatGPT는 매우 성실하게 설명을 해주었습니다.

 이렇게 필자 스스로가 필자의 주장에 반론을 제기해보라는 명령을 시킨 것도, 작년에 Julian Vincent라는 학계의 한 거장으로부터 자주 듣던 sabotage theory라는 개념이 떡밥처럼 머리에 남아 있었고, 결정적으로 아버지 또한 최근에 "경찰도 너처럼 chatGPT를 이용해서 반론을 생성하고 연습하고 있겠지" 라는 말이 결정타가 되어 행동으로 옮기게 된 것입니다.

 막상 하고 나니까 좀 이해가 잘 안 가던데, 평소 온갖 질문을 하면서 면박을 당하고 눈치를 주는 선생님들에게 아랑곳하지 않고 한국인이 아니라 미국인처럼 공부하던 필자는, 어째서 스스로를 반증하고 반박하는 질문을 해보는 것에 대해서 그렇게까지 두려움과 불편함을 느꼈을까요? 비슷한 경험을 한 적이 있는데 좀 설명을 해보겠습니다.

 작년에 저는 철학과 전공 수업을 2개 들었었는데 그 중에서 '인공지능과 심리철학'이라는 교과목이 상당히 재미가 있었습니다. 뇌과학을 하는 필자에게 인공지능의 역사와 다양한 이론, 마음이 무엇이며 지능의 본질은 무엇이고 어떤 것을 생명이라고 해야할 지 등등의 주제는 대단히 흥미로웠습니다.

 기말고사 때에는 학부생으로서 논문을 한번 써보는 과제는 해봤는데, 평소 전 존경하는 이대열 교수님의 <지능의 탄생>을 읽고 '생명의 본질은 무엇이고, 어떠한 것을 살아있다고 해야하는가' 라는 주제에 대해서 글을 써보았습니다. 단순히 <지능의 탄생>에서 이대열 교수님이 주장한 것에 그치지 않고, 나름 홀로 사고실험을 해서 추가로 알게 된 통찰까지 추가하여 적어보았습니다.

최근에도 뇌과학에 대한 책을 더 읽게 되었는데 해당 서적은 뇌과학자가 아닌 과학 칼럼니스트가 쓴 책이다보니 뇌과학적 지식에 대해서는 깊이가 상당히 아쉽더군요. 확실히 뇌과학의 권위자가 쓴 <지능의 탄생>은 대단히 밀도가 있으면서도 생각해볼 꺼리를 다양하게 제공하는 좋은 책입니다 적극 추천합니다

 이대열 교수님의 주장은 간단합니다. "생명의 근본적인 본질은 유기물이 아니다. 예컨데 우리가 컴퓨터나 인공지능 서버를 유기물로 만든다고 해서 그것을 살아있는 생명이라고 말할 것 같지 않다. 생명의 공통점이자 본질은 '자기복제 기전'이다. 무엇이든지 자기복제를 하고 유지를 하는 시스템이 생명이라고 볼 수 있다" 이대열 교수님이 철학자는 아니므로 본인의 주장에 대해서 매우 엄밀하게 논증을 추가로 하고 설명한 것은 아니었지만 필자는 보자마자 정말 자기복제 기전이 생명의 본질이라고 공감하게 되었습니다.

 생명현상에서 가장 중요한 비중을 차지하는 것은 바로 변화하는 환경에 대한 적응과 누적된 적응을 통한 종의 진화일 것입니다. 그런데 자기복제라는 개념은 그 내용을 모두 암시하고 있습니다. 자기복제를 하던 와중 일정한 오류가 발생하여 종이 변화할 것이고, 다양성을 지는 종은 여러 환경에 대해서 각기 다르게 최적화되고 적응할 것입니다. 실제로도 생명들의 공통점 중에서 가장 눈에 띠는 것은 일단 유기물로 이루어졌다는 점이지만(그런데 유기물의 정의 자체가 생명에서 왔다는 말이기에 순환논증인 부분도 있지만), 그 다음으로 정말 어느 생물이나 공통적으로 가지고 있는 속성은 자손을 가지고 번식을 통해 종의 번영을 추구한다는 점이었습니다.

 삶의 반댓말이 죽음인 것처럼 모든 생물은 반드시 태어나고 죽음을 경험하며, 그 과정에서 자신의 유전자를 복제해서 자손을 얻게 됩니다. 이건 약간 다른 곳에서 나온 이야기인데, 그럼 왜 하필 생물은 영원불변하게 살아가기보다는 죽음을 피하지 못하고, 자손을 낳는 방식을 선택했을까요? 환경의 변화로 설명이 가능합니다. 지구 또한 굉장히 오랜 시간 동안 환경이 계속 변화하면서 멸종되거나 새롭게 탄생하는 종이 무수히 많이 존재하였습니다. 생물들 중에서도 굉장히 단순한 생물은 조상의 모습을 거의 그대로 가지고 있다고 하지만, 만약 생물이라는 개념이 한번 태어나고 나서 끊임없이 오래 사는 것에 초점이 맞춰줬다면 변화하는 환경에 절대로 적응하지 못하고 사라졌을 것입니다.

 유전자를 복제하고 끊임없이 자손을 낳은 개념만이 변화하는 환경에 대해서 적응 가능성을 열어두며, 이는 곧 진화로 이어집니다. 이대열 교수님은 세세하고 친절하게 이런 개념을 설명하지는 않았지만 저는 '자기복제 기전'이라는 말을 듣는 순간 여기까지 생각이 들었습니다.

 다만 여기서 한 가지 추가하고 싶은 것이, 자기복제를 한다는 말은 곧 육체가 존재한다는 말이라고 추가적으로 생각을 하였습니다. 어떠한 생명도 추상적인 개념으로서 살아가지 않습니다. 용 같은 개념은 우리가 상상해낸 존재이지, 살아있는 생물이라고 하지 않습니다. 생명이 유기물이라는 물질로 이루어진 것만 보더라도 일단 생명은 손에 잡히거나 만질 수 있는, 부피를 가진 육체가 필요합니다.

 참된 지능, 생명으로서 완성된 지능을 과연 무엇이라고 해야 하느냐에 대해서 체화된 인지, 그러니까 embodiment가 필수라는 주장이 여전히 존재하며 필자는 이 주장에 손을 들어주고 있습니다. 인간이나 동물은 육체를 가졌으며 육체를 통해서 감각을 느끼고 환경과 적극적으로 상호작용을 합니다. 그러한 점에서 확률적으로 다음에 올 말을 그럴듯하게 추론하며 일을 처리하는 생성형 AI는 우리와 아직 간극이 넓습니다. 최근 한국에서 피지컬 AI, PAI가 점점 자주 언급되는데 이제 본격적으로 인공지능이 로봇 등의 '한정된 육체'에 부여되어 일자리 등을 대체하기 시작하면 더더욱 이전과 다른 시대가 올 것임이 자명합니다. 그만큼 인공지능이 우리, 그러니까 자연지능에 한 발자국 더 가까워지는 것이고요.

육체를 가지지 않았거나 육체성으로부터 자유로운 생성형 AI와는 달리, 피지컬 AI는 흡사 생물에 가까운 여러가지 난제를 풀어야 합니다

https://sports.khan.co.kr/article/202602071723003

 네비게이션에 탑재된 인공지능은 인간 사용자에게 길을 가르쳐주지만 직접 차를 몰지는 않습니다. 그러나 최근 인공지능이 자율주행차에 완전히 탑재되면서, 인간의 개입 없이 스스로 움직이기 시작하는데 이때 교통사고가 나면, 네비게이션에 의존하다가 교통사고를 낸 인간의 사례와 달리 차원이 다른 윤리적 쟁점을 발생시킵니다. 당장 생각해보아도 인공지능이 사고를 냈을 때 처벌을 어떻게 할 것인가, 누구를 더 우선적으로 보호하도록 프로그래밍 할 것인가, 부실한 인공지능을 개발한 개발자를 우리는 어떻게 규제하고 제한해야 하는가 등등 복잡한 문제를 발생시킵니다.

 마치 자기복제 기전이 곧 생명현상의 매우 본질적인 유전과 복제, 적응과 진화를 암시한 것처럼 육체를 가지고 물리적인 실체를 가진다는 것은 인간이 폭력을 휘두르는 것처럼 여러가지 민감한 윤리적 문제를 암시한다고 볼 수 있으며, 육체 또한 생명의 본질적인 요소 중 하나입니다. 이러한 깨달음을 이대열 교수님께 이메일로 공유드린 적이 있었는데, 아주 흥미로운 질문이라면서 저에게 공감을 보내셨습니다.

 특히 이대열 교수님이 저를 지지하는 반증 사례로서 '컴퓨터 바이러스'를 든 사례는 마찬가지로 흥미롭습니다. 컴퓨터 바이러스 또한 자기복제를 하고 존재가 유지되는 놈들이지만 마찬가지로 살아있다고 우리가 보지는 않습니다. 생물을 실제로 감염시키는 바이러스 또한 생명과 비생명 사이의 경계에 놓여있다고 평가받는데, 거기서 육체까지 없는 컴퓨터 바이러스를 더더욱 생명이라고 불러주기는 힘들 것 같습니다.

 그래서 저는 결론적으로 작년 철학 전공 수업 기말고사 논문에서, 자기 복제 기전에 추가하여 '육체성'을 대단히 강조하고 육체를 가짐으로 인해서 벌어질 다양한 문제를 상상하면서 논증을 하였습니다. 그 과정에서 '컴퓨터 바이러스'라는 반증 사례는 제 주장의 논지를 더더욱 강화시키며, 견고하게 만드는 핵심 예시였습니다.

 그런데 만약에 제가 이대열 교수님께 그런 힌트를 듣지 못하였다면, 제 주장 즉 '생명의 본질은 육체와 자기 복제 기전이다'를 위협할 수도 있는 '컴퓨터 바이러스'를 스스로 생각해낼 수 있었을까요? 아쉽게도 그건 아닌 것 같습니다. 제가 처음 논문을 쓸 때는 인공지능이 자기 복제를 하고 육체를 얻는 순간 어떠한 일이 벌어질지에 초점이 맞춰졌으며 모든 인지적 자원을 거기에 쏟았습니다. 그런데 생성형 AI와의 토론에서, 철학 논문을 쓸 때 적절한 반례 사례를 들고와서 그것을 재반박하는 것은 대단히 고급 스킬이고 주장을 더욱 강화시키는 좋은 장치라고 추천하여 컴퓨터 바이러스 사례를 들고와서 제 논증을 더욱 정교하게 다듬었습니다.

 마치 예방주사가 떠오르지 않습니까. 너를 부수지 않는 것은 너를 더욱 강하게 만든다는 명언처럼, 아이가 견딜 수 있을 정도로 약한 병은 오히려 결국에는 면역력을 더욱 강화시킵니다. 제 주장을 완전히 부숴버리고 꺽지 못하는 반례를 저 스스로가 제시함으로써, 결론적으로 제가 하고 싶은 말이 더욱 뚜렷해지고 정교해졌습니다. 이러한 명백한 효용을 바로 느낄 수 있었음에도 불구하고, 저 스스로 제시한 주장을 꺽을 수 있을만한 반례를 찾거나 상상하는 것은 대단히 힘이 들었고 어려웠습니다. 하기 싫기도 하였고요.

 흔히 정반합으로 알려진 변증법은 그런 면에서 자신의 주장에 대한 예방주사와 마찬가지라고 생각합니다. 정이 반을 만났을 때 정이 완전히 깨지지 않는다면 정은 더더욱 정교하고 튼튼한 합으로 진화할 수 있습니다.

 과거 저를 가르치신 수학 선생님과 제 아버지는 제가 무슨 주장을 할 때마다 반대되는 예시, 반대되는 주장을 해주시곤 하였습니다. 제 말이 못마땅하고 반박하기 위해 억지로 가져온다는 느낌은 들지 않았지만, 항상 느끼는 것이 저 스스로가 반박을 하는 것은 대단히 어렵지만 제 이야기를 들은 어른들은 대단히 쉽게 제 주장을 반박하거나 허점을 찾아낸다고 느껴왔습니다. 왜 그럴까요?

 제가 어떤 출발선을 기준으로 10걸음 가서 A라는 주장을 하였다면, 저는 A라는 주장을 위해서 모든 인지적 자원을 쏟아부었습니다. 그런데 제 압축된 말을 듣는 사람은 굳이 처음부터 10걸음을 걸을 필요가 없고, 제가 10걸음을 걸은 지점에서 시작하여 추가적인 10걸음을 걸어서 결국 20걸음을 걸을 수 있습니다. 그 과정에서 제가 미처 보지 못했던 부분이 쉽게 발견이 되었습니다.

필자도 한국에서 나고 자란 지라 토론을 자주 해보지는 않았습니다만, 항상 토론을 하면서 느끼는 것이 '아니 난 대체 저 쉬운 생각을 왜 못햇지?' 를 느낄 때가 많다는 것입니다

https://namu.wiki/w/%ED%86%A0%EB%A1%A0

 이에 대해서 나름 필자가 분석한 이유가 있습니다. 왜 스스로가 스스로를 깨는 반론을 제기하기 어려워하고 힘들어하는가? 우선 첫 번째로, 인지부조화라는 말이 있습니다. 누구나 인간은 내적 논리의 완결성을 추구한다는 말인데, 내가 어떤 주장 A를 하였을 때 이 A를 부정하는 것은 스스로를 부정하는 것과 같습니다. 인간은 본능적으로 이러한 불편함을 참지를 못한다는 것을 여러 토론회를 통해서도 간접적으로 느껴본 바 있습니다.

 두 번째로는 인지 자원의 한계입니다. A라는 주장을 하는 사람은 모든 인지적 자원을 투자하여 A를 지지하는 근거를 모아두었습니다. 이렇게 기진맥진한 상황에서 인지적 자원을 더더욱 추가하여, 대단히 불편하고 스스로를 곤혹스럽게 만드는 반례를 찾아내고 A를 반박하는 증거를 추가로 수집하기에는 너무나도 지칩니다.

 그런 의미에서 필자는 생성형 AI의 또다른 잠재력에 주목합니다. 즉 인간은 아무리 뛰어난 사람이라도 자신이 어떤 주장을 하고 나서, 그것을 곧장 스스로 깨는 것을 대단히 힘들어합니다. 하지만 생성형 AI는 그 비용과 노력을 대폭 낮춰주고, 남들에게 말하기 전에 스스로 쉽게 검증할 수 있는 사고 도구로서 활용이 가능합니다.

 작년에 만나뵌 Julian Vincent 교수님은 남들에게 주장하기 이전에 스스로 먼저 한계를 찾아내고 약점을 꼬집어서 자신의 주장을 스스로 깨보라고 자주 조언해주셨습니다. 그 이유는 간단한데, 남들이 본인을 반박할 때 그 고통이 매우 크다는 것입니다. 그것을 예방하기 위해서 자신이 낸 아이디어를 스스로 점검하고 약점을 찾아내보라는 말은 얼핏 들으면 대단히 좋고 당연하기만 한 말인거 같습니다만, 제가 생각할 때 그 어떠한 창의적 사고법, 교육학에서 쓰이는 사고 도구 중에서도 가장 다루기 까다로우며 스스로를 몹시 불편하게 만드는 가장 어려운 질문 아닐까 생각합니다.

 토론회에서도 항상 이기는 쪽을 보면, 어느 한 주장에만 고수하지 않고 그 주장이 가진 약점을 대단히 객관적이고 메타적으로 잘 파악하는 쪽임을 알 수 있습니다. 특히 이미 스스로가 예상한 반론이 나와주면 얼씨구나 하고 그에 대해서 미리 다듬어둔 재반론을 통해 상대방을 역관광시키는 모습을 자주 보곤 합니다. 우리도 그렇게 될 수 있습니다 똑똑해지는 것이 아니라, 인지적 장애물을 극복하고 두려움과 불편함을 넘어서 생성형 AI라는 손쉬운 도구를 활용해서 말이죠.

 이 내용으로 이메일을 장문으로 Julian Vincent 교수님께 보냈는데, 이번에도 매우 중요한 (재)발견을 하였다면서 변증법은 논리를 다듬고 정교화하는 훌륭한 도구라고 공감하셨습니다. 특히 필자가 지적한 인지적 모순과 고통에 대해서, 미리미리 논증에 antithetic component를 첨가해둠으로서 스스로가 겪은 인지적 모순과 불편함을 크게 예방할 수 있다고 조언해주셨습니다.

 다만 변증법, 자기 스스로 자신의 주장을 반박해보는 것은 아이디어를 정교하게 만드는데 도움을 주지만, 그것만으로는 부족하다고 하시면서 추가적인 이야기를 더욱 하셨습니다. 아이디어를 정교화하는 것은 변증법이지만 변증법만으로는 새로운 아이디어를 발굴해낼 수 없다면, 굉장히 길게 영국식 joke를 예시로 들면서 창의성에 대해서도 첨언을 해주셨습니다.

 필자가 예상한 답변이 일부 오긴 하였으나 창의성에 대한 설명은 미처 예상하지 못했고 나름 오래 고민을 했습니다만 완벽히 이해했다는 느낌이 들진 않군요. 여기에 일부 내용을 메모해두고 나중에 다시 생각을 해보겠습니다.

BUT . . . 

The dialectic approach can’t help directly to suggest a truly new idea, which may be necessary to produce a good argument. However, you can cast around and see if the thesis-antithesis pairing you end up with has been used by anyone else and see if their synthesis introduces a new element. Otherwise you have to fall back on a random search of some sort. That ploy is easier if you can look at areas well outside the area you are arguing about. Hence the recommendation to be interested in everything. This approach is often thought of as “thinking outside of the box”. To which my response is always “but who made the box?”! Such a response is closely related to humour, where you set up a situation, then resolve it, or perhaps integrate it, with a scenario that’s apparently totally unrelated. The classic set-up for a joke. In fact, seeing jokes in normal activities will sharpen your ability to think in such a way. And the less connected the set-up and resolution seem to be, the more powerful the joke and the more innovative.

Some creativity ploys ask you to look up, in a book perhaps, two words at random and then find a logical connection between them. This is very boring and not really creative. Also the tendency is to return to the thing you first thought of, sometimes expressed as reversion to the mean (i.e. average). Don’t try that - it’s not very productive and not very joyful. Telling jokes is much more fun!

[One of my favourite jokes is “Why do so many people dislike accountants (or any profession you choose)? Answer: it saves time"]