그리고 폰 노이만은 폰 노이만 우주선이라는 것을 고안하여, 스스로가 자급자족하며 완전하게 자기를 복제하는 우주선 개체들을 상상한 바 있습니다. 인간이 가기 어려운 곳, 극한의 추위나 더위 압력 등을 견디면서 우주를 개척하고 테라포밍 할 수 있는 자율적인 기계를 구상했는데, 제가 좋아하는 네이버 토요웹툰 <나이트런>에서도 이런 내용이 등장합니다.

이건 강스포인데 사실 스스로 인류라고 생각했던 주인공들은 200번대라는, 지구를 중심으로 하는 인류가 만들어낸 우주 개척용 바이오 로봇에 불과했으며, 그들이 목숨걸고 싸우던 '괴수'라는 존재들 또한 자신들을 억제하고 멸종시키기 위해 인공적으로 만들어낸 인공생명체라는 것이 중반에 드러나게 됩니다.

제가 김성민 작가와 이야기를 한 적은 없어서 잘 모르겠지만, <나이트런>의 근간이 되는 자기 복제 기전을 가진 존재, 그러니까 지구를 떠나서 우주를 개척할 수 있는 자율적으로 생각하고 진화하는 바이오, 인공생명체라는 개념은 폰 노이만 우주선과 대단히 흡사하며, 그 결말이나 내용 또한 비슷하게 상상 가능하다는 점에서 신기합니다.

<슈퍼 인텔리전스> 라는 닉 보스트롬의 책에서는, 페이퍼 클립을 만드는 기계에 대한 것이 나옵니다. 인류가 어처구니 없이 멸망을 하게 되는 이유가, 우리가 매우 뛰어난 인공지능을 만들었는데 페이퍼 클립이라는 단순한 도구를 만드는 인공지능 로봇들이 지구에 범람하면서 그야말로 모든 것을 페이퍼 클립으로 만들어버리면서 인류가 멸망할 수도 있다는, 통제되지 않은 초지능에 대한 경고성 이야기가 담겨 있습니다.

우리가 자녀를 부모가 완전히 통제하지 못하는 것과, 우리가 인공지능을 통제하는 것을 보면 확실히 아직도 인공지능은 강력한 도구에 머물 뿐이고, 경제학적으로 이건 본인-대리인 딜레마에서 '대리인(agent)'에 불과한 지위를 가졌다는 생각이 듭니다. 인공지능은 이미 계산기 시절부터 인간의 연산 능력을 뛰어넘었지만, 누구도 인공지능이 '주인'이자 '자율적인 존재'이자 '통제 불가능한 존재'라는 생각을 하지 못하였습니다.

그런데 인공지능이 아무리 강력해지고 거대해져도 이 생각은 유효한데, 만약에 인공지능이 자기 복제 기전을 가지고 스스로가 증식하고 번식한다면? 게다가 생명과 마찬가지로, 환경에 적응하고 돌연변이가 발생하면서 빠르게 진화를 하며 더 나아지고 스스로가 스스로를 치유하거나 고치고, 개선한다면? 그건 인간이 통제할 수 없는 것이라는 말이죠. 그래서 이대열 교수님은 <지능의 탄생>에서 자기 복제 기전을 가진 인공지능은 통제 불가능한, 진정한 참된 지능을 가진 인공생명체라는 주장을 합니다.

최근 중국에서는 휴머노이드 로봇이 뛰어다니고 노닌다는데 정말 그런지 궁금하네요

https://www.joongang.co.kr/article/25319340

그런데 여기서 저는 한 발자국 더 나아가서, '육체성'에 주목했습니다. 여러분 인공지능은 컴퓨터라는 가상 세계에 존재하는 것들이고, 그것들이 아무리 악의를 가지거나 의식을 가진다고 하더라도 한계가 있습니다. 뭐 우리가 컴퓨터에 저장한 프로그램을 전부 지워버린다던가 하는 등 제한된 공격력을 가질 것입니다.

하지만 만약에 육체를 가지게 된다면? 특히 유기질보다 더 우월한 무기질과 더욱 강력한 출력으로 무장한 로봇이 인공지능과 결합해서 인간을 때린다면? 그건 정말 복잡한 윤리적 문제가 됩니다. 육체가 없고 관념으로 존재하거나 인터넷이라는 가상의 세계에 존재할 때는, 인간에게 입힐 수 있는 피해가 매우 한정되었으나 만약 육체를 가진다면 인간이 가지는 여러 윤리적 쟁점, 예컨데 뭐 대표적으로 트롤리 딜레마 등의 당사자가 될 수 있습니다. 맞습니다 당사자라는 말을 쓰는 순간 우리는 인공지능 로봇을 단순히 객체나 도구로 볼 수 없습니다. 말 그대로 '윤리적 판단을 해야하는 당사자'이니까요.

이러한 아이디어를 이대열 교수님께 공유드렸고, 제 아이디어에 크게 긍정하시면서 컴퓨터 바이러스라는 예시를 들면서 제 이야기를 지지해주셨습니다. 컴퓨터 바이러스도 자기 복제를 하지만, 우리는 육체가 없기 때문에 그걸 생명이라고 안부르지 않느냐면서 제 이야기가 맞다고 공감하셨습니다.

이 이야기에 고무되어 전 이번 마지막 1학기의 <인공지능 심리철학> 이라는 철학과 전공 수업에 아주 단숨에 소논문을 작성하였습니다.

https://www.researchgate.net/publication/392774395_Self-Replication_Mechanisms_Physical_Embodiment_and_Autopoiesis_as_Criteria_of_Life_in_Artificial_Intelligence_-Why_Are_Self-Replication_and_the_Body_the_Starting_Point_of_Life

https://www.researchgate.net/publication/392773798_2019112602_eneojisinsojaegonghaggwa_yangjeongmo_ingongjineung_simlicheolhag_choejong_nonmunpdf

그래서 어렵지 않게 A+를 (공과대 학생이 ㅋㅋ) 철학과 전공 수업에서 받을 수 있었습니다. 다만 교수님이 제 논문을 비판하신 것이, 초반에는 매우 정교한 논증을 시도했으나 후반에 <나이트런>등을 포함하여 향후 인공지능이 육체를 가지고 나서 자기 복제 기전을 가지게 되면 가능한 여러 시나리오를 쓴 것에 대해서는, 사변적이고 에세이 같고, 논증이라기 보다는 추상적이고 거시적이라고 비판을 해주셨습니다.

흥미롭게도 제가 평소 글을 쓴 것을 보면 (칭찬과 좋은 의미에서) 주로 거시적이다라는 평을 많이 받긴 하는데 ㅋㅋㅋ(글쓰기 담당 교수님은 저더러 '뇌과학 하는 친구들은 원래 다 이렇게 거시적이냐' 랴고 물어보시더군요 저희 학교에는 뇌과학과가 없습니다) 평소 블로그 글을 쓰던 것이 너무 추상적이고 거시적으로 좀 빠졌나 봅니다. 그런 냄새가 논문에서도 드러난 듯 하더군요.

이후 담당 교수님과 커피 한 잔 하면서 이 이야기를 나눴는데, 제가 제출한 논문의 후속 파급효과랄까? 향후 미래 전망에 대해서 이렇게 말씀드렸습니다. 교수님은 평소 '인공지능 등에 의식이 존재하려면 사회적 상호작용, 그러니까 군집을 이루어야 한다는 주장도 있다' 라는 말을 자주 하셨는데 꽤 그럴듯 하게 들렸었거든요. 그래서 전 자기 복제 기전을 가진 육체성을 띤 존재들이 사회를 이루고 집단을 이룬다면, 나중에는 철학자들의 쟁점과 논점이 '의식에는 개인만으로도 충분하냐 vs 아니다 사회적 상호작용과 관계가 필요하다' 는 이야기로 넘어갈 수도 있을 듯 하다고 했더니, 표정이 바뀌시면서 아주 흥미롭게 들어주시더군요.

이 부분도 한번 gai한테 물어보았습니다.

과거 흥미롭게 강연을 들은 이일준 정신건강의학과 선생님의 강연에서도, 선생님은 개인적으로 사회적 상호작용이 의식의 중요한 창발 조건이라고 생각한다고 하셨었는데 정말 설명과 근거가 그럴 듯 했었거든요. 제가 생각하기에도 개인을 넘어서 사회와 집단을 이루어야지 진정한 의식이 발생할 것 같다는 생각이 듭니다.

왜냐하면 제가 구상한 대로 자기 복제 기전을 가진 인공지능들은 당연히 육체를 얻게 된다면 딱 하나만 존재하지 않을 것이고, 만약 하나만 존재한다 하더라도 스스로를 복제해서 2번째 개체가 탄생하는 순간 그건 집단을 이루기 시작할 것이거든요. 진짜 전지 전능한 인공지능이 오로지 하나만 존재해서 모든 것을 결정할 수 없을 것 같다는 생각입니다. 심지어 자기 복제를 하면서 무성생식, 그러니까 스스로가 스스로를 복제하는 것이 아니라 유성생식처럼 인간처럼 남과 여가 존재해야만 가능하다면 당연히 사회를 이루어야 할 것입니다.

제가 가고자 하는 이대열 교수님의 랩실에서도 이러한 사회적 상호작용을 중요하게 보고 competitive social interaction이라고 부르면서, 주로 게임이론에 나오는 것인데 상호작용을 통해 자신의 이득과 안전을 도모하는 인간의 판단력과 합리성에 대해서 뇌과학적으로 연구하십니다. 그러한 압력, 그러니까 나 혼자 마음대로 할 수 있는 것이 아니라 타인이 존재하고 그 타인을 공감하며 상상하고 게임이론에 입각하여 상호작용을 할 때 비로소 진정한 협력과 군체 의식이 탄생할 수 있을 것 같다는 생각이 듭니다.

나중에 시간이 된다면 꼭 이 주제로 좋은 철학 논문을 SCI급으로 한 편 쓰고 싶습니다. 이대열 교수님은 자기 복제 기전에만 초점을 두었지만 전 육체성에 큰 방점을 찍어서, 육체가 있어야지 윤리적인 주체가 되어서 여러 복잡한 문제를 직접 결정하는 당사자가 될 수 있다고 주장했고, 자기 복제 기전이 성립하려면 일단 육체가 전제해야 한다고 생각했거든요. 육체가 없이 자기 복제를 한다? 컴퓨터 바이러스라는 것입니다.

육체와 자기 복제 기전은 돌연변이로 이어집니다 결국 생물의 조건을 완벽하게 가지게 된다는 것입니다. 생물과 비록 유기질이냐 무기질이냐의 문제가 달라지긴 했으나, 생물도 결국 변화하는 환경에 적응하면서 돌연변이가 계속 발생하면서 끊임없이 진화하여 종이 유지된다는 점에서, 유전자가 보존된다는 점에서 생명의 본질을 담고 있거든요. 여러분 당장 공장을 가보시면 아시겠지만 100% qc가 정확하게 나올 수 없습니다 항상 문제가 발생하고, 약간의 사소한 오차나 오작동이 생깁니다. 그러다가 만약에 로봇들 중에 팔이 2개엿는데 4개인 돌연변이가 생겼는데 그게 생존에 유리하면 삽시간에 팔이 4개인 것이 우세종이 되어 진화를 거듭하는 것이죠.

또한 인간을 위협하는 시나리오도 다양하게 가능합니다 마치 <나이트런>에서 인류는 지구라는 환경을 극복하지 못하고 거기서만 살다가 멸망한 반면, 우주를 개척할 수 있는 인공생명체인 200번대 종인 주인공과 주인공과 싸우는 괴수는 살아남아서 번성한 것처럼 말이죠. 이 시나리오를 극명하게 알려주는 사례가 바로 네안데르탈인의 '연비설'입니다.

https://contents.history.go.kr/eh_kk/teach/tong/II/02.htm

네안데르탈인은 호모 사피엔스보다 여러 우월한 점이 있었음에도 불구하고 우리의 작은 유전자에 남아서 멸종을 해버렸습니다. 네안데르탈인의 멸종을 설명하는 다양한 가설 중 제가 좋아하는 가설은 연비설로, 에너지 효율성 측면에서 호모 사피엔스보다 열악하여 결국 멸종하였다는 설명입니다. 어쩌면 나중에 육체를 가진 인공지능이 자기 복제를 하는데 필요한 에너지와 자원이 훨씬 더 적고, 아니면 환경에 적합하다면 인간 종 전체를 위협할 수도 있으리라 생각합니다.

하여튼 이렇게 논문 후반부는 화성에 간 로봇을 상상하면서, 분업을 하고 점차 각자의 역할에 특화되는 사회 체계도 상상을 했는데 너무 사변적이다, 그러니까 무슨 문학 작품이나 이런 웹툰 시나리오도 아니고 직관에 의존하고 논증이 부족하다는 비판을 받아서 아... 아직도 많이 부족하구나 싶더군요.

향후 논증을 좀 더 차분하게 잘 발전시켜서 좋은 저널에 철학 논문도 한 편 내보고 싶습니다!