중요한 것은 아니고, 저는 신경과학을 본격적으로 공부하면서 컴퓨터공학 등의 주제로 이제 좀 입시에서 벗어난 주제로 여러 재미있는 과학적 사실이나, 제가 공부하면서 느낀 새로운 지식과의 연관성, 혹은 심심해서 새로운 자극이 필요한 똑똑한 수험생을 위한 소재로서 이제 슬슬 수능 국어라는 틀에서 벗어나서 경제학, 컴퓨터공학, 심리학, 생물학에 대해서 초보자(학부생 ^^)의 수준에서 차근차근 글을 쓰기 시작하고 있습니다.

오르비에는 일일이 카테고리를 분류하고 글을 쓰기가 귀찮기도 하고 의미가 없기도 해서 별다른 이야기는 안했지만, 종종 제 칼럼을 읽고 감명을 받은 분들은 제 블로그까지 유입이 되어서(프로필에 링크를 걸어두었습니다) 여러 칼럼을 읽고 비판적인 의견 등을 제시해주더군요. 아주 감사하고 누추한 곳에 귀하신 발걸음을 해주는 모든 분께 깊은 감사의 말씀드립니다.

오늘은 제가 나름 학사 학위 졸업 논문으로 준비 중이면서도 동시에 꽤 재미있고 독창적인 상상을 하여 연관된 개념을 같이 연결해서 글을 써보겠습니다.

https://blog.naver.com/cognitasapiens/223763593851

여러분 아마도 본인-대리인 딜레마라고 경제학에서 오랫동안 중요하게 있던 개념과, 튜링 테스트 정도는 잘 아실 것입니다. 이 둘은 인공지능과도 깊이 연관이 된 매우 중요한 개념으로 제가 읽은 가장 제 인생에 큰 영향을 미친 신경과학 서적 <지능의 탄생>에서도 자세하게 다루고 있습니다.

우선 뇌가 진화를 통해 연속적인 과정을 거쳐서 발달했다는 사실을 상기할 필요가 있습니다. 왜냐하면, 뇌가 불연속적으로 마치 어느 날 혁명적인 도약을 한 번씩 해서(물론 실제로 이럴 순 있었는데, 제가 말하고자 하는 초점은 그것이 아닙니다) 어느 순간 유인원이 인간의 뇌를 가지게 되었다! 라고 하면 감을 잡기가 좀 어려워집니다. 초창기의 뇌는 현재 우리가 고등하지 못한 생물, 상대적으로 유인원이나 우리 인간보다 단순하다고 평가하는 생물들이 보여주는 것처럼, 매우 단순하게 빛을 보면 가까이 가거나, 아니면 싫은 물질에 노출되면 피하거나 하는 등의 매우 기초적인 운동을 하는 식으로 조금씩 발전했을 것입니다.

우리는 우리의 뇌를 타고납니다. 그것은 dna에 각인이 되어있고 뇌를 구성하는 단백질이나 구조 등의 설계가 dna 염색체의 형태로 저장이 되어 있고, 그것이 태아가 성장하는 과정을 보면 확실히 짧은 순간 우리는 진화를 겪는 것처럼 보입니다.(예전에 어느 구절을 읽은 적이 있었는데, 태아가 마치 올챙이나 선형 동물의 형태에서 점점 복잡한 형태로 발달하는 그 과정이 우리가 실제 진화를 한 과정을 짧게 리뷰를 하는 것 같다고 묘사한 것이 인상 깊었습니다 실제로 그런 식으로 평가를 하는지는 잘 모르겠습니다)

우리의 뇌는 너무나 복잡하고 지금도 이해를 하지 못해서, 마치 우리의 뇌가 우리의 주인공이라는 생각을 할 수 있지만 뇌는 어디까지나 유전자의 복제를 위한 도구라는 점을 상기해야 합니다. 이는 <이기적 유전자>에서도 비유한 것처럼 우리의 몸을 '유전자 전달 및 복제 및 보호 기계'라고 한 것과 비슷합니다. 우리가 뇌의 당장의 즉각적인 명령을 받긴 하지만, 결국 그 뇌 또한 dna로부터 온 것이고, 그 초기의 진화를 한 과정과 필요성을 거슬러 올라가면 결국 dna가 효과적으로 잘 보전되고 퍼지기 위한 여러 문제를 해결하기 위해서 도구적으로 발달했다는 것을 알 수 있습니다.

이 과정에서 바로 본인-대리인 문제가 등장하며 조금 생각을 더 전개하면 철학적인 수준까지 올라가게 됩니다. 예컨데 저희 아버지는 의사이면서도 동시에 개원의인데, 그러다보니 직원 즉 월급을 받으면서 일하는 사람과 입장이 매우 다를 수 밖에 없습니다. 전문경영인이 아닌 이상 보통 오너는 무조건 100% 성과급의 형태로 월급을 받게 되고, 이에 따라서 상당히 자기 사업에 대해서 욕심과 의욕을 가지고 열정적으로 일을 하게 됩니다.

반면 직원은 자신의 삶을 챙기고, 또 나머지 시간 동안 적절한 자기계발을 통해서 더욱 더 높은 스펙을 가지고 부가가치를 창출하기 위하여 자신의 용역을 제공해준 대가로 월급을 받고, 월급을 받은 이상으로 새벽까지 밤을 새서 일을 할 동기를 얻지 못합니다. 이러한 불균형을 본인 대리인 딜레마라고 하고 우리 주변에서 매우 흔하게 발생하는, 뭐 사측과 노조의 분쟁 등도 여기에 포함이 됩니다.

졸라게 명쾌하죠? ㅋㅋㅋㅋ

https://mlbpark.donga.com/mp/b.php?m=search&p=61&b=bullpen&id=202306070082102455&select=hitView&query=1000&subselect=&subquery=&user=&site=donga.com&reply=&source=&pos=reply&sig=h4aTSg-AkhXRKfX2hej9Gg-gLmlq

이 문제는 제가 이전에 언급한 막스 베버의 <프로테스탄트 윤리와 자본주의 정신>과도 연관이 되어, 사업자가 무조건 밑의 직원을 낮은 동기부여를 가졌다고 가정하고 무조건 저임금으로 착취하고 쥐어 짜듯이 경영을 하는 것의 근거가 되기도 합니다. 아 제목이 좀 재미 없어서 그런지 제게 큰 감명을 준 내용을 적은 글이었는데 좋아요 수가 영 적더라... ㅠㅠ

https://orbi.kr/00071942565

제가 어렴풋이 기억하기로 아마 수능 국어 비문학에서 이런 본인 대리인 문제가 나온 주요한 연관 개념이 바로 정보 비대칭성이었을 것입니다. 제가 한번 제 예시를 들어볼게요.

얼마 전(실제로) 전 이빨이 너무 아파서 치과를 간 적이 있었는데 당시에 하필이면 구내염을 앓고 있었던 지라 입 안의 피부가 조금 헐고 빵꾸가 허옇게 난 상태였습니다.

당시 치과를 한번 방문했는데 일단 건물 자체는 좀 큰 편이었는데 간호사 1명에 의사도 딱 1명으로 보이는 상대적으로 규모가 작은 곳에 갔는데, 일단 간호사한테 제 상태를 설명하는데 소위 똥 씹은 표정으로 뭔 소리인지 모르겠다는 식으로 듣더군요. 일단 여기서 다소 불쾌감을 느꼈습니다.

그 다음 치과 치료를 받으면서 스케일링을 하는데, 보통 치위생사가 침을 빨아들이는 기구를 옆에서 같이 들어주잖아요? 스케일링은 아프질 않았는데, 간호사가 든 그 기구가 자꾸만 제 입안의 헐은 곳(아마 시각적으로 보이겠죠)을 건드리니까 너무 아프고 짜증나서 '아' 소리를 계속 연거푸 내니까 중간에 의사 선생님이 멈추시더니 어디 아프냐고 물어보셨습니다.

너무 쓰리고 애매하게 아픈 상처인데 짜증이 몰려오면서 (여기 안보이냐는 식으로) 입 안에 헐었는데 계속 그 부분을 간호사 선생님이 건드리고 있다(거기 건드릴 때마다 주기적으로 아프다고 소리 내는데 정신줄 놓고 있으니까 자신의 행동이 그 고통을 유발한다는 세심한 관찰로 이어지지 못하고 계속 기계적으로만 기구를 잡고 있냐) 고 말했습니다.

제가 보통 짜증이나 화를 잘 안 내는 편이고 화를 내면 크게 내고 깊이 삐지는 편인데, 과연 궁금했습니다 이 병원은 돌아선 나의 마음을 돌릴 수 있을까?

그래서 개인적으로 궁금하더군요, 과연 이 불쾌한 손님의 감정에 대해서 간호사가 사과를 할까? 하면 전혀 문제가 없어질 것인데, 과연 할까? 했는데 결국 안하더군요. 이걸 보고 느꼈습니다. 그 건물이 꽤 크다고 했잖아요? 의사 선생님은 방 깊은 곳에 있었고, 대체 무슨 일이 벌어지는지 전혀 감독을 못하고 있었거든요.

저 또한 의사이자 개원의인 아버지를 둔 입장에서, 이런 식으로 멀쩡한 의사 한 명이 망하는구나~를 느꼈습니다. 생각해보세요, 제가 따로 리뷰를 쓰거나 따로 의사 선생님한테 고자질 하듯이 니네 간호사가 나를 매우 불쾌하게 만들어서 재방문을 막아버렸고, 그것 때문에 너가 망할 것이다 보니까 손님 없는거 보니까 이런 일이 많은 것 같은데 직원 관리와 감독을 잘 하고 있느냐 이런 소리를 할까요?

절대 안합니다 그냥 안가고 다른 치과를 가고 말지, 실제로 저도 그랬으며, 결국 이런 주인의식 없는 간호사 덕분에 의사는 방구석에 처박혀서 '왜 환자가 (재)방문을 안하지?' 하고 의문을 품으면서 서서히 망해가는 것입니다.

이 이야기를 들으시곤 저희 아버지가 크게 공감하시면서, 어쩔 수 없이 소위 월급을 받는 사람들과 사업자의 동기 부여와 관점, 입장 차이가 이 정도로 크게 날 수 밖에 없으며, 이것을 제대로 조정하고 감독을 하는 것 또한 의사의 본업 못지 않게 중요한 사업자적인 마인드이자 스킬이라고 하시더군요.

그런 면에서 미국 박사를 준비하다보니 느끼는 것이, 그 쪽 동네에서는 self motivated researcher를 강조하던데 이게 결국 이런 문제를 근본적으로 해결하는 것은 동기부여와 자기 주인의식이 뚜렷한 훌륭한 마인드셋을 가진 동료를 뽑는 것에, 그러니까 사업을 함에 있어서 가장 중요한 핵심적인 본질에 충실한 입시 기준이라는 생각이 들었습니다.

다시 주제로 돌아오자면, 유전자와 뇌는 서로 본인과 대리인 관계이고 특히 뇌는 dna보다 환경에 대한 즉각적인 정보를 많이 가지고 있습니다. 그러니까 유전자와 달리 정보 비대칭성을 가질 수 있고, 그 덕분에 우리의 본능이 서로 상충하는 경우가 많이 있습니다. 뭐 예컨데 고지혈증 당뇨병을 들 수 있겠네요. 우리의 유전자는 1만년 전 허허벌판에서 굶주리던 사피엔스의 상황을 경험하고 거기에 최적화되어 단 것을 굉장히 선호하고 보상을 크게 얻고 만족감을 얻도록 설계되었습니다.

그러나 현대에 와서는 단 것이 너무나도 급격히 많아졌고, 누구나 쉽게 의지력을 잃으면 비만이 되기 쉽고(한국의 30대 절반이 고지혈증이라는 통계가 너무 충격적이었습니다) 오히려 성인병으로 인해 더 불행한 삶을 살고 있습니다. 그런데 뇌는 그것을 알지만 유전자는 기민하게 그런 상황 변화를 느끼지 못하여, 이런 불일치가 발생한다고 볼 수도 있는 것이죠.

자연 도태가 되었든 유전자 편집 기술이 되었든, 나중에 먼 미래에 신인류는 오히려 단 음식에 대해서 성인병을 유발하는 설탕이나 꿀 등에 대해서 선호를 덜 하게 되고, 신체 활동을 더욱 강조하고(마찬가지로 현대인은 수렵인보다 신체 활동을 적게 하게 되고 그것 때문에 정신질환 등 다양한 문제로 이어지고 있습니다) 변화된 환경, 현대 사회에서 풍부한 자원에 맞춰져서 진화를 하게 될 지도 모르겠습니다.

본인 대리인은 좀 더 철학적으로 가면 바로 튜링 테스트가 나오게 됩니다. 물론 앨런 튜링은 수학자이고 본인 대리인에 대한 경제학적 연구를 한 것은 아니지만, 인공지능이라는 것은 태생부터 우리의 목표(암호 풀기)를 위해서 만들어지고 창조된 피조물이라는 것에서부터 주체가 되지 못하고 있습니다.

그렇기에 앨런 튜링은 튜링 테스트라는 것을 통해서 얼마나 기계가 인간과 비슷한 지를 다음과 같이 설명합니다. '사람이랑 대화를 했는데 어색하지 않으면 그건 사람과 매우 비슷하다고 보아야 한다' 상당히 그럴듯하고 직관적이고 평가하기도 다소 주관적이긴 하지만 쉬운 듯 합니다 대충 100명 쯤 동원해서 yes or no 따지고 점수 매기고 80점 정도 커트라인 잡으면 되죠.

앨런 튜링은 잘 알려져 있다시피 애플의 로고와도 깊은 연관이 있습니다

https://brunch.co.kr/@ultra0034/54

하지만 전 조금 다소 혁신적이고 과감한 제안을 해볼까 합니다. 좀 철학적인 내용인데요, 바로 '얼마나 비슷하게 인간과 동일한 문제를 겪고 풀어야 하는가' 입니다. 이게 뭔 소리인지 차근차근 설명을 해보겠습니다.

이제 제가 좋아하는, 아마 초딩 5학년 때부터 읽어왔던 네이버 sf 스페이스 오페라 <나이트런>의 주요한 스포를 설명하게 됩니다.

https://namu.wiki/w/%EB%82%98%EC%9D%B4%ED%8A%B8%EB%9F%B0

대충 우주에 광범위하게 진출한 인간과 그 인간을 멸망 시키기 직전까지 몰아넣은 괴수라는 괴물에 대한 이야기입니다. 아 여기서 스포가 담겨 있네요.

전 해당 웹툰 작가의 상상력이 상당히 뛰어나다고 생각하는 부분이 상당히 미래지향적인 sf요소를 잘 버무려서 반전 요소를 집어넣었습니다. 반전은 간단합니다. 우리가 주인공 측을 당연하게 '인류'라고 생각했지만 사실 인류가 아니라, 인류가 만든 외행성 외우주 개척 인공생명체였으며, 실제 인류는 지구라는 한정된 공간에 갇혀서 말라 죽다가 모종의 사유로 멸망한 지 오래였다는 것이 핵심적인 반전 요소입니다.

그래서 실제 인류 측으로 나오는 병사들은 우주에서 활동할 경우 무조건 방호복이나 우주복을 입고 나오지만, 주인공 측은 그보다 훨씬 간단한 무장을 입고 나오거든요. 인류는 자신의 피조물이 감히 스스로를 인류라 칭하는 것을 허락하지 않았고, 인공생명체인 주인공 측을 창조할 만큼 진보한 기술을 한때 가졌으나 결국 인공생명체인 주인공 측의 압도적인 물량과 기술적 진보에 밀려서 역관광을 당하게 된다는 내용입니다.

그런데 흥미롭게도 이런 자가 수복을 하고 스스로를 자율적으로 조절하면서 외행성 외우주를 개척하는 로봇의 개념이 이미 있습니다. 폰 노이만 탐사선이 바로 그것입니다.

인간이 수리를 해주고 복제를 도와주는 것이 아니라, 스스로를 설계하고 스스로의 필요한 부품을 조달하고 복제하는 자가 복제 능력을 가진 로봇

https://brunch.co.kr/@andy7gv4/216

저는 이렇게 생각했습니다. 튜링 테스트는 너무 도구적이고, 임시 방편의 수단인 것 같다. 지금의 챗봇 gai들도 이미 충분히 튜링 테스트를 통과하는데, 우리가 보기에는 아직도 인간과 비슷하다고 보기에 힘든 부분이 너무 많다. 좀 더 본질적으로 인간과 비슷하다고 하려면, 인간과 비슷하게 윤리적인 문제라던지 고민을 실제로 해야하는 수준으로 측정을 하는 것이 좋을 것 같다(물론 그것의 측정은 대단히 힘들 것입니다).

그런데 만약에 로봇, 인공지능이 1. 육체를 가지게 되고 2. 자기 복제 기전을 가지게 되어 인공 생명체가 된다면, 얘는 이제 인간과 비슷한 여러 윤리적 논쟁에 직접적으로 참여하게 될 것입니다. 스스로의 안전에 대해서 고민을 해야 할 것이고, 과거 컴퓨터에 존재하던 때와 달리 자신의 본질과 존재에 대해서 생각을 할 필요가 생기고, 통각이나 압각 등 여러 감각 정보를 처리하는 새로운 분야가 생길 것이고, 타인과의 협동이나 배려 등을 고려하는 식으로 인간과 비슷한 사고력이나 상식이 요구가 될 것이라고요.

저는 과거 대학교 교양 수업, 인공지능 윤리라는 수업 시간에 소방관 로봇이라는 것을 상상해봤는데 이게 생각을 하다보니 골때리게 되더군요. 육체를 얻는 것이 왜 인공지능에게 혁명적인 차이인지를 좀 이해를 못하셨으면 읽어보시길 권유합니다

https://blog.naver.com/cognitasapiens/223653368062

머리가 엄청 아파집니다 컴퓨터라는 가상 세계의 인공지능은 우리에게 피해를 주는 수준이 한계가 뚜렷하지만, 이제 하드웨어 육체를 가지고 물리적 실체를 가지고서 우리랑 싸우거나 심지어 인간을 살해하면 매우 책임 소재가 복잡해집니다. 흥미롭게도 영화 <매트릭스>에서 촉발된 기계에 대한 혐오는, 생존 욕구가 있던 가정부 로봇이 폐기를 당하기 싫어서 주인을 살해한 것으로 시작합니다

때문에 저는 2가지 측면에서 인공지능을 인공생명체로 만드는 것이 중요하다고 생각합니다. 1. 본인 대리인 문제를 극복하고 진정한 본인으로서, 인간과 비슷한 수준으로 인간과 비슷한 문제를 직접 겪고 그것에 대한 책임을 지며, 그것에 대해서 나름 사유를 하는 존재로 거듭나는 계기가 될 것이다. 2. 소방관 로봇의 예시처럼 인간이 버티기 힘든 고온 고압 고중력 상태를 극복하고, 높은 비용을 들이지 않고도 자율적으로 스스로 행성을 개척하고 테라포밍을 하여 화성은 물론 다양한 환경을 좀 더 지능적으로 개척할 수 있을 것이다.

특히 2번의 아이디어가 바로 폰 노이만 우주선이라는 것이죠. 근데 지금은 인공지능의 발전과 하드웨어 성능이 좋아지면서, 이제 완전히 상상 속에서만 가능한 시나리오가 아니라 현실성이 있는 시나리오로 오고 있습니다.

게다가 저는 생물학을 공부하는 입장에서, 아직 인공지능은 가졌지만 생물만이 가진 독특한 성질에 주목하고 그것을 획득하는 것이(육체는 아닙니다 나중에 시간이 되면 썰을 풀어보겠습니다) 한 차원 도약하는 것이라고 확신을 하고 그걸로 졸업 논문을 작성하고 있습니다.

어떻게 재미있게 들으셨을지 모르겠습니다. 감사합니다!