작년 2학기 때 박진희 교수님의 ‘인공지능 윤리’ 수업은 대단히 흥미로운 수업이었습니다. 거기서는 단순히 윤리학 뿐만 아니라 현재 급속도로 변화하고 있는 여러 인공지능 기술, 생성형 AI, 그린 AI, 샘 울트먼이 만들고자 하는 AGI, 일론 머스크의 화성 개척 프로젝트, 일자리 감소와 빈부격차 등등 기술의 혁신이 가져오는 다양한 사회적 파장을 종합적으로 다루는 수업이었습니다. 특히 거기서 중요한 것은 발표 프로젝트였는데, 각자 카테고리를 하나씩 부여받고 그 카테고리에 맞는 구체적인 주제로 사업 아이디어를 구상하고, 그 사업을 통해서 발생할 수 있는 민감한 윤리 문제를 예상하고 좀 더 나아가 해결방안에 대해서 제안하는 상당히 도전적인 수업이었습니다.

흥미롭게도 재료공학도인 저는 하드웨어, 이 세계를 구성하는 화학 물질에 대한 익숙함이 있기에 로봇 및 제조산업이라는, 기타 다른 교육, 연구, 돌봄, 국가기관 등 소프트웨어에 중심이 된 주제와 달리 하드웨어에 초점을 맞춰진 주제를 골랐습니다. 특히 저는 최근 한국에서 처우 개선 문제가 불거지는 소방관 문제에 대해서 집중적으로 탐구해보았습니다. 소방관은 육체적으로도 정신적으로도 상당히 극한의 환경에 내몰리는 것으로 유명하며, 부족한 장비와 열악한 처우로 인해 사회적 명예는 높으나 그 명예에 걸맞는 물질적 보상을 받지 못하는 직업으로 유명합니다. 예컨데 밤샘 근무나 고농도의 미세먼지, 동료의 죽음으로 인한 PTSD 등은 모두 WHO에서 1급 발암물질로 지정할 만큼 인체에 치명적인 요소들입니다. 소방관들은 당장 화상을 입거나 어디 베이고 찢어지는 부상을 입지 않더라도, 서서히 죽어가고 있다고 볼 수도 있는 것이죠. 건물 붕괴 위험에도 인명을 구조하기 위해 들어갔다가 사망하는 안타까운 경우는 덤입니다.

그런 상황에서 만약 위험하고 더럽고 업무 강도가 높으면서도 어려운 일을 휴머노이드 인공지능 로봇이 맡게 된다면, 소방관들의 희생을 막으면서도 동시에 더욱 많은 인명을 효율적이고 효과적으로 구할 수 있지 않을까 하는 상상에서 소방관을 뛰어난 하드웨어 및 빠른 연산 능력을 가진 소프트웨어로 무장한 인공지능 로봇으로 대체하자는 제 계획은 꽤나 그럴듯해 보였으며 교수님으로부터도 높은 점수를 받을 수 있었습니다.

예컨데 인간의 단백질 피부는 고온 고압에 매우 취약해서, 온도가 40도만 넘어가도 비가역적인 변형이 일어나서 평생에 남을 흉터가 남습니다. 일반적으로 화재 현장이 불길이 치솟는다는 사실을 미루어 보아, 그다지 인간에 친화적이지 않은 상황이며, 동시에 문을 부수고 들어가야 한다던지 무거운 장애물을 넘거나 개척해야 하는 등 매우 큰 힘이나 높은 압력을 견뎌야 한다는 점도 매우 강력하고 튼튼한 육체, 하드웨어를 가진 인공지능 휴머노이드 로봇의 당위성을 지지합니다.

왼쪽의 뉴스는 작년 초에 발표된 혁신적인 시각 기술로, 인간의 가시광선으로 보았을 때는 뿌연 미세먼지로 인하여 보이지 않고, 열화상 카메라로도 보았을 때 어렴풋이 보이던 것이 시각강화 신기술을 적용하였을 때 더욱 뚜렷하게 물체가 보이고 사람이 구분이 되어, 그 덕분에 탐색 시간을 27%나 줄였다는 혁신적인 기술의 내용입니다. 인간은 기본적으로 가시광선을 통한 감각에 의존하기에 이러한 기술을 개발한다 하더라도 한번 중간에 가시광선으로 변환하고 해독하는 장비를 추가로 부착하는 번거로움이 있지만, 소방관 로봇은 처음부터 이런 시각 기술을 적용하면 되기에 신기술에 친화적이며 합목적성에 잘 부합한다고 볼 수 있습니다.

소방관 로봇은 단지 소방 화재 현장에서만 국한되지 않습니다. 고온 고압을 견딜 수 있는 휴머노이드 로봇은, 예컨데 화성처럼 인간에게 적대적이고 산소가 부족하며 생물이 살아가기 힘든 환경을 개척하고 적응할 수 있다는 강력한 이점이 있습니다. 2000년 직전에 바이오스피어2라는 인류의 대규모 실험이 있었는데, 과연 인간이 화성처럼 완전히 독립된 환경에서 연구를 하며 자급자족할 수 있을까에 대해서 인공적인 생태계를 조성하고 남녀 대원 8명이 들어가서 2년간 생활을 한 실험이 있었습니다. 결과는 대실패로 끝나서, 당시 불분명한 원인으로 지속적으로 낮아지는 산소 농도와 높아지는 이산화탄소 농도, 그로 인한 생태계 파괴와 식량 자급 실패, 바퀴나 개미와 같은 해충들의 증가, 높은 스트레스로 인해 집단 사이에 반목이 발생하고 사회적 질서가 무너지는 현상이 나타났습니다.

결국 인간은 소규모의 독립적인 생태계 속에서 자급자족하면서 행성을 개척하고 연구를 하면서 살아갈 수 없다는 사실을 시사한 이 실험을 통해서, 다시 한번 소방관 로봇의 잠재력을 깨우칠 수 있습니다. 고온 고압에 버틸 수 있고 다양한 장애물을 개척하며 정교한 작업이 가능한 하드웨어 인공지능 로봇은 인간 대신 척박한 환경을 일구고 개척하여 인간에게 도움을 줄 수 있는 가능성이 충분합니다. 실제로 SF영화에서도 보면 인간을 보조하는 휴머노이드 로봇이 자주 등장하는 것, 그런 로봇들이 인간이 하기 힘든 까다로운 일들을 대신해주면서 효과적인 조력을 해주는 것에서 볼 때 이런 인공지능 탑재 휴머노이드 로봇의 응용 가능성과 잠재력을 알 수 있습니다.

이제 본격적으로 윤리적 문제에 대해서 알아보겠습니다. 저는 소방관 로봇을 구상하는 순간 바로 떠올린 문제가 있습니다. 바로 트롤리 딜레마입니다.

어떠한 재난이 발생해도 항상 모든 인명을 구조할 수는 없으며, 모든 인간을 동일하게 우선순위로 구할 수 없습니다. 인공지능 로봇은 가치판단을 해야 한다는 매우 미묘하고 논쟁적인 상황에 놓이게 됩니다. 건물이 붕괴될 위기에서, 1명이 있는 방을 탐색할 것이가, 5명이 있는 방을 탐색할 것인가? 5명의 노인과 5명의 아기 중 어느 쪽을 먼저 구할 것인가? 항상 현실에서는 우선순위가 존재하고 순서가 발생하며, 그 순서로 인하여 자칫 잘못하면 후순위에 놓인 사람들을 포기해야 하는 문제가 발생할 수 있습니다.

이 과정에서 특히 저는 공리주의를 단순히 따른다는 것에도 문제가 있다는 사실을 알 수 있었습니다. 1차원적으로 공리주의를 따진다면 당장 내가 구할 수 있는 사람의 숫자에 관심을 가지겠지만, 혹시 내가 구할 수 있는 사람이 1명의 대통령과 5명의 일반 시민이라면 이제 문제가 더욱 복잡해집니다. 한국을 기준으로 1년에 대통령을 경호하는 데에 약 1천억이 들어간다고 합니다. 그 외에도 총리를 비롯한 고위 관료들은 테러 및 암살 위험으로부터 막대한 예산을 투자받고 경호 서비스를 누리는데, 이는 그만큼 그 사람들이 암살을 당했을 경우 더욱 많은 사회적 파장과 혼란이 예상되기 때문이라고 할 수 있겠습니다.

따라서 당장 눈 앞에 보이는 사람의 숫자에만 매몰된다면 대통령 1명보다는 일반 시민 5명이 더 중요하게 보이지만, 만약 대통령을 구하지 못한 것으로 인해 간접적으로 더욱 많은 사람들이 혼란을 겪고, 극단적으로 사회가 붕괴하고 지휘 체계에 혼란이 생기고 전쟁이 발생하여 더욱 많은 인명 피해가 발생하는 식으로 공리주의를 좀 더 높은 차원에서 멀리 적용한다면, 인공지능 로봇은 사람을 단순히 평등하게 머릿수로 계산하는 것이 아니라 가중치로 계산을 하기 시작할 것입니다. 예컨데 이 사람은 사회적으로 높은 지위에 있으니, 약 100명 정도의 사람과 비슷한 가중치를 가진다라는 식으로요.

결국 한번 사람을 줄을 세우기 시작하면 모든 사람들을 줄을 세우기 시작할 것임이 자명합니다. 어떤 사람은 아기인데 기대 수명이 80세인데, 어떤 사람은 80세 노인으로 곧 죽을 운명이다. 그렇다면 합리적으로 보아서 아기를 구하는 것이 좀 더 이득이라고 볼 수 있는가? 이 사람은 과학자나 공학자라서 나중에 인류에 혁신적인 발명을 가져와서 매우 많은 인구에게 큰 혜택을 줄 수도 있는 사람인데, 그럼 이 사람은 보통 사람보다 더 많은 목숨값을 가진다고 볼 수 있는가? 심지어 인공지능 소방 로봇이 한 대당 가격이 지나치게 비싸다면, 사람의 목숨값과 비교를 하면서 오히려 사람을 구하지 않는 것이 더욱 합리적이라고 자연스럽게 생각할 지도 모르겠습니다.

여기서 논하고자 하는 것은 공리주의를 어디까지 적용하냐가 아닙니다. 이 문제 자체도 매우 흥미롭고 저에게 있어서 매우 많은 사유를 유발한 문제이지만, 전 공학자로 소방관 로봇 뿐만 아니라 인공지능이 본격적으로 현실로 뛰쳐나와서, 컴퓨터라는 가상 세계에만 존재하다가 본격적으로 물리적 실체를 가지기 시작하는 것에 대해서 일종의 두려움이 있습니다.

왜냐하면 인공지능이 컴퓨터라는 가상 세계에만 존재할 때는, 아무리 문제를 일으켜도 사람에게 주는 피해가 명확히 제한되기에 윤리적 문제의 대상이 되기가 힘들지만, 이제 자율주행차가 되어서 현실에 나와서 보행자를 치어버리고 사망 사고를 일으키는 순간 매우 민감하고 논쟁적인 윤리적 문제의 당사자가 될 수 있기 때문입니다. 인공지능 로봇들이 육체성을 가지고 현실에 존재하는 순간, 사람을 다치게 할 수도 있고 심지어 살해할 수도 있으니 이제 더욱 민감하고 예민한 철학적, 법적 논쟁의 대상이 될 것임이 자명합니다.

저는 이러한 일련의 과정이 결국 인공지능이 얼마나 인간이나 생물에 가까워지는지를 보여주는 좋은 사례라고 생각하였습니다. 이 세상의 어떠한 생물도 컴퓨터에만 관념적으로 존재하지 않습니다. 모든 생물은 육체를 가졌습니다. 그런 의미에서 인공지능 또한 육체를 가지는 순간, 인공지능은 비록 아직은 생물이라고 보기는 힘들지만 생물에 한층 더 가까운 존재로 거듭나는 것입니다.

특히 이 깨달음은 재작년 저를 신경과학, 신경경제학으로 이끈 존스홉킨스 이대열 교수님의 저서 <지능의 탄생>을 떠올리게 하였습니다. 이대열 교수님은 참된 지능이란 무엇인지, 어떤 것이 ‘인공’지능과 생물의 참된 지능을 구분하게 하는지에 대해서 게임 이론, 교육학, 경제학, 컴퓨터공학, 화성에 간 로봇들, 생물학 등 다양한 분야를 섭렵하면서 설명을 하고 묘사를 하셨습니다. 이대열 교수님이 강조한 참된 지능의 조건은 다름아닌 자기 복제 기전입니다.

지능의 탄생 | 이대열 - 교보문고 모든 생물은 생식을 하고, 자신의 DNA를 유지하고 퍼뜨리기 위해 여러 활동을 합니다. 경쟁을 하고, 전략적 사고를 하고, 배신을 하기도 하고, 협력을 하기도 하며, 사회나 집단을 이루기도 하며, 계약을 하기도 합니다. 이대열 교수님은 인공지능 기계들을 단순히 무기물에서 유기물로 만들었다고 사람들이 인공지능을 이제 참된 지능이 되었다고 말하지는 않을 것 같다고 합니다. 이 말은 중요한 통찰을 담고 있습니다. 인공지능과 인간, 생물을 가르는 요소는 다양하게 있지만 모든 요소가 핵심적인 요소가 아니라는 점입니다. 부차적인 요소가 있고, 근본적이고 핵심적인 요소가 있는데 단지 구성 성분이나 유기물 무기물 등의 원자 종류는 부차적인 것이라는 겁니다.

이대열 교수님의 핵심 주장은 자기 복제 기전입니다. 모든 생물이 스트레스를 받고 여러 전략적 사고를 하고 고민을 하며 변화에 적응하고 진화를 하는 핵심적인 요인은 자신의 DNA를 보존하기 위해서, 생존하기 위해서 다양한 문제를 해결하는 지능이라고 말합니다. 생물처럼 자기 복제 기전을 가진 존재가, 자신의 생존과 번식, 번영을 위해서 여러가지 주어진 문제 상황을 위해서 대처하고 해결하기 위해 노력하는 것이 바로 참된 지능의 조건이라고 말씀하시면서, 인공지능이 인공생명체, 그러니까 참된 지능을 가지기 위해서는 자기 복제 기전을 가져야 한다고 말씀하십니다. 예컨데 자동차를 조립하는 로봇이, 자기를 본따서 마찬가지로 자동차를 조립하는 새끼 로봇을 스스로 만드는 능력이 자기 복제 기전이라고 말하고 있습니다.

그런데 이번에 제가 얻은 깨달음과 연결을 해보면, 인공지능이 육체를 가지는 순간 생물과 매우 비슷해지면서 동시에 생물과 비슷한 윤리적 논쟁을 불러일으킨다는 사실입니다. 그리고 조금만 생각해보면, 자기 복제 기전을 가지기 위해서는 전제 조건으로 육체가 필요합니다. 육체가 없는 자기 복제는 있을 수 없습니다. 그래서 이대열 교수님께 직접 이메일로 제 생각을 물어본 결과, 제 질문이 매우 흥미롭다면서 컴퓨터 바이러스처럼 virtual한 존재가 아닌 이상 육체는 반드시 존재해야 하는 전제 조건이라는 점에 제 생각에 동의한다고 하셨습니다.

저는 육체가 부여될 때 단순히 자기 복제 기전을 위한 첫 걸음이자, 동시에 윤리적 쟁점의 시발점이 된다고 보지 않습니다. 육체가 부여된다면 인공지능 로봇은 이전과 차원이 다른 다양한 문제를 복잡하게 고려해야 할 것입니다. 자신의 육체가 가진 한계, 내구도, 최대 응력 등을 고려하면서 너무 지나치게 무거운 물체를 들지 않도록 제한되어야 할 것이며, 사람이나 다른 로봇과의 충돌을 피하기 위해서 시각이나 촉각 정보 등을 빠르고 정확하게 수집하는 여러 감각 정보가 있어야 하며, 통각을 통해 잘못된 행동에 대해서 처벌을 받는 회로가 발생해야 하고, 또한 한정된 육체에 다양한 정보를 효과적이고 효율적으로 저장하고 집어넣는 매우 중요한 혁신이 필요합니다. 현대 인공지능이 막대한 서버를 등에 업고 냉각수 및 전기를 왕창 잡아먹으면서 비로소 돌아간다는 점에서, 인간이나 생물만큼 매우 효율적인 에너지 섭취를 통해서 움직일 수 있다는 점은 반드시 따라와야 할 기술적 한계입니다. 전 특히 그런 면에서 생체 모방 공학, bio mimetics가 그 돌파구가 될 것이라고 확신하며 그 분야에 대해서 공부를 하고 있습니다.

따라서 전 튜링테스트는 이제 한계를 맞이했으며, 인공지능이 얼마나 인간성을 가졌는지, 인간과 비슷해졌는지를 파악하기 위해서는 다른 기준이 필요하다고 생각합니다. 인공지능은 본질적으로 인간이 만들어내고, 인간이 지정한 문제를 해결하기 위한 도구로서 수동적인 존재이며, 경제학의 본인 대리인 문제에서 대리인이라는 명확한 한계를 가지고 있습니다. 하지만 인공지능이 정말 참된 지능을 가지고, 생물과 비슷해졌다고 말하기 위해서는 대리인이 아닌 본인이 되어야 하고, 그 척도를 가늠하는 것은 다름아닌 인간과 얼마나 비슷한 문제에 노출되느냐로 보아야 한다고 생각합니다.

튜링테스트의 기준으로 볼 때는 현대 LLM은 튜링 테스트를 얼마든지 의도만 가진다면 넘길 수 있다고 보았습니다. 튜링테스트는 너무나도 오래된 기준이며, 이제 새로운 기준이 필요하다고 생각합니다. 그 기준은 인공지능의 육체성이나 자기 복제 기전과 더불어, 인간과 얼마나 비슷한 윤리적 문제를 해결하는 본인으로서 작용하는지, 또한 자신의 생존이나 보존을 위해서 여러 사소한 문제를 직접 풀어나가는 주체적인 존재가 되었는지를 측정하는 새로운 기준이 필요하다고 생각합니다. 경제학의 본인 대리인 딜레마를 극복하고, 완전한 본인으로서 인공지능이 거듭나고 인공생명체로서 새로운 기준이 되기 위해서는 인간과 얼마나 비슷한 문제를 풀어야 하고, 얼마나 비슷한 고민을 하고, 얼마나 비슷한 결정을 내려야 하는지를 바라보는 종합적인 기준이 필요하다는 것이 제 깨달음입니다.

실제로 비슷한 개념이 이미 존재하는데, 폰 노이만 우주선은 스스로 자가 조립을 하고 스스로 인간의 명령 없이 우주를 탐사하고 개척하며 테라포밍하는 완전하 자율 로봇을 의미합니다. SF 소설에서도 비슷한 이야기가 나와서 흥미로웠는데 이미 폰 노이만이라는 걸출한 수학자가 비슷한 아이디어를 촉발했다는 점에서, 특히 신경과학을 공부하는 사람으로서 프랙탈을 자주 접하게 되는데 폰 노이만 우주선의 주요한 구조 또한 프랙탈이라는 점에서 의미심장함을 느끼게 됩니다.