미야자키 하야오 감독이 인공지능을 혐오한 이유 (약혐주의)

Question

요새 chatGPT가 지브리 이미지 생성으로 세계를 한번 뒤집어버렸죠. 제 주변의 사람들도 프사를 최소 20%가량 지브리 풍으로 바꿔버리셨던데, 만약 인간 작가가 지브리 풍으로 일일이 바꿔야 했었다면 1인당 시간은 물론 비용도 수 백만원을 호가하는 퀄리티의 그림을 AI가 양산을 하면서 그야말로 집단이 이익을 얻은 대단한 사건입니다. 그리고 이러한 공리주의적 관점은 항상 비슷한 문제제기를 하죠 피해를 본 소수는 그럼 다수의 이득 때문에 묻혀도 되느냐고요.

저는 개인적인 호기심에 제 평소 언행을 모조리 다 집어넣어서 과연 무슨 말을 내뱉는지 인공지능한테 나중에 부탁을 해보고 생성을 시켜보고 싶은 마음이 큰데요, 당연히 창작자들은 자신의 창작물에 대한 배타적 권리를 보호받아야 마땅하며 그러한 보호가 제대로 이루어지지 않는다면 궁극적으로 창작자들이 위축될 것이고 그렇게 되면 결국 다수의 불행으로 돌아올 것입니다. 짤은 미야자키 하야오 감독의 사진, 지브리 화풍으로 유명하죠

https://news.nate.com/view/20250401n04971

너무 핫해지니까 문자 그대로 GPU가 미친듯이 돌아가서 GPU 녹아내릴 지경이라고 하면서 무료 이용자에 대한 지브리 풍 이미지 변환을 제한하면서 풍선 효과처럼 유료 구독자가 늘어나는 효과를 얻기도 했는데... 과연 이걸 ChatGPT의 노력과 경영 능력 덕분으로 봐야하나? 이걸로 이득을 본 것을 자기들이 혼자 독식해도 되나? 하는 문제제기가 저 또한 올라오더군요

https://turingpost.co.kr/p/ghibli-effect-ai-copyright

어떤 창작자들(특히 저 같은 하꼬들은) 오히려 자신의 창작물이 유명해지고 전 세계적으로 유행해지는 것을 활용해서 뭔가 다른 사업을 한다거나 인정을 받는 등 좋은 효과를 얻으려고 하고 기분이 좋을 것 같지만, 그렇지 않은 사람들도 충분히 있으며 그들을 당연하게도 존중해야 한다는 것입니다

https://v.daum.net/v/8oq83dva1c

특히 제가 오늘 다루고 싶은 내용은 현재진행형이자 뜨거운 감자이자 제가 감히 결론이나 의견을 내기 힘든 복잡한 지브리 프사에 대한 이야기보다는, 이전에 미야자키 감독이 이미 인공지능에 대해 부정적인 생각을 피력한 사건을 통해서 인공지능 제가 평소 자주 사용하는 gai들에 대한 고찰과 생각을 좀 이야기해보려고 합니다.

여러분 생성형 ai와 우리들의 가장 큰 차이라고 해야할까요? 제가 생각하기에 생성형 ai들이 아직도 인간 세계를 잘 따라오지 못하고 이상한 그림을 하거나 헛소리를 하는 이유는, 바로 이 세상에 대한 '모델'이 없기 때문이라고 생각합니다.

예컨데 우리는 거창하지는 않게 부르지만 이 세상에 대한 모델이 있습니다. 이 내용은 이전에 서울대 뇌인지과학 학과장이신 이인아 교수님의 말씀이시기도 했는데요, 생성형 ai는 우리가 사는 세계에 대한 상식이 부재합니다. 그래서 생성형 ai한테 뭐 그림을 그려달라고 하면, 잘 그리긴 그리는데 사소한 디테일에서 괴상한 그림을 자주 그립니다 뭐 손가락이 6개인 그림을 당당하게 그린다던지.

아무리 갓난 아기라 하더라도 보통 사람들은 손가락이 5개이고, 그것이 보편적인 평균이며 실제 인간이라는 생물이 그렇게 생존하고 진화해왔다는 것을 경험으로서 또는 직접 보고 만지고 느끼고 심지어 본인의 손가락마저 5개라는 것을 보면서 알게 됩니다. 단순히 이 세상의 인간들 손가락이 5개가 있다는 것을 텍스트나 언어로 전달받거나 사진으로만 본 것이 아니라, 본인까지 직접 손을 만지고 느끼면서 이 세상을 알 수 있는 것이죠.

그래서 철학 이론 중에서도 체화인지 이론, 체화인지는 인공지능 철학에서 매우 중요한 비중을 차지하며 점점 강조가 되고 있으며 저 또한 이 이론을 강하게 지지하고 있습니다. 예컨데 우리가 무거운 물건을 들고 있으면, 충격적이게도 어떤 사건이나 다른 물체의 무게 등을 실제보다 평소보다 더 무겁게 느낍니다. 곳간에서 인심난다는 유구한 속담이 있습니다 내가 당장 배부르고 등 따수우면 남에게 관대하고 편안하게 대해주겠지만, 배고프면 짜증나고 아프면 불편해서 남에게 친절하기가 어렵다는 것을 우리는 매우 잘 압니다.

일본인들이 보통 직설적인 표현을 잘 안쓴다는 것을 본다면 매우 강하게 반발한 것을 알 수 있는데 뭘 보고 저렇게 강하게 반발했는지 좀 있다 보여드릴께요 약간 혐오스러울 수도 있습니다

https://alphasquare.co.kr/home/insight/posts/cfa9083f-81db-4cec-8afe-24a4d4034892

이 세상에 관념으로만 존재하는 생물은 없습니다. 뭐 용 같은 것은 우리의 상상 속에서만 존재하는데 그 놈은 단지 우리의 상상에서만 존재하는 것이고 당연히 생물로 취급하지 않습니다. 여러분 주변을 둘러보시면 생물의 공통점은 유기물로 이루어진 육체를 가지고 있다는 것을 알 수 있습니다. 물리적 실체를 가졌고 직접 이 세상에서 감각을 통해 여러 자극을 수용하고, 이 세상에 대한 모델을 가지고 조금씩 발전시키고 다듬는 다는 것이죠.

특히 인간처럼 얼굴 근육이 매우 복잡하고 여러 정교한 기술을 손으로 활용할 수 있는 존재에게 이런 체화인지 이론은 인공지능 탄생 이전부터 매우 중요한 철학적 논리였는데, 인공지능이라는 육체가 없고 컴퓨터라는 가상의 세계에서만 존재하는 생물과 비슷하게 말을 하며 흉내내는 것이 탄생하면서 매우 치열한 논쟁거리가 되었습니다. 저는 인공지능과 인간의 결정적인 차이는 바로 육체이며 그 육체의 부재로 인하여 여러가지 결정적인 차이가 발생한다고 생각합니다.

물론 인공지능도 육체가 있습니다 자신의 서버가 있고 정보 저장 장치와 처리 장치, CPU GPU 등등이 있고 그것의 입출력을 담당하는 것이 있지만 철저히 수동적인 것들입니다. 모두 인간이 만들어준 것이고, 그들이 스스로 생성하지 않았습니다. 생물은 오랜 진화를 거쳐서 스스로 여러 기관을 발달시켜 왔으나 인공지능은 편리하게 인간이 조립식으로 제공한 것을 주었기에, 그 한정된 자극과 정보 안에서 이 세상에 대한 상식과 모델을 만들 수 밖에 없다는 것이죠.

우리가 뇌로만 이루어지지 않고 여러 감각 기관과 신체 기관으로 이루어졌으며, 그것들의 감각 정보에 의해서 판단 능력까지 영향을 받는 것을 본다면 인공지능이 육체를 가지고 여러 감각 기관을 가질 때 전혀 다른 질적인 변화가 발생할 것이라고 예상할 수 있습니다

https://blog.naver.com/humartology/222787559525

특히 뇌는 불확실하고 정확하지 않으며 덜 알려진 정보 속에서 최대한 정확한 판단을 하기에 기억을 메꿔버리거나, 들은 이야기를 논리적으로 최대한 스스로 정리를 해버리거나 (악의적인 의도가 아니라) 왜곡을 해버리는 등 여러 인지적 오류를 발생시키기도 합니다. 그런 부분을 뇌과학에서 주로 연구하는데 알고보면 정말 신기한 것들이 많이 있습니다. 빠르게 들리는 소리를 듣고 분명 어떤 문장이라고 생각햇는데 천천히 들었더니 군데군데 발음이 아예 없어서, 그 빈 틈을 우리의 상식과 일반적인 생각, 기억과 관행 등으로 채워넣어서 임의로 해석한 사례도 직접 목격했는데 매우 신기했습니다.

현재까지 인공지능이 생성한 그림을 판별하는 매우 간단하고 유효한 방법은 손가락 개수라던지 세세한 디테일에서 이상하거나 뭔가 색감이 좀 사실적으로 시도를 했지만 어색한 것을 통해서 판별을 하는 방법입니다. 뭔가 과학적이고 체계적인 방법도 있을 법 한데 그건 제가 들어본 적이 없습니다. 실제로 여러분 픽시브라던지 뭔가 그림들이 많이 올라오는 사이트에 가보면 느끼실 수 있습니다 아~ 저건 AI 그림 같다 아~ 저건 인간이 스스로 그린 그림 같다 라고요.

https://news.sbs.co.kr/news/endPage.do?news_id=N1007523844

다른건 다~ 매우 사실적으로 잘 그렸는데 하필 손가락이 6개라서 인공지능이 구라를 쳤다는 것이 들킨 사진들. 이전에도 중국 등에서 인공지능 생성 가짜 사진으로 재난 현장 등에 대한 동정심을 유발하려다가 손모가지 날라간 적이 있었습니다

https://cm.asiae.co.kr/article/2023022809465644087

인공지능 생성 이미지 쓰다가 걸렸쥬?

https://www.kmib.co.kr/article/view.asp?arcid=0020445044

하지만 그런 한계도 당연히 날로 발전하고 있습니다

https://www.hankookilbo.com/News/Read/A2025032513400004285

오히려 인간은 그림 초보라 하더라도 기본적으로 손가락이 5개라는 상식을 절대로 무시하지 않거나, 좀 간략히 묘사해도 무슨 도라에몽 손처럼 둥글게 표시해서 추상화를 한다던지 등 귀엽고 인지적으로 크게 불쾌하지 않게 잘 넘어갈 수 있을 것입니다. 하지만 인공지능은 대량 학습한 이미지를 통해서 특정 부분에 대해서는 극사실적으로 정말 사진처럼 그리지만 정작 너무나 쉬운 디테일과 상식에서는 우리와의 괴리를 보여줍니다.

전 그 이유가 바로 이인아 교수님이 말씀하신 것처럼 인공지능이 이 세상에 대한 모델, 모형, 상식이 없기 때문이라 생각하고 그것을 얻을 수 있는 방법 중 하나가 직접 육체를 가지고 손과 발 눈 등을 얻고 체험을 하면서 세상이 어떤 식으로 생겼는지, 언어와 사진으로만 바라보지 않고 직접 만지고 육체를 바탕으로 느끼면서 상식을 얻는 것이 핵심적인 방법이라고 생각했습니다.

이제 미야자키 감독이 졸라 불쾌하다고 말한 그 인공지능으로 만든 영상을 하나 보여드리겠습니다. 전 약간 징그럽던데요 정지된 이미지로 보시면 좀 덜할 것 같네요.

영상 직접 보면 진짜 기괴하게 움직이여요 4족보행도 아니고 무슨 관철을 땅에 닿고 그걸로 움직임 ㅋㅋㅋㅋ 손발이 의미가 없고 팔꿈치랑 다리 뒤꿈치 등으로 지탱하면서 몸을 비틀면서 움직임 ㅋㅋㅋ

https://www.youtube.com/watch?v=ngZ0K3lWKRc&t=13s

제가 처음 봤을 때는 아 뭐 그냥 좀비 게임이니까 최대한 기괴한 움직임으로 좀 공포를 주는 데 의의가 있겠구나~ 싶었는데 생각해보니까 좀비도 인간이니까 2족보행을 한다던지 하반신이 날라가면 팔로 움직이는 등 좀 개연성이 있으면서도 그럴듯한 움직임을 보여주고 게임에서도 영화에서도 그런데, 이건 뭐 무슨 슬라임도 아니고 사람이 엉키면서 움직이는 것이 굉장히 그로테스크 하더라고요.

미야자키 감독은 이걸 보면서 학을 떼던데 상당히 불쾌하고 이건 생명에 대한 모독이다 인공지능 따윈 앞으로 작업에 안쓰겠다 라고 못을 박아버린 유명한 영상입니다. 저도 이걸 굉장히 예전에 봤었는데요 이제서야 좀 이해가 되서 글을 쓰게 됩니다.

그러니까 gai들한테는 뭔가 생명에 대한 기본적인 상식이랄까 물리적 모델, 우리 게임에서도 쓰이는 물리 엔진 관성의 표현 물결의 흐름 유체의 저항 등등을 자연스럽게 표현하기 위해서 쓰는 것들이 있는데 이것만으로는 적절한 생명성을 보여줄 수가 없다는 것입니다.

그래서 2족 보행을 할 때 발바닥은 땅을 짚는 용도이고 관절마다 각도의 제한이 있으며, 근육에는 피로도가 있고 모든 상상 가능한 방식으로 움직일 수는 없다, 피부는 약하고 손바닥 발바닥 등에 굳은 살이 생기면서 내피를 보호하는 것이다, 신체 내부에는 혈관망이 존재하며 영양분이 오고가며 외부의 압력으로 빈혈이나 혈전이 생길 수도 있으니 머리를 거꾸로 하고 오랫동안 하면 피가 쏠려서 위험할 수 있다 등등 세세하게 알려줄 것이 너무나도 많더군요.

요새 샘 울트먼부터 인공지능 학자들이 꿈꾸는 것은 AGI입니다 뭐 간단히 말하면 만능 인공지능 다 할 수 있는 전반적인 제너럴리스트로서의 인공지능인데요, 제 생각에 갈 길이 멉니다만 어쩌면 제 생각이 거기에 꽤 핵심적인 역할을 할 수도 있지 않을까 하는 생각에 글을 미리 써둡니다.

gai한테도 비슷하게 물어봤는데 괜찮은 아이디어라고 하면서 추가 설명을 해주더군요.

인공지능은 명시지 그러니까 언어화되고 수식으로 명료하게 구분되고 표현할 수 있는 지식은 이미 인간이 생산한 거의 모든 지식을 거의 다 이해하고 소화했다고 평가받지만, 과연 비언어적인 것들 이런 상식들 굳이 우리가 말을 하지 않는 것들이나 말로 표현하기 애매모호한 것들을 효과적으로 학습하고 AGI로 넘어갈 수 있을까 참 궁금하고 그 시기가 언제일지도 학자마자 분분합니다 빠르면 올해 초기 버전이 가능할 것이라는 말도 있고 늦어도 10년은 걸릴 것이라는 말도 있더군요.

ἀνέρρῑπται κύβος · Accepted Answer

저도 인공지능 혐오하는데 저랑 의견이 비슷하네요

fnxndvszbdrqpzg · Answer

agi 솔직히 적어도 50년이상 걸린다고 봄 나는

미야자키 하야오 감독이 인공지능을 혐오한 이유 (약혐주의)

최근 게시글 · 더보기

공부를 도와주는 학습자료