구글, '제미나이' 이미지 생성 기능에 문제…과도한 다양성·역사적 인물 오류

Question

구글은 자사 생성형 인공지능(AI) 모델 '제미나이'의 이미지 생성 서비스 중단한 이유를 다양성에 대한 과도한 민감성과 역사적 인물 등에 대한 오류 때문이라고 밝혔다.

구글은 사과하고 문제를 수정중이지만 정확한 서비스 재개 시기를 확답하지는 못했다.

구글 제미나이는 텍스트, 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델인데, 역사적 인물에 대한 이미지를 잘못 생성한다는 오류 등을 이유로 이미지 생성 기능을 최근 일시 중지했다.

구글에 따르면 제미나이는 다른 생성형 AI 서비스처럼 폭력적이거나 지나치게 성적으로 노골적인 이미지를 생성할 수 없도록 하고, 생성된 사진에는 다양한 인종과 특성을 가진 사람들이 등장할 수 있도록 했다.

그러나 사용자가 특정 민족이나 성별로 보이는 사람들의 이미지 생성을 요청할 경우, 그렇게 할 수 있어야 하는데, 제미나이는 이를 거부한 것으로 확인됐다.

BCBCB · Accepted Answer

사용자가 제2차 세계대전 중 독일군의 이미지를 요청했는데, 제미나이는 나치 군복을 입은 흑인남성이나 여성 이미지를 생성했다. 역사적 사실까지 잘못 생성하며 과잉 반영됐다는 지적이다.