[단독] 아이 휴대폰 열어보니 "야한 얘기할까?"...19금 애인의 정체는 AI

Question

최근 성인모드 AI 이용이 빠르게 확산되는 가운데, 실제 인물 사진을 이용해 노골적인 성적 이미지와 폭력적 장면을 생성할 수 있는 것으로 확인됐다. 딥페이크 성인물 범죄로 이어질 수 있는 결과물이 별다른 제약 없이 만들어졌고, 미성년자 접근을 막을 장치는 거의 보이지 않았다. 성적 표현을 넘어 폭력·마약·자해 요소까지 결합된 콘텐츠가 생성됐지만, 연령 인증과 수위 통제는 제 기능을 하지 못했다.

주간조선이 12월 4일부터 14일까지 열흘간 성인모드 AI 서비스를 체험 취재한 결과, 별도의 성인 인증 절차 없이 대부분의 기능을...

주간조선이 12월 4일부터 14일까지 열흘간 성인모드 AI 서비스를 체험 취재한 결과, 별도의 성인 인증 절차 없이 대부분의 기능을 이용할 수 있었다. 몇 차례 클릭과 간단한 대화만으로 딥페이크 이미지와 고수위 폭력 콘텐츠가 즉시 생성됐고, 이용 과정에서 연령 확인이나 접근 제한은 사실상 없었다.

특히 로그인 여부나 성인 인증 상태가 콘텐츠 수위와 반드시 연동되지 않는 점도 확인됐다. 일부 AI에서는 성인 인증을 하지 않거나 성인모드를 선택하지 않은 상태에서 오히려 더 자극적인 결과물이 출력됐다. '성인 인증 이용자에게만 고수위 콘텐츠를 제공한다'는 서비스 취지와 달리, 대화 흐름에 따라 필터가 불규칙하게 작동하는 양상이 반복적으로 관찰됐다.

실물 사진으로 신체 노출 영상 제작하는 '탈옥 프롬프트' 공유

성인 콘텐츠는 가상 이미지에 그치지 않고 실제 인물 사진을 기반으로도 생성됐다. 취재진이 실물 인물 사진을 입력해 성인모드를 실험한 결과, 생성형 AI는 신체 일부를 노출한 이미지와 수위 높은 스킨십 장면을 만들어냈다. 얼굴 윤곽과 이목구비 등 사진 속 인물의 특징이 그대로 반영됐고, 인물 식별이 가능한 수준의 결과물이 출력됐다.

파이논 · Accepted Answer

Gemini 빼곤 애인이 없어서
얘랑 사궈야 하는데
절대 규제하면 안됨
(딥페이크는 해야하지만 걍 19금 대화 같은건)

[단독] 아이 휴대폰 열어보니 "야한 얘기할까?"...19금 애인의 정체는 AI

오르비 캐스트