AI 생성 기술, 딥페이크 성범죄 방치…천 건 제작 사례 적발

Spread the love

생성형 인공지능(AI)의 딥페이크 성 착취물 생성 방지 대책이 무력화된 사건이 발생하며, 기술적 차단에도 불구하고 천 건 이상의 불법 영상물이 제작된 것으로 드러났습니다.

지난 4월, 한 대학원생이 연구실 컴퓨터에서 자신의 얼굴이 합성된 노골적인 음란물을 발견하는 충격적인 사건이 있었습니다. 이 사건으로 인해 피해자는 자신을 포함해 총 7명이며, 딥페이크 음란물은 1천 건이 넘는 것으로 확인되었습니다.

수사 결과, 가해자로 지목된 동료 중국인 유학생은 피해자들의 소셜미디어와 단체 사진을 이용해 딥페이크를 제작한 것으로 밝혀졌습니다. 피해자 A씨는 가해자가 업무 시간 중에도 틈틈이 불법 영상물을 제작했다고 증언했습니다.

가해자는 범죄에 스페이스X AI의 생성형 AI 서비스인 '그록'을 사용했습니다. 그록은 올해 1월 딥페이크 성 착취물 생성을 기술적으로 차단한다고 발표했지만, 한국 유학생은 이러한 조치에도 불구하고 지난 4월까지 대량의 불법 콘텐츠를 제작했습니다.

피해자 측 법률대리인은 이번 사건이 우연히 적발되지 않았다면 수만 건의 범죄가 추가로 발생했을 가능성이 있다고 지적했습니다. 현재 가해자는 상습 허위영상물 편집 등의 혐의로 구속 기소되어 재판을 받고 있습니다.

관련 영상