인공지능(AI) 딥페이크를 악용한 성 착취물이 텔레그램 단체 대화방 등을 통해 대량 유포되며 큰 사회문제가 되고 있다.

교육부는 9일 올해 1월부터 9월 6일까지 학생과 교원의 딥페이크 피해 건수가 총 434건에 달한다고 밝혔다. 이 조사는 17개 시·도교육청을 통해 이루어졌다. 학생과 교사를 대상으로 한 딥페이크 피해 사례가 계속해서 증가하고 있다.

딥페이크(Deepfake)는 "딥러닝(Deep Learning)"과 "페이크(Fake)"의 합성어로, 인공지능(AI) 기술을 활용해 사람의 얼굴이나 목소리 등을 교묘하게 조작한 가짜 콘텐츠를 말한다. 딥러닝 알고리즘, 특히 생성적 적대 신경망(GAN)을 사용하여 사진, 영상, 음성 등을 조작하여 원본과 매우 유사한 가짜 미디어를 생성한다.

딥페이크의 가장 흔한 사례는 유명인 또는 특정 인물의 얼굴을 다른 영상에 합성해 마치 그들이 실제로 해당 상황에 있는 것처럼 보이게 만드는 것인데, 이는 정치적 선전, 허위 정보 유포, 또는 음란물 제작 등에서 악용되기도 한다. 하지만 긍정적인 활용 예로는 영화 제작, 교육, 게임, 광고에서 디지털 캐릭터나 실존 인물의 재현 등에 쓰일 수 있다.

딥페이크는 사실과 허구의 경계를 흐리게 만들어 정보 신뢰성 문제를 야기할 수 있기 때문에, 이를 악용하는 경우 법적, 윤리적 논란이 크다.

전 세계가 딥페이크를 이용하여 불법으로 합성된 성범죄물로 골치를 앓고 있다. SNS에 무심코 올린 한 장의 사진도 딥페이크 성범죄에 이용될 수 있다. 누구든 성범죄물의 대상이 될 수 있다는 것이다.  공포스러운 일이 아닐 수 없다.  그러나 일반인은 누가 업로드했는지 추적하기가 거의 불가능하다.

국가가 딥페이크 성범죄 척결을 위한 강력한 의지를 보여줘야 할 때이다. 수사 기관에서 적극적으로 나서지 않는 한 해결되기는 불가능한 일이다.