AI로 옷 벗기기 웹사이트에 2400만명 몰렸다

블룸버그통신은 서비스형 소프트웨어기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 활용해 사진 속 인물의 옷을 벗기는 딥페이크 웹사이트를 방문했다고 전했다.

딥페이크는 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상 등을 의미한다.

그래피카에 따르면 올해 초 대비 9월에 엑스(X·옛 트위터)와 레딧 등 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수도 2400% 증가했다.

그래피카는 "이 같은 앱과 웹사이트의 인기는 AI의 발전으로 불과 몇 년 전보다 훨씬 '그럴듯한 이미지'를 만들기 때문"이라고 분석했다.

 

에바 갈페린 디지털 권리 옹호 단체 일렉트로닉 프론티어 재단 사이버보안국장은 "일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다"며 "고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다"라고 강조했다.

 

AI로 사진 속 여성의 옷을 벗기는 앱의 이용이 폭증하면서 성희롱과 성범죄의 우려가 커지고 있습니다. 이 문제를 해결하기 위해서는 다음과 같은 방법들이 고려될 수 있습니다.

첫째, 앱의 개발과 유통을 규제하는 법적 조치가 필요합니다. 현재 미국에서는 딥페이크를 이용한 성범죄에 대한 법적 규제가 미흡한 상태입니다. 따라서 딥페이크를 이용한 성범죄를 처벌할 수 있는 법률을 제정하고, 앱의 개발과 유통을 허가제로 전환하는 등의 규제를 강화해야 합니다.

둘째, 기술적 대응도 필요합니다. AI 옷 벗기기 앱의 정확도를 낮추거나, 앱을 이용한 딥페이크를 식별할 수 있는 기술을 개발해야 합니다. 구글은 이미 딥페이크를 식별할 수 있는 기술을 개발하고 있으며, 이를 앱과 웹사이트에 적용하고 있습니다.

셋째, 교육과 인식 개선이 필요합니다. 딥페이크의 위험성에 대한 교육을 강화하고, 딥페이크를 이용한 성범죄에 대한 인식을 개선해야 합니다. 딥페이크는 단순한 장난이 아니라, 피해자에게 심각한 피해를 줄 수 있는 범죄라는 인식을 확산해야 합니다.

구체적인 해결 방안으로는 다음과 같은 것들이 제시되고 있습니다.

• 앱의 개발과 유통을 허가제로 전환하고, 앱에 성적 노골성을 포함하지 못하도록 규제하는 법률을 제정하는 방안
• 딥페이크를 이용한 성범죄를 처벌할 수 있는 법률을 제정하는 방안
• AI 옷 벗기기 앱의 정확도를 낮추거나, 앱을 이용한 딥페이크를 식별할 수 있는 기술을 개발하는 방안
• 딥페이크의 위험성에 대한 교육을 강화하고, 딥페이크를 이용한 성범죄에 대한 인식을 개선하는 방안

이러한 해결 방안들을 종합적으로 검토하고, 효과적인 대책을 마련해야 할 것입니다.