[밸류체인타임스 = 이아림 칼럼니스트] 최근 MS에 이어 애플, 엔비디아도 오픈 AI에 수백억 조를 투자하면서 AI시장이 부풀어 오르고 있다. 오픈AI의 ChatGPT 개발 이후 AI 기술이 빠르게 확산되면서, 이를 악용한 새로운 범죄 형태인 ‘딥페이크를 이용한 범죄'가 등장하고 있다.
AI 기술이 우리의 삶을 편리하게 만드는 한편, 사회에 깊은 상처를 남길 수 있다는 점에서 신중한 접근이 요구된다.
국내에서 여성 얼굴의 음란물을 합성하여 유포하는 '딥페이크 성범죄' 확산으로 당국이 집중 단속에 나섰다. 한 해외 보안업체의 조사에 따르면, 전 세계 딥페이크 성착취물 피해자의 절반 이상이 한국인인 것으로 나타났다.
(사진=Unplash)
또한, 언론인을 대상으로 한 범죄도 증가하고 있다. 한국 기자협회는 "기자들의 신변을 위협하고 언론의 자유를 위축시키는 명백한 폭력행위"라며 강력한 대응을 요구하고 있다. 이처럼 딥페이크를 이용한 범죄는 사회 전반으로 확산되고 있다.
현지 시간 28일, 미국 일간 월스트리트저널(WSJ)에 따르면, 미국 사이버보안 업체 '시큐리티 히어로'가 최근 발표한 '2023 딥페이크 현황 보고서'에 따르면 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브, 비메오, 데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개의 업로드된 영상물만 9만 5천 820건이라고 발표했다.
분석 결과 딥페이크 음란물에 등장하는 개인 중 53%가 한국인으로 가장 많은 비율을 차지했다. 한국인 피해자 중 대다수는 가수와 배우 등 연예인이었다. 딥페이크 피해자 중 미국인이 20%로 두 번째로 많았고, 이어 일본인 10%, 영국인 6%, 중국인 3%, 인도 2%, 대만 2%, 이스라엘 1% 순이었다.
보고서는 "한국은 딥페이크 음란물에서 가장 많이 표적이 되는 나라"라며 "딥페이크는 엔터테인먼트, 정치, 허위조작정보 등 다양한 목적으로 이용되지만 일부 국가에서 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다"라며 정곡을 찔렀다.
(사진=Unsplash)
영국 일간 가디언도 "비밀리에 촬영된 성적 영상물인 '몰카'를 근절하기 위해 오랜 기간 노력해 왔지만, 한국이 이제 딥페이크 영상물과도 전투를 벌이고 있다"라고 전했다. 기술 개발이 자유로운 사회인 만큼 이를 역이용하여 범죄에 악용될 여지도 크다는 것을 의미한다.
심지어 최근에 일명 '지인 능욕방'으로 불리는 텔레그램 딥페이크 방이 새로운 유형의 SNS 성범죄로 부상했다. 딥페이크 기술을 활용해 가족이나 지인 등 여성 얼굴을 음란물에 합성하는 등의 행태가 전국적으로 발생했다. 특히 미성년 피해자들도 속출하면서 사태의 심각성이 커지고 있다.
미국과 EU 등 해외 정치권과 정부에서 딥페이크를 이용한 성범죄에 모두 '엄벌'을 강조하며 딥페이크의 규제를 엄격히 하고 있다. 그러나 국내 법원에서는 '합성 수준이 낮다' 또는 '범죄로 얻은 수익이 적다'라는 등의 이유로 집행유예를 선고하는 경우가 있다.
2020년 개정된 성폭력처벌법 취지에 어긋나게 감경 사유를 적용해 '솜방망이' 처벌에 그치고 있다며 비난이 끊이지 않고 있다. 합성 수준과 범죄로 얻은 수익의 수준으로 피해자가 입은 심리적 피해를 단정 지을 수 없기 때문이다.
또한 형량의 '합성 수준'과 '범죄 수익'을 고려하는 것은 허위영상물을 제작, 반포하는 행위 자체를 처벌하는 딥페이크 처벌법 취지에 어긋난다는 비판도 제기되고 있다.
‘딥페이크 영상물 관련 법안’과 판결에 대한 논란이 일자 정부에서는 현재 국회에서 성폭력처벌 특례법 개정안을 추진 중이다. 개정안에는 허위영상물소지죄를 신설하고, 제작 유통죄의 법정형을 5년에서 7년으로 상향 조정하며, 피해자의 신상정보가 유포된 경우의 형량과 해결 방책 등을 마련하기 위한 법률이 신속히 제·개정될 수 있도록 국회와 협력할 계획이다.
또한 딥페이크가 전 세계 9억 명의 사용자를 보유한 텔레그램 중심으로 퍼지는 상황이 고조되자, 정부에서는 국제 공동 대응 협의체를 추진 중이다.
이처럼 AI기술이 가져온 사회적 문제는 우리에게 AI가 정말로 이로운 기술인지 되묻게 만든다. 경제적 측면에서는 새로운 AI 기술 시장이 형성되고 있지만, 윤리적 측면에서는 범죄의 양상이 기하급수적으로 증가하고 있다. 기술의 존폐 문제를 논하기에는 이미 늦었다. 지금 우리 사회에서는 새로운 신기술을 올바르게 활용하면서 무고한 피해자가 발생하지 않도록 피해자를 보호하는 강력한 법률이 가장 필요하다.
저작권자 © 밸류체인타임스 무단전재 및 재배포 금지
[밸류체인타임스 = 이아림 칼럼니스트]
[밸류체인타임스 = 이아림 칼럼니스트] 최근 MS에 이어 애플, 엔비디아도 오픈 AI에 수백억 조를 투자하면서 AI시장이 부풀어 오르고 있다. 오픈AI의 ChatGPT 개발 이후 AI 기술이 빠르게 확산되면서, 이를 악용한 새로운 범죄 형태인 ‘딥페이크를 이용한 범죄'가 등장하고 있다.
AI 기술이 우리의 삶을 편리하게 만드는 한편, 사회에 깊은 상처를 남길 수 있다는 점에서 신중한 접근이 요구된다.
국내에서 여성 얼굴의 음란물을 합성하여 유포하는 '딥페이크 성범죄' 확산으로 당국이 집중 단속에 나섰다. 한 해외 보안업체의 조사에 따르면, 전 세계 딥페이크 성착취물 피해자의 절반 이상이 한국인인 것으로 나타났다.
(사진=Unplash)
또한, 언론인을 대상으로 한 범죄도 증가하고 있다. 한국 기자협회는 "기자들의 신변을 위협하고 언론의 자유를 위축시키는 명백한 폭력행위"라며 강력한 대응을 요구하고 있다. 이처럼 딥페이크를 이용한 범죄는 사회 전반으로 확산되고 있다.
현지 시간 28일, 미국 일간 월스트리트저널(WSJ)에 따르면, 미국 사이버보안 업체 '시큐리티 히어로'가 최근 발표한 '2023 딥페이크 현황 보고서'에 따르면 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브, 비메오, 데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개의 업로드된 영상물만 9만 5천 820건이라고 발표했다.
분석 결과 딥페이크 음란물에 등장하는 개인 중 53%가 한국인으로 가장 많은 비율을 차지했다. 한국인 피해자 중 대다수는 가수와 배우 등 연예인이었다. 딥페이크 피해자 중 미국인이 20%로 두 번째로 많았고, 이어 일본인 10%, 영국인 6%, 중국인 3%, 인도 2%, 대만 2%, 이스라엘 1% 순이었다.
보고서는 "한국은 딥페이크 음란물에서 가장 많이 표적이 되는 나라"라며 "딥페이크는 엔터테인먼트, 정치, 허위조작정보 등 다양한 목적으로 이용되지만 일부 국가에서 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다"라며 정곡을 찔렀다.
(사진=Unsplash)
영국 일간 가디언도 "비밀리에 촬영된 성적 영상물인 '몰카'를 근절하기 위해 오랜 기간 노력해 왔지만, 한국이 이제 딥페이크 영상물과도 전투를 벌이고 있다"라고 전했다. 기술 개발이 자유로운 사회인 만큼 이를 역이용하여 범죄에 악용될 여지도 크다는 것을 의미한다.
심지어 최근에 일명 '지인 능욕방'으로 불리는 텔레그램 딥페이크 방이 새로운 유형의 SNS 성범죄로 부상했다. 딥페이크 기술을 활용해 가족이나 지인 등 여성 얼굴을 음란물에 합성하는 등의 행태가 전국적으로 발생했다. 특히 미성년 피해자들도 속출하면서 사태의 심각성이 커지고 있다.
미국과 EU 등 해외 정치권과 정부에서 딥페이크를 이용한 성범죄에 모두 '엄벌'을 강조하며 딥페이크의 규제를 엄격히 하고 있다. 그러나 국내 법원에서는 '합성 수준이 낮다' 또는 '범죄로 얻은 수익이 적다'라는 등의 이유로 집행유예를 선고하는 경우가 있다.
2020년 개정된 성폭력처벌법 취지에 어긋나게 감경 사유를 적용해 '솜방망이' 처벌에 그치고 있다며 비난이 끊이지 않고 있다. 합성 수준과 범죄로 얻은 수익의 수준으로 피해자가 입은 심리적 피해를 단정 지을 수 없기 때문이다.
또한 형량의 '합성 수준'과 '범죄 수익'을 고려하는 것은 허위영상물을 제작, 반포하는 행위 자체를 처벌하는 딥페이크 처벌법 취지에 어긋난다는 비판도 제기되고 있다.
‘딥페이크 영상물 관련 법안’과 판결에 대한 논란이 일자 정부에서는 현재 국회에서 성폭력처벌 특례법 개정안을 추진 중이다. 개정안에는 허위영상물소지죄를 신설하고, 제작 유통죄의 법정형을 5년에서 7년으로 상향 조정하며, 피해자의 신상정보가 유포된 경우의 형량과 해결 방책 등을 마련하기 위한 법률이 신속히 제·개정될 수 있도록 국회와 협력할 계획이다.
또한 딥페이크가 전 세계 9억 명의 사용자를 보유한 텔레그램 중심으로 퍼지는 상황이 고조되자, 정부에서는 국제 공동 대응 협의체를 추진 중이다.
이처럼 AI기술이 가져온 사회적 문제는 우리에게 AI가 정말로 이로운 기술인지 되묻게 만든다. 경제적 측면에서는 새로운 AI 기술 시장이 형성되고 있지만, 윤리적 측면에서는 범죄의 양상이 기하급수적으로 증가하고 있다. 기술의 존폐 문제를 논하기에는 이미 늦었다. 지금 우리 사회에서는 새로운 신기술을 올바르게 활용하면서 무고한 피해자가 발생하지 않도록 피해자를 보호하는 강력한 법률이 가장 필요하다.
저작권자 © 밸류체인타임스 무단전재 및 재배포 금지
[밸류체인타임스 = 이아림 칼럼니스트]