AI가 딥페이크 먼저 찾는다, 정부 3개 부처 공동대응 시작

요즘 온라인에서 딥페이크 관련 뉴스를 자주 접하게 됩니다. 예전에는 일부 전문가나 특정 프로그램을 다룰 줄 아는 사람만 합성 영상을 만들 수 있었다면, 이제는 생성형 AI 기술이 빠르게 발전하면서 일반인도 비교적 쉽게 가짜 이미지나 영상을 만들 수 있는 시대가 됐습니다.

문제는 이 기술이 범죄에 악용될 때입니다. 특히 얼굴을 합성하거나 신체 이미지를 조작해 성범죄 영상물처럼 퍼뜨리는 딥페이크 성범죄는 피해자에게 매우 큰 정신적 고통을 남깁니다. 더 심각한 점은 한 번 온라인에 유포된 영상이 삭제되더라도, 다른 사이트나 SNS로 다시 퍼질 가능성이 높다는 것입니다.

이런 상황에서 정부가 딥페이크 성범죄 대응을 위해 본격적으로 공동대응체계를 마련했습니다.

2026년 6월 25일, 행정안전부와 성평등가족부, 방송미디어통신위원회는 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결했습니다.

핵심은 AI가 딥페이크 성범죄 영상물을 빠르게 탐지하고 분석한 뒤, 삭제·차단과 피해자 보호 절차까지 연결하는 것입니다.

즉, 단순히 “가짜 영상인지 확인한다”에서 끝나는 것이 아니라, 탐지부터 피해자 지원까지 한 흐름으로 묶는 방식입니다.

왜 지금 이 협약이 필요했을까?

딥페이크 성범죄는 단순한 온라인 장난이나 허위정보 문제가 아닙니다.

피해자의 얼굴, 사진, 이름, 계정 정보 등이 범죄에 악용될 수 있고, 피해 영상물이 빠르게 퍼질 경우 피해자가 일상생활을 유지하기 어려울 정도의 고통을 겪을 수 있습니다.

성평등가족부와 한국여성인권진흥원이 발표한 2025년 디지털성범죄 피해자 지원 보고서 관련 자료에 따르면, 2025년 중앙디지털성범죄피해자지원센터에서 지원받은 피해자는 1만 637명으로 집계됐습니다.

전체 지원 건수는 35만 2,103건이었고, 그중 피해영상물 삭제지원이 31만 8,020건으로 대부분을 차지했습니다.

피해 유형별로 보면 2025년 피해유형별 피해 건수는 1만 7,629건이었고, 이 가운데 유포불안이 27.7%로 가장 높았습니다. 이어 불법촬영, 유포, 유포협박, 합성·편집 피해가 뒤를 이었습니다.

특히 눈에 띄는 부분은 딥페이크와 관련이 깊은 합성·편집 피해입니다.

합성·편집 피해는 전년 대비 16.8% 증가했고, 사이버 괴롭힘 피해도 26.6% 증가한 것으로 나타났습니다. 이는 디지털성범죄가 기존의 불법촬영 중심에서 AI와 온라인 플랫폼을 활용한 기술 기반 범죄로 점점 바뀌고 있다는 의미입니다.

더 심각한 부분은 피해 연령대입니다.

전체 지원 피해자 중 10대와 20대가 77.6%를 차지했고, 합성·편집 피해의 경우 10대와 20대 비중이 91.2%에 달했습니다.

온라인 활동이 많은 젊은 세대가 딥페이크 범죄에 더 쉽게 노출될 수 있다는 점을 보여줍니다.

결국 이번 협약은 단순한 행정 절차가 아니라, 빠르게 진화하는 AI 범죄에 정부도 기술로 대응하겠다는 의미로 볼 수 있습니다.

3개 기관은 무엇을 협력하나?

이번 업무협약에 따라 행정안전부, 성평등가족부, 방송미디어통신위원회는 크게 세 가지 영역에서 협력합니다.

첫째, AI 딥페이크 탐지·분석모델을 공동 활용합니다

행정안전부는 국립과학수사연구원과 함께 개발한 AI 딥페이크 탐지·분석모델을 관계기관과 공유합니다.

이 모델은 피해영상물이나 의심 콘텐츠가 접수됐을 때 해당 영상이 조작됐는지, 딥페이크 가능성이 있는지 등을 1차적으로 분석하는 데 활용될 예정입니다.

기존에는 사람이 직접 영상을 확인하고 판단해야 하는 과정이 많았습니다.

하지만 AI 탐지모델을 활용하면 초기 판별 시간을 줄일 수 있고, 의심 콘텐츠를 더 빠르게 분류할 수 있습니다.

물론 AI 탐지가 모든 것을 완벽하게 해결하는 것은 아닙니다. 다만 대량으로 유포되는 영상물을 빠르게 걸러내고, 사람이 더 정밀하게 확인해야 할 대상을 선별하는 데는 큰 도움이 될 수 있습니다.

둘째, 탐지부터 삭제·차단까지 절차를 연계합니다

이번 협약의 중요한 포인트는 AI 분석 결과를 삭제·차단 절차와 바로 연결한다는 점입니다.

성평등가족부는 기존에 활용하던 민간 딥페이크 탐지모델과 정부의 AI 탐지·분석모델을 함께 활용해 피해영상물과 의심 콘텐츠를 더 정밀하게 분석할 계획입니다.

이후 삭제지원 절차와 피해자 보호 절차로 이어지도록 대응체계를 강화합니다.

그동안 디지털성범죄 피해 대응은 신고, 분석, 삭제 요청, 피해자 상담, 법률 지원 등이 각각 분리돼 있어 시간이 걸릴 수밖에 없었습니다.

하지만 이번 협약처럼 탐지와 삭제, 피해자 지원이 한 흐름으로 연결되면 대응 속도가 빨라질 가능성이 있습니다.

피해 영상물은 시간이 지날수록 복제되고 재유포될 위험이 커집니다. 그래서 초기에 얼마나 빨리 발견하고 차단하느냐가 매우 중요합니다.

셋째, 재유포·변형 콘텐츠 대응을 강화합니다

방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠가 온라인에서 유통되는 상황에 대응하고, 플랫폼 사업자와의 삭제·차단 협력체계를 강화할 예정입니다.

딥페이크 성범죄의 어려운 점은 영상이 한 번만 올라오고 끝나는 것이 아니라는 점입니다.

원본 영상이 삭제되더라도 누군가 다시 올리거나, 일부 장면을 편집해 다른 형태로 재유포할 수 있습니다.

정부는 이런 재유포·변형 콘텐츠에도 신속하게 대응할 수 있도록 관계기관 간 정보공유와 협력을 확대할 계획입니다.

또한 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 영상의 복제·공유·보관을 제한하는 등 보안관리 기준도 강화한다고 밝혔습니다.

다만 구체적인 보안관리 기준의 세부 항목까지 모두 공개된 것은 아니기 때문에, 실제 현장에서 어떤 방식으로 운영될지는 앞으로 추가 확인이 필요합니다.

딥페이크 의심 영상을 신고하면 어떻게 처리될까?

정부 발표 내용을 기준으로 보면, 앞으로 딥페이크 의심 영상물이나 피해영상물이 접수됐을 때 다음과 같은 흐름으로 처리될 가능성이 큽니다.

 

 

단계처리	내용
1단계	피해영상물 또는 딥페이크 의심 콘텐츠 접수
2단계	AI 딥페이크 탐지·분석모델로 1차 판별
3단계	분석 결과를 바탕으로 삭제·차단 절차 연계
4단계	피해자 상담, 법률·수사·의료지원 등 보호 절차 연결
5단계	재유포·변형 콘텐츠 모니터링 및 추가 대응

 

이 흐름에서 가장 중요한 변화는 ‘AI 분석 결과가 다음 조치로 이어진다’는 점입니다.

기존에는 신고 후 확인, 삭제 요청, 피해자 지원이 따로 움직이면서 시간이 길어질 수 있었습니다.

하지만 앞으로는 AI가 의심 콘텐츠를 빠르게 분석하고, 그 결과를 기반으로 삭제·차단과 피해자 지원 절차가 이어지는 방식이 강화될 것으로 보입니다.

특히 딥페이크 성범죄는 피해자가 직접 영상을 계속 찾아다니며 신고하는 과정 자체가 또 다른 고통이 될 수 있습니다.

이런 점에서 기술 기반 탐지와 기관 간 연계가 강화되는 것은 피해자 부담을 줄이는 방향으로 볼 수 있습니다.

이번 협약에서 중요한 포인트

이번 협약의 핵심은 단순히 “AI 기술을 도입한다”가 아닙니다.

더 중요한 것은 AI 기술을 실제 피해자 지원 체계에 연결한다는 점입니다.

 

핵심	포인트의미
AI 탐지	딥페이크 의심 영상을 빠르게 판별
기관 협력	행안부·성평등가족부·방통위가 역할을 나눠 공동대응
삭제·차단 연계	AI 분석 결과를 플랫폼 삭제·차단 절차와 연결
피해자 보호	상담, 법률, 수사, 의료지원 등 피해 회복 절차와 연계
2차 피해 방지	불필요한 영상 복제·공유·보관 제한 등 보안 기준 강화

 

기술이 범죄에 악용되는 속도가 빨라졌다면, 대응 역시 기술 기반으로 빨라질 필요가 있습니다.

이번 협약은 그 방향으로 가는 첫 단계라고 볼 수 있습니다.

여전히 남아 있는 과제

이번 협약은 긍정적인 변화지만, 이것만으로 모든 문제가 해결되는 것은 아닙니다.

가장 큰 문제는 해외 사이트입니다.

디지털성범죄 피해영상물은 국내 플랫폼뿐 아니라 해외 서버를 둔 불법 사이트를 통해 유포되는 경우가 많습니다.

국내 기관이 빠르게 탐지하더라도 해외 플랫폼이나 해외 서버 운영자가 삭제 요청에 협조하지 않으면 대응에는 한계가 생길 수 있습니다.

또 하나의 과제는 AI 탐지의 정확도입니다.

AI는 빠르게 분석할 수 있다는 장점이 있지만, 딥페이크 기술도 계속 발전하고 있습니다.

탐지모델 역시 지속적으로 고도화하지 않으면 새로운 형태의 합성 영상에 대응하기 어려울 수 있습니다.

따라서 앞으로는 다음과 같은 보완이 중요해 보입니다.

 

과제	필요한 대응
해외 사이트 대응	국제 공조 및 해외 플랫폼 협력 강화
AI 탐지 정확도	탐지모델 지속 고도화 및 오탐 방지 체계 마련
피해자 보호	신고 과정에서 2차 피해가 발생하지 않도록 보안 기준 강화
재유포 대응	삭제 후에도 변형 콘텐츠를 계속 모니터링하는 체계 필요

 

개인적인 생각

개인적으로 이번 협약에서 가장 의미 있게 본 부분은 ‘탐지’, ‘삭제’, ‘피해자 보호’를 따로 보지 않고 하나의 흐름으로 연결했다는 점입니다.

딥페이크 성범죄는 단순히 영상을 지우는 문제로 끝나지 않습니다.

피해자는 영상이 어디까지 퍼졌는지 알 수 없다는 불안감, 주변 사람들이 알게 될지 모른다는 두려움, 다시 유포될 수 있다는 공포를 계속 겪을 수 있습니다.

그래서 대응 속도가 매우 중요합니다.

영상이 퍼진 뒤에 뒤늦게 삭제하는 것보다, 초기에 빠르게 탐지하고 확산을 막는 것이 훨씬 중요합니다.

이번 협약은 그런 면에서 필요한 방향으로 보입니다.

다만 실제 효과는 앞으로 현장에서 얼마나 빠르게 작동하는지, 해외 플랫폼과의 협력이 얼마나 잘 이뤄지는지, 피해자가 체감할 만큼 지원 절차가 간소화되는지에 달려 있습니다.

AI가 범죄에 악용되는 시대라면, AI를 범죄 대응과 피해자 보호에도 적극적으로 활용해야 합니다.

이번 정부 공동대응체계가 단순한 협약에 그치지 않고, 실제 피해자를 빠르게 보호하는 시스템으로 자리 잡을 수 있을지 지켜볼 필요가 있습니다.

딥페이크 피해가 의심될 때 알아둘 곳

딥페이크 성범죄 피해가 의심된다면 혼자 해결하려고 하기보다 전문기관의 도움을 받는 것이 중요합니다.

중앙디지털성범죄피해자지원센터에서는 디지털성범죄 피해자 상담, 피해 영상물 삭제 지원, 수사·법률·의료지원 연계 등을 제공합니다.

피해자 본인뿐 아니라 대리인도 상담을 요청할 수 있습니다.

또한 긴급한 상황에서는 여성긴급전화 1366을 통해 도움을 받을 수 있습니다.

정부 발표에 따른 문의처는 다음과 같습니다.

 

기관	문의처
행정안전부 공공데이터분석관리과	044-205-2287
성평등가족부 디지털성범죄방지과	02-2100-6575
방송미디어통신위원회 디지털유해정보대응과	02-2110-1549

 

마무리

딥페이크 성범죄는 기술이 발전할수록 더 정교해지고, 더 빠르게 퍼질 수 있습니다.

특히 피해영상물이 온라인에 한 번 유포되면 삭제와 차단이 쉽지 않고, 피해자는 오랜 기간 불안과 고통을 겪을 수 있습니다.

이번 정부 3개 기관의 공동대응은 이런 문제를 해결하기 위한 기술 기반 대응체계라는 점에서 의미가 있습니다.

AI 탐지모델을 활용해 의심 콘텐츠를 빠르게 분석하고, 삭제·차단과 피해자 지원까지 연결한다면 기존보다 대응 속도는 분명 빨라질 수 있습니다.

다만 실제 성과를 내려면 AI 탐지 정확도, 해외 사이트 대응, 플랫폼 협력, 피해자 보호 기준이 함께 강화되어야 합니다.

앞으로 이 체계가 현장에서 어떻게 작동하는지 계속 지켜볼 필요가 있습니다.

 

<자료출처=정책브리핑 http://www.korea.kr>