한국여성정책연구원

유럽의회, 인공지능법 개정 통해 성적 딥페이크 금지
등록일	2026-09-29
곽서희 \| 레이든 대학교(Leiden University) 정치학과 강사(Lecturer) 유럽의회는 2026년 6월 유럽연합(EU) 인공지능법(AI Act)의 일부 규정을 개정하는 디지털 옴니버스 AI 개정안(Digital Omnibus on AI)을 승인했다. 디지털 옴니버스(Digital Omnibus on AI)는 EU가 인공지능 관련 규정의 적용을 단순화하고 기업의 행정 부담을 줄이기 위해 여러 관련 규정을 한꺼번에 개정한 법률 개정 패키지다. 이번 개정에는 인공지능법(AI Act)의 일부 규정을 조정하고, 동의 없는 성적 이미지 생성 AI를 금지하는 내용 등이 포함됐다. 표결 결과는 찬성 423표, 반대 57표, 기권 174표였다. 개정된 EU 인공지능법은 당사자의 동의 없이 식별이 가능한 실제 인물의 친밀한 신체 부위나 성적으로 노골적인 행위를 이미지·음성·영상 등으로 생성하거나 조작하는 AI 시스템을 EU 시장에 출시하거나 사용하는 것을 금지한다. 이른바 ‘성적 딥페이크’ 콘텐츠를 생성하는 AI 시스템을 직접 규제하는 조항이다. 유럽의회(European Parliament)는 EU 시민이 직접 선출한 의원들로 구성된 입법기관이고, EU 이사회(Council of the EU)는 각 회원국 정부를 대표하는 장관들로 구성된 기관이다. 본 개정법의 조항은 2026년 12월 2일부터 적용된다. 당사자의 동의 없이 성적 이미지 등을 직접 생성·조작하는 AI 시스템을 출시하거나 사용하는 행위뿐 아니라, 이러한 콘텐츠가 생성될 가능성이 높은 AI 시스템을 출시하면서도 이를 방지하기 위한 적절한 안전조치를 마련하지 않는 행위 역시 금지 대상에 포함된다. 이러한 규정은 EU 역내 사업자는 물론, EU 내 이용자를 대상으로 관련 서비스를 제공하는 해외 사업자에게도 적용될 수 있다. AI 기술이 발전하면서 실제 인물의 사진을 마치 옷을 벗은 것처럼 보이게 하는 등 성적 이미지나 영상으로 합성·조작하는 기술이 확산되고 있다. 합성 콘텐츠 제작에 필요한 비용과 기술적 진입장벽은 낮아지는 반면, 실제와 구별하기 어려운 콘텐츠를 생성하는 기술 수준은 높아지면서 AI 악용에 대한 우려도 커지고 있다. 특히 최근에는 딥페이크 콘텐츠의 확산 속도도 빠른 것으로 나타났다. 유럽의회조사처(European Parliamentary Research Service, EPRS)는 2025년 보고서에서 딥페이크 콘텐츠는 최근 6개월마다 두 배씩 증가했으며, 2023년 약 50만 건에서 2025년에는 약 800만 건이 공유된 것으로 전망했다. 그동안 유럽연합(EU)은 딥페이크로 인한 피해와 위험을 인공지능법과 개인정보 보호 관련 법률 등을 통해 부분적으로 규율해 왔다. 그러나 기존 제도만으로는 당사자의 동의 없이 성적 콘텐츠를 생성하거나 조작하는 행위 자체를 직접 금지하는 데 한계가 있다는 지적이 제기돼 왔다. 이에 따라 동의 없는 성적 콘텐츠의 생성·조작을 명시적으로 금지할 수 있는 법적 근거를 마련할 필요성이 지속적으로 제기됐다. 전문가들은 이러한 기술이 생성형 AI를 특정 개인에 대한 괴롭힘이나 디지털 성폭력의 수단으로 악용할 가능성을 높이고, 피해자의 사생활과 신체에 대한 자기결정권을 침해할 수 있다고 지적해 왔다. 유럽의회 소속 의원이자 시민자유·사법·내무위원회(Civil Liberties, Justice and Home Affairs Committee) 공동보고자인 마이클 맥나마라(Michael McNamara)는 이번 옴니버스 패키지가 인공지능법의 기본 틀은 유지하면서 일부 법 적용 일정을 조정해 법적 불확실성을 줄이고, 가능한 범위에서 이용자 보호 수준을 높이는 데 목적이 있다고 설명했다. 특히 AI를 활용한 동의 없는 성적 이미지 제작 애플리케이션에 대한 전면적인 금지 조치를 마련했다는 점을 강조하면서, 이러한 기술이나 플랫폼이 실제 인물, 특히 여성에게 심각한 피해를 초래하고 이들을 모욕·비하하거나 성적 대상화하는 데 악용될 수 있다고 지적했다. 이번 개정은 관련 AI 시스템을 금지하는 데 그치지 않고 위반 행위에 대한 제재 근거도 구체적으로 두고 있다. 인공지능법 제99조는 법 위반 시 적용되는 제재와 행정 과징금 기준을 구체적으로 규정하고 있다. 주요 내용을 간략히 살펴보면, 우선 기업이 EU가 금지하는 AI 관련 행위를 지속할 경우 상당한 수준의 과징금이 부과될 수 있다. 과징금은 최대 3,500만 유로(약 557억 원) 또는 직전 회계연도 전 세계 연간 총매출액의 7% 중 더 큰 금액까지 부과할 수 있다. 실제 과징금 수준은 기업의 규모와 위반 행위의 성격·중대성 등 구체적인 사정을 고려해 결정된다. 또한 본법의 제99조는 기업이 관련 규제기관이나 인증기관에 부정확하거나 불완전한 정보, 또는 오해를 불러일으킬 수 있는 정보를 제공한 경우에도 최대 750만 유로(약 119억 원) 또는 전 세계 연간 총매출액의 1% 중 더 큰 금액까지 행정 과징금을 부과할 수 있도록 규정하고 있다. 다만 중소기업과 신생기업에는 보다 낮은 과징금 기준이 적용되며, 소형 중견기업에도 일부 과징금에 대한 감면 기준이 적용된다. EU 회원국은 자국의 공공기관과 공공단체에 행정 과징금을 어느 범위까지 부과할 것인지 자체적으로 정할 수 있다. 과징금 부과 역시 각 회원국의 법체계에 따라 법원이나 별도의 관할 기관이 담당할 수 있어 구체적인 집행 절차에는 국가별 차이가 있을 수 있다. 다만 제재의 실효성이 회원국 간에 동등하게 확보되도록 해야 한다는 원칙은 명시하고 있다. 유럽연합(EU)은 이번 인공지능법 개정을 통해 당사자의 동의 없이 식별 가능한 실제 인물의 친밀한 신체 부위나 성적으로 노골적인 행위를 생성·조작하는 AI 시스템을 명시적으로 금지하는 제도적 기반을 마련했다. 이는 해당 문제를 단순한 유해 콘텐츠의 차원을 넘어 개인의 존엄성·자율성·사생활 등 기본권을 침해하고 성적 폭력과 학대를 가능하게 할 수 있는 문제로 보고, 관련 AI 시스템의 제공과 사용 자체를 규제 대상으로 삼았다는 점에서 주목할 필요가 있다. 특히 개별 회원국 차원을 넘어 EU 차원에서 AI 기술 발전에 따라 새롭게 부상한 사회적 위험을 구체적인 금지 규정과 집행 체계를 통해 다루기 시작했다는 점에서 의미가 있다. 이번 개정 내용은 2026년 7월 27일 발효됐으며, 당사자의 동의 없이 실제 인물의 친밀한 신체 부위나 성적으로 노골적인 행위를 생성·조작하는 AI 시스템에 대한 금지 규정은 2026년 12월 2일부터 적용된다. 향후 해당 규정이 실제 AI 서비스의 설계·운영 방식과 관련 사업자의 책임 및 안전조치에 어떠한 변화를 가져올지 지속적으로 살펴볼 필요가 있다. <참고자료> ○ EU Artificial Intelligence Act (n.d.). “Regulation (EU) 2024/1689: The AI Act Explorer,” https://artificialintelligenceact.eu/ai-act-explorer/#doc-overview (접속일: 2026.9.16) ○ Euronews (2026.5.19.). “How the EU plans to ban non-consensual ‘nudifier apps’,” https://www.euronews.com/my-europe/2026/05/19/not-without-my-consent-how-europe-plans-to-ban-non-consensual-nudifier-apps (접속일: 2026.9.16) ○ European Parliament News (2026.6.16.). “AI Act: EP approves simplification measures and “nudifier” app ban,” https://www.europarl.europa.eu/news/en/press-room/20260611IPR45207/ai-act-ep-approves-simplification-measures-and-nudifier-app-ban (접속일: 2026.9.16.) ○ Mar Negreiro (2025.7.3.). “Children and deepfakes,” European Parliamentary Research Service (EPRS), https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2025)775855 (접속일: 2026.9.16.)

유럽의회, 인공지능법 개정 통해 성적 딥페이크 금지

등록일

2026-09-29

곽서희 | 레이든 대학교(Leiden University) 정치학과 강사(Lecturer)

유럽의회는 2026년 6월 유럽연합(EU) 인공지능법(AI Act)의 일부 규정을 개정하는 디지털 옴니버스 AI 개정안(Digital Omnibus on AI)을 승인했다. 디지털 옴니버스(Digital Omnibus on AI)는 EU가 인공지능 관련 규정의 적용을 단순화하고 기업의 행정 부담을 줄이기 위해 여러 관련 규정을 한꺼번에 개정한 법률 개정 패키지다. 이번 개정에는 인공지능법(AI Act)의 일부 규정을 조정하고, 동의 없는 성적 이미지 생성 AI를 금지하는 내용 등이 포함됐다. 표결 결과는 찬성 423표, 반대 57표, 기권 174표였다. 개정된 EU 인공지능법은 당사자의 동의 없이 식별이 가능한 실제 인물의 친밀한 신체 부위나 성적으로 노골적인 행위를 이미지·음성·영상 등으로 생성하거나 조작하는 AI 시스템을 EU 시장에 출시하거나 사용하는 것을 금지한다. 이른바 ‘성적 딥페이크’ 콘텐츠를 생성하는 AI 시스템을 직접 규제하는 조항이다. 유럽의회(European Parliament)는 EU 시민이 직접 선출한 의원들로 구성된 입법기관이고, EU 이사회(Council of the EU)는 각 회원국 정부를 대표하는 장관들로 구성된 기관이다.
본 개정법의 조항은 2026년 12월 2일부터 적용된다. 당사자의 동의 없이 성적 이미지 등을 직접 생성·조작하는 AI 시스템을 출시하거나 사용하는 행위뿐 아니라, 이러한 콘텐츠가 생성될 가능성이 높은 AI 시스템을 출시하면서도 이를 방지하기 위한 적절한 안전조치를 마련하지 않는 행위 역시 금지 대상에 포함된다. 이러한 규정은 EU 역내 사업자는 물론, EU 내 이용자를 대상으로 관련 서비스를 제공하는 해외 사업자에게도 적용될 수 있다.
AI 기술이 발전하면서 실제 인물의 사진을 마치 옷을 벗은 것처럼 보이게 하는 등 성적 이미지나 영상으로 합성·조작하는 기술이 확산되고 있다. 합성 콘텐츠 제작에 필요한 비용과 기술적 진입장벽은 낮아지는 반면, 실제와 구별하기 어려운 콘텐츠를 생성하는 기술 수준은 높아지면서 AI 악용에 대한 우려도 커지고 있다.
특히 최근에는 딥페이크 콘텐츠의 확산 속도도 빠른 것으로 나타났다. 유럽의회조사처(European Parliamentary Research Service, EPRS)는 2025년 보고서에서 딥페이크 콘텐츠는 최근 6개월마다 두 배씩 증가했으며, 2023년 약 50만 건에서 2025년에는 약 800만 건이 공유된 것으로 전망했다.
그동안 유럽연합(EU)은 딥페이크로 인한 피해와 위험을 인공지능법과 개인정보 보호 관련 법률 등을 통해 부분적으로 규율해 왔다. 그러나 기존 제도만으로는 당사자의 동의 없이 성적 콘텐츠를 생성하거나 조작하는 행위 자체를 직접 금지하는 데 한계가 있다는 지적이 제기돼 왔다. 이에 따라 동의 없는 성적 콘텐츠의 생성·조작을 명시적으로 금지할 수 있는 법적 근거를 마련할 필요성이 지속적으로 제기됐다. 전문가들은 이러한 기술이 생성형 AI를 특정 개인에 대한 괴롭힘이나 디지털 성폭력의 수단으로 악용할 가능성을 높이고, 피해자의 사생활과 신체에 대한 자기결정권을 침해할 수 있다고 지적해 왔다.
유럽의회 소속 의원이자 시민자유·사법·내무위원회(Civil Liberties, Justice and Home Affairs Committee) 공동보고자인 마이클 맥나마라(Michael McNamara)는 이번 옴니버스 패키지가 인공지능법의 기본 틀은 유지하면서 일부 법 적용 일정을 조정해 법적 불확실성을 줄이고, 가능한 범위에서 이용자 보호 수준을 높이는 데 목적이 있다고 설명했다. 특히 AI를 활용한 동의 없는 성적 이미지 제작 애플리케이션에 대한 전면적인 금지 조치를 마련했다는 점을 강조하면서, 이러한 기술이나 플랫폼이 실제 인물, 특히 여성에게 심각한 피해를 초래하고 이들을 모욕·비하하거나 성적 대상화하는 데 악용될 수 있다고 지적했다.
이번 개정은 관련 AI 시스템을 금지하는 데 그치지 않고 위반 행위에 대한 제재 근거도 구체적으로 두고 있다. 인공지능법 제99조는 법 위반 시 적용되는 제재와 행정 과징금 기준을 구체적으로 규정하고 있다. 주요 내용을 간략히 살펴보면, 우선 기업이 EU가 금지하는 AI 관련 행위를 지속할 경우 상당한 수준의 과징금이 부과될 수 있다. 과징금은 최대 3,500만 유로(약 557억 원) 또는 직전 회계연도 전 세계 연간 총매출액의 7% 중 더 큰 금액까지 부과할 수 있다. 실제 과징금 수준은 기업의 규모와 위반 행위의 성격·중대성 등 구체적인 사정을 고려해 결정된다.
또한 본법의 제99조는 기업이 관련 규제기관이나 인증기관에 부정확하거나 불완전한 정보, 또는 오해를 불러일으킬 수 있는 정보를 제공한 경우에도 최대 750만 유로(약 119억 원) 또는 전 세계 연간 총매출액의 1% 중 더 큰 금액까지 행정 과징금을 부과할 수 있도록 규정하고 있다.
다만 중소기업과 신생기업에는 보다 낮은 과징금 기준이 적용되며, 소형 중견기업에도 일부 과징금에 대한 감면 기준이 적용된다. EU 회원국은 자국의 공공기관과 공공단체에 행정 과징금을 어느 범위까지 부과할 것인지 자체적으로 정할 수 있다. 과징금 부과 역시 각 회원국의 법체계에 따라 법원이나 별도의 관할 기관이 담당할 수 있어 구체적인 집행 절차에는 국가별 차이가 있을 수 있다. 다만 제재의 실효성이 회원국 간에 동등하게 확보되도록 해야 한다는 원칙은 명시하고 있다.
유럽연합(EU)은 이번 인공지능법 개정을 통해 당사자의 동의 없이 식별 가능한 실제 인물의 친밀한 신체 부위나 성적으로 노골적인 행위를 생성·조작하는 AI 시스템을 명시적으로 금지하는 제도적 기반을 마련했다. 이는 해당 문제를 단순한 유해 콘텐츠의 차원을 넘어 개인의 존엄성·자율성·사생활 등 기본권을 침해하고 성적 폭력과 학대를 가능하게 할 수 있는 문제로 보고, 관련 AI 시스템의 제공과 사용 자체를 규제 대상으로 삼았다는 점에서 주목할 필요가 있다.
특히 개별 회원국 차원을 넘어 EU 차원에서 AI 기술 발전에 따라 새롭게 부상한 사회적 위험을 구체적인 금지 규정과 집행 체계를 통해 다루기 시작했다는 점에서 의미가 있다.
이번 개정 내용은 2026년 7월 27일 발효됐으며, 당사자의 동의 없이 실제 인물의 친밀한 신체 부위나 성적으로 노골적인 행위를 생성·조작하는 AI 시스템에 대한 금지 규정은 2026년 12월 2일부터 적용된다. 향후 해당 규정이 실제 AI 서비스의 설계·운영 방식과 관련 사업자의 책임 및 안전조치에 어떠한 변화를 가져올지 지속적으로 살펴볼 필요가 있다.

<참고자료>
○ EU Artificial Intelligence Act (n.d.). “Regulation (EU) 2024/1689: The AI Act Explorer,” https://artificialintelligenceact.eu/ai-act-explorer/#doc-overview (접속일: 2026.9.16)
○ Euronews (2026.5.19.). “How the EU plans to ban non-consensual ‘nudifier apps’,” https://www.euronews.com/my-europe/2026/05/19/not-without-my-consent-how-europe-plans-to-ban-non-consensual-nudifier-apps (접속일: 2026.9.16)
○ European Parliament News (2026.6.16.). “AI Act: EP approves simplification measures and “nudifier” app ban,” https://www.europarl.europa.eu/news/en/press-room/20260611IPR45207/ai-act-ep-approves-simplification-measures-and-nudifier-app-ban (접속일: 2026.9.16.)
○ Mar Negreiro (2025.7.3.). “Children and deepfakes,” European Parliamentary Research Service (EPRS), https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2025)775855 (접속일: 2026.9.16.)

돌아가기

한국여성정책연구원 Korean Women's Development Institute