정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

최근 인공지능 기술의 발달로 누구라도 눈 깜짝할 사이 딥페이크 성범죄의 희생자로 전락할 수 있지만, 이런 심각성에도 불구하고, 딥페이크 성범죄가 확산되고 있음. 최근 생성형 인공지능 등 인공지능 기술의 급격한 발전에 따라 누구든지 손쉽게 인공지능 기술을 이용하여 그럴듯한 가짜정보, 딥페이크 영상 등을 생성해 낼 수 있게 되었고, 이러한 정보가 무분별하게 확산될 가능성이 높아졌음을 확인시키고 있음. 언론보도에 따르면, 피해자 중에는 대학생뿐 아니라 중·고교생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌고, SNS 등에 ‘피해 학교 명단’으로 떠돌고 있는 곳만 100곳은 족히 넘어 혹시나 ‘내 사진 혹은 내 자녀 사진도 이용된 것은 아닌지’ 하는 공포심 또한 커지는 분위기임. 성착취물을 직접 제작하는 것 못지않게 딥페이크 합성물을 만들고 유포하는 것도 영혼을 파괴하는 중범죄임. 피해자는 수치스러움을 넘어 인격적 살해를 당하게 되고 아무 잘못이 없는데도 혹시 주변 사람이 볼까 봐 극심한 정신적 고통을 겪게 되는 등 심각한 경제적ㆍ정신적 피해 등을 야기할 수 있음. 이에 포털, 동영상ㆍ소셜미디어 플랫폼 등 정보통신망을 통하여 유통되는 딥페이크 기술을 악용한 촬영물ㆍ영상물 또는 음성물을 편집ㆍ합성ㆍ가공한 정보의 유통을 금지하고 위반 시 처벌하도록 하여 정보통신망에서의 권리보호 및 건전한 지능정보사회윤리 확립을 강화하려는 것임 또한 합성 영상의 무분별한 유통으로 인한 피해를 예방하기 위하여 방송통신위원회와 과학기술정보통신부가 합성 영상으로 인한 명예훼손 등의 피해 실태 파악, 합성 영상 유통 실태 및 관련 국내외 기술 동향 파악, 유통 방지를 위한 기술 개발의 촉진, 교육·홍보 등의 시책을 추진하도록 함으로써 건전한 정보통신망 이용환경을 조성하려는 것임(안 제44조의11 신설 및 제44조의7ㆍ제70조).