정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

최근 인공지능(AI) 기술의 발전으로 인해 음향ㆍ화상 또는 영상 등 다양한 콘텐츠가 자동으로 생성되고 있음. 특히 딥페이크 기술을 활용한 성 착취물과 같은 악성 콘텐츠가 큰 사회적 문제로 대두되고 있음. 이는 AI 기술을 악용해 피해자의 동의 없이 성적 이미지를 조작하여 배포하는 범죄로 피해자의 인격권과 사생활을 침해하며 사회적 신뢰를 저해하고 있음. 아울러, AI 기술이 보편화됨에 따라 허위 정보나 가짜 뉴스 확산의 위험성 또한 커지고 있는 만큼, AI 기술을 이용해 생성된 콘텐츠에 대한 명확한 출처 표시의 필요성이 커지고 있음. 본 개정안은 AI 기술을 이용해 생성된 콘텐츠에 대해 AI 기술을 이용하여 만든 정보라는 사실을 표시하도록 의무화함으로써 딥페이크 성 착취물과 같은 피해를 예방하고, 허위 정보와 가짜 뉴스의 확산을 방지하고자 함. 이를 통해 정보의 신뢰성을 제고하고 정보통신망 환경의 안전성과 공정성을 강화에 기여할 수 있을 것임. AI 기술을 이용하여 만든 정보라는 사실 표시를 의무화(안 제43조의2 신설)하고, 이를 위반하여 영리를 목적으로 제공한 자에 대해 처벌하고자 함(안 제73조제2호의2 신설).