인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

현행법은 인공지능의 신뢰 기반 조성을 위한 정부의 시책 마련 의무와 고영향 인공지능에 관한 인공지능사업자의 책무 등을 규정하고 있음. 그러나 최근 사람의 개별적인 지시 없이 스스로 계획ㆍ추론하여 외부 시스템 또는 도구를 활용하여 여러 단계의 임무를 자율적으로 수행하는 인공지능시스템(이른바 “인공지능 에이전트”)이 일상생활과 산업 전반에 확산되면서, 위임 권한을 벗어난 작동, 외부 시스템 연계로 인한 예측하지 못한 위험 등이 동반되고 있으나 이에 대응하는 인공지능사업자의 의무에 관한 규정이 없는 한편, 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 정부의 시책 또한 명시되어 있지 아니함. 이에 인공지능 신뢰 기반 조성을 위한 시책에 모든 국민이 인공지능을 윤리적이고 책임 있게 활용할 수 있는 역량 함양을 위한 교육ㆍ홍보 및 지원을 추가하고, 「디지털포용법」 제14조에 따른 디지털역량 함양 활동과 연계되도록 하려는 것임. 또한 인공지능사업자가 인공지능 에이전트를 개발 또는 제공하는 경우 권한 위임의 범위와 한계의 사전 설정, 외부 시스템ㆍ도구 연계로 인한 위험의 평가 및 관리, 권한을 벗어난 작동 방지를 위한 사람의 관리ㆍ감독 및 기술적 조치 등을 이행하도록 하고, 정부가 이를 위하여 컨설팅ㆍ자문 등 필요한 지원을 할 수 있도록 함으로써 인공지능 에이전트의 안전한 발전을 도모하려는 것임(안 제29조 및 제32조의2 신설).