인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능 기본법)

인공지능 발전과 신뢰기반 조성 등에 관한 기본법, 일명 인공지능기본법이 2024년 12월 26일 국회 본회의를 통과했습니다.  법제사법심사위원회(12월 17일)에서 문체부 저작권국 정향미 국장님께서 " 인공지능 투명성 의무 확보에 대한 조항 내에 4항으로 생성형 인공지능, 그러니까 창작 행위에 관계되는 인공지능의 개발· 활용에 대한 학습 데이터만 목록을 공개해야 된다라고 조항을 넣자"는 의견은 반영되지 않았습니다. 주요 내용은 아래와 같습니다.

 

1. 입법배경

  인공지능은 모든 산업 뿐만 아니라 사회를 바꾸는 기반 기술로 최근 인공지능의 성능이 비약적으로 발전함에 따라 우리 사회 각 분야에서 인공지능의 활용이 급속히 확대되고 있음. 특히, 생성형 인공지능의 등장에 따라 인공지능이 가져올 잠재적 혜택과 함께 위험성에 대한 우려가 전 세계적으로 주목받고 있음.
  인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는데 이바지할 수 있는 대한민국 인공지능의 새로운 기준을 마련하고자 함.

2. 인공지능의 정의

• 인공지능 : 학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말한다.
• 생성형 인공지능 : 입력한 데이터(「데이터 산업진흥 및 이용촉진에 관한 기본법」 제2조제1호에 따른 데이터)의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템을 말한다.
• 인공지능산업 : 인공지능 또는 인공지능기술을 활용한 제품(이하 “인공지능제품”이라 한다)을 개발ㆍ제조ㆍ생산 또는 유통하거나 이와 관련한 서비스(이하 “인공지능서비스”라 한다)를 제공하는 산업을 말한다.

3. 법안의 주요 내용

가. 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 함(제1조).

 

나. 인공지능, 고영향 인공지능, 생성형 인공지능, 인공지능윤리 및 인공지능사업자 등에 대하여 정의함(제2조).

 

다. 과학기술정보통신부장관은 3년마다 인공지능기술 및 인공지능산업의 진흥과 국가경쟁력 강화를 위하여 인공지능 기본계획을 국가인공지능위원회의 심의·의결을 거쳐 수립·시행하고, 기본계획에는 인공지능 정책의 기본 방향, 전문인력 양성, 신뢰 기반 조성 등에 관한 사항이 포함되어야 함(제6조).

 

라. 인공지능산업의 진흥 및 인공지능 신뢰 기반 조성을 위한 주요 정책 등에 관한 사항을 심의·의결하기 위하여 대통령 소속의 국가인공지능위원회를 두고, 국가인공지능위원회는 기본계획의 수립, 인공지능 활용 촉진, 고영향 인공지능 규율 등에 관한 사항을 심의·의결함(제7조 및 제8조).

 

마. 과학기술정보통신부장관은 인공지능 관련 정책의 개발과 국제규범 정립ㆍ확산을 위하여 인공지능정책센터를 지정할 수 있고, 인공지능안전을 확보하기 위하여 인공지능안전연구소를 운영할 수 있음(제11조 및 제12조).

 

바. 정부는 인공지능기술의 개발 활성화와 안전하고 편리한 이용을 위하여 국내·외 동향 및 관련 제도의 조사, 기술의 실용화, 연구개발 등의 사업을 지원할 수 있고, 과학기술정보통신부장관은 인공지능기술과 관련된 표준화를 위하여 표준 제정 등의 사업을 추진할 수 있음(제13조 및 제14조). 

 

사. 과학기술정보통신부장관은 인공지능기술의 개발 및 인공지능산업의 진흥을 위하여 관련 전문인력을 양성하고, 해외 전문인력의 확보를 위한 각종 시책을 추진할 수 있음(제21조).

 

아. 국가 및 지방자치단체는 인공지능산업의 진흥과 인공지능 개발ㆍ활용의 경쟁력 강화를 위하여 인공지능 및 인공지능기술의 연구ㆍ개발을 수행하는 기업, 기관이나 단체의 기능적ㆍ물리적ㆍ지역적 집적화를 추진할 수 있음(제23조).

 

자. 정부는 인공지능윤리의 확산을 위하여 안전성ㆍ신뢰성, 접근성, 사람의 삶과 번영에의 공헌 등의 사항을 포함하는 인공지능 윤리원칙을 제정ㆍ공표할 수 있고, 과학기술정보통신부장관은 인공지능 윤리원칙의 실천방안을 수립하고 이를 공개 및 홍보ㆍ교육하여야 함(제27조).

 

차. 과학기술정보통신부장관은 법인ㆍ기관ㆍ단체 등이 인공지능 안전성ㆍ신뢰성 확보를 위하여 자율적으로 추진하는 검증ㆍ인증 활동을 지원하기 위한 사업을 추진할 수 있음(제30조).

 

카. 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지하여야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 하고, 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있도록 고지 또는 표시하여야 함(제31조).

 

타. 인공지능사업자는 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템의 안전성을 확보하기 위하여 위험 식별ㆍ평가ㆍ완화 등의 사항을 이행하여야 함(제32조).

 

파. 인공지능사업자는 고영향 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 안전성ㆍ신뢰성을 확보하기 위한 조치를 이행하여야 함(제34조).

 

하. 과학기술정보통신부장관은 이 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 인공지능사업자에 대하여 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있고, 위반 사실이 있다고 인정되면 위반행위의 중지나 시정을 위하여 필요한 조치를 명할 수 있음(제40조)

 

 4. 대안반영폐기 의안목록 (19건)

•  [2205639] 인공지능의 안전 및 신뢰 기반 조성에 관한 법률안(조승래의원ㆍ이인선의원 등 11인)
•  [2205643] 인공지능 진흥에 관한 법률안(조승래의원ㆍ이인선의원 등 11인)
•  [2205648] 인공지능산업 육성 및 발전 등에 관한 법률안(정희용의원 등 16인)
•  [2205189] 인공지능 발전 및 신뢰성 보장을 위한 법률안(황정아의원 등 10인)
•  [2205457] 인공지능산업 진흥 및 인공지능 이용 등에 관한 법률안(이해민의원 등 16인)
•  [2205458] 인공지능산업 진흥에 관한 법률안(정동영의원 등 14인)
•  [2205569] 인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안(최민희의원 등 11인)
•  [2205013] 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이정헌의원 등 13인)
•  [2204250] 인공지능산업 진흥 및 신뢰 확보 등에 관한 특별법안(김우영의원 등 19인)
•  [2203235] 인공지능책임법안(황희의원 등 10인)
•  [2203960] 인공지능의 발전과 안전성 확보 등에 관한 법률안(이훈기의원 등 14인)
•  [2203297] 인공지능 발전 진흥과 사회적 책임에 관한 법률안(배준영의원 등 10인)
•  [2203072] 인공지능 기본법안(한민수의원 등 10인)
•  [2201158] 인공지능기술 기본법안(민형배의원 등 13인)
•  [2201399] 인공지능 개발 및 이용 등에 관한 법률안(권칠승의원 등 15인)
•  [2200053] 인공지능 산업 육성 및 신뢰 확보에 관한 법률안(안철수의원 등 12인)
•  [2200543] 인공지능 발전과 신뢰 기반 조성 등에 관한 법률안(정점식의원 등 108인)
•  [2200673] 인공지능산업 육성 및 신뢰 확보에 관한 법률안(조인철의원 등 19인)
•  [2200675] 인공지능산업 육성 및 신뢰 확보에 관한 법률안(김성원의원 등 11인)