4.

고영향(고위험) 인공지능의 범주와 사업자의 의무 사항

• 새 탭 열기
• 작성 이력 보기

2026. 1. 22.부터 인공지능기본법(인공지능 발전과 신뢰기반 조성 등에 관한 기본법)이 시행될 예정인데, 이 법은 EU의 ai법의 영향을 받아서 고영향(고위험) 인공지능에 대한 규제를 담고 있다. 여기서는 고영향(고위험) 인공지능의 범주와 그에 따른 규제 내용을 정리하고자 한다. 

​

1. 고영향(고위험) 인공지능의 범주

​

“고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 다음 각 목의 어느 하나의 영역에서 활용되는 것을 말한다.

가. 「에너지법」 제2조제1호에 따른 에너지의 공급

나. 「먹는물관리법」 제3조제1호에 따른 먹는물의 생산 공정

다. 「보건의료기본법」 제3조제1호에 따른 보건의료의 제공 및 이용체계의 구축ㆍ운영

라. 「의료기기법」 제2조제1항에 따른 의료기기 및 「디지털의료제품법」 제2조제2호에 따른 디지털의료기기의 개발 및 이용

마. 「원자력시설 등의 방호 및 방사능 방재 대책법」 제2조제1항제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영

바. 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보를 말한다)의 분석ㆍ활용

사. 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가

아. 「교통안전법」 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영

자. 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정

차. 「교육기본법」 제9조제1항에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가

카. 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역

​

여기서 관심을 가져야 할 것은, '사. 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가'인바, 면접용 ai나 대출심사 ai 등은 고영향(고위험) 인공지능으로서 관련 규제를 따라야 한다. 

​

2. 안전성, 신뢰성 검증, 인증 (제30조, 권고)

​

인공지능사업자가 고영향(고위험) 인공지능을 제공하는 경우 사전에 검증, 인증 등을 받도록 노력해야 한다. 국가기관 등이 고영향 인공지능을 이용하려는 경우 검증, 인증 등을 받은 인공지능에 기반한 제품 또는 서비스를 우선적으로 고려하여야 한다. 

​

3. 투명성 확보 의무 (제31조, 의무)

​

인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.

​

4. 고영향 인공지능 사전검토 및 확인 (제33조)

​

인공지능사업자는 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 그 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하여야 하며, 필요한 경우 과학기술정보통신부장관에게 고영향 인공지능에 해당하는지 여부의 확인을 요청할 수 있다. 과학기술정보통신부장관은 이 요청이 있는 경우 고영향 인공지능 해당 여부를 확인하여야 하며, 필요한 경우 전문위원회를 설치하여 관련 자문을 받을 수 있다.

​

5. 위험관리방안, 이용자보호방안 등의 수립, 운영 의무 등 (제34조)

​

인공지능사업자는 고영향 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 고영향 인공지능의 안전성ㆍ신뢰성을 확보하기 위하여 다음 각 호의 내용을 포함하는 조치를 대통령령으로 정하는 바에 따라 이행하여야 한다.

1. 위험관리방안의 수립ㆍ운영

2. 기술적으로 가능한 범위에서의 인공지능이 도출한 최종결과, 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발ㆍ활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 수립ㆍ시행

3. 이용자 보호 방안의 수립ㆍ운영

4. 고영향 인공지능에 대한 사람의 관리ㆍ감독

5. 안전성ㆍ신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관

6. 그 밖에 고영향 인공지능의 안전성ㆍ신뢰성 확보를 위하여 위원회에서 심의ㆍ의결된 사항

​

6. 영향평가 (제35조, 권고)

​

인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가(이하 “영향평가”라 한다)하기 위하여 노력하여야 한다. 국가기관등이 고영향 인공지능을 이용한 제품 또는 서비스를 이용하려는 경우에는 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하여야 한다.