19.

인공지능기본법의 고영향 인공지능

• 공유하기
• 새 탭 열기
• 작성 이력 보기

[개념 (기본법 제2조 제4호)]

4. “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 다음 각 목의 어느 하나의 영역에서 활용되는 것을 말한다.

가. 「에너지법」 제2조 제1호에 따른 에너지의 공급

나. 「먹는물관리법」 제3조 제1호에 따른 먹는물의 생산 공정

다. 「보건의료기본법」 제3조 제1호에 따른 보건의료의 제공 및 이용체계의 구축ㆍ운영

라. 「의료기기법」 제2조 제1항에 따른 의료기기 및  「디지털의료제품법」 제2조 제2호에 따른 디지털의료기기의 개발 및 이용

마. 「원자력시설 등의 방호 및 방사능 방재 대책법」 제2조 제1항 제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영

바. 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보를 말한다)의 분석ㆍ활용

사. 채용, 대출 심사 등 개인의 권리ㆍ의무 관계에 중대한 영향을 미치는 판단 또는 평가

아. 「교통안전법」 제2조 제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영

자. 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정

차. 「교육기본법」 제9조 제1항에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가

카. 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역

 [판단방법]

o 1단계 판단 : 11개 영역 해당(에너지, 먹는 물, 보건의료, 원자력, 수사, 채용ㆍ대출, 교통 등) 여부 검토함

o 2단계 판단 : 11개 영역에 해당하는 인공지능시스템이 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는지 검토함

[2단계 판단 요건]

o 생명, 신체의 안전 및 기본권과의 관련성 : 생명과 신체의 안전은 중대한 권익으로 인정받기 쉽다. 이에 한정되지 않고 인간의 존엄성, 평등권, 신체의 자유, 사생활의 비밀과 자유, 표현의 자유, 지식재산권 등이 포함된다.

o 인공지능이 중대한 영향을 미치거나 위험을 초래하는 경우 : 주로 부정적 영향에 초점을 둔다. 영향의 중대성은 권익의 속성과 증가된 위험 정도를 종합적으로 고려하여 판단하고, 가능한 경우 적절한 위험 측정 방법 및 지표를 이용하는 것이 바람직하지만, 이를 이용할 수 없는 경우에는 인공지능시스템의 목적, 기능, 활용되는 상황의 맥락(활용에 따른 긍정적ㆍ부정적 영향, 위험에 대한 사회적 수용성 등)을 고려하여 판단한다. 위험성을 판단할 때는 인공지능시스템의 의도된 목적, 기능, 활용 맥락을 다양한 관점에서 종합적으로 고려해야 한다.