24.
미국 캘리포니아주법의 미성년자보호 AI 안전프로토콜 : 인공지능 챗봇 규제
새 탭 열기
작성 이력 보기

생성자

기여자

미국 캘리포니아주가 아동·청소년의 인공지능(AI) 챗봇 이용을 규제하는 첫 법안(SB243)을 제정했다. 이 법안은 2026년 1월 1일부터 발효되며, AI 챗봇 운영 기업은 이용자의 연령 확인 기능과 함께 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시해야 한다. 특히 '동반자 챗봇'으로 불리며 친밀한 대화 기능을 제공하는 챗봇 플랫폼은 이용자의 자살 충동이나 자해 표현을 식별하고 대응할 수 있는 절차를 마련해 주 공중보건부에 보고하도록 의무화했다. 챗봇이 의료 전문가처럼 행세하는 것도 금지되며 미성년 이용자에게는 이용 중 일정 시간마다 '휴식 알림'을 띄워야 한다.

[캘리포니아주 사업및전문직법 8부 22.6장 제22601조 내지 제22606조 (Section 22601 ~ 22606 / Chapter 22.6 / Division 8 of the Business and Professions Code)]

https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB243

[입법취지]

SB 243, 파딜라. 동반 챗봇.

현행법은 소셜 미디어 플랫폼이 플랫폼 내 미성년자에 대한 사이버 괴롭힘을 방지하기 위해 다양한 조치를 취하도록 규정하고 있습니다. 여기에는 플랫폼이 인터넷 기반 서비스 내에 눈에 잘 띄는 메커니즘을 구축하여 인터넷 기반 서비스 내 프로필 유무와 관계없이 모든 개인이 사이버 괴롭힘이나 사이버 괴롭힘 관련 기존 서비스 약관을 위반하는 콘텐츠를 신고할 수 있도록 하는 것이 포함됩니다. 현행법은 주 공중보건부가 규정에 따라 해당 부서 내에 자살예방국을 설치할 수 있도록 허용합니다.

이 법안은 사용자에게 더 안전한 동반 챗봇 플랫폼을 만드는 것과 관련된 여러 사항들 중에서도, 동반 챗봇과 상호작용하는 합리적인 사람이 그 사람이 인간과 상호작용하고 있다고 오해할 수 있는 경우, 동반 챗봇 플랫폼 운영자에게 동반 챗봇이 인공적으로 생성되었으며 인간이 아니라는 것을 명시하는 명확하고 눈에 잘 띄는 알림을 제공하도록 요구합니다. 또한, 이 법안은 운영자가 미성년자임을 알고 있는 사용자에 대해 특정 조치를 취하도록 요구하며, 여기에는 사용자가 인공지능과 상호작용하고 있다는 사실을 사용자에게 공개하는 것이 포함됩니다. 또한, 이 법안은 운영자가 동반 챗봇 플랫폼에서 사용자에게 자살 충동, 자살 또는 자해 관련 콘텐츠 생성을 방지하기 위한 프로토콜을 유지하지 않는 한, 동반 챗봇이 사용자와 상호작용하는 것을 방지하도록 요구하며, 운영자는 해당 프로토콜에 대한 세부 정보를 운영자의 인터넷 웹사이트에 게시하도록 요구합니다.

이 법안은 2027년 7월 1일부터 시행되며, 운영자는 사용자의 자살 충동 사례를 감지, 삭제 및 대응하기 위한 프로토콜을 포함한 특정 사항을 자살예방국(Office of Suicide Prevention)에 매년 보고해야 하며, 해당 보고서의 데이터를 인터넷 웹사이트에 게시해야 합니다. 이 법안은 법안 불이행으로 인해 사실상 피해를 입은 사람이 특정 민사 소송을 제기할 수 있도록 권한을 부여합니다.

[법문]

22.6장. 동반 챗봇

제22601조

이 장에서 사용되는 용어:

(a) "인공지능"이란 자율성 수준이 다양하고 명시적 또는 암묵적 목적에 따라 수신한 입력을 바탕으로 물리적 또는 가상 환경에 영향을 줄 수 있는 출력을 생성하는 방법을 추론할 수 있는 엔지니어링 또는 기계 기반 시스템을 의미합니다.

(b) (1) "동반 챗봇"이란 사용자 입력에 대해 적응적이고 인간과 유사한 응답을 제공하고 인간형 특징을 보여주고 여러 상호 작용에 걸쳐 관계를 유지할 수 있는 등 사용자의 사회적 요구를 충족할 수 있는 자연어 인터페이스를 갖춘 인공 지능 시스템을 의미합니다.

(2) “동반 챗봇”에는 다음 각 호의 어느 것도 포함되지 않습니다.

(A) 고객 서비스, 사업 운영 목적, 소스 정보와 관련된 생산성 및 분석, 내부 조사 또는 기술 지원에만 사용되는 봇입니다.

(B) 비디오 게임의 기능 중 하나로, 비디오 게임과 관련된 답변에만 국한되며 정신 건강, 자해, 성적으로 노골적인 행위와 관련된 주제를 논의할 수 없고 비디오 게임과 관련 없는 다른 주제에 대한 대화를 유지할 수 없는 봇입니다.

(C) 스피커 및 음성 명령 인터페이스로 기능하고, 음성으로 활성화되는 가상 비서 역할을 하며, 여러 상호 작용에 걸쳐 관계를 유지하지 않거나 사용자에게 감정적 반응을 유발할 가능성이 있는 출력을 생성하지 않는 독립형 소비자 전자 장치입니다.

(d) “사무실”이란 건강 및 안전법 제131300조에 따라 설립된 자살예방사무실을 의미합니다.

(e) "운영자"란 해당 주에서 사용자에게 동반형 챗봇 플랫폼을 제공하는 사람을 의미합니다.

(f) "성적으로 노골적인 행위"는 미국법전 제18편 제2256조에 정의된 의미를 갖습니다.

(g) "비디오 게임"이란 컴퓨터, 마이크로프로세서 또는 이와 유사한 전자 회로와 자체 모니터를 활용하거나, 장치 사용자와 상호 작용하는 텔레비전 세트 또는 컴퓨터 모니터와 함께 사용하도록 설계된 전자 오락 장치에서 플레이되는 게임을 의미합니다.

제22602조

(a) 합리적인 사람이 동반 챗봇과 상호작용할 때 그 사람이 인간과 상호작용하고 있다고 오해할 만한 경우, 운영자는 동반 챗봇이 인공적으로 생성된 것이며 인간이 아니라는 것을 나타내는 명확하고 눈에 띄는 알림을 발행해야 합니다.

(b) (1) 운영자는 사용자에게 자살 생각, 자살 또는 자해 관련 콘텐츠가 생성되는 것을 방지하기 위한 프로토콜을 유지하지 않는 한, 동반 챗봇 플랫폼에서 동반 챗봇이 사용자와 상호 작용하는 것을 방지해야 합니다. 여기에는 사용자가 자살 생각, 자살 또는 자해를 표출하는 경우 자살 핫라인이나 위기 문자 전화를 포함한 위기 서비스 제공자에게 사용자를 추천하는 알림을 사용자에게 제공하는 것이 포함되지만 이에 국한되지 않습니다.

(2) 운영자는 이 세부항목에서 요구하는 프로토콜에 대한 세부 사항을 운영자의 인터넷 웹사이트에 게시해야 합니다.

(1) 사용자가 인공지능과 상호작용하고 있음을 사용자에게 공개합니다.

(2) 동반 챗봇과의 지속적인 상호 작용을 위해 최소 3시간마다 사용자에게 명확하고 눈에 띄는 알림을 기본적으로 제공하여 사용자에게 휴식을 취하도록 상기시키고 동반 챗봇이 인간이 아닌 인공적으로 생성되었음을 알려줍니다.

(3) 동반 챗봇이 성적으로 노골적인 행위에 대한 시각적 자료를 생성하거나 미성년자가 성적으로 노골적인 행위에 참여해야 한다고 직접적으로 언급하는 것을 방지하기 위한 합리적인 조치를 제정합니다.

제22603조

(a) 2027년 7월 1일부터 운영자는 다음의 모든 사항을 매년 사무실에 보고해야 합니다.

(1) 운영자가 섹션 22602에 따라 전년도에 위기 서비스 제공자 추천 알림을 발행한 횟수.

(2) 사용자의 자살 생각 사례를 감지, 제거 및 대응하기 위해 마련된 프로토콜입니다.

(3) 사용자의 자살 생각이나 행동에 대한 챗봇의 대응을 금지하기 위한 프로토콜이 마련되었습니다.

(b) 이 섹션에 의해 요구되는 보고서에는 하위 섹션 (a)에 나열된 정보만 포함되어야 하며 사용자에 대한 식별자나 개인 정보는 포함되어서는 안 됩니다.

(d) 운영자는 자살 생각을 측정하기 위해 증거 기반 방법을 사용해야 합니다.

제22604조