50.

[중앙선관위] 챗GPT 등 생성형 AI 활용 관련 법규운용기준

• 새 탭 열기
• 작성 이력 보기

• 출처 : 중앙선거관리위원회 선거법규포털 서면질의회답
• 답변일 : 2023. 07. 26.

챗GPT 등 생성형 AI 활용 관련 법규운용기준

1. 운용기준

• 생성형 AI를 통해 도출된 내용으로 작성된 글 또는 제작한 사진·동영상·음성 등을 활용하는 것 자체만으로는「공직선거법」(이하 ‘법’이라 함)에 위반되지 아니하는바, 이를 법상 허용되는 방법으로 선거운동 등의 행위에 활용하는 것은 가능함.
• 생성형 AI를 통해 도출된 내용을 선거운동 등에 활용하는 경우, 그 행위자가 내용에 대한 법적책임 주체이며, 후보자(후보자가 되고자 하는 자 포함. 이하 같음)와 공모관계가 성립하는 경우 후보자도 책임이 있음.

• 생성형 AI를 통해 도출된 내용을 공표하는 때에, 공표내용에 허위의 내용이 포함되어 있는 경우에는 법 제250조(허위사실공표죄)에 해당함.

  ※ 다만, 공표한 내용을 진실한 사실로 오인할 정당한 사유가 있는 경우에는
  위법성이 조각될 수 있음(대법원 2003. 2. 20. 선고 2001도6138 전원합의체 판결 참조).

2. 세부기준

(1) 생성형 AI 활용 일반

• 후보자 또는 제3자가 생성형 AI로 도출된 내용(글·사진·음성·동영상 등)을 선거운동 등에 활용할 수 있는지

  ⇨ 가능함. 다만, 허위사실 공표 등 각종 제한·금지규정에 위반되지 아니하여야 함. ※ 제3자가 후보자의 동의 없이 후보자의 사진·음성·영상을 합성한 딥페이크 이미지를
  활용하는 경우 행위양태에 따라 법 제253조(성명등의 허위표시죄)에 위반될 수 있음.

•  생성형 AI를 통해 제작한 자료(글·사진·음성·동영상 등)를 활용하는 경우 법적 책임의 주체는 누구인지

  ⇨ 생성형 AI로 제작한 자료를 활용한 사람이 법적 책임의 주체임.

• 생성형 AI의 답변 내용을 공표하는 때에 그 내용의 일부가 허위사실이 포함되어 있는 경우 법 제250조(허위사실공표죄)에 해당하는지

  ⇨ 법 제250조(허위사실공표죄)에 해당함.

• 공표내용에 허위사실이 포함되어 있더라도 생성형 AI를 통해 도출한 내용임을 밝혀 공표하는 경우에는 법 제250조(허위사실공표죄)에 해당하지 않는지

  ⇨ 생성형 AI로 도출한 내용임을 밝혔다고 하더라도 공표내용에 허위사실이 포함되어 있는 경우에는 법 제250조(허위사실공표죄)에 해당함. ※ 다만, 선거인의 관점에서 공표된 내용이 허위사실임을 명백히 인식할 수 있는내용 또는 방법으로 공표하는 경우에는 법 제250조에 해당하지 아니할 수 있음.

• 최초 공표자가 생성형 AI로 도출하여 공표한 내용에 허위의 사실이 포함되어 있고, 이러한 공표내용을 토대로 타인이 2차·3차로 허위의 사실이포함된 내용을 공표할 경우 법 제250조(허위사실공표죄)에 해당하는지

  ⇨ 공표내용에 허위의 사실이 포함되어 있다면 2차·3차 공표자 등의 경우
  에도 법 제250조(허위사실공표죄)의 주체에 해당함.

• 허위의 사실을 학습시키지 아니하였음에도, 허위의 사실이 포함된 생성형 AI로 도출한 내용을 선거운동 등에 활용한 경우 법적 책임의 주체는 누구인지

  ⇨ 생성형 AI로 도출한 내용을 선거운동 등에 활용한 사람이 법적 책임의 주체임.

(2) 생성형 AI를 이용한 선거운동

• 생성형 AI를 이용하여 선거공약 개발, 각종 연설문 등 자료 작성, 선거전략 수립, 홍보 동영상·로고송 제작 등이 가능한지

  ⇨ 가능함. 다만, 허위사실 공표 등 각종 제한·금지규정에 위반되지 아니하여야 함. 

• 후보자 또는 제3자가 생성형 AI로 제작한 선거운동용 홍보물을 인터넷 홈페이지에 게시하거나 문자메시지, SNS로 전송할 수 있는지

  ⇨ 가능함. 선거운동을 할 수 있는 사람은 법 제59조(선거운동기간) 제2호·제3호에 따라 상시 인터넷 홈페이지·문자메시지·전자우편으로 선거운동을 할 수 있음. ※ 제3자가 후보자 동의 없이 후보자의 사진·음성·영상을 합성한 딥페이크 이미지를 활용하는 경우 행위양태에 따라 법 제253조(성명등의 허위표시죄)에 위반될 수 있음.

• 생성형 AI가 작성한 연설문을 공개장소 연설·대담 장소에서 AI의 음성으로 구현하여 낭독할 수 있는지

  ⇨ 후보자 등 연설자가 공개장소에서 연설·대담을 하는 기회에 부수하여, 생성형 AI로 제작한 것임을 밝혀 연설문 낭독 음성·영상을 녹음기·녹화기를 통해 송출하는 것은 법 제79조 제10항에 따라 가능함. 

• 후보자와 관련된 이미지(동영상, 음성 포함)의 원본을 생성형 AI로 변경하여 현수막, 선거벽보·공보 등 선거운동용 홍보물에 활용할 수 있는지

  ⇨ 다른 법률에 위반되는지 여부는 별론으로 하고, 원본의 본질적인 내용이 유지되는 범위 내에서 가능함. 다만, 생성형 AI로 제작한 것임을 표시하여야 하며, 이미지 내용에 대한 사실관계가 일치하지 않거나 존재하지 않는 등의 경우에는 법 제250조(허위사실공표죄)에 해당할 수 있을 것임

(3) 생성형 AI의 답변 내용 공표

• 생성형 AI를 통해 도출된 내용을 단순히 공표하거나 도출 내용과 함께 그에 대한 자신의 의견을 부가하여 공표하는 것이 가능한지

  ⇨ 가능함. 다만, 생성형 AI를 통해 도출된 내용임을 밝혔는지 여부와 관계없이, 공표내용이 법 제250조(허위사실공표죄), 법 제251조(후보자비방죄)에 해당하지 아니하여야 할 것임. 

• 생성형 AI를 이용, 허위의 사실이 포함된 선거 관련 사안 기사 또는 ‘가짜뉴스’를 생성하여 공표하는 경우 법 제250조(허위사실공표죄)에 해당하는지

  ⇨ 법 제250조(허위사실공표죄)에 해당함. 위 행위를 언론인이 한 경우(보도·논평의 형식) 법 제96조 제2항 제1호에도 위반될 수 있을 것임.

• 생성형 AI를 이용하여 정당·후보자의 정책·공약을 비교·평가한 내용을 공표할 수 있는지

  ⇨ (선거운동을 할 수 있는 사람) 법 제108조의3(정책·공약에 관한 비교평가결과의 공표제한 등)이 적용되지 않는바, 허위사실 공표 등 법상 각종 제한·금지규정에 위반되지 않는 방법으로 공표할 수 있음. 

  ⇨ (언론기관·단체) 법 제82조(언론기관의 후보자등 초청 대담·토론회)에 따른 언론기관과 법 제87조(단체의 선거운동금지) 제1항 각 호에 해당하지 않는 단체라면 법 제108조의3 규정을 준수하여 공표할 수 있음. 

  ⇨ 다만, 공표한 내용 중 객관적 사실 부분에 허위의 사실이 포함되는 경우에는 법 제250조(허위사실공표죄)에 해당함

• 생성형 AI를 이용하여 특정 정당·후보자에 대한 지지도, 선거결과 등을 예측한 내용을 공표할 수 있는지

  ⇨ 생성형 AI로 분석한 결과로서 신뢰도 등에 한계가 있을 수 있음을 밝혀 공표할 수 있음. 다만, 이러한 경우에도 지지도나 선거결과 등에 대한 분석결과를 선거에 관한 여론조사 결과로 오인하게 하는 방법으로 공표하는 경우에는 법 제96조(허위논평·보도 등 금지) 제1항에 위반될 수 있음. ⇨ 방송·신문·통신·잡지·간행물 경영·관리자, 편집·취재·집필·보도하는 자가 객관적 자료를 제시함이 없이 생성형 AI를 이용하여 예측한 선거결과를 보도하는 경우에는 법 제96조 제2항 제2호에 위반될 것임.

• 생성형 AI를 이용하여 후보자 또는 그 가족과 관련된 특정 이슈를 주제로 하는 풍자 소설, 이미지 등을 창작하여 공표할 수 있는지

  ⇨ 소설·만평·풍자성 이미지 등의 전체적인 내용으로 보아, 허위의 사실을 주된 내용으로 하고 선거인의 관점에서 해당 내용이 허구임을 인식하기 어려운 정도에 이르는 경우에는 법 제250조(허위사실공표죄)에 해당할수 있을 것이며, 사회통념상 후보자의 사회적 가치·평가 저하에 표현의 중점을 두고 있는 것으로 볼 수 있는 경우에는 법 제251조(후보자비방죄)에 해당할 수 있을 것임.