17.

AI시대 알고리즘 규제와 소송사례

• 새 탭 열기
• 작성 이력 보기

인공지능과 알고리즘

• 알고리즘 : 특정한 문제를 해결하기 위하여 거쳐야 하는 일련의 과정들의 묶음이나 규칙
• 인공지능
  • 특정한 문제 해결이나 특정한 목적 수행을 위하여 설계된 컴퓨터 알고리즘 (데이터를 기반으로 컴퓨터가 스스로 ‘알고리즘’을 학습하고, 학습된 ‘알고리즘’을 사용하여 새로운 데이터에 대한 예측을 수행함. 학습 데이터 →알고리즘 →결과물)
  • 인공지능의 산출물은, 눈에 보이지 않은 ‘알고리즘’과 눈에 보이는 ‘결과물’임
  • 인공지능의 경우, ‘알고리즘’과 ‘결과물‘에 대한 법적 보호 여부가 쟁점임
• 사람이 만든 알고리즘과 인공지능의 알고리즘의 차이 : 사람이 만든 알고리즘은 나름의 명확한 규칙에 따라 작동하나, 인공지능의 알고리즘은 작동 원리가 불투명하고 복잡하며 편향성이나 오류성에 대한 검증이 쉽지 않으나 빠르고 정확하며 확장성이 높음

알고리즘에 대한 규율현황(저작권법)

• 저작권법 제101조의2 : 프로그램의 해법(프로그램에서 지시, 명령의 조합 방법)은 저작권으로 보호되지 않음
• 인공지능의 알고리즘 : 저작권법 제101조의2의 ‘프로그램의 해법’에 포함되는지 논란이 있음
• 중국 심천시 난산 지방법원의 드림라이터 사건(2020. 4.) 및 베이징 인터넷법원의 스테이블 디퓨전 사건(2023. 12.) : 사람이 기사나 이미지를 만들 때 데이터 입력, 조건설정, 템플릿 선택 행위, 프롬프트 입력 및 매개변수 조정 등에서 기여한 경우, AI 결과물에 대하여 그 사람에게 저작권을 인정한 바 있음

알고리즘에 대한 규율 현황(개인정보보호법, 신용정보법)

• 자동화된 결정 : 완전히 자동화된 시스템으로 개인정보를 처리하여 이루어지는 결정이 자신의 권리 또는 의무에 중대한 영향을 미치는 경우
• 정보주체의 권리 : 자동화된 결정의 거부권, 설명 등 요구권 (결정의 결과, 결정의 주요 기준, 사용된 개인정보의 유형, 결정이 이루어지는 절차)
• 독일 슈파 사건
  • 신용평가 기관인 슈파가 제공한 신용도 점수 때문에 은행에서 대출이 거부된 OQ라는사람이 일부 정보의 부정확성을 주장함
  • 슈파는 영업비밀이라고 주장하면서 신용도 평가에 어떻게 가중치를 매기는지 등에 대한 정보 공개를 거부함
  • 유럽사법재판소는 2023. 12. 7. 슈파의 신용도 평가는 자동화된 결정으로 보고, 해당 의무를 이행하도록 함

알고리즘에 대한 규율 현황(개인정보보호법)

• 네델란드 우버 사건
  • 우버는 운전자가 사기 행위를 저질렀음을 이유로, 계정 비활성화 메일을 보냄
  • 이에 우버 기사는 우버의 계정 비활성화 조치가 자동화된 결정에 해당하는데, 우버는 그에 대한 설명 의무를 이행하지 않았다고 주장함
  • 암스테르담 항소법원은 2023. 4. 4. 우버 직원이 드라이버 계정 차단 과정에 관여했더라도 형식적인 검토에 그치거나 결정을 번복할 권한이 없었다면 인적개입을 인정할 수 없으므로, 계정 차단 시스템이 내린 결정이 ‘완전히 자동화’된 결정에 해당한다고 판단함
  • 계정 비활성화 결정은 일시적 차단이 아니라 영구적 차단으로서 운전자들에게 중대한 영향을 주었다고 판단함
  • 우버는 판결일로부터 1개월 이내에 설명의무를 이행해야 함

• 문제점 : AI 면접으로 탈락한 취준생? 

  

알고리즘에 대한 규율 현황(부정경쟁방지법)

• 영업비밀(부정경쟁방지법 제2조 제2호)
  • 비밀로 유지된 알고리즘의 경우 ‘영업비밀’로 보호될 수 있음. 따라서 이를 무단으로 유출한 경우 형사처벌이나 민사적 손해배상 대상이 될 수 있음
  • 공개된 인공지능 서비스의 ‘알고리즘’은 공개된 정보인가?
• 성과물(부정경쟁방지법 제2조 제1호 (파)목) : 상당한 투자와 노력이 있었으면 성과물로 보호되어 모방을 금지할 수 있음 (예컨대 프로그램 등을 이용해 수많은 질문-답변 쌍을 만드는 작업을 통해서 알고리즘을 복제하는 경우등은 성과물 모방으로 볼 수 있음)

알고리즘 구현의 방해 등(형법)

• 문제제기 : 부정한 명령을 넣어서 알고리즘 구현을 방해하거나 또는 알고리즘의 허점을 이용해서 재산상 이익을 얻는 경우
• 관련 조문 : 제314조(업무방해) ②컴퓨터등 정보처리장치 또는 전자기록등 특수매체기록을 손괴하거나 정보처리장치에 허위의 정보 또는 부정한 명령을 입력하거나 기타 방법으로 정보처리에 장애를 발생하게 하여 사람의 업무를 방해한 자도 제1항의 형과 같다. / 형법 제347조의2(컴퓨터등사용사기) 컴퓨터등 정보처리장치에 허위의 정보 또는 부정한 명령을 입력하거나 권한 없이 정보를 입력ㆍ변경하여 정보처리를 하게 함으로써 재산상의 이익을 취득하거나 제3자로 하여금 취득하게 한 자는 10년 이하의 징역 또는 2천만원 이하의 벌금에 처한다.
• 시사점 : 알고리즘에 대한 형사적 보호 방안이 될 수 있음

네이버쇼핑 검색 알고리즘 사례(2021누36129)

• 사실관계 : 네이버는 쇼핑, 동영상 분야 검색 서비스를 제공하면서 알고리즘을 인위적으로 변경, 조정해서 자사 상품이나 서비스를 검색 결과 상위에 랭크하고 경쟁사를 하위로 내림 (알고리즘에 제재를 내린 우리나라 최초의 사례로서, 예컨대스마트스토어 입점 상품에 대해서만 검색결과 노출순위 결정 요소 중 판매지수에 1.5배 가중치 부여함)
• 공정위 처분 : 2020. 10. 6. 시정명령과 267억원의 과징금 부과함
• 서울고등법원(네이버 패소) : 네이버 직원들이 주고받은 이메일이나 각종 회의자료 등 내부문서에 의하면, 네이버는 위와 같이 검색알고리즘을 조정하면서 그러한 조정이 스마트스토어 상품의 노출 빈도에 미치는 영향을 지속적으로 분석하고 향후 계획을 수립하였으며, 스마트스토어의 성장을 위해네이버쇼핑의 지원이 필요하다는 취지의 직접적인 언급이 있는 경우도 있었다.

카카오모빌리티 배차 알고리즘 조작사건

• 사실관계 : 카카오모빌리티는 카카오T앱의 중형택시 배차 알고리즘을 은밀하게 조작해서 자신의 가맹택시에게 콜을 몰아줌 (2024년에는 경쟁 가맹택시 사업자 소속 기사의 일반호출을 차단하여 724억원 과징금 부과 당함)
• 공정위 처분 : 2023. 2. 14. 시정명령과 257억원의 과징금 부과함
• 서울고등법원 : 현재 재판 진행 중임

쿠팡 검색순위 조작 사건

• 사실관계 : 쿠팡은 알고리즘 조작을 통해서 판매량 등 객관적인 데이터와 무관하게 자사 상품(PB 상품)을 상단에 배치하고 임직원을 이용하여 구매후기를 작성하고 높은 별점을 부여함
• 공정위 처분 : 2024. 6. 13. 1,400억원 과징금 부과하고 법인을 형사고발함
• 쿠팡의 반박 : PB 상품은 고물가 시대의 유통업체의 가장 중요한 차별화 전략이며, 진열을 어떻게 하라는 것을 정부가 강제하는 것으로서 부당한 조치임
• 서울고등법원 : 현재 재판 진행 중임

미국 AI 판사 사건 

• 사실관계 : 미국은 1994년 버지니아주를 시초로 해서 거의 모든 주정부가 재판전 위험평가 도구로서 AI판사지원시스템(COMPAS, PSA, LSI-R)을 도입하도록 함. 이 시스템은 재판 전 판사에게 기존 재판 사례를 분석해서 일정한 의견을 제기하는 역할을 함
• 프로퍼블리카의 분석 : 브로워드 카운티 사례를 분석해 보니, 컴파스가 재범 가능성이 있다고 판단한 사람 중 20%만이 재범을 저질렀고, 특히 컴파스는 백인에 비하여 흑인의 재범 가능성을 높게 평가하고 있음
• 문제점 : 편형성의 문제로서, 과거 재판 사례는 흑인에 대한 편향이 있는 인간 판사의 재판 사례인바, 이를 인공지능이 학습하면 그 인공지능도 인간 판사의 편향성을 그대로 가지게 되는 문제점이 있음

유투브 등 테러 콘텐츠 추천 사건 

• 사실관계 : 테러 사고로 사망한 미국 유족들이 유튜브, 트위터 같은 온라인 플랫폼들의 알고리즘이 테러 관련 콘텐츠를 추천한 것이 이라크와 시리아의 테러단체 이슬람국가(IS)를 돕고 있는 것이라고 주장
• 미국 대법원 : 2023년 5월 미국 연방대방원은 온라인 플랫폼들이 수년 동안IS집단이 자신들이 플랫폼을 사용하고 있다는 사실을 알면서도 금지하지 못했다는 점만으로는 테러 공격을 지원했다고 간주하기 힘들다면서 원고들의 청구를 기각함
• 문제점 : 알고리즘의 의도하지 않은 결과에 관한 문제로서, 의도하지 않은 경우에 어느 정도 법적 책임을 져야 하는지의 문제를 제기한 사건임

메타의 청소년 중독 알고리즘 사건

• 사실관계 : 2023년 10월 미국 41개 주와 컬럼비아 특별구는 캘리포니아주 지방법원 및 연방법원에 메타를 고소했는데 소셜미디어 회사 메타가 알고리즘 등을 이용해 청소년이 자사의 페이스북과 인스타그램에 중독되도록 유발했다는 주장임. 이 주 정부들은 메타가 알고리즘, 알림 설정, 페이지를 넘기지 않고도 게시물을 계속 볼 수 있는 무한 스크롤 기능을 통해 청소년 소셜미디어 중독을 유발하고 정신 건강을 해치고 있다고 소장에 적시함
• 문제점 : 알고리즘의 의도가 모호한 사안으로 결과 뿐만 아니라 알고리즘이 어떤 의도로 짜여졌는지도 입증돼야 하는 문제가 발생함

AI 면접으로 탈락한 취준생들의 집단소송

• 사실관계 : 미국 인적자원관리 시스템 공급업체인 워크데이는 2023. 2. 집단 소송에 휘말림. 이 업체가 만든 시스템을 사용한 회사에 지원했다 탈락한 구직자들이 소송을 제기한 것임. 이들 중엔 아프리카계 미국인 등이 포함돼 있는데, 이들은 AI가 인종 등 차별적인 기준으로 지원자들을 걸러냈다는 주장임.
• 문제점 : 차별적 알고리즘의 문제 뿐만 아니라 개인정보보호법 문제도 발생함

메타 맞춤형 광고의 추천 알고리즘

• 문제제기 : 미국의 48세 여성 사만사는 페이스북이 여성과 노인에게 보험광고를 표시하지 않았는바, 이는 시민권법 위반이라고 주장함. 즉 맞춤형 광고 알고리즘이 차별적이고 편향적이라고 주장을 함
• 관련 소송 : 페이스북의 도구가 표면적으로 중립적이며 페이스북이 통신품위법 제230조에 따라 면책된다고 판단한 1심과 달리, 2023. 9. 26. 미국 캘리포니아주 항소법원은, “메타가 단순한 게시자로서 콘텐츠를 확산하고 배포하는 게 아니라 도구를 이용하여 콘텐츠를 생성, 형성 또는 개발한다”고 결론지으면서, 광고주의 차별을 조장하고 방조하는 맞춤형 광고가 미국 시민권법을 위반했다고 판단함 (참고로 메타는 2022. 6.경 ‘주택에 대한 차별적인 맞춤형 광고’ 때문에 미국 법무부와 중단 합의를 한 바 있음)
• 시사점 : 알고리즘이 균등한 경제적 기회 제공을 박탈하고 피해를 줄 수 있다는 점을 지적한 것임

EU 인공지능법(2026. 6. 시행예정)

• 금지된 인공지능 : 행동을 왜곡하고 의사결정을 방해하여 피해를 입히는 잠재의식 또는 조작 기술을 배포하는 AI, 연령이나 장애 등의 취약성을 악용하여 피해를 주는 AI, 인종이나 정치적 견해, 신념, 성적 지향 등을 추론하는 AI, 사회적 점수를 매겨 불리한 대우를 초래하는 AI, 프로파일링이나 성격 특성만을 토대로 범죄 위험성을 평가하는 AI, 인터넷 등에서 얼굴 이미지를 스크랩해서 데이터베이스를 수집하는 AI, 의학적이나 안전상의 이유 없이 감정을추론하는AI 등 →사용금지
• 고위험 인공지능 : 생체인식, 교육이나 직업 훈련, 고용, 근로자 관리, 공공이나 민간 서비스에 대한 접근, 법집행, 이주나 국경통제 관리 등에 관한 AI →위험 관리 규제(인간에 의한 감독 포함)
• 최소위험 인공지능 : →자율적 준수