• ITㆍ정보ㆍ방송통신
  • 인공지능ㆍ자율주행
  • 25. AI 에이전트 도입에 따른 법적 이슈
  • 25.1. UNCITRAL의 ‘자동화된 계약에 관한 모델법’(Model Law on Automated Contracting) 주요 내용
전체 목록 보기

이 주제의 전문가를
소개합니다.

네플라 위키는 변호사, 판사, 검사, 법학교수, 법학박사인증된 법률 전문가가 작성합니다.

25.1.

UNCITRAL의 ‘자동화된 계약에 관한 모델법’(Model Law on Automated Contracting) 주요 내용

  • 새 탭 열기
  • 작성 이력 보기

생성자
최주선 변호사
기여자
  • 최주선 변호사
1

예컨대, 내 컨디션을 분석해 월경주기를 예측하고 미리 생리대를 주문해 주는 AI 에이전트가 쿠팡에서 평소의 10배 수량의 생리대를 구매하면, 그 구매 계약의 효력은 어떻게 될까?

AI 에이전트가 사람을 대신하여 체결한 계약은 유효할까? AI 에이전트의 대리권을 인정할 수 있을까? AI 에이전트가 사람의 의도와 다른 내용으로 계약을 체결한 경우, 그 위험은 어떻게 분배해야 할까?

이런 문제에 대해 답하고 있는 최신 국제 규범이 바로 UN 국제상거래법위원회(UNCITRAL)가 2024. 7. 채택한 ‘자동화된 계약에 관한 모델법’(Model Law on Automated Contracting)이다.

 

결론부터 말하자면, 위 모델법은 이 사안을 아래와 같이 정리한다.

  • 설령 AI 에이전트가 내 의사와 달리 실제 필요수량의 10배를 구매하는 계약을 체결했더라도 그 계약은 유효하다.
  • 즉, AI 에이전트가 내 의사와 달리 필요수량의 10배를 구매했더라도 그런 행위는 나에게 귀속되며, 내가 예상하지 못했다는 이유만으로 부정되지 않는다.
  • 다만 내가 그 행위를 합리적으로 예견할 수 없었고 쿠팡도 그걸 합리적으로 알 수 있었다면 예외적으로 쿠팡은 그 구매계약의 효력을 주장할 수 없다.
  • 또한, 쿠팡과의 관계와 별개로, 내가 이 AI 에이전트를 설계 및 제공하는 제3의 업체에 대해 별도의 손배 청구를 하는 것은 별개 문제이다.

 

아래에서는, AI 에이전트의 계약 관련 행위에 적용 가능한 규범의 대표적인 예시라고 할 수 있는 이 모델법의 주요 내용을 위 주제에 맞추어 좀더 자세히 살펴보았다.

 

Article 1. Definitions

1. For the purposes of this Law:

(a) “Automated system” means a computer system that is capable of carrying out actions without the necessary review or intervention of a natural person;
(b) “Data message” means information generated, sent, received or stored by electronic, magnetic, optical or similar means.

2. An automated system may be programmed to operate in a deterministic or non-deterministic manner.

제1조. 정의

1. 이 법의 목적상:

(a) “자동화된 시스템”이란 자연인의 필수적인 검토나 개입 없이 행위를 수행할 수 있는 컴퓨터 시스템을 말한다;

(b) “데이터 메시지”란 전자적, 자기적, 광학적 또는 이와 유사한 수단에 의해 생성, 전송, 수신 또는 저장되는 정보를 말한다.
 

2. 자동화된 시스템은 결정론적 또는 비결정론적 방식으로 작동하도록 프로그래밍될 수 있다.

일단 위 정의 규정에 따르면, AI 에이전트는 명백히 여기서의 '자동화된 시스템'에 포함된다.

나아가, 관련 해설에 따르면(해설 29번) '자동화된 시스템'의 정의는 제1조 제2항과 함께 해석되어야 하는데, 제2항은 자동화된 시스템이 결정론적(deterministic) 또는 비결정론적(non-deterministic) 방식으로 작동하도록 프로그래밍될 수 있다고 명시하고 있다.

그리고 여기서 '결정론적'이라는 용어는 동일한 입력값이 주어지면 항상 동일한 결과물(output)을 생성하는 시스템을 의미하며, 이는 '규칙 기반 시스템(rule-based system)'이라고도 불릴 수 있고, 반대로 '비결정론적' 시스템은 확률론적(stochastic) 방식으로 작동한다고 할 수 있으며, 특정 사례에서는 예측할 수 없지만 일정 확률 범위 내의 결과물을 생성하는 경우를 의미한다.

따라서 제2항은 '자동화된 시스템'이 우리가 통상적으로 '지능'으로 이해하는 AI 시스템보다 더 넓은 범위를 포괄한다는 점을 명확히 하고 있다는 것이다.

그리고 이 모델법은 의도적으로 "인공지능(artificial intelligence)"이라는 용어를 사용하지 않지만, '자동화된 시스템'이라는 용어는 이 모델법이 채택될 무렵 체결된 인공지능에 관한 다른 국제 문서들에서 정의된 'AI 시스템'의 개념을 포괄하도록 고안되었다고 한다.

 

Article 2. Scope of application

1. This Law applies to the use of automated systems to form or to perform contracts, including by:

(a) Generating or otherwise processing data messages that constitute an action in connection with the formation of contracts, such as an offer or acceptance of an offer;
(b) Generating or otherwise processing data messages that constitute an action in connection with the performance of a contract, such as its modification or termination.

제2조. 적용 범위

1. 이 법은 다음을 포함하여, 계약을 체결하거나 이행하기 위해 자동화된 시스템을 사용하는 경우에 적용된다:

(a) 청약 또는 청약의 승낙과 같이 계약 체결과 관련된 행위를 구성하는 데이터 메시지를 생성하거나 달리 처리하는 것;


(b) 계약의 변경 또는 해지와 같이 계약 이행과 관련된 행위를 구성하는 데이터 메시지를 생성하거나 달리 처리하는 것.

위 규정에 따르면, 이 모델법은 계약을 체결하거나 이행하기 위해 AI 에이전트를 사용하는 경우에 적용 가능하다.

 

Article 5. Legal recognition of automated contracting

1. A contract formed using an automated system shall not be denied validity or enforceability on the sole ground that no natural person reviewed or intervened in any action carried out in connection with the formation of the contract.

[2. A contract performed using an automated system shall not be denied validity or enforceability on the sole ground that no natural person reviewed or intervened in any action carried out in connection with the performance of the contract.]1

3. An action carried out by an automated system in connection with the formation or performance of a contract shall not be denied legal effect, validity or enforceability on the sole ground that no natural person reviewed or intervened in the action.

(1. States that wish to extend the scope of article 5 to cover contracts that are performed using an automated system may wish to enact this provision.)

제5조. 자동화된 계약(행위)의 법적 인정

1. 자동화된 시스템을 사용하여 체결된 계약은, 그 계약의 체결과 관련하여 수행된 어떠한 행위(action)에 대해서도 자연인이 검토하거나 개입하지 않았다는 이유만으로 그 유효성이나 집행력이 부정되지 아니한다.
 

[2. 자동화된 시스템을 사용하여 이행된 계약은, 그 계약의 이행과 관련하여 수행된 어떠한 행위(action)에 대해서도 자연인이 검토하거나 개입하지 않았다는 이유만으로 그 유효성이나 집행력이 부정되지 아니한다.]¹
 

3. 계약의 체결 또는 이행과 관련하여 자동화된 시스템에 의해 수행된 행위(action)는, 그 행위에 자연인이 검토하거나 개입하지 않았다는 이유만으로 법적 효력, 유효성 또는 집행력이 부정되지 아니한다.
 

(각주 1. 자동화된 시스템을 사용하여 이행되는 계약까지 제5조의 적용 범위를 확장하고자 하는 국가는 이 조항(즉, 제5조 제2항)을 입법하기를 원할 수 있습니다.)

위 규정에 따르면, 설령 AI 에이전트가 내 의사와 달리 실제 필요수량의 10배를 구매하는 계약을 체결했더라도 그 계약은 유효하다.

특히 관련 해설에 따르면(해설 46~50번), 

위 제5조 제1항은 자동화 시스템과 자연인 간의 상호작용으로 체결된 계약 자동화 시스템 간의 상호작용으로 체결된 계약에 모두 적용되며,

제5조는 자동화 시스템이 계약 당사자에 의해 운영되는 것을 전제로 하지 않으므로, 제3자가 운영하는 자동화 시스템을 사용하여 체결된 계약에도 동일하게 적용된다. 

또한, "행위"라는 용어는 "의사표시(communication)"(즉, 청약 및 청약의 승낙을 포함한 모든 진술, 선언, 요구, 통지 또는 요청)도 포함하고, 계약 상황에서 자동화 시스템이 사용될 수 있는 의사 결정 과정의 각종 결과물을 포함한다. 예컨대, 제3항에서 ‘계약의 체결 또는 이행과 관련하여 자동화된 시스템에 의해 수행된 행위’라고 하면, 이는 당근 거래를 할 장소, 시간, 목적물 또는 금액의 지정이 자동화 시스템에 의해 생성되고 전송되는 경우, 이런 지정행위도 다 포함되고 그것이 법적으로 인정된다는 것이다.

다만 제5조는 자동화된 시스템이 마치 의사 결정을 할 수 있는 독립적인 의지(will)를 가지고 있다는 의미로 해석되는 것을 피하고, 단지 의사결정자에 의해 배치된 의사 결정 과정의 결과물을 생성하는 것에 불과하다는 것을 보여주기 위해 의도적으로 "결정(decision)"이라는 용어를 사용하지 않는다고 한다.

 

Article 7. Attribution of actions carried out by automated systems

1. As between the parties to a contract, an action carried out by an automated system is attributed in accordance with a procedure agreed to by the parties.

2. If paragraph 1 does not apply, an action carried out by an automated system is attributed to the person who uses the system for that purpose.

3. Attribution of an action carried out by an automated system shall not be denied on the sole ground that the outcome was unexpected.

4. Nothing in this article affects the application of any rule of law that may govern the legal consequences of attributing an action carried out by an automated system to a person.

제7조. 자동화된 시스템에 의해 수행된 행위의 귀속
 

1. 계약 당사자 간에는, 자동화된 시스템에 의해 수행된 행위(action)는 당사자들이 합의한 절차에 따라 귀속된다.
 

2. 제1항이 적용되지 않는 경우, 자동화된 시스템에 의해 수행된 행위는 해당 목적을 위해 그 시스템을 사용하는 자(person)에게 귀속된다.

3. 자동화된 시스템에 의해 수행된 행위의 귀속은, 그 결과가 예상치 못한 것(unexpected)이었다는 이유만으로 부정되지 아니한다.

4. 이 조항의 어떠한 규정도, 자동화된 시스템에 의해 수행된 행위를 특정인에게 귀속시킴으로써 발생하는 법적 결과를 규율할 수 있는 법률 규정의 적용에 영향을 미치지 아니한다.

위 규정에 따르면, AI 에이전트가 내 의사와 달리 필요수량의 10배를 구매했더라도 그런 행위는 나에게 귀속되며, 내가 예상하지 못했다는 이유만으로 부정되지 않는다.

관련 해설에 따르면(해설 60~61번) 여기 제7조에서의 "귀속" 개념은 자동화 시스템의 '결과물(output)'을 그 '시스템 자체'가 아닌 '사람'에게 연결시키는 것이다.

특히 이 조항은 계약 체결에 AI와 자동화를 사용하는 것에 대한 법적 프레임워크를 확립하는 데 있어 중요한 요소를 재확인하는바, 즉, 자동화 시스템은 독립적인 의지(will)나 법인격(legal personality)이 없는 도구이며, 자동화 시스템의 결과물은 시스템 자체가 아닌 '사람'에게 귀속되어야 한다는 것이다.

이처럼 자동화 시스템의 결과물을 자연인이나 법인에게 연결시키는 것은 새로운 개념이 아닌바, 예를 들어, 저작권이나 특허권은 자연인이나 법인의 저작자성(authorship) 또는 발명자성(inventorship)을 요구하기 때문에, AI 시스템에 의해 생성된 결과물을 해당 자연인이나 법인과 연결시킨다.

이처럼 자동화된 시스템의 어떤 결과물을 사람과 연결시키고 귀속시키는 것은, 자동화된 시스템 예컨대 AI 시스템의 인격을 인정하지 않는 현 상황에서 가장 보편적인 선택이라 할 것이다.

 

[Article 8. Unexpected actions carried out by automated systems

1. Unless otherwise agreed by the parties, where an action carried out by an automated system is attributed to a party to a contract, the other party to the contract is not entitled to rely on that action if, in the light of all the circumstances:

(a) The party to which the action is attributed could not reasonably have expected the action; and
(b) The other party knew or could reasonably be expected to have known that the party to which the action is attributed did not expect the action.

2. Nothing in this article affects the application of any rule of law or agreement of the parties that may govern the legal consequences of an action carried out by an automated system.]1

(1. This provision is included for States wishing to enact one or more specific provisions addressing unexpected actions carried out by automated systems.)

[제8조. 자동화된 시스템에 의해 수행된 예기치 못한 행위
 

1. 당사자 간에 달리 합의하지 않는 한, 자동화된 시스템에 의해 수행된 행위가 계약 당사자 일방에게 귀속되는 경우, 모든 상황을 고려할 때 다음 (a)호와 (b)호에 모두 해당한다면 계약의 상대방은 그 행위를 원용할[주장할] 수 없다:


(a) 그 행위가 귀속되는 당사자가 그 행위를 합리적으로 예견할(expected) 수 없었을 경우; 그리고
(b) 상대방이, 그 행위가 귀속되는 당사자가 그 행위를 예견하지 않았다는 것을 알았거나 합리적으로 알 수 있었을(expected to have known) 경우.

2. 이 조항의 어떠한 규정도 자동화된 시스템에 의해 수행된 행위의 법적 결과를 규율할 수 있는 당사자의 합의나 법률 규정의 적용에 영향을 미치지 아니한다.]¹
 

(각주 1. 이 조항은 자동화된 시스템에 의해 수행된 예기치 못한 행위를 다루는 하나 이상의 특정 조항을 입법하고자 하는 국가들을 위해 포함되었습니다.)

다만 내가 그 행위를 합리적으로 예견할 수 없었고 상대방도 그걸 합리적으로 알 수 있었다면 예외라는 게 위 규정이다.

참고로, 관련 해설에 따르면(해설 73~74번) 위 제8조는, 무조건 이렇게 하자는 취지에서 규정된 조항이 아니고, 각 국가마다 이처럼 예기치 못한 결과물을 해결하기 위해 가지고 있는 기존 법률 하의 해결책(예컨대 착오취소 규정 같은 것들)이 적용될 수 있다고 전제한 상태에서, 그럼에도 불구하고 뭔가 참고할 수 있는 규정을 필요로 하는 경우를 위해 선택적으로 제시되고 있는 조항이다. (그래서 대괄호가 쳐져 있다)

나아가, 일반적으로 제8조는 사람이 의도하지 않은(unintended) 행위를 다루는데, 이 조항은 예측 불가능성(unpredictability)이 특징인, AI 기술이 들어가는 비결정론적 시스템의 작동에 주로 초점을 맞추지만, 결정론적 시스템의 작동도 포함한다. 따라서 이 조항은 자동화 시스템이 설계된 대로 작동하지만 예기치 못한 결과물을 생성하는 상황뿐만 아니라, 프로그래밍 오류, 전송 오류, 제3자 간섭에 의해 결과물이 영향을 받는 상황에도 적용된다. (해설 75번)

 

덧붙이자면, AI 에이전트를 사용하여 계약을 체결한 나와 그 상대방의 관계와 별개로, 내가 그 AI 에이전트를 설계 및 제공하는 제3의 업체에 대해 별도의 손배 청구를 하는 것은 별개 문제이다. (해설 62번 참조)

1
공유하기
최근 작성일시: 2025년 11월 13일
  • 검색
  • 맨위로
  • 페이지업
  • 페이지다운
  • 맨아래로
카카오톡 채널 채팅하기 버튼