AI가 가격 오류를 알아챘다면, 회사도 알고 거래한 것인가?

거래가 끝난 뒤 남은 한 줄의 분석

산업용 센서 제조사 A의 판매 AI가 정상 단가 5만 원을 5천 원으로 잘못 등록했다. 구매회사 B의 AI가 센서 1,000개를 주문했고, 양측 시스템의 계약 확정과 500만 원 결제가 완료됐다. A와 B는 각각 해당 시스템을 계약 체결에 사용하도록 설정해 두었다.

B의 내부 기록에는 “가격 오류가 의심되지만 재고 정리 할인일 가능성도 있다”는 분석이 남았다. 사람이 거래 전에 이를 읽거나 구매를 승인한 사실은 없다. 구매 규칙은 평소와 같았고, 가격 오류를 찾아 주문량을 늘리는 별도 설정도 없었다고 가정한다.

A는 가격 오류를 발견한 뒤 착오를 이유로 계약 취소를 통지했다. A가 필수적인 가격 점검 절차를 반복적으로 생략해 중대한 과실이 있었다는 점은 다투지 않는다. 그러나 A는 B의 AI가 오류 가능성을 알아차리고도 거래했으므로 B 역시 착오를 알고 이용한 것이라고 주장한다.

B가 센서 인도를 청구하고 A가 착오 취소를 항변한 소송을 가정한다. 쟁점은 AI 내부 분석만으로 B가 A의 착오를 알고 이용했다고 판단할 수 있는가이다. 센서 인도 가능성이나 다른 계약 조항에 관한 다툼은 이 시나리오에 넣지 않았다.

실제 판례가 답하는 범위

대법원 2023. 4. 27. 선고 2017다227264 판결은 자동매매 프로그램의 설정값 오입력으로 비정상적인 가격의 파생상품 거래가 체결된 사안이다. 취소를 주장한 회사의 중대한 과실이 인정됐고, 상대방이 착오를 알고 이용했다고 보기 어렵다는 원심판단이 유지됐다. 가격의 이례성만으로 판단하지 않고 시장 구조, 호가 제출 순서와 평소 거래 방식 등 구체적 사정을 함께 고려했다.

대법원 2014. 11. 27. 선고 2013다49794 판결은 상대방이 착오를 알고 이용한 경우라면 표의자에게 중대한 과실이 있어도 착오 취소가 가능하다는 법리를 확인한다. 그 사건에서는 가격 오류를 확인한 뒤 짧은 시간에 주문을 거듭하고 거래량을 크게 늘린 구체적 경위가 중요하게 다뤄졌다.

두 판례의 결과를 센서 매매에 그대로 옮길 수는 없다. 파생상품시장의 가격 형성·매매 체결 구조는 제조사의 제품 판매와 다르다. 여기서 가져오는 것은 중과실과 상대방의 인식·이용을 구분하고, 이례적 가격 외의 거래 경위까지 읽어야 한다는 판단의 틀이다. 두 판례가 AI 내부 추론의 회사 귀속 문제를 직접 해결한 것은 아니다.

Sources for this section: 대법원 2023. 4. 27. 선고 2017다227264 · 대법원 2014. 11. 27. 선고 2013다49794

이 전제에서 구성한 한 가지 모의 결론

모의 주문: A는 B에게 계약한 센서 1,000개를 인도하라.

이유에서 A의 착오 취소 항변을 받아들이지 않는 것으로 구성한다. 인도의무라는 주문은 B의 인도 청구, 계약 성립, 대금 지급, 이행기 도래와 다른 항변 부재라는 위 가상 전제를 포함한 결론이다. 착오 취소가 배척됐다는 이유만으로 모든 실제 사건에서 같은 주문이 나온다는 뜻은 아니다.

송신한 의사표시와 내부에서 처리한 인식

전자문서 및 전자거래 기본법 제7조 제1항 제2호는 자동 송수신 수단으로 송신된 전자문서에 포함된 의사표시를 작성자가 송신한 것으로 보는 규정을 둔다. 따라서 사람이 주문마다 클릭하지 않았다는 이유만으로 송신의 귀속을 부정하는 접근은 이 규정과 분리해 검토해야 한다.

그러나 계약에 관한 의사표시를 누가 송신한 것으로 볼지와, 오류를 의심한 내부 분석을 누구의 지식으로 평가할지는 서로 다른 물음이다. 제7조를 인용했다고 AI의 내부 판단이 언제나 회사의 인식으로 귀속된다는 결론까지 확보되는 것은 아니다. 이 모의사건은 계약 성립을 인정하는 전제 아래 두 번째 물음에 집중한다.

Sources for this section: 전자문서 및 전자거래 기본법 제7조

추정 기록만으로 결론을 채우지 않는 이유

가격은 거래의 핵심 조건이고, 오입력은 이 시나리오에서 인정한 사실이다. 다만 A의 중대한 과실도 전제로 두었으므로 B가 착오를 알고 이용했는지가 취소 주장의 중요한 분기점이 된다.

B의 기록은 가격 오류와 재고 정리 할인이라는 두 가능성을 함께 남긴다. 실제 오입력 사실을 확인했다는 내용과는 차이가 있다. 분석에 오류라는 단어가 등장한다는 사실을 회사가 오류를 확인했다는 사실로 바꿔 읽을 수 있는지가 먼저 문제다.

담당자의 확인이나 이용 지시, 오류 탐지를 계기로 구매량을 바꾸도록 한 규칙도 없다고 설정했다. 모의판단은 기록의 불확실성과 통상적인 구매 운영을 함께 고려해, 이 자료만으로 B의 알고 이용함을 충분히 인정하기 어렵다고 본다. 이 결론에서 구매 규칙이 같다는 사정은 하나의 근거이며, 그 사실만으로 인식과 이용이 언제나 부정된다고 보는 것은 아니다.

A의 주장을 가장 강하게 구성하면

A는 구매 의사결정의 일부를 AI에 맡긴 회사가 유리한 주문의 효과만 받아들이고 그 과정에서 처리한 불리한 정보는 모른다고 할 수 있느냐고 물을 수 있다. 사람의 열람 여부만 중요하게 보면 회사가 불리한 경고를 사람이 보지 않도록 운영할 유인이 생긴다는 반론도 가능하다.

이 반론은 사람이 읽지 않았다는 사정 하나로 책임을 면하게 해서는 안 된다는 문제를 드러낸다. 다만 자동화 운영에 대한 책임을 논할 필요성과, 이 구체적 거래에서 상대방의 착오를 알고 이용했다고 인정할 수 있는지는 다시 연결해 논증해야 한다. 모든 할인 가능성을 오류 인식으로 취급하거나, 로그가 존재한다는 이유만으로 그 내용이 확실한 사실이었다고 단정해서는 안 된다.

따라서 이 모의판단은 경고의 실제 내용, 거래 결정에 들어간 방식, 시스템의 설계 목적과 주문 행태를 살피자는 해석을 제안한다. 이 평가 항목들은 AI 인식 귀속에 관해 위 판례들이 확정한 법리의 목록이 아니라, 이 연구에서 제시하는 심리 방향이다.

결론을 바꾸는 사실 하나

반대 상황을 가정한다. B의 구매책임자가 거래 전에 별도 조사로 A의 오입력을 확인했고, 정정되기 전에 1,000개를 확보하라고 지시했다. 주문은 그 지시에 따라 실행됐다.

이 경우에는 AI의 추정 외에 담당자의 오류 인식과 이용 지시가 더해진다. 그 사실이 증명된다면 A에게 중대한 과실이 있어도 착오 취소를 인정하는 반대 결론을 구성할 근거가 강해진다. 담당자가 어떤 지위와 권한으로 행동했는지, 확인과 지시가 계약 확정 전에 있었는지도 함께 검토할 대상이다.

Sources for this section: 대법원 2014. 11. 27. 선고 2013다49794

다시 읽을 기록

• 가격 변경·주문·계약 확정·취소 통지의 시각: 사건의 순서를 다시 세울 수 있는가.
• 거래 당시 실제 적용된 구매 규칙과 분석 로그: 사후 재실행 결과나 나중 버전이 섞이지 않았는가.
• 담당자의 열람·승인·수정 지시: 계정 활동을 누가 했다는 설명까지 연결되는가.
• 오류 탐지 전후의 주문량과 구매 방식: 변화가 있다면 그 원인을 무엇으로 설명하는가.
• 할인 가능성의 근거: AI가 남긴 추측과 실제 판매 조건을 구분할 수 있는가.

남겨 둘 연구 질문

오류를 거의 확실하다고 평가한 AI가 규칙에 따라 주문했지만 사람이 아무 기록도 읽지 않았다면 어떨까. 확신의 정도만 높이면 회사의 인식이 되는지, 구매 권한의 위임 범위와 경고 처리 구조까지 달라져야 하는지는 이 페어가 해결하지 않은 후속 문제다.

이 사례의 법리 기준은 인용한 판례와 조문이다. 장래의 입법·판례 변화가 생기면 2032년이라는 배경만 유지한 채 같은 판단을 재사용할 수 없다. 특히 착오 취소 요건을 바꾸는 개정 논의는 시행 여부와 적용 시점을 별도로 확인해 읽어야 한다.