Summary
설명 생성 비용과 보안 등 보호 이익이 크더라도 당사자가 불리한 전제를 특정해 판단에 맞설 실질적 청문 기회를 줄이는 선택은 정당화되지 않는다. 설명의 적정성은 반박 가능성으로 판단하며 공개 제한 시에는 대체 반박 기회를 두고 AI의 비용 절감분을 당사자의 이의제기 자원에 배분해야 한다.
11.1설명 비용 절감과 청문 기회의 보장
설명을 만드는 데 비용이 들고 자세한 공개가 개인정보와 안전을 해칠 수 있다는 점은 인정할 수 있다. 그러나 그 비용을 줄이기 위해 청문의 기회 자체를 줄이는 것은 다른 문제다. 이 편의 중심 명제는 설명에 드는 비용과 보호 이익이 아무리 크더라도 당사자가 판단에 맞설 실질적 기회를 잃는 선택은 정당화되지 않는다는 것이다. 이 물음이 해결되지 않으면 비용을 이유로 설명 수준이 낮아지고, 당사자는 무엇을 어떻게 다툴지 알지 못한 채 기한을 보낸다. 그 손해는 자원이 적은 당사자에게 먼저 돌아간다. AI를 통한 저렴한 법률 지원과 접근 가능한 설명이 이 권이 그리는 이익이라면, 그 이익은 청문의 자리를 넓히는 방향으로 쓰여야 한다.
11.2반박 가능성 기준과 설명 비용의 배분
명제가 성립하려면 설명의 적정성을 형식의 화려함이 아니라 결과에 영향을 준 자료·규범·전제에 대한 실질적 반박 가능성으로 판단해야 한다. 읽기 쉬운 설명과 판단의 근거에 접근할 권리는 구별된다. 적은 비용으로 만든 설명이라도 당사자가 어떤 전제를 바로잡아야 하는지 알 수 있다면 충분할 수 있다. 아무리 큰 비용을 들인 상세한 설명이라도 반박을 전혀 가능하게 하지 못한다면 부족할 수 있다. 비용이 큰 설명을 대신할 경로를 둘 때에는 그 경로가 어떤 반박을 허용하는지 밝혀야 한다. 「EU AI Act」 제86조와 「대한민국헌법」 제27조를 설명권과 재판청구권의 근거 입구로 두되, 현행 법리의 자세한 내용은 확인되지 않은 사실로 남긴다. 비용의 배분도 함께 다뤄야 한다. 설명 비용을 당사자에게 전가하면 그 당사자만 청문의 값을 치르게 된다. 어느 쪽이 비용을 감당하고 어느 쪽이 시간을 얻는지가 설명의 질과 함께 판정 대상이 된다.
11.3반론: 요약 선호 실익과 대체 반박 기회
가장 강한 반론은 실익이다. 대부분의 당사자는 요약만 원하고 상세한 설명은 비용만 키우며, 설명에 자원이 모두 들어가면 판단 자체가 늦어진다는 것이다. 상세 공개가 모델을 조작하려는 자에게 유리할 수 있다는 우려도 있다. 인정할 부분은 비용이 실제로 발생하고 공개 범위를 정해야 한다는 점이다. 다만 저자의 응답은 공개 범위를 제한할 때 독립 심사와 대체적인 반박 기회를 제공하고, 비공개를 근거 면제 사유로 쓰지 않는 것이다. 비용 절감은 청문을 줄이는 선택이 아니라 같은 비용으로 더 많은 반박 기회를 만드는 선택일 때만 정당화된다. 모델 내부를 자세히 설명하는 일과 당사자가 다툴 전제를 특정하는 일은 같지 않다. 어느 쪽이 실제 쟁점에 필요한지에 맞추어 공개 수준을 정한다. AI가 설명과 정리를 저렴하게 만든다면 그 절약분은 이의를 제기하는 데 필요한 자원과 시간에 배분되어야 한다.
11.4자료 탐색 비용 반례와 명제 폐기 조건
폐기 조건은 설명 수준을 낮추고도 당사자가 불리한 전제를 식별하고 응답과 재반박까지 할 수 있는 경우다. 이때에는 비용 비판의 적용을 철회한다. 반대로 형식적인 설명 제공만으로 이의제기 기회가 보장되었다고 판정하면 이 편의 우려는 유지된다. 합성 상황에서 상세한 설명문이 제공되었으나, 당사자가 그 설명이 지적한 전제에 관한 자료를 찾을 비용을 감당하지 못해 반론을 접는다면 설명은 있었고 청문은 없었던 것이다. 저자는 설명의 길이를 기준으로 삼지 않고 어떤 반박이 실제로 가능한지로 판단한다. 「유럽평의회 인공지능 기본협약」이 구제와 절차의 근거 입구가 될 수 있으나 구체적 조항 내용과 국내 적용의 범위는 확인되지 않은 사실로 남긴다. 비용과 보호를 이유로 청문의 내용이 줄어드는지가 이 편의 판정 대상이다.