Chapter 1설명의 질과 판단의 근거는 같은 검토 대상이 아니다
설명·이유·인과적 기록의 구별
설명이 제시하는 규범적 이유와 판단에 실제로 작용한 의존 경로의 기록은 서로 다른 검토 대상이다. 당사자가 판단에 작용한 요소를 특정해 다투려면 실제 영향 요소의 기록 확인과 규범적 사용 가능성의 검토가 함께 전제되어야 한다.
1.1설명의 이유와 인과 기록의 구별
판단을 돕는 체계는 결론을 내고 나서 법적 언어로 이유를 정리한다. 그 문장이 정돈되어 있고 설득력이 있으면, 독자는 판단도 그 순서대로 이루어졌다고 생각하기 쉽다. 그러나 설명의 내용이 그럴듯하다는 사실만으로 실제 어떤 입력이 결과에 영향을 주었는지 알 수는 없다. 설명이 제시하는 규범적 이유와 실제 의존 경로의 기록은 서로 다른 검토 대상이다. 이 구별은 설명을 읽는 일이 무의미하다는 뜻이 아니다. 두 질문을 하나로 섞으면 읽기 쉬운 설명과 공적 이유, 실제 인과 기록의 경계가 흐려진다. 이 편은 현재 대한민국에서의 사용을 가정하되, 실제 법원의 설명이 허위라는 결론은 내리지 않는다. 무엇을 확인해야 하는지 나누는 일이 이 편의 첫 과제다.
1.2인과 기록 확인과 규범적 정당화
판단의 이유를 알았다는 말은 적어도 두 가지를 함께 요구한다. 하나는 결과에 실제로 영향을 준 자료와 규범, 전제가 무엇인지 확인할 수 있어야 한다는 것이고, 다른 하나는 그것을 그 판단에 사용해도 되는지 따져 보아야 한다는 것이다. 전자는 기록의 문제이고 후자는 규범의 문제다. 무관한 단서가 결과를 바꾸었다면 인과 기록은 문제를 드러내지만 정당화를 제공하지는 않는다. 공적으로 적절한 근거가 실제 과정에 드러나지 않았다고 해서 그 근거 자체가 거짓이 되는 것도 아니다. 「대한민국헌법 제27조」를 근거 입구로 삼되 구체적 조문 내용과 법리는 확인되지 않은 사실로 두더라도, 당사자가 판단에 작용한 요소를 특정해 다투려면 이 두 질문이 함께 전제되어야 한다. 한쪽을 확보했다고 다른 쪽까지 확보한 것으로 보지 않는 것이 이 구별의 실질이다.
1.3반론: 객관적 이유 제시의 충분성
가장 강한 반론은 형식적이다. 판단 기관이 객관적으로 타당한 이유를 제시하면 충분하고 내부 과정은 중요하지 않다는 것이다. 판결 이유는 공적 정당화를 위한 문서이지 기계의 작동 보고서가 아니므로, 내부 계산을 복원하라는 요구는 과도하고 기술적으로 불가능하기까지 하다는 주장이다. 이 반론에는 무게가 있다. 모든 내부 계산의 복원이 정당화의 필요조건은 아니며, 독립된 새 검토로 같은 결론에 도달할 수도 있다. 오히려 내부 복원에 매달리면 정작 중요한 설명의 내용과 판단의 근거를 놓칠 수 있다는 우려도 받아들인다. 이 편이 설명의 가치를 부정하지 않는 이유가 여기에 있다.
1.4세 층위의 분리와 명제 폐기 조건
다만 이 반론이 성립하려면, 제시된 문장이 이해를 돕는 설명인지, 공적으로 채택한 규범적 이유인지, 실제 작용한 인과 기록인지 먼저 구별해야 한다. 세 층위를 나누어 두면 내부 계산을 전부 복원하지 않더라도 무엇을 다투어야 하는지가 분명해진다. 설명과 실제 사용 자료의 대응이 독립 기록으로 확인되면, 이를 설명문만 있는 경우와 같은 미확인 상태로 두지 않는다. 반대로 독립 기록과 적절한 이유 검토가 충분하면 설명 단독의 한계를 전체 결정으로 확대하지 않는다. 이 편의 명제를 버려야 하는 조건은 바로 후자의 경우다. 확인 가능한 사용 기록과 확인되지 않은 경로를 나누어 두는 것만으로도, 설명의 편의를 근거의 확인이나 규범적 정당화와 혼동하는 일을 막을 수 있다.
Official documents referred to 대한민국헌법 제27조 ↗
Chapter 2공적으로 다툴 근거는 내부 계산의 복원과 같은 것이 아니다
내부 계산과 공적으로 다툴 근거
당사자가 공적으로 다툴 근거는 내부 계산의 전체 복원이 아니라 결과에 작용한 자료·규범·전제의 목록과 역할 기록이다. 무엇이 확인되고 미확인인지 분리해 남겨 당사자가 미확인 항목을 특정해 이의를 제기할 수 있어야 공적 다툼이 성립한다.
2.1내부 계산 복원과 다툴 근거의 분리
이 편의 중심 명제는 다음과 같다. 당사자가 공적으로 다툴 수 있는 근거는 모델의 내부 계산 전체가 아니라, 결과에 영향을 준 자료·규범·전제의 목록과 각 항목의 역할에 관한 기록이다. 내부 상태의 모든 원인을 완벽히 복원할 수 있다고 약속하지는 않는다. 다만 무엇이 확인되었고 무엇이 확인되지 않았는지 나누어 남기면, 당사자는 어떤 점을 이의의 대상으로 삼을지 정할 수 있다. 기록의 존재는 판단을 검토할 재료이지 승인의 도장이 아니다. 이 구분이 없으면 기술적으로 복원 가능한 범위가 곧 다툴 수 있는 범위가 되어, 권리의 폭이 기술 수준에 종속된다.
2.2시점과 역할을 구분한 기록 요건
필요한 기록의 최소 요건은 서로 다른 시점을 섞지 않는 데서 시작한다. 실제 입력과 출력, 채택된 자료와 배제된 자료, 적용된 규범과 전제를 구분하지 않고 한데 묶으면 당사자는 어떤 요소가 결론을 지탱하는지 알 수 없다. 저자는 내부 가중치 전체를 복원하는 대신 이 항목들을 구분하고, 같은 결론에 대한 각 항목의 역할만 연결하도록 제안한다. 어떤 자료와 전제가 어떤 쟁점의 판단에 쓰였는지, 어떤 반대 자료가 왜 제외되었는지가 기록되면 당사자는 자기 사건에서 무엇이 빠졌는지 특정할 수 있다. 기록을 찾지 못한 항목은 기록이 없다고 남겨야 하며, 그럴듯한 설명으로 빈칸을 채워 실제 경로를 복원했다고 표시해서는 안 된다.
2.3반론: 형식화와 영업비밀 침해 우려
최강 반론은 두 방향에서 온다. 하나는 내부를 복원하지 못하면서 목록만 요구하면 형식에 그치고, 형식을 갖춘 것이 복원을 마친 것처럼 보일 수 있다는 우려다. 다른 하나는 자료와 모델의 구성이 영업비밀이나 안전상의 보호를 요하는데, 목록 제공이 그 보호를 사실상 무너뜨릴 수 있다는 점이다. 두 반론이 지적하는 위험은 타당하다. 형식적 요건이 실질을 보장하지 못한다는 점과 모든 공개가 가능한 것은 아니라는 점을 인정한다. 이 편의 명제가 요구하는 것은 완전한 공개가 아니라, 확인 상태를 표시한 목록과 그 목록이 불완전하다는 사실의 공개다.
2.4확인 상태 분리와 구속 권한의 구별
응답은 두 가지로 정리된다. 첫째, 목록의 완전성보다 확인 상태의 분리가 기준이다. 무엇이 확인되었고 무엇이 미확인인지 알면 다툼의 출발점을 정할 수 있으므로, 이는 내부 복원의 기술적 한계와 별개로 요구할 수 있다. 둘째, 설명을 생성하거나 경로를 추적할 능력과 그 근거로 사람을 구속할 권한을 구별한다. 전자에 관한 기술적 제약이 후자의 정당화를 자동으로 해결하지는 않는다. 비공개를 근거 면제 사유로 쓰지 않는 대신 대체적 반박 기회를 설계하는 일은 비공개 사유를 다루는 편에서 이어진다. 당사자가 어떤 항목이 미확인인지 알고 그 점을 특정해 이의를 제기할 수 있다면, 내부 계산의 전면 복원 없이도 공적 다툼은 성립한다. 그 최소 조건조차 사라지면 이 명제는 버려진다.
Chapter 3나중에 붙인 이유는 과거의 근거로 기록되지 않는다
사후 설명이 실제 판단을 가리는 문제
설득력 있는 사후 설명만으로는 실제 의존 경로와 공적 정당화를 함께 증명할 수 없으며 과거의 근거로 소급 기록되지 않는다. 같은 설명이 다른 과정과 양립할 때는 누가 어떤 원자료를 검토했는지 분리 기록하고 새 이유 채택 절차를 따로 두어야 한다.
3.1사후 설명과 과거 근거 인증의 구별
설득력 있는 사후 설명이 실제 의존 경로와 공적 정당화를 함께 증명하는가. 이 물음에 이 편은 아니라고 답한다. 실제 영향 경로, 제시된 설명, 독립적으로 채택한 이유를 구별한다. 새 이유로 판단할 가능성은 열어 두되 그 이유를 과거의 근거로 소급해 기록하지 않는다. 이 구별은 좋은 설명이 누락된 판단 기록을 대신하지 않게 하기 위해 필요하다. 모델이 결론 뒤에 법적 언어로 그럴듯한 이유를 붙이면 독자는 판단도 그 순서대로 이루어졌다고 생각할 수 있다. 그러나 설명의 설득력만으로 실제 의존 경로를 알 수는 없다. 설명을 읽는 일이 무의미하다는 주장이 아니라, 설명문만으로 과거의 근거를 인증할 수 없다는 구별이다.
3.2같은 설명과 양립하는 상이한 경로
같은 설명이 다른 과정과 양립한다는 반례가 이 구별을 뒷받침한다. 합성 사례의 첫 과정에서는 도구가 원기록을 확인하여 결론을 낸 뒤 그 이유를 정리한다. 둘째 과정에서는 검토되지 않은 힌트를 따라 같은 결론을 내고 나중에 원기록에 맞는 설명을 구성한다. 최종 문장이 같다고 가정하면, 설명만 읽는 검토자는 두 과정 중 어느 쪽이었는지 구별할 수 없다. 이는 둘째 과정의 결론이 반드시 틀렸다는 뜻이 아니다. 맞는 결론이 문제 있는 경로에서 나왔을 가능성과 내용상 정당한 이유가 따로 존재하는지는 별개다. 실제 원인만 밝혀져도 정당화가 따라오지는 않는다는 점도 같은 이유에서 분리해 두어야 한다. 어떤 입력이 답을 바꾸었다는 사실과 그 입력을 법적 판단의 근거로 써도 되는지는 다른 확인을 요구한다. L-AUTH는 설명을 생성하거나 경로를 추적할 능력과 그 근거로 사람을 구속할 권한을 구별한다.
3.3사후 검토의 분리 기록과 독립성
실제 경로가 불명확하더라도 담당자가 원자료를 다시 확인해 같은 결론을 지지할 적절한 이유를 찾을 수 있다. 그 가능성을 닫을 필요는 없다. 다만 새로 확인한 이유를 처음부터 실제 사용한 것처럼 기록하면 과정에 관한 오류가 남는다. 따라서 당사자가 새 이유에 대응할 필요를 별도로 검토하되, 사후 보충이 언제 허용되는지는 확정하지 않는다. 어떤 자료를 언제 누가 검토했는지, 그 검토가 기존 결론의 유지인지 새 판단인지를 밝혀야 한다. 사람이 모델 설명을 읽고 서명한 사실도 마찬가지다. 서명은 추가 참여를 보여 주지만, 원자료의 존재와 관련성, 반대 자료, 설명이 생략한 조건을 확인하지 않았다면 같은 설명을 반복한 것일 수 있다. 독립성은 결과의 차이로 측정하지 않는다. 대안은 누가 어떤 근거와 반론을 확인했는지 밝히고, 실제 입출력·제시된 설명·확인한 이유를 나누어 기록하는 것이다. 사용 여부가 미확인인 근거도 채택 가능한 후보와 구분해 기록한다.
3.4반론: 타당한 이유와 내부 과정 무용론
최강 반론은 법원이 객관적으로 타당한 이유를 제시하면 충분하므로 내부 과정은 중요하지 않다는 것이다. 인정할 부분도 분명하다. 모든 내부 계산의 복원이 정당화의 필요조건은 아니며 독립된 새 검토도 가능하다. 다만 이 반론이 다루는 것은 새 이유의 정당성이지 과거 경로에 관한 주장의 진위가 아니다. 두 가지를 같은 기록에 넣으면 하나가 다른 하나를 덮게 된다. Anthropic의 연구 소개 「Reasoning Models Don't Say What They Think」는 특정 힌트 평가에서 설명이 답에 영향을 준 정보를 항상 밝히지 않았다고 보고한다. 이 관측은 설명과 영향 경로를 구별할 이유를 생각하게 한다. 그러나 그 실험의 범위를 넘어 실제 재판의 설명도 모두 불충실하다고 결론 내리지 않으며, 그 수치로 사법 실패율을 추정하지도 않는다. 읽은 연구 소개의 범위를 넘는 일반화를 하지 않는 것이 이 인용의 조건이다.
3.5독립 기록에 따른 명제 폐기 조건
독립 기록과 적절한 이유 검토가 충분하면 설명 단독의 한계를 전체 결정에 적용하지 않는다. 이것이 이 명제의 폐기 조건이다. 경로와 이유가 독립적으로 확인되면 설명은 중요한 정당화 자료가 된다. 모델이 쓴 문장이라는 이유만으로 그 가치를 부정할 필요도 없다. 반대로 실제 적용 절차를 확인하지 못했다면 새 이유가 과거의 결함을 법적으로 치유했다고 선언하지 않는다. 이 편이 주장하지 않는 것도 명확히 해 둔다. 모든 설명이 허위라는 주장, 특정 재판의 위법성, 사후 이유의 자동 치유를 주장하지 않는다. 선행연구에 같은 구별이 있다면 독립된 새 이론이라는 주장도 축소해야 한다. 남는 것은 좁은 명제다. 같은 설명이 서로 다른 실제 과정과 양립할 때 새 이유를 채택하는 절차를 따로 두고, 그 이유를 과거의 근거로 소급 기록하지 말자는 것이다.
Official documents referred to Anthropic: Reasoning models don't always say what they think ↗
Chapter 4통지의 기준은 사용 사실이 아니라 다툼의 출발점이다
당사자에게 알릴 AI 개입의 범위
AI 개입 통지의 충분성은 단순한 도구 사용 사실의 선언이 아니라 당사자가 불리한 전제를 특정해 이의를 제기할 수 있는지로 판단해야 한다. 보안 등을 이유로 공개를 제한하더라도 비공개를 근거 면제 사유로 쓰지 않고 독립 심사와 대체 반박 기회를 함께 제공해야 한다.
4.1사용 사실 통지와 근거 통지의 구별
당사자에게 알릴 AI 개입의 범위는 도구를 썼다는 사실의 선언만으로 정할 수 없다. 이 편의 중심 명제는 통지의 충분성을 당사자가 어떤 전제를 특정해 이의를 제기할 수 있는지를 기준으로 판단해야 한다는 것이다. 사용 사실의 통지와 근거의 통지는 서로 다른 기능을 한다. 전자는 어떤 절차에 어떤 도구가 관여했는지 알려 주고, 후자는 무엇을 어떻게 다툴지 정할 수 있게 한다. 근거 입구로 제시된 「EU 인공지능법 제86조」의 구체적 조문 요건은 확인되지 않은 사실로 두더라도, 통지의 의미는 알렸다는 형식적 사실보다 대응 가능한 정보의 범위에서 찾는 것이 이 편의 해석 방향이다. 이 해석이 그 조문의 국내 적용을 뜻하지 않는다는 한계는 분명히 한다.
4.2다툼을 가능하게 하는 세 가지 정보
무엇을 알릴지 정하려면 먼저 세 가지를 구별해야 한다. 결과에 영향을 준 자료와 규범, 전제를 알리는 일, 그 자료의 출처와 버전을 알리는 일, 판단에 관여한 주체가 인간인지 자동화된 체계인지와 그 역할을 알리는 일이다. 세 번째 정보만으로는 충분하지 않다. AI가 개입했다는 사실을 알아도 어떤 전제가 문제인지 알 수 없으면 이의의 대상을 정하지 못한다. 반대로 모든 중간 계산을 알릴 필요는 없다. 필요한 것은 다툼을 가능하게 하는 정보다. 「인공지능에 관한 유럽 평의회 기본협약」의 구체적 조항 내용은 확인되지 않은 사실로 둔다. 다만 이를 절차적 근거 입구로 삼아, 어떤 통로로 알리고 어떤 통로로 응답받을지를 함께 설계해야 한다는 점을 기능적으로만 다룬다. 각 관할의 구체적 의무 범위는 원문 확인이 필요한 별도 과제로 남긴다.
4.3반론: 보안 위험과 대체 반박의 보완
최강 반론은 통지의 범위가 넓어질수록 개인정보와 보안을 해치고, 모델을 조작하려는 자에게 유리해진다는 것이다. 알리는 정보 자체가 다음 공격의 지도가 될 수 있다는 우려는 타당하다. 그러나 공개 범위를 제한하기로 한 경우에는 반드시 독립 심사와 대체적인 반박 기회를 함께 제공해야 한다. 비공개를 근거 면제 사유로 쓰지 않는 것이 이 대응의 원칙이다. 통지의 축소가 정당한 경우에도, 그로 인해 당사자가 잃은 쟁점 식별의 기회를 무엇으로 보완하는지 적어야 한다. 형식적 통지의 존재만으로 반박 기회가 보장되었다고 판정하면 이 편의 명제는 탈락한다.
4.4결과 반영 절차와 명제 폐기 조건
이 명제를 버려야 하는 조건은 더 구체적이다. 당사자가 핵심 전제를 특정해 이의를 제기할 수 있고, 그 이의가 정당할 때 결과를 바꿀 절차와 기록이 있다면 통지의 양식은 그보다 자유로울 수 있다. 반대로 통지문을 받았으나 무엇이 불리한 전제인지 알 수 없고, 알아도 응답이 결과에 반영되지 않는다면 그 통지는 다툼의 출발점을 만들지 못한 것이다. 다툼의 기회 없이 통지만 남는 상황은 이 권이 권리 무력화의 경로로 보는 사후 설명의 순환과 이어진다. 어떤 통지가 필요한지는 결국 어떤 다툼이 가능해야 하는지에서 역으로 정해진다. 현행 통지 의무의 구체적 내용은 판결 이유와 불복 절차의 해설이 담당하는 범위와 겹치지 않도록 한다. 이 편은 기능의 요건만 다루고 현행 법리의 재구성은 맡지 않는다.
Official documents referred to EU AI Act Article 86: Right to explanation of individual decision-making ↗ · Council of Europe Framework Convention on AI: official overview ↗
Chapter 5버전 기록은 기술 문서가 아니라 판단의 조건이다
모델·자료·규범 버전의 기록
결과에 영향을 준 모델·자료·규범의 버전 기록은 관리 편의가 아니라 사후 검토와 이의제기를 가능하게 하는 판단의 조건이다. 판단 시점과 검토 시점의 상태를 구분하고 기술 갱신 권한과 규범 변경 권한을 분리하여 확인 가능한 상태로 남겨야 한다.
5.1사후 검토 조건으로서의 버전 기록
모델과 자료, 규범의 버전을 기록하는 일은 관리의 편의가 아니라 판단의 조건을 지키는 일이다. 이 편의 중심 명제는 결과에 영향을 준 자료·규범·전제의 버전이 확인되지 않으면 그 판단을 나중에 검토할 수 없고, 검토할 수 없는 판단은 이유를 물을 권리를 실질적으로 비운다는 것이다. 사용한 자료의 판이나 개정 시점, 적용한 규범의 문언과 해석 기준, 참고한 모델과 그 갱신 여부를 나누어 기록한다. 세 항목 중 어느 하나라도 바뀌면 같은 입력에서도 다른 결과가 나올 수 있다. 당사자는 다투는 시점에 무엇이 당시에 적용되었는지 알아야 자기 사건의 근거를 특정할 수 있다. 이 기록이 없으면 오류가 발견되었을 때 영향을 받은 범위를 찾는 일조차 불가능해진다.
5.2판단 시점 구분과 변경 권한의 분리
기록의 대상과 시점을 정하는 것도 논증의 일부다. 모델이 자주 갱신되고 자료가 실시간으로 보충되는 환경에서는 어느 시점의 상태를 판단의 근거로 삼았는지가 쟁점이 된다. 저자는 판단 시점의 상태와 검토 시점의 상태를 구분하고, 나중에 변경된 사정을 소급해 과거의 근거로 기록하지 않도록 제안한다. 규범의 버전을 변경할 권한은 기술의 버전을 변경할 권한과 다르다. 모델의 변경이 공개 절차 없이 법적 기준을 바꾸는 일이 없도록 기술 갱신과 규범 변경의 권한을 분리하는 것이 이 편의 제도적 근거다. 기술 업데이트의 사실만으로 판단 기준이 달라졌다고 보지 않는다. 기준이 달라졌다면 그 변경이 어떤 절차로 정당화되었는지를 따로 묻는다.
5.3반론: 재현 비용과 영업비밀 제한
최강 반론은 실현 가능성이다. 모든 중간 상태를 보존하면 비용을 감당할 수 없고, 보존하더라도 나중에 그 상태를 정확히 재현할 수 있다는 보장이 없다는 것이다. 또한 모델과 자료의 구성이 영업비밀에 해당한다면 버전 정보의 공개 자체가 제한될 수 있다. 인정할 것은 인정한다. 완전한 재현을 요구하지 않으며, 모든 중간 배포의 변경을 기록하라는 주장도 아니다. 다만 판단에 실제로 사용된 자료와 규범의 버전은 사용 기록과 같은 범위에서 확인 가능한 상태로 남겨야 한다. 이것이 불가능하다면 그 사실과 그로 인해 검토할 수 없는 범위를 적어야 한다. 비밀 보호와 검토 가능성의 충돌은 대체적 확인 경로로 다루되, 비밀을 이유로 버전 확인 자체를 생략하지 않는다.
5.4대체 보존 기록과 명제 폐기 조건
이 명제를 버려야 하는 조건은 명확하다. 다른 기록이 같은 기능을 이미 수행한다면 중복된 기록을 강제할 필요가 없다. 예를 들어 사용한 자료와 그 출처가 독립적으로 보존되고 그 보존이 판단 시점과 연결된다면, 별도의 버전 표시가 없어도 검토 가능성은 확보될 수 있다. 반대로 기록이 없다면 영향을 받은 사건의 범위를 알 수 없게 되고, 그 불확실성의 비용은 한쪽 당사자에게 돌아간다. 대량 오류의 영향을 조사할 때 무엇을 어떤 상태로 추적할지는 후속 편에서 다룬다. 그 조사가 가능하려면 여기서 정한 버전 기록이 먼저 있어야 한다. 기술 발전의 관측을 법정에서의 정확성으로 바꾸지 않는다는 이 총서의 원칙도 같은 맥락에서 버전 기록에 적용된다. 관측된 능력의 변화가 판단 기준의 변경을 뜻하지 않는다는 점을 기록이 지켜 준다.
Chapter 6독립 검토와 당사자 맥락은 서로 다른 기능이다
비공개 사유와 대체적 반박 기회
비공개 자료를 독립 검토자가 열람했다는 사실만으로는 당사자의 반박 기회를 대신할 수 없으며 당사자 맥락 유입 통로가 함께 필요하다. 대체 반박의 충분성은 불리한 전제 식별과 맥락 전달 및 재반박 연결로 평가하되 결손 시 자료 의존 범위를 조정해야 한다.
6.1독립 검토 열람과 당사자 맥락의 구별
자료를 직접 공개할 수 없을 때 독립된 검토자에게 확인을 맡기는 방식은 중요한 대안이다. 그러나 검토자가 자료를 읽었다는 사실만으로 당사자에게 반박 기회가 있었다고 말할 수는 없다. 이 편의 중심 명제는 독립된 열람과 당사자 맥락의 유입이 서로 다른 기능을 한다는 것이다. 대체 반박의 충분성은 불리한 전제의 식별, 맥락의 전달, 응답과 재반박의 연결로 평가하고, 결손은 자료 의존의 범위와 함께 판단한다. 독립된 누군가가 읽었다는 인증이 당사자가 무엇을 다툴 수 있었는지에 관한 질문을 대신하지 않게 하려는 것이다. 독립성의 가치를 부정하는 것이 아니라, 자료를 열람할 능력과 그 자료에 의존할 정당성을 구별하는 것이다.
6.2누락된 공동 배정 맥락의 합성 반례
성실하고 유능한 검토도 놓칠 수 있는 것이 있다. 합성 사례에서 비공개 기록은 특정 계정의 반복 접속을 당사자의 행위로 연결한다. 독립 검토자는 기록의 진정성과 접속 사실을 정확히 확인한다. 그러나 그 기간에 계정이 여러 사람에게 공동 배정되었다는 사정은 기록에 없고, 당사자는 접속 귀속이 문제라는 사실조차 듣지 못한다. 공동 배정 사정이 고지되면 귀속 판단을 다시 검토할 수 있지만, 열람만으로 그 사정이 생겨나지는 않는다. 이 반례는 기록의 허위나 검토자의 무능을 가정하지 않으며, 실제 사건의 무죄나 책임 부재도 정하지 않는다. 누락된 맥락이 쟁점으로 들어올 통로가 있어야 검토의 대상 자체가 바뀔 수 있음을 보여 줄 뿐이다.
6.3요약 공개와 보호된 대표자의 요건
공개 가능한 요약이나 보호된 경로를 대안으로 쓸 때의 요건도 같은 기준에서 정한다. 요약의 적절성은 원문과 단어가 얼마나 비슷한지가 아니라 어떤 반박을 가능하게 하는지로 평가한다. 요약을 받은 당사자가 관련 전제를 식별할 수 없다면 그 요약을 충분한 대체 반박 기회로 보지 않는다. 보호된 대표자나 절차를 쓰는 경우에도, 대표자가 당사자에게 아무것도 묻지 못하고 확인 결과만 반환한다면 맥락의 결손은 남는다. 어떤 질문을 전달할 수 있는지, 답변이 어떤 방식으로 검토에 반영되는지, 새 쟁점이 생겼을 때 다시 다툴 수 있는지 확인해야 한다. 대표자 지정이라는 명칭만으로 결손을 덮지 않고, 실제로 가능한 교환의 범위에서 대안의 충분성을 판단한다. 질문 자체가 보호 정보를 드러낼 위험이 있으므로 무제한 소통을 전제하지 않는다는 점도 함께 적는다.
6.4반론: 검토자의 자체 조사와 의존 조정
최강 반론은 충분히 유능한 독립 검토자라면 관련 맥락을 스스로 조사할 수 있으므로 당사자와 직접 연결되는 통로가 필요하지 않다는 것이다. 인정할 부분은 분명하다. 검토 절차가 관련 맥락을 충분히 수집한다면 반례의 조건은 사라지고 직접 열람이 반드시 필요한 것은 아니다. 다만 그 수집 능력과 절차는 독립성에 추가되는 조건으로 명시해야 한다. 독립성 자체가 누락된 사건 맥락을 생성하지는 않는다. 보호해야 할 이익이 강해 직접 공개를 제한하는 경우에도, 비공개 자료를 결정적인 근거로 얼마만큼 사용할지는 따로 판단한다. 보호 목적과 판단상 의존은 서로 다른 선택이다. 대체 반박이 충분하지 않은데 의존의 무게를 그대로 두면 보호의 비용이 한 당사자에게 집중된다. 결론의 범위 조정이나 보호된 추가 심사 등 가능한 대안을 비교하고 남는 불이익을 설명하도록 요구하는 것이 이 편의 최소한이다.
6.5전제 식별과 응답에 따른 폐기 조건
충분성은 결과가 바뀌었는지로 판단하지 않는다. 반박 뒤에도 같은 결론이 유지되었다고 해서 절차가 무의미했다고 단정할 수 없고, 결론이 바뀌었다고 절차 전체가 충분했다고 할 수도 없다. 불리한 전제의 식별, 관련 맥락의 제출, 그 맥락에 대한 응답을 각각 확인한다. 기록상 기회가 있었다는 이유만으로 실제 쟁점 전달과 응답을 확인하지 않았다면 충분성 판정을 유보한다. 이 명제를 버려야 하는 조건도 같다. 검토 대상 절차가 관련 전제를 알리고 필요한 맥락을 충분히 수용하며 응답과 재반박까지 허용한다면, 이 결손 반례의 적용을 철회한다. 현행 비공개 제도의 위법성, 항상 필요한 직접 열람, 모델 내부 전체의 공개 의무, 자동 증거 배제, 실제 실패의 빈도를 주장하지 않는 것도 이 구별의 범위를 지키기 위해서다. 명칭만으로 우열을 정하는 대신, 각 경로에서 당사자 맥락이 어떤 전제에 도달하는지 확인하는 일을 과제로 남긴다.
Chapter 7지원의 독립성은 반박 능력이 자라는 것으로 판단한다
독립적인 이의제기 지원
이의제기 지원의 독립성은 명칭이나 형태가 아니라 당사자가 불리한 전제를 특정해 반박하고 결과를 움직일 능력을 키우는지로 평가한다. 지원 주체에게도 심사 규칙을 적용해 당사자가 지원 결론을 거부할 수 있게 하고 정리 범위와 미확인 범위를 함께 남겨야 한다.
7.1반박 능력 기준의 이의제기 지원 평가
설명과 근거에 접근할 권리를 마련해도 당사자가 그 자료로 반론을 만들 수 없다면 권리는 형식에 그친다. 이 편의 중심 명제는 이의제기 지원을 명칭이 아니라 능력으로 평가해야 한다는 것이다. 당사자가 불리한 전제를 특정하고 그 전제에 답할 수 있게 하는지가 기준이다. AI가 주장을 빠르게 만들어 낼수록 심리에 쓸 자원의 격차는 더 크게 벌어진다. 생성 속도와 검토 능력이 어긋나면 실질적 청문은 서류를 주고받는 절차로 남는다. 이 물음이 해결되지 않으면 자원이 없는 당사자는 설득력 있는 설명을 읽고도 결과를 바꿀 수단 없이 절차를 떠난다. 사법이 보호하려는 것은 형식적 참여의 기록이 아니라 잘못된 판단을 고치고 피해를 회복할 수 있는 공적 질서다.
7.2전제 파악 경로와 당사자 자원의 확보
명제가 성립하려면 몇 가지가 함께 마련되어야 한다. 당사자에게 불리한 전제가 무엇인지 알리는 경로, 그 전제와 관련된 자료의 내용을 파악할 수 있는 경로, 반론을 실제로 작성해 제출할 수 있는 지원이 그것이다. 지원은 공공 법률 지원이나 독립된 검토처럼 여러 형태를 가질 수 있다. 다만 어느 형태든 이의를 제기할 자원이 당사자 쪽에 남아 있어야 한다. 자동 분류로 본안의 기회를 잃고도 다툴 수 없다면 지원이 있었다고 말할 수 없다. 기능을 위임할 때에는 반대 의견을 남기고 책임의 귀속을 정해야 한다. 공공 도구의 조달과 지원 구조는 IV-12에 맡기고, 여기서는 그 지원이 당사자의 반박 능력에 어떤 작용을 하는지만 다룬다. 지원의 형태보다 그 지원이 누구의 판단을 대신하고 누구의 능력을 남기는지가 중요하다.
7.3반론: 대리인 충분론과 지원 통제 규칙
가장 강한 반론은 이렇다. 유능한 대리인만 확보되면 절차적 지원까지 새로 만들 필요가 없고, 공공이 지원을 맡으면 국가에 대한 새로운 의존이 생기며, 사람이 개입하면 속도를 잃는다는 것이다. 이 반론은 지원의 효율과 방향을 섞고 있다. 인정할 부분은 분명하다. 모든 사건에 전문가가 붙어야 하는 것은 아니며 지원 자체가 또 하나의 권한이 될 수 있다. 그러나 이의제기 지원은 판단을 대신해 주는 일이 아니라 당사자가 판단에 맞설 수 있게 하는 일이다. 그러므로 지원을 맡은 자에게도 이유, 심사, 변경, 종료의 규칙을 적용해야 한다. 당사자는 지원의 결론을 거부하거나 다른 경로를 택할 수 있어야 한다. 인간의 승인 표시만 남고 내용을 바꿀 능력이 없다면 독립이 아니다. AI가 반론의 초안과 자료 정리를 돕는다면 그 이익은 당사자가 다툴 수 있는 범위를 넓히는 데 쓰여야 하며, 지원자의 이해가 개입하는 자리에는 그 사실이 남아야 한다.
7.4쟁점 정리 누락 반례와 명제 폐기 조건
합성 상황 하나를 생각해 보자. 분쟁 자료가 방대하여 지원 시스템이 쟁점을 먼저 정리한다. 정리된 목록에서 빠진 전제에 대해 당사자가 이의를 제기하려 해도, 목록이 전체라고 전달되면 당사자는 나머지 전제를 모른 채 기한을 넘긴다. 이 경우 지원은 반박 능력을 키우는 대신 다툼의 범위를 좁혔다. 저자의 제안은 쟁점 목록이 완전하다고 표시하는 대신 어떤 범위를 정리했는지와 확인하지 못한 범위를 함께 남기는 것이다. 반대로 지원 절차가 불리한 전제를 충분히 알리고 당사자의 반론이 실제 검토에 반영된다면 이 반례는 적용되지 않는다. 명제를 버려야 할 조건은 기존 지원 체계가 이미 같은 능력을 보장하거나 새 지원의 비용이 그 이익으로 정당화되지 못하는 경우다. 이 편은 지원의 형태를 하나로 확정하지 않으며, 어떤 형태든 당사자의 이의가 결과를 움직일 수 있는지를 기준으로 삼는다.
Chapter 8불복이 같은 도구에 종속되면 이의는 순환한다
같은 도구에 종속되지 않는 불복
불복 절차가 원 판단에 쓰인 자료·모델·해석 체계에 종속되면 사실에 관한 독립된 반박이 사라지고 이의는 순환한다. 같은 공급자의 도구 의존과 이전 관여를 통제하여 불복 심리가 다른 자료 경로와 판단 주체를 실제로 쓸 수 있어야 한다.
8.1같은 도구에 종속된 불복의 순환성
1심의 판단에 쓰인 도구와 같은 도구에 다시 물어보는 것만으로 불복이 된다면, 이의는 처음의 불투명함 안에서 맴돌 뿐이다. 이 편의 중심 명제는 불복의 경로가 원 판단의 자료·모델·해석 체계와 독립된 검토를 가능하게 해야 한다는 것이다. 기록의 생성·선별·해석이 같은 체계에 의존하면 사실에 관한 독립된 반박이 사라진다. 이 물음이 해결되지 않으면 당사자는 잘못된 판단을 지적하면서도, 그 지적에 쓰는 도구가 처음 판단과 같다는 이유로 같은 오류에 다시 노출된다. 회복을 가능하게 하는 공적 질서가 이 지점에서 무력화된다. 독립성은 결과를 반드시 바꾸는 조건이 아니라 다툼이 실제로 다른 길로 들어설 수 있게 하는 조건이다.
8.2원 판단 체계와의 분리 및 의존 통제
명제가 성립하려면 불복 심리가 원 판단에 쓰이지 않은 자료와 근거를 다룰 수 있어야 한다. 같은 공급자의 자료·도구·업데이트에 대한 의존이 통제되어야 하며, 심사를 맡은 자가 원 판단의 형성에 관여하지 않았음이 확인되고 이전 관여 여부가 드러나야 한다. 공급자가 자료와 도구를 지배하면 독립된 심리가 어려우므로 대체 가능성과 접근권, 이해충돌의 통제가 함께 요구된다. 같은 원천에서 나온 설명을 독립 증거로 두 번 집계해서는 안 된다. 설명이 실제 의존 경로를 항상 밝히지 않는다는 관측은 「Anthropic 연구 소개」에 담겨 있으며, 이는 같은 설명을 불복의 새 근거로 다시 세는 위험을 보여 준다. 설명 자체의 공개와 불복에 관한 현행 법리는 앞선 편과 III-17·III-25·III-26을 가리키고, 공동 판단에서의 역할 분담은 IV-09에 맡긴다. 여기서 다루는 것은 설명을 다투는 통로가 원 판단의 체계에 묶여 있는지다. 통로의 독립성은 심사자의 숫자나 형식적 교체로 측정하지 않는다.
8.3반론: 일관성 가치와 독립 검토 경로
가장 강한 반론은 효율과 일관성이다. 같은 도구를 쓰는 편이 기준을 일관되게 적용하고 비용을 줄이며, 다른 도구나 사람의 검토는 품질이 들쭉날쭉해 오히려 불공평하다는 주장이다. 모델의 성능이 높은데 낮은 성능의 경로를 복원하는 것은 퇴행이라는 주장도 있다. 인정할 부분은 있다. 일관성은 중요한 가치이고 독립 검토가 항상 더 나은 결론을 내는 것은 아니다. 그러나 일관성과 독립성이 같은 가치인 것은 아니다. 같은 체계가 반복하는 오류를 그 체계가 발견하지 못할 가능성은 일관성으로 지워지지 않는다. 저자의 응답은 불복 단계에서 다른 자료 경로와 다른 판단 주체를 실제로 쓸 수 있게 하는 것이다. 같은 도구를 보조적으로 다시 쓰는 경우에도 그 전제가 반복되었음을 기록하되, 이를 독립 심리로 치지 않는다. AI가 더 빠른 검토를 도와 독립 경로의 비용을 줄일 수 있다면 그 이익은 불복의 폭을 넓히는 데 써야 한다.
8.4선별 모델 재요약 반례와 폐기 조건
합성 상황을 보자. 당사자가 원 판단의 근거 자료가 잘못 선별되었다고 주장한다. 불복 절차는 같은 선별 모델에 다시 요약을 요청하고 그 요약을 근거로 기각한다. 표면상 이의는 두 번 다루어졌으나 사실에 관한 독립된 반박은 한 번도 열리지 않았다. 반대로 불복 단계에서 원자료를 별도로 확인하고 다른 해석을 제출할 기회가 있었다면, 같은 결론이 나왔더라도 독립 경로는 작동한 것이다. 판정의 기준은 결과의 차이가 아니라 어떤 경로로 다툼을 검토했는지다. 폐기 조건은 기존 불복 절차가 실질적으로 다른 자료와 다른 심사를 보장하거나, 독립 경로의 추가 비용이 그 이익으로 정당화되지 못하는 경우다. 이 편은 현행 항소·상고 제도의 적법성을 판정하지 않으며 확인되지 않은 사실을 단정하지 않는다. 같은 도구에 종속된 불복이 어디에 존재하는지는 원문 확인이 필요한 별도 과제로 남긴다.
Official documents referred to Anthropic: Reasoning models don't always say what they think ↗
Chapter 9오류를 아는 것과 결론을 바꾸는 권한은 서로 다르다
오류 발견 뒤 결론을 바꾸는 권한
도구의 오류를 발견하는 능력과 확정된 결론을 바꾸는 권한은 서로 다르므로 발견·영향 확인·결론 변경의 단계별 권한과 요건을 분리해야 한다. 오류가 판단에 작용한 방식을 확인한 뒤 권한 있는 심사로 변경 여부를 결정하고 불변경 시에도 이유 기록과 반박 기회를 남겨야 한다.
9.1오류 탐지 능력과 결론 변경 권한 분리
도구의 오류를 발견한 기관이 곧 그 오류가 반영된 결론을 바꿀 권한을 갖는 것은 아니다. 반대로 변경 권한이 없다는 이유로 권한 있는 절차와의 연계를 미루는 것도 정당화되지 않는다. 이 편의 중심 명제는 오류의 발견, 영향의 확인, 결론의 변경을 서로 다른 단계로 두고 각 단계에 필요한 권한과 요건을 따로 정해야 한다는 것이다. 이 물음이 해결되지 않으면 당사자는 오류가 알려진 뒤에도 책임지는 이가 없는 상태에서 기다리거나, 확정된 판단이 절차 없이 뒤집히는 일을 겪는다. 둘 모두 정당한 기대를 해친다. 설명 생성이나 경로 추적의 능력과 사람을 구속할 권한을 구별한 원칙은 이 편에서 오류 탐지 능력과 결론 변경 권한의 분리로 이어진다.
9.2결론 변경의 법적 근거와 절차적 요건
명제가 성립하려면 결론을 변경할 권한의 근거와 대상, 요건과 기한이 먼저 명시되어야 한다. 오류의 존재만으로 변경이 시작되는 것이 아니라, 오류가 어떤 판단에 어떤 방식으로 들어갔는지 확인된 뒤 권한 있는 심사가 따라야 한다. 반대로 권한이 확인되지 않았다면 구제를 보장한다고 통지할 수 없다. 변경하지 않기로 한 결정에도 이유와 기록을 남겨야 하며, 기술적인 수정이 사건의 결론을 대신하지 않는다. 긴급한 손해를 막기 위한 잠정 조치와 본안의 결론 변경은 다른 절차로 둘 수 있고, 현행 보전처분의 해설은 III-35·III-40에 맡긴다. 판례 체계 전반의 갱신은 IV-13이 담당하며 여기서는 개별 판단의 결론을 고치는 권한만 다룬다. 어떤 기관이 무엇을 할 수 있는지가 먼저 적혀야 당사자는 누구에게 무엇을 요구할지 알 수 있다.
9.3반론: 신속한 구제와 본안 심리의 구별
가장 강한 반론은 신속성이다. 오류가 드러났으면 지체 없이 고치는 편이 당사자에게 유리하고, 권한과 요건을 따지는 일은 지연의 수단이 될 수 있다는 것이다. 회복하기 어려운 손해가 진행 중이라면 잠정적 보호가 먼저 필요할 수 있다. 인정할 부분은 여기까지다. 그러나 무엇이 오류이고 어떤 결론에 영향을 주었는지에 대한 판단 자체가 심리의 대상이다. 확실해 보이는 오류가 사건과 무관한 경우도 있고, 오류가 있어도 다른 근거가 결론을 지탱할 수 있다. 저자의 응답은 신속한 보호와 본안 변경을 나누되, 어느 쪽이든 결정의 이유를 기록하고 당사자가 그 이유에 반박할 수 있게 하는 것이다. 변경 권한이 없는 자가 변경을 약속해도 그 약속은 효력이 없고, 변경 권한이 있는 자가 심리 없이 변경해도 절차를 건너뛴 것이다. AI가 영향 범위를 빠르게 추적하는 능력은 이 구분을 지키는 데 쓰면 된다.
9.4권한 공백의 합성 반례와 폐기 조건
폐기 조건은 명확하다. 기존 체계가 오류의 발견과 결론 변경의 권한을 이미 충분히 분리하고 있고, 변경하지 않는 결정에 대한 이유 기록과 다툼이 보장된다면 이 편의 구분은 새로울 것이 없다. 반대로 권한의 근거가 확인되지 않은 채 변경이 이루어지거나, 오류가 확인되었는데도 누구도 결론을 고칠 수 없다면 명제는 유지된다. 탐지가 빨라졌다고 변경의 요건을 엉성하게 만들어서는 안 되며, 요건을 갖추는 데 시간이 걸린다고 탐지 결과를 숨겨서도 안 된다. 합성 상황에서 오류 보고서가 여러 기관을 돌지만 각 기관이 자신의 권한 밖이라며 어느 곳도 결론을 남기지 않는다면, 오류는 알려졌으나 구제는 없는 상태다. 이 편은 현행 법령상 어떤 기관이 변경 권한을 갖는지 확인하지 않았으며 그 사실을 단정하지 않는다. 남는 과제는 권한의 원문 확인이다.
Chapter 10같은 오류에 노출된 사건을 어디까지 다시 볼 것인가
대량 오류의 재심사와 확정력
여러 사건에 쓰인 도구의 오류를 조사할 때는 오류 노출, 판단 영향, 절차적 근거, 결론 변경을 분리하여 단계별 상태를 추적해야 한다. 실제 기능 사용 여부와 원자료 검토 여부를 나누어 기록하고 누락된 미확인 집단을 유지한 채 별도 권한과 요건으로 재검토를 연결해야 한다.
10.1오류 노출과 영향 및 구제 단계의 분리
여러 사건에 쓰인 도구에서 오류가 발견되면 영향을 받은 범위를 확인해야 한다. 그러나 같은 도구를 썼다는 사실만으로 모든 사건의 결론이 잘못되었다고 볼 수는 없고, 오류가 알려진 사건만 조사하면 같은 경로의 다른 사건을 놓친다. 이 편의 중심 명제는 오류 노출, 판단에 대한 영향, 절차적 근거, 결론 변경을 분리해야 한다는 것이다. 기록이 부족한 후보를 따로 남겨 탐지·통지·정정·조치의 상태를 추적하는 측정 사양도 필요하다. 이 물음이 해결되지 않으면 기술 수정과 영향 조사, 실제 구제의 완료가 하나의 표식으로 합쳐져 당사자에게 회복이 닿기 전에 대응이 끝난 것으로 기록된다. 이는 조건을 밝히기 위한 제안이지 어떤 사법 체계에서 발생한 사건 목록이 아니다. 각 단계를 합치지 않아야 완료라는 말의 실제 범위를 알 수 있다.
10.2실제 사용 연결과 미확인 집단의 유지
명제가 성립하려면 오류의 조건에 맞는 사건과 맞지 않는 사건, 관계 기록이 빠진 사건을 구분해야 한다. 해당 사건에서 그 기능과 자료를 실제로 사용했는지, 그 결과가 어떤 판단에 들어갔는지의 연결도 확인됨, 미확인, 관련 없음으로 나누어야 한다. 모델 이름이나 사용 날짜만 맞추면 관련성을 너무 넓거나 좁게 잡게 된다. 합성 상황에서 도구는 제출된 기록의 일부를 요약에서 빠뜨린다. 한 사건의 검토자는 원자료를 별도로 읽어 그 내용을 판단에 반영했고, 다른 사건에서는 요약만 썼다. 두 사건은 같은 오류에 노출되었으나 남은 공백은 같지 않다. 다만 원자료를 열었다는 기록만으로 내용을 실제로 고려했다고 단정할 수는 없으므로, 어떤 판단에서 그 사실을 다루었는지 확인해야 한다. 검색에서 나오지 않는 사건에는 사용하지 않은 경우와 기록이 누락된 경우가 섞여 있다. 따라서 검색 결과가 없다는 이유로 영향이 없다고 분류하지 않고, 미확인 집단의 크기와 상태를 유지한다. 전체 후보 범위를 알 수 없으면 완료를 선언하지 않는다. 그렇다고 기록 없는 사건을 모두 피해 사건으로 세지도 않는다.
10.3반론: 법적 안정성과 조사 순서의 설계
가장 강한 반론은 안정이다. 광범위한 후보 탐지는 불필요한 통지와 분쟁을 늘리고 확정된 판단의 안정을 해친다는 주장이다. 인정할 부분은 분명하다. 후보에 포함되는 것 자체가 부담을 만들고, 오류가 사용되었다는 사실만으로 결과 변경을 확정할 수 없다. 저자의 응답은 합성 기록으로 탐지 규칙을 점검해 관계 누락과 과잉 포함을 따로 측정하고, 미확인 사건을 강제로 한쪽에 넣지 않으며, 실제 재검토는 별도의 권한과 요건에 연결하는 것이다. 후보 탐지는 사용 관계의 조사일 뿐 오판의 수를 세는 일이 아니다. 조사의 순서를 정할 때에는 회복하기 어려운 손해가 진행 중인 사건과 자료가 곧 사라지는 사건에서 시간의 의미가 다르다는 점을 반영한다. 다만 순위가 낮다는 이유로 구제의 기회가 끝났다고 통지하지 않는다. 자료가 부족한 사건이 뒤로 밀리면 확인하지 못해서 늦고, 늦어서 확인하지 못하는 순환이 생긴다. 당사자에게는 어떤 사용이 확인되었고 어떤 영향이 미확인인지 구별하여 알린다. 조사만으로 재심사 권한이나 기한을 새로 정하지 않으며, 타인의 개인정보와 비밀을 고려한 뒤 이용 가능한 절차의 요건은 그 법적 근거를 확인해 안내한다.
10.4단계별 상태 기록과 명제 폐기 조건
폐기 조건은 기존 조사 체계가 같은 구별을 충분히 수행하거나, 새 탐지의 비용이 그 이익으로 정당화되지 못하는 경우다. 도구의 결함을 수정했다고 조사가 끝난 것으로 볼 수도 없다. 기존 사건에서 누락된 검토가 자동으로 이루어지지는 않으므로 후보 확인과 통지, 당사자의 정정, 권한 있는 재검토의 상태를 각각 남겨야 한다. 조사 목록을 닫는 행정적 결정도 개별 사건의 권리 소멸과 같지 않다. 새 자료가 발견되면 목록에 다시 반영할 조건을 정하되, 모든 사건을 무기한 조사한다는 뜻은 아니다. 이 편은 실제 오판의 수나 탐지 성능을 주장하지 않으며, 확정력이 자동으로 배제된다고도 하지 않는다. 영향 후보의 집합과 실제 구제 단계 사이의 상태 전환을 드러내는 것이 이 편의 기여다.
Chapter 11설명 비용이 청문 기회를 대신할 수 없다
설명 비용과 실질적 청문 기회
설명 생성 비용과 보안 등 보호 이익이 크더라도 당사자가 불리한 전제를 특정해 판단에 맞설 실질적 청문 기회를 줄이는 선택은 정당화되지 않는다. 설명의 적정성은 반박 가능성으로 판단하며 공개 제한 시에는 대체 반박 기회를 두고 AI의 비용 절감분을 당사자의 이의제기 자원에 배분해야 한다.
11.1설명 비용 절감과 청문 기회의 보장
설명을 만드는 데 비용이 들고 자세한 공개가 개인정보와 안전을 해칠 수 있다는 점은 인정할 수 있다. 그러나 그 비용을 줄이기 위해 청문의 기회 자체를 줄이는 것은 다른 문제다. 이 편의 중심 명제는 설명에 드는 비용과 보호 이익이 아무리 크더라도 당사자가 판단에 맞설 실질적 기회를 잃는 선택은 정당화되지 않는다는 것이다. 이 물음이 해결되지 않으면 비용을 이유로 설명 수준이 낮아지고, 당사자는 무엇을 어떻게 다툴지 알지 못한 채 기한을 보낸다. 그 손해는 자원이 적은 당사자에게 먼저 돌아간다. AI를 통한 저렴한 법률 지원과 접근 가능한 설명이 이 권이 그리는 이익이라면, 그 이익은 청문의 자리를 넓히는 방향으로 쓰여야 한다.
11.2반박 가능성 기준과 설명 비용의 배분
명제가 성립하려면 설명의 적정성을 형식의 화려함이 아니라 결과에 영향을 준 자료·규범·전제에 대한 실질적 반박 가능성으로 판단해야 한다. 읽기 쉬운 설명과 판단의 근거에 접근할 권리는 구별된다. 적은 비용으로 만든 설명이라도 당사자가 어떤 전제를 바로잡아야 하는지 알 수 있다면 충분할 수 있다. 아무리 큰 비용을 들인 상세한 설명이라도 반박을 전혀 가능하게 하지 못한다면 부족할 수 있다. 비용이 큰 설명을 대신할 경로를 둘 때에는 그 경로가 어떤 반박을 허용하는지 밝혀야 한다. 「EU AI Act」 제86조와 「대한민국헌법」 제27조를 설명권과 재판청구권의 근거 입구로 두되, 현행 법리의 자세한 내용은 확인되지 않은 사실로 남긴다. 비용의 배분도 함께 다뤄야 한다. 설명 비용을 당사자에게 전가하면 그 당사자만 청문의 값을 치르게 된다. 어느 쪽이 비용을 감당하고 어느 쪽이 시간을 얻는지가 설명의 질과 함께 판정 대상이 된다.
11.3반론: 요약 선호 실익과 대체 반박 기회
가장 강한 반론은 실익이다. 대부분의 당사자는 요약만 원하고 상세한 설명은 비용만 키우며, 설명에 자원이 모두 들어가면 판단 자체가 늦어진다는 것이다. 상세 공개가 모델을 조작하려는 자에게 유리할 수 있다는 우려도 있다. 인정할 부분은 비용이 실제로 발생하고 공개 범위를 정해야 한다는 점이다. 다만 저자의 응답은 공개 범위를 제한할 때 독립 심사와 대체적인 반박 기회를 제공하고, 비공개를 근거 면제 사유로 쓰지 않는 것이다. 비용 절감은 청문을 줄이는 선택이 아니라 같은 비용으로 더 많은 반박 기회를 만드는 선택일 때만 정당화된다. 모델 내부를 자세히 설명하는 일과 당사자가 다툴 전제를 특정하는 일은 같지 않다. 어느 쪽이 실제 쟁점에 필요한지에 맞추어 공개 수준을 정한다. AI가 설명과 정리를 저렴하게 만든다면 그 절약분은 이의를 제기하는 데 필요한 자원과 시간에 배분되어야 한다.
11.4자료 탐색 비용 반례와 명제 폐기 조건
폐기 조건은 설명 수준을 낮추고도 당사자가 불리한 전제를 식별하고 응답과 재반박까지 할 수 있는 경우다. 이때에는 비용 비판의 적용을 철회한다. 반대로 형식적인 설명 제공만으로 이의제기 기회가 보장되었다고 판정하면 이 편의 우려는 유지된다. 합성 상황에서 상세한 설명문이 제공되었으나, 당사자가 그 설명이 지적한 전제에 관한 자료를 찾을 비용을 감당하지 못해 반론을 접는다면 설명은 있었고 청문은 없었던 것이다. 저자는 설명의 길이를 기준으로 삼지 않고 어떤 반박이 실제로 가능한지로 판단한다. 「유럽평의회 인공지능 기본협약」이 구제와 절차의 근거 입구가 될 수 있으나 구체적 조항 내용과 국내 적용의 범위는 확인되지 않은 사실로 남긴다. 비용과 보호를 이유로 청문의 내용이 줄어드는지가 이 편의 판정 대상이다.
Official documents referred to EU AI Act Article 86: Right to explanation of individual decision-making ↗ · 대한민국헌법 제27조 ↗ · Council of Europe Framework Convention on AI: official overview ↗
Chapter 12다툴 수 있는 판단은 이의가 결과를 바꿀 수 있어야 한다
다툴 수 있는 판단의 최소 요건
다툴 수 있는 판단이 성립하려면 영향 요소의 특정 가능성, 원 도구에 갇히지 않는 이의제기 경로, 정당한 이의 시 결과를 바꿀 절차와 기록이 모두 존재해야 한다. 사후 설명과 분리된 전제 보존, 독립된 반박 지원, 권한 있는 기관의 변경 이력 기록이 연결되어야 확정의 안정이 정당화된다.
12.1다툴 수 있는 판단의 세 가지 최소 요건
앞선 편들이 설명, 기록, 불복, 권한을 나누어 살폈다면 이 편은 무엇이 남아야 판단을 다툴 수 있는지 묻는다. 이 편의 중심 명제는 다툴 수 있는 판단의 최소 요건이 세 가지라는 것이다. 결과에 영향을 준 자료·규범·전제를 특정할 가능성, 그 전제에 이의를 제기할 경로, 이의가 정당할 때 결과를 바꿀 절차와 기록의 존재가 그것이다. 셋 중 하나가 빠지면 형식적인 통지만 남는다. 이 물음이 해결되지 않으면 당사자는 판단의 이유를 들으면서도 무엇을 어떻게 다투어야 할지 모르는 상태로 확정을 맞는다. 사법이 보호하려는 것은 기존 법원의 모든 형식이 아니라, 누구든 자신을 구속하는 판단의 이유를 묻고 잘못을 고칠 수 있는 공적 질서다. 최소 요건은 그 질서의 바닥이다.
12.2전제 보존과 독립 반박 및 변경의 연결
명제가 성립하려면 세 단계의 연결을 함께 확인해야 한다. 첫째, 판단에 쓰인 자료와 규범, 전제가 사후 설명과 섞이지 않은 채 당사자가 읽고 지목할 수 있는 형태로 보존되어야 한다. 둘째, 지목한 전제가 사실의 오류든 규범의 해석이든 원 판단 도구에 갇히지 않고 반박을 제출할 절차와 지원 자원이 열려 있어야 한다. 셋째, 반박이 받아들여졌을 때 권한 있는 기관이 기존 결론을 고치거나 재심사하고 그 변경 이력을 남길 수 있어야 한다. 「대한민국헌법」 제27조와 「EU AI Act」 제86조를 재판청구권 및 자동화된 결정에 대한 이의의 근거 입구로 두되, 구체적 조문 내용과 법리는 확인되지 않은 사실로 남긴다. 다만 현행 판결 이유·항소·상고의 자세한 해설은 III-17·III-25·III-26에 맡긴다. 공동 판단에서의 역할 분담은 IV-09가, 일반적 선례의 갱신은 IV-13이 담당한다. 여기서 정하는 것은 개별 판단을 다툴 수 있게 하는 최소선이며, 그 선은 형태가 아니라 당사자가 얻는 능력으로 표시한다.
12.3반론: 사법 부담과 변경 요구 통로 보장
가장 강한 반론은 부담이다. 최소 요건을 높게 잡으면 모든 결정이 무거워지고, 사소한 사안까지 전제와 기록을 남기면 사법이 감당할 수 없다는 것이다. 요건을 갖춘 판단이라도 당사자가 이용하지 않으면 무의미하다는 주장도 있다. 인정할 부분은 요건이 비용을 만든다는 점이다. 그러나 이 편의 요건은 결과의 변경을 보장하는 것이 아니라 변경을 요구할 수 있는 통로를 남기는 것이다. 사안의 크기에 따라 기록의 깊이와 절차의 범위는 달라질 수 있다. 하지만 무엇이 영향을 주었는지 특정할 수 없고, 이의를 제기할 수 없으며, 정당한 이의가 결과를 바꿀 수 없다면 그것은 다툴 수 있는 판단이 아니다. 저자가 제시하는 탈락 조건도 이와 같다. 설명문을 제공했다는 사실만으로 이의제기 기회가 보장되었다고 판정하면 요건을 충족한 것으로 보지 않는다. AI가 기록과 정리를 돕는다면 요건을 갖추는 비용을 낮추는 데 쓸 수 있다.
12.4당사자 능력 기준과 명제 폐기 조건
폐기 조건은 기존 절차가 세 요건을 이미 충분히 보장하거나, 요건의 추가가 다툼의 실익을 넘어서는 경우다. 어느 쪽이든 판정의 기준은 형식이 아니라 당사자가 얻는 능력이다. 이 권이 설명의 권리, 인과 기록, 사후 이유, 비공개와 대체 반박, 이의제기 지원, 독립 불복, 변경 권한, 대량 오류의 조사, 설명 비용을 차례로 다룬 것은 서로 다른 실패에 대해 각 요건이 무엇을 요구하는지 드러내기 위해서다. AI가 판단을 돕는 범위가 넓어질수록 다툴 수 있는 판단의 최소선은 낮아져서는 안 된다. 반대로 AI가 당사자의 이의제기 능력을 넓혀 준다면 그 이익은 요건을 형식적으로 채우는 데가 아니라 실제 다툼이 결과를 움직이는 데 쓰여야 한다. 확정의 안정은 다툼이 가능한 곳에서만 정당하다.
Official documents referred to 대한민국헌법 제27조 ↗ · EU AI Act Article 86: Right to explanation of individual decision-making ↗