제1편기반시설이 판결 이전에 판단한다
판단 기반시설이 권력이 되는 경로
판단 기반시설에 대한 기술 의존이 해석권과 접근권의 사적 통제로 굳어지지 않도록 기록의 관측·보존·해석 경로를 분리하고 당사자의 반증 접근을 보장해야 한다. 이는 기록 체계가 분리되어 있고 자동 분류에 맞서 본안 심리를 다툴 공공 지원과 이의 경로가 열려 있으며 기술 발전 추세를 법정 정확성으로 오인하지 않을 때 성립한다.
1.1자료 가시성과 경로 분리 제안
판단 기반시설이 권력이 되는 경로는 판결문에 서명하는 순간이 아니라 그 이전에 자료의 가시성을 정하는 데 있다. 기록의 생성과 선별, 검색의 범위와 정렬, 요약의 포함과 제외가 같은 체계에 의존하면 법관은 성실하게 심리하면서도 이미 좁혀진 선택지 안에서만 판단하게 된다. 이 상태가 굳어지면 비용과 보안, 편의를 이유로 채택한 기술 의존이 사실상 해석권과 사건 접근권의 사적 통제로 바뀐다. 중심 명제는 기반시설 의존이 사적 통제로 굳어지지 않도록 기록의 관측·보존·해석 경로를 분리하고 당사자의 반증 접근을 보장해야 한다는 것이다. 이는 현행 제도의 해설이 아니라 앞으로의 설계 제안이다.
1.2성립 조건과 관측·가정의 구별
이 명제가 성립하는 조건은 경로의 분리에 있다. 기록의 생성과 보존, 해석이 같은 체계에 묶이지 않고 자동 분류에 맞서 본안 심리를 다툴 공공 지원과 이의 경로가 열려 있어야 한다. 같은 원천의 설명을 독립 증거로 중복 집계하거나 본안 심리의 기회를 잃고도 다툴 수 없다면 그 제안은 기각된다. 기술 과업의 발전 관측을 법정 정확성으로 바꾸지 않는다는 점도 전제다. 국제 AI 안전 보고서와 METR의 기술 과업 평가는 발전을 관측할 출발점일 뿐이다. 발행 시점 이후의 능력은 확인되지 않은 사실이며, 그 추세가 법정 정확성을 보증하지도 않는다. 관측과 가정을 구별하지 않으면 기반시설의 위험도 과장되거나 축소된다.
1.3반론: 판사의 최종 결정권과 한계
가장 강한 반론은 도구는 도구일 뿐 최종 결정은 판사가 내리므로 권력분립의 문제가 생기지 않는다는 주장이다. 판사가 거부할 수 있고 서명 책임을 진다면 내부 설정이나 외부 공급망은 보조에 그친다는 것이다. 그러나 단일 체계가 선별한 기록 밖의 반증을 볼 수 없는 상태에서는 거부 가능성이 작동하지 않는다. 동일 원천의 요약만 제시되고 원자료를 통한 반박이나 자동 분류에 대한 이의가 막히면 판사도 다른 쟁점을 심리할 수 없다. 이는 실질적 청문과 반박 기회의 상실이다. 따라서 최종 판단권의 보존이 그 이전의 선택 구조를 자동으로 정당화하지는 않는다.
1.4명제를 버릴 조건과 논의 범위
이 명제를 버려야 하는 조건 역시 효과를 기준으로 정한다. 관측과 보존, 해석 경로가 이미 분리되어 있고 당사자의 반증 원자료 접근과 자동 분류에 대한 이의권이 실효적으로 작동한다면 추가 분리 장치의 요구는 철회해야 한다. 단순한 도구 활용 자체를 곧바로 사법권 침해라고 부르는 과장도 경계해야 한다. 기관별 현행 권한의 일반 검토는 제2총서의 해당 권에 맡기고, 이 편은 판단 이전의 구성력이 어디에서 생기는지에만 머문다.
제2편판단 주체는 문언이 아니라 책임의 구조다
사법 독립의 인적 조건과 물적 조건
모델이 판결 근거를 생성하는 시대에 사법 권력분립은 조문의 문언이 아니라 권한과 책임 배분의 구조로 규율해야 판단 책임과 재심사 가능성이 보존된다. 이는 판단 책임의 명시적 귀속, 재심사 절차의 설계, 모델 개입 범위의 기록 및 공개라는 세 가지 요소가 함께 갖춰질 때 성립한다.
2.1책임 배분 구조와 권력분립
모델이 판결 근거의 일부를 생성하는 시대에 사법 권력분립을 조문의 문언이 아니라 인간 감독의 설계 원리로 재구성할 수 있는가. 중심 명제는 판단 주체를 문언이 아니라 권한 배분의 구조로 규율하면 모델 개입이 확대되어도 판단 책임과 재심사 가능성이 보존된다는 것이다. 즉 무엇이 모델에 의해 수행되었는지가 아니라 누가 최종 판단을 책임지고 그 판단이 어떻게 다시 심사되는지가 권력분립의 핵심이다. 판단 주체를 문언에 고정하는 방식은 분명해 보인다. 그러나 누가 어떤 근거로 판단했는지, 그 판단이 어떻게 다시 열리는지에 관한 구조적 질문은 문언 바깥에 남는다.
2.2성립을 위한 세 가지 최소 요소
이 구조적 규율의 최소 구성 요소는 세 가지이며 서로 환원되지 않는다. 첫째, 판단 책임이 누구에게 귀속되는지 명시적으로 확정되어야 한다. 둘째, 그 판단이 어떻게 다시 심사될 수 있는지 설계되어야 한다. 셋째, 모델이 개입한 범위가 기록되고 공개되어야 한다. 책임이 불분명하면 재심사가 무의미해지고, 재심사가 없으면 기록 공개도 구제로 이어지지 않는다. 국제 실무 규범은 이 구조를 단일한 형태로 제시하지 않는다. 영국과 웨일스 사법부 입장문은 실무 원리 계층에, 유럽사법효율위원회 윤리헌장은 원칙 계층에, 유럽연합 인공지능법 제14조는 법적 의무 계층에 있다. 다만 세부 원문은 확인되지 않은 사실이므로 조건부 가정으로만 기능한다. 구속력의 높낮이가 정보량의 많고 적음을 뜻하지는 않으므로 설계자는 계층의 위계가 아니라 각 계층이 담고 있는 설계 정보량에 따라 자원을 배분해야 한다.
2.3반론: 헌법 문언 초과 우려와 답
가장 강한 반론은 책임과 재심사 가능성의 설계 원리가 형식적 이상에 불과하며, 「대한민국헌법」 제103조의 문언을 넘어서는 설계는 문헌 해석을 초과해 헌법소원에 저촉될 수 있다는 것이다. 인정할 부분은 분명하다. 헌법 제103조와 제27조의 판례적 해석은 확인되지 않은 사실이다. 따라서 문언이 책임과 재심사를 명시적으로 규정한다고 주장하지 않으며, 구현 여부는 각국 헌법 체계에 따라 달라질 수 있다. 이에 대한 답은 본 논증이 문언을 초과하는 해석이 아니라 문언의 실질적 기능을 조건부로 재구성하는 설계 명제라는 점이다. 법관에 의한 재판 원칙이 책임 배분 원리로 기능할 수 있다는 조건부 가정 위에 서며, 그 가정이 성립하지 않더라도 설계 원리는 독립적인 설계 정보로 기능한다.
2.4설계 불변량과 폐기 조건
미래 ASI 조건은 관측이 아니라 설계 조건의 추상화로만 사용한다. 모델의 판단 개입이 확대될수록 판단 시점의 인간 법관에 대한 책임 귀속과 재심사 가능성은 설계 불변량으로 제시된다. 이를 제도로 옮기기 위한 최소 명세는 귀속 규칙과 재심사 절차, 모델 개입 범위를 어디까지 공개할지에 관한 사항으로 나뉜다. 이는 확정된 입법안이 아니라 설계 정보다. 명세의 결여가 실제 구제 불능으로 이어지는 경로는 합성 사례로만 시연하며 실제 사건으로 표시하지 않는다. 폐기 조건은 명확하다. 헌법 제103조와 제27조의 문언 해석이 본 설계 원리와 양립 불가능하거나, 인간에게 책임을 귀속하는 일이 실질적으로 불가능해지고 재심사가 제도적으로 봉쇄될 때 본 설계는 폐기·재검토되어야 한다.
다룬 공식 문서 Judiciary of England and Wales: Position statement on the judicial use of AI ↗ · CEPEJ European Ethical Charter on AI in judicial systems ↗ · 대한민국헌법 제103조 ↗
제3편공급자가 당사자일 때 그 도구로 심리할 수 없다
모델 공급자가 사건 당사자인 경우
모델 공급자가 사건 당사자이거나 이해관계자일 때 그 도구의 결과는 독립된 심리의 근거가 될 수 없으므로 대체 경로와 접근권, 이해충돌 통제가 함께 작동해야 한다. 이는 이해관계 공개와 회피·대체 수단 마련, 공급자 동의 없는 검증 자료 접근, 사건별 업데이트 동결 및 독립 재현이 보장될 때 성립한다.
3.1당사자 공급자 도구의 심리 배제
모델 공급자가 사건의 당사자이거나 이해관계를 가진 제3자인 경우 그 공급자의 도구로 그 공급자를 심리할 수 있는가. 중심 명제는 공급자가 사건 당사자가 되는 순간 해당 도구의 결과는 독립된 심리의 근거가 될 수 없으며 대체 경로와 접근권, 이해충돌 통제가 함께 작동해야 한다는 것이다. 공급망의 독립과 판단의 독립은 여기서 직접 연결된다. 도구 공급자가 자료와 도구, 업데이트를 지배하는 상태에서 그에게 불리한 결과를 해당 도구로만 검토한다면 당사자는 이유를 물을 수는 있어도 다툴 수는 없게 된다. 개별 사건의 참여 제한 일반은 같은 총서의 제3권에 맡기고, 이 편은 모델 공급자의 기술 통제가 사건 당사자 지위와 겹칠 때의 심리 조건만을 다룬다.
3.2이해충돌 통제의 세 가지 조건
이 명제가 성립하는 조건은 세 가지다. 첫째, 이해관계가 공개되고 사건별로 회피와 대체 수단이 마련되어야 한다. 둘째, 법원이 공급자의 동의 없이도 기록과 검증 자료에 접근할 수 있어야 한다. 셋째, 업데이트와 검색 기본값이 해당 사건에서 동결되거나 독립적으로 재현될 수 있어야 한다. 이는 현행법상 의무의 단정이 아니라 설계 제안이다. 실제 조달계약과 감사권, 데이터 이전과 공급 중단 조건의 공개 원문은 확인되지 않은 사실로서 확보가 필요하다. 인공지능이 당사자의 반박 능력을 넓힌다는 희망은 바로 이 대체 가능성이 있을 때만 현실이 되며, 공적 지원 도구가 특정 공급자에 종속되면 그 희망은 분배되지 않는다.
3.3반론: 범용 도구의 중립성과 효율
가장 강한 반론은 범용 도구의 중립성과 조달의 효율을 내세운다. 모델은 특정 사건을 위해 편향되지 않았고 법원이 매번 도구를 바꾸면 비용과 오류가 커지므로 기존 도구를 쓰되 판사가 주의하면 충분하다는 것이다. 그러나 중립성에 관한 일반적 주장으로는 구조적 이해관계가 해소되지 않는다. 학습자료의 선택과 검색 순위, 업데이트 시점은 개별 사건에 대한 의도 없이도 특정 주장의 발견 가능성을 체계적으로 바꿀 수 있다. 판사의 주의도 검증 자료에 접근하지 못하면 선언에 그친다. 따라서 효율의 이익을 인정하더라도 그 이익이 검증의 봉쇄를 정당화하지는 못한다.
3.4대체 요구 완화 조건과 탈락 기준
강한 대체 요구를 완화할 수 있는 조건은 교차 검증이 이미 확보된 경우다. 공급자와 무관한 다중 검증 체계와 원자료 보존이 작동하여 공급자의 관여 없이도 독립 심리와 반박이 보장된다면 해당 사건에서 도구를 전면 교체하라는 요구는 완화될 수 있다. 반대로 공급자의 동의 없이는 불리한 결과를 검토할 수 없는 구조를 사법 독립으로 설명한다면 이 권의 기준에서는 탈락한다. 국가가 대체 도구를 직접 독점하는 방식도 같은 심사를 받는다.
제4편갱신은 기술이 아니라 규범의 변경이다
학습자료·검색·업데이트를 통한 영향
학습자료와 검색 색인, 모델 업데이트는 법의 변경과 같은 효과를 내므로 기술 갱신과 규범 변경의 권한을 분리하고 변경 이력과 복구 경로를 남겨야 한다. 이는 사건 단위로 모델·자료 버전을 특정하고 변경 이유와 롤백 수단을 기록하며 당사자가 변경 전후의 근거 차이를 반박할 수 있을 때 성립한다.
4.1기술 갱신의 규범 변경 효과
학습자료와 검색 색인, 모델 업데이트를 통한 영향은 일회성 오류가 아니라 법의 변경과 같은 효과를 낼 수 있다. 같은 질문에 다른 판례가 인용되고 같은 증거가 다르게 요약되며 같은 기준이 다르게 적용된다면 당사자가 마주하는 법은 조용히 바뀐 것이다. 중심 명제는 기술 갱신과 규범 변경의 권한을 분리하고 갱신 버전을 고정하며 변경 이력과 복구 경로를 남겨야 한다는 것이다. 모델 변경이 공개 절차 없이 법적 기준을 바꾸는 일이 반복되면 공개된 법의 변경과 오류 수정이라는 사법의 기능이 침식된다. 판례 데이터 구조화와 일반적 선례 갱신은 선행 총서와 제13권에 맡기며 현행 갱신 절차는 확인되지 않은 사실이다.
4.2버전 특정과 설명 부담의 차등
성립 조건은 구체적이다. 재판에 쓰이는 모델과 자료의 버전을 사건 단위로 특정할 수 있어야 한다. 변경 이유와 적용 시점, 책임자와 롤백 수단이 기록되어야 하며, 당사자가 변경 전후의 근거 차이를 반박할 수 있어야 한다. 보안 패치와 경미한 성능 개선까지 같은 무게로 심사하자는 뜻은 아니다. 효과에 따라 설명 부담을 나누되 검토 범위를 좁히거나 인용 기반을 바꾸는 변경에는 강화된 이유 제시와 예외 절차가 필요하다. 기술 과업의 추세를 법정 정확성으로 환산하지 않고 측정되지 않는 것을 획득 수요로 남기는 태도가 여기서도 요구된다.
4.3반론: 신속한 보안 패치의 필요성
가장 강한 반론은 신속한 갱신이 안전과 정확성을 높이며 매번 버전을 동결하면 오히려 낡은 오류에 갇힌다는 것이다. 취약점을 방치할 수 없고 모든 변경을 재판 절차로 다루면 운영이 불가능하다는 우려는 정당하다. 이에 대한 답은 갱신을 멈추는 것이 아니라 권한을 나누는 것이다. 보안상 긴급한 변경은 신속히 허용하되 그 효과 요약을 남기고 사후 검증과 예외를 보장하면 된다. 신속한 패치의 이익을 인정하면서도 취약점을 막는 보안 갱신과 인용·요약 기준을 바꾸는 규범 변경을 하나로 합치지 않는 것이 핵심이다.
4.4명제 철회 조건과 비공개 법 변경
이 명제는 갱신이 법적 기준에 독립적인 차이를 만들지 않음이 확인되면 철회되어야 한다. 원자료와 판단 기준을 고정한 비교에서 버전 차이가 검토 기회나 근거 구성에 영향을 주지 않는다면 해당 갱신을 규범 변경으로 다룰 이유는 약해진다. 그러나 변경 이력 없이 기준이 바뀌고 당사자가 그 차이를 물을 수 없다면 이는 기술 운영이 아니라 공개되지 않은 법 변경이다.
제5편성능이 아니라 실패의 관문으로 심사한다
조달 권한과 재판 권한의 분리
판사의 인공지능 사용은 평균 정확도가 아니라 실패 유형별로 인권 침해와 절차 오류의 전이 경로를 매핑하고 인적 통제 지점을 설계해 심사해야 한다. 이는 입력 편향, 추론 붕괴, 출력 환각, 인지적 병목 등 실패 축에 맞춰 출처 기록, 중단 권한, 대조 검토와 기록 공개가 단계별로 작동할 때 성립한다.
5.1평균 정확도에서 실패 매트릭스로
판사의 인공지능 사용을 제도적으로 제한하고 설계할 때 성능 벤치마크가 아니라 실패 시나리오 매트릭스로 무엇을 검증해야 하는가. 중심 명제는 평균 정확도가 아니라 실패 유형별로 인권 침해 가능성과 절차 오류가 어떻게 전이되는지를 사전에 매핑한 뒤 각 유형에 인적 통제 지점을 설계해야 한다는 것이다. 판사가 참고하는 출력이 평균적으로 정확해도 한 건의 환각이 특정 당사자의 권리를 어떻게 침해하는지는 집계 지표가 보여주지 않는다. 사법 판단은 집단 평균이 아니라 개별 사건의 정의로움으로 심판되므로 검증 단위도 실패 사례 단위로 바뀌어야 한다.
5.2적법절차와 단계별 인적 통제 지점
연결 고리는 재판받을 권리와 재판의 공정성 원리이다. 헌법 제27조는 결과의 정확성만이 아니라 절차 자체의 정당성을 요구하므로, 환각이나 편향이 판결문의 어디에 스며드는지를 추적하지 않으면 적법절차는 선언에 그친다. 판례나 유권 해석은 확인되지 않은 사실이므로 확정 해석으로 제시하지 않는다. 실패 축의 분류는 설계 개념이다. 입력의 편향과 추론 사슬의 붕괴, 출력의 환각, 인간이 설득되는 인지적 병목은 서로 다른 개입 시점을 요구한다. 입력 단계에서는 참고 출처의 기록이, 추론 중간에서는 중단 권한이, 출력 이후에는 대조 검토와 기록 공개가 필요하다. 유럽연합 인공지능법 제14조는 이 원칙을 번역하는 근거로만 쓰며 사법부 적용 범위를 확정하지 않는다.
5.3반론: 과잉 설계 비판과 하한선
가장 강한 반론은 성능 지표가 무의미하다는 전제가 과장이며, 실제 제도화는 성능 기준과 인적 감독을 결합하는 방향으로 가능하므로 실패 매트릭스는 과잉 설계라는 것이다. 인정할 부분은 성능 지표가 초기 필터링의 한 근거로 기능할 수 있다는 점이다. 그러나 성능 지표는 개별 사건의 정의로움을 보증하지 않으므로 최종 설계 판단의 단위는 실패 시나리오별 피해 경로여야 한다. 본 설계는 성능을 배제하지 않고 하한선으로 재배치하며, 상한 판단은 실패 매트릭스가 담당한다. 민사 손해배상 사건의 환각 판례가 입력 여과와 추론 중단, 출력 대조의 실패를 거쳐 판결문에 이른다는 합성 사례는 매트릭스를 시험하는 도구일 뿐 실제 사건으로 전환하지 않는다.
5.4조건부 권고의 한계와 폐기 기준
미래 ASI 조건에서도 목록 자체보다 오래 남는 것은 통제 지점의 설계 논리다. 이를 관측으로 위장하지 않고 조건부 사고실험으로 명시한다. 한국 법원의 인공지능 사용 내규와 판결문 작성 관행, 기록 공개 제도는 확인되지 않은 사실이므로 매트릭스는 확정된 개혁안이 아니라 확인 이후 재평가될 조건부 권고로 남는다. 폐기 조건은 설계 스스로를 부정하는 경우에만 엄격하게 적용한다. 통제 지점이 실패 전이를 막지 못함이 반복 관측되고 대안이 이를 능가하면 매트릭스를 폐기하되, 실패가 관측되지 않은 침묵을 성공의 증거로 읽지도 않는다.
다룬 공식 문서 대한민국헌법 제27조 ↗ · 대한민국헌법 제103조 ↗
제6편감독은 선언이 아니라 권한의 분산이다
행정부의 기술 지원과 종속의 경계
사법 인공지능에 대한 인간 감독이 실질적 통제가 되려면 독립성, 정보 접근, 거부권, 추적 가능성과 이의 경로를 갖춘 제도로 설계되어 법원·법조공동체·당사자에 분산되어야 한다. 이는 이해관계 독립, 산출 근거 파악, 실효적 거부·중단 권한, 사후 추적 평가의 네 요소가 모두 충족될 때 성립한다.
6.1선언을 넘어선 감독 권한의 분산
사법 인공지능에 대한 인간 감독이 형식적 승인을 넘어 실질적 통제가 되려면 어떤 제도적 조건이 필요한가. 중심 명제는 인간 감독이 독립성과 정보 접근, 거부권과 추적 가능성, 이의 경로를 갖춘 제도로 설계되어 법원 조직·법조공동체·당사자 측에 분산되어야 한다는 것이다. 이는 현행 합헌성에 관한 결론이 아닌 설계 규범으로만 기능한다. 가장 흔한 문장인 ‘인간이 최종 결정한다’는 선언만으로는 누가 어떤 정보를 갖고 어떤 방식으로 산출물을 검증하고 거부할 수 있는지가 규정되지 않는다. 감독이 형식에 그치면 책임은 명목상 인간에게 배정되지만 실제 판단 작용은 시스템에 이양되어 권력분립은 문구로만 남는다.
6.2실질적 감독의 네 요소와 역할 배분
실질성의 요소는 네 가지이며 서로 대체될 수 없다. 결정 주체와 공급자의 이해관계로부터 독립되어 있는지, 산출 근거를 실제로 파악할 수 있는지, 거부하거나 중단할 권한이 실효적인지, 감독 행위 자체가 사후에 추적되고 평가되는지다. 하나만 충족하고 나머지가 결여되면 감독은 형식에 머문다. 이를 국가와 플랫폼, 모델과 법원의 관계에 배분하는 것이 설계 원리다. 법관은 개별 사건에서 수용과 거부를 판단하는 최종 주체이되 도입 여부와 성능 기준까지 스스로 결정하기에는 이해관계가 얽힌다. 법원 조직은 내부 감사와 기술 검증을 맡되 판단 독립을 침해하지 않아야 한다. 외부 공급자는 계약과 기술 문서를 통해 검증 가능성에 관한 요구에 응해야 하며, 당사자는 오류에 대한 이의 경로를 가져야 한다.
6.3감독 전제로서의 설명 가능성
설명 가능성 요구는 장식이 아니라 감독의 전제다. 근거를 파악하지 못하면 정보 접근이 결여되고, 근거가 기록되지 않으면 사후 추적도 결여되기 때문이다. 유럽 윤리헌장이 설명 가능성과 정보 접근을 함께 요구하는 방향은 이 논증과 상응하지만 기술 표준이나 인증 절차까지 설계하지는 않는다. 또한 감독자 선임의 독립성과 결정 기록의 공개, 감독 활동에 대한 별도 점검이 함께 있어야 한다. 정보 접근은 입력 범위와 근거, 학습자료의 대표성과 시정 절차를 포함한다. 영업비밀과 개인정보 보호의 충돌 해소까지 설계하지 않는다는 점이 이 조건의 한계다.
6.4반론: 현행 법령 중복 우려와 폐기
가장 강한 반론은 현행 법령과 판례를 확인하지 않은 설계가 공허하며 국내 제도가 이미 적절한 체계를 갖추었다면 중복이라는 것이다. 현행 법령과 판례의 충족 여부가 확인되지 않은 사실임은 인정하며, 본 설계는 실정법 진단이 아니라 설계 언어를 제공한다. 따라서 폐기 조건은 세 가지다. 관련 법령이 네 요소와 네 축을 전부 충족하는 것으로 확인되거나, 감독 요소의 실질성을 사법 맥락에서 구조적으로 측정할 수 없음이 드러나거나, 감독 비용이 이를 통해 방지하는 오류 위험을 실증적으로 초과하면 본 설계를 폐기한다.
다룬 공식 문서 CEPEJ European Ethical Charter on AI in judicial systems ↗
제7편비밀은 검증을 멈출 이유가 되지 않는다
기업 비밀과 재판 검증의 충돌
기업의 영업비밀이 재판 검증 자체를 막을 수는 없으며 불리한 결과에 대한 독립 검토가 가능한 보호된 열람 경로와 효과 요약이 함께 설계되어야 한다. 이는 비밀 인정 범위와 검증 방법, 불복 경로의 결정 주체를 분리하고 감사자와 대리인의 제한 열람 및 판결문 내 효과 요약 기록이 보장될 때 성립한다.
7.1영업비밀과 재판 검증의 조화
기업 비밀이 재판 검증과 충돌할 때 어디까지 보호되고 어디부터 열려야 하는가. 중심 명제는 영업비밀이 검증 자체를 막을 수는 없으며 불리한 결과에 대한 독립 검토가 가능한 보호된 경로와 효과 요약이 함께 설계되어야 한다는 것이다. 모델의 구조와 가중치, 학습자료의 세부까지 모두 공개하자는 주장은 아니다. 어떤 자료가 어떤 이유로 제외되었고 그 제외가 사건의 쟁점에 어떤 효과를 남기는지를 당사자가 다툴 수 있어야 한다는 것이다. 이 문제가 해결되지 않으면 당사자는 패소의 이유가 비밀 뒤에 있다는 말만 듣고 구제를 잃는다. 인공지능을 통한 빠른 피해 파악과 회복의 희망도 검증 없는 정확성 주장으로는 당사자에게 도달하지 않는다.
7.2권한 분리와 보호된 원자료 열람
성립 조건은 권한의 분리다. 비밀의 인정 범위와 검증 방법, 불복 경로를 같은 주체가 정해서는 안 된다. 공급자가 비밀을 주장하면 법원이 그 주장의 범위를 심사하고, 감사자와 당사자 대리인이 보호 조건 아래 원자료를 볼 수 있어야 한다. 공개 판결문에는 재현에 필요한 효과 요약이 남아야 한다. 실제 감사 계약과 자료 접근의 운영 실태는 확인되지 않은 사실이므로 이 편은 확정된 절차안이 아니라 조건부 설계를 제시한다. 비용과 보안, 편의를 이유로 한 비공개가 해석권과 접근권의 사적 통제로 굳어지는지를 기준으로 삼는다.
7.3반론: 혁신 저해 우려와 제한 열람
가장 강한 반론은 검증의 확대가 혁신 유인을 해치고 보안을 무너뜨려 결국 좋은 도구의 공급을 막는다는 것이다. 모든 사건에서 원자료를 열면 영업가치가 사라지고 취약점이 드러난다는 우려는 가볍지 않다. 이에 대한 답은 전면 공개와 전면 비공개의 대립을 피하는 데 있다. 모델 가중치나 원본 코드를 일반에 공개하지 않더라도 비밀유지 명령 아래 독립 감사자와 대리인의 제한 열람을 허용하고, 사건 쟁점에 미친 영향의 요약을 교부하는 대안을 택한다. 공급자가 이 제한 열람마저 거부한다면 해당 산출물의 증거 채택이나 참고를 배제하여 비밀 주장이 입증 면제로 이어지지 않게 해야 한다.
7.4설계 철회 조건과 입증 면제 방지
이 설계 명제를 버려야 하는 조건은 보호된 열람과 효과 요약만으로는 당사자의 실질적 반박이 불가능함이 드러나는 경우다. 현행 절차가 이미 비밀 남용 통제와 독립 검증을 충족한다면 새 장치의 요구를 철회한다. 반대로 공급자의 동의 없이는 불리한 결과를 검토할 수 없는 구조가 유지된다면 이는 권력분립의 실패이며 사법 독립으로 설명될 수 없다.
제8편내부 기본값도 권력이다
사법부 내부의 기술 권력 집중
판단 자료의 가시성을 바꾸는 내부 검색·정렬 설정은 최종 서명권과 별개의 영향 경로이므로 실제 선택 효과에 비례해 변경 이유와 예외, 책임을 배분해야 한다. 이는 자료와 판단자를 고정한 비교에서 내부 설정이 검토 가능한 주장의 범위에 독립적인 차이를 만들고 예외 요청 경로가 작동할 때 성립한다.
8.1내부 기본값의 자료 선택 효과
최종 판단권이 판사에게 남은 상태에서 내부 설정의 선택 효과를 어떻게 배분해야 하는가. 중심 명제는 판단 자료의 가시성을 바꾸는 내부 설정이 최종 서명권과 별개의 영향 경로라는 것이다. 조직의 결정권 분석을 통해 그 효과를 찾아내고, 효과에 비례해 변경 이유와 예외, 책임을 배분해야 한다. 기술부서가 판결문에 서명하지 않는다는 이유만으로 사건 판단에 영향이 없다고 말할 수는 없다. 검색 대상과 기본 정렬을 정하면 판사가 처음 접하는 자료와 찾아보기 어려운 자료가 달라질 수 있기 때문이다. 그렇다고 모든 검색 설정을 재판권 행사와 같다고 보는 과장도 피해야 한다. 검토 대상은 직함이 아니라 자료 선택의 실제 효과다.
8.2합성 사례: 부속서 제외와 검토 범위
합성 사례가 이를 보여준다. 사건 기록에 본문과 예외를 적은 부속서가 함께 있는데 기술부서가 속도 향상을 위해 기본 검색 대상을 본문으로 한정했다고 가정하자. 판사는 같은 판단 기준을 유지하지만 부속서에만 있는 예외 주장을 발견하지 못한다. 전체 기록 검색으로 바꾸면 그 주장을 검토할 수 있다. 여기서 설정이 판결 결과를 결정했다는 결론은 나오지 않으며, 확인되는 차이는 검토 가능한 주장의 범위다. 이처럼 자료와 판단자를 고정한 비교를 사용하면 모든 결과 책임을 기술부서에 돌리지 않으면서도 선택의 효과를 특정할 수 있다. 판사가 다른 경로로 해당 예외를 이미 확인했다면 검토 기회가 사라졌다는 주장은 유지하지 않는다.
8.3반론: 중앙집중의 효율과 차등 심사
중앙집중은 보안과 일관성을 위해 필요하다는 반론은 강하다. 여러 법원이 각자 도구를 운영하면 비용이 분산되고 같은 오류가 반복될 수 있으며, 중앙 기술부서는 전문 인력을 모아 공통 결함을 빠르게 고칠 수 있다. 따라서 이 편은 분산 운영이 언제나 더 독립적이라고 주장하지 않는다. 문제는 중앙화의 장점이 어떤 설정을 정당화하는지 구체적으로 설명되는가에 있다. 접근 제한의 보안 결정과 문서 유형 제외의 선택 결정은 효과가 다르므로 이유와 예외 절차를 하나로 합쳐서는 안 된다. 글꼴 간격 변경과 부속서 제외를 같은 무게로 심사하면 운영은 멈추고 중요한 차이도 흐려진다. 문서 접근과 선택, 해석과 정정 중 무엇을 바꾸는지에 따라 간단한 운영 기록과 강화된 이유 공개를 구분하자는 제안이다. 이는 당사자 불복 절차의 신설을 주장하는 현행법 해석이 아니다.
8.4개별 변경권의 한계와 철회 조건
판사에게 설정 변경권을 모두 주면 충분하다는 해법도 불완전하다. 제외 구조를 모르거나 변경 뒤의 보안 위험을 감당할 수 없으면 권한은 사용되기 어렵고, 개별 설정이 사건 사이의 일관성을 해칠 수도 있다. 제한의 효과를 알리고 사건상 필요한 예외를 요청할 경로를 두며 거절 이유를 남기는 편이 적절할 수 있다. 보안상 세부값 공개가 어려워도 효과 요약과 보호 경로를 살피되, 반박이 불가능하면 책임이 설명되었다는 평가를 철회한다. 조직 결정권과 재판권은 구별한다. 한국과 영국의 기능별 자료는 확인되지 않은 사실이므로 직함만으로 권력 집중을 단정하지 않으며, 설정 차이가 검토 기회에 독립적인 차이를 만들지 않으면 영향 주장을 철회한다.
제9편묻는 권한 없는 감사는 보증이 아니다
독립 감사와 이해충돌의 공개
감사의 독립성은 외부 신분과 이해관계 공개를 넘어 질문 구성, 자료 접근, 범위 변경, 결과 전달과 후속 확인의 권한까지 포함해야 하며 좁은 감사를 전체 보증으로 확대할 수 없다. 이는 우선한 위험과 제외 범위의 한계를 명시하고 새 단서에 따른 범위 확대 요청과 적법한 결정자에의 결과 전달이 보장될 때 성립한다.
9.1신분을 넘어선 감사 권한의 범위
감사자의 외부성과 이해관계 공개만으로 감사의 독립성을 보증할 수 있는가. 중심 명제는 독립성이 신분을 넘어 질문과 자료, 범위 변경과 결과 전달, 후속 확인의 권한까지 포함한다는 것이다. 한정된 감사는 가능하지만 그 결론을 전체 보증으로 확대할 수는 없다. 감사자가 공급자의 직원이 아니고 이해충돌을 공개했다는 사실은 중요하다. 그러나 누구의 질문을 조사하고 어떤 표본을 보며 결과를 어디까지 전달할 수 있는지는 별도의 조건이다. 감사 대상자가 범위를 모두 정한다면 성실한 외부 감사도 중요한 결함을 다루지 못할 수 있다.
9.2합성 사례: 좁은 감사와 전체 보증
합성 사례가 차이를 드러낸다. 감사자가 통상적인 기록 정리의 정확성을 독립적으로 확인했으나 계약상 범위에는 이의 제기 뒤의 기록 수정 과정이 포함되지 않았다고 가정하자. 그 과정에서 정정이 반영되지 않는 결함이 있어도 통상 과업의 감사 결과와 모순되지 않으며, 감사자는 맡은 일을 정확히 했을 수 있다. 문제는 그 결과를 모든 재판 지원 기능이 검증되었다는 표시로 사용하는 순간 생긴다. 좁은 과업의 확인과 전체 기능의 보증은 다른 주장이며 독립성만으로 범위 차이를 지울 수 없다. 전체 보증을 하지 않고 통상 정리 기능만 보고했다면 그 좁은 결론은 반례로 기각되지 않는다.
9.3반론: 감사 범위 한정의 불가피성
가장 강한 반론은 범위를 무한히 넓히면 감사가 불가능해진다는 것이다. 예산과 기간에 따른 한정은 필요하므로 이 편은 범위 제한 자체를 부정한 감사로 정의하지 않는다. 어떤 위험을 우선했고 무엇을 제외했으며 그 제외가 결론에 어떤 한계를 남기는지 설명하도록 요구한다. 감사 중 새 단서가 나오면 범위를 넓히거나 별도 검토를 요청할 경로도 둔다. 요청이 항상 승인되어야 하는 것은 아니지만 거절 이유와 미확인 사항이 결과에서 사라져서는 안 된다. 비용을 누가 내는지가 전부는 아니다. 공적 재원도 범위와 공개를 통제할 수 있고 민간 재원도 보호 장치를 갖출 수 있다. 따라서 계약 갱신과 해지, 범위 변경과 결과 전달을 누가 결정하는지 나누어 본다. 실제 통제 경로는 확인되지 않은 사실이므로 특정 재원 방식의 우위를 확정하지 않는다.
9.4반대 결론의 전달과 기능별 비교
감사자의 반대 결론은 적법한 결정자에게 도달해야 하며, 이는 전면 공개와 구별된다. 지연 사유와 전달 기한의 근거도 검토할 수 있어야 하고, 반대 결과가 없었다는 표시와 전달받지 못했다는 상태를 구별해야 한다. 결함 지적 뒤 수정이 확인되지 않으면 좁은 감사 결론을 개선 완료 인증으로 확대하지 않는다. 감사자에게 수정 권한이 없으면 그 한계를 기록한다. 한국과 영국의 실제 감사 수행 자료는 확인되지 않은 사실이므로 질문·자료·범위·전달 권한을 기능별로 비교할 뿐 국가 간 독립성 순위는 매기지 않는다. 권한과 전달, 범위 표시가 충분히 작동하면 같은 목적의 새 장치가 필수라는 주장은 철회한다.
제10편떠날 수 있어야 머물 수 있다
공급 중단·퇴출·대체의 권한
법원이 특정 공급자를 계속 쓰더라도 공급 중단이나 퇴출 시 그 공급자 없이 심리할 수 있는 대체 경로와 이전 절차를 계약 순간에 미리 확보해야 한다. 이는 사건 기록과 검증 자료의 형식 독립적 이전, 중단 사유와 통지·유지 의무의 명시, 대체 도구의 실패 대응 및 검증 가능성 사전 시험이 갖춰질 때 성립한다.
10.1계약 시점의 퇴출·대체 경로 확보
공급 중단과 퇴출, 대체의 권한은 왜 사용되는 순간이 아니라 계약하는 순간에 필요한가. 중심 명제는 법원이 특정 공급자를 계속 쓰더라도 그 공급자 없이 심리할 수 있는 경로를 미리 확보해야 하며, 데이터 이전과 감사 자료, 대체 도구의 검증 절차가 계약 조건에 포함되어야 한다는 것이다. 비가역적 행위와 빠른 자원 이동 앞에서 명령은 있으나 그 명령이 도달할 통제자와 실행 수단이 없으면 집행과 회복은 무력해진다. 공급자가 사건 당사자가 되거나 서비스를 중단해도 독립된 심리와 도구 변경의 경로가 남는지가 성립 조건이다. 공공 인프라의 운영과 예산 구조 일반은 같은 총서의 제12권에 맡기고, 이 편은 중단과 퇴출 국면의 권한만을 다룬다.
10.2데이터 이전과 유지 의무의 세 조건
구체적 조건은 세 가지다. 첫째, 사건 기록과 검증 자료가 특정 모델 형식에 갇히지 않고 이전될 수 있어야 한다. 둘째, 계약 종료와 공급 중단의 사유, 통지 기한과 유지 의무가 명시되어야 한다. 셋째, 대체 도구의 성능이 아니라 실패 대응과 검증 가능성이 미리 시험되어야 한다. 실제 사법 인공지능 조달계약의 감사권과 이전, 중단 조건의 공개 원문 및 현행 계약 실태는 확인되지 않은 사실이므로 단정하지 않는다. 인공지능을 통한 저렴한 법률 지원의 확대라는 희망은 대체 가능성이 있을 때만 지속된다. 이전 비용이 특정 공급자에 대한 종속을 낳으면 지원의 확대는 공급자의 영업 결정에 종속된다.
10.3반론: 장기 협력의 안정성과 비용
가장 강한 반론은 잦은 교체 가능성의 강조가 오히려 안정성과 보안을 해치고 비용을 키운다는 것이다. 검증된 공급자와의 장기 협력이 품질과 책임 추적을 개선하며 대체 수단의 상시 유지가 예산 낭비라는 주장에는 일리가 있다. 이에 대한 답은 상시 교체가 아니라 교체 가능성의 유지다. 모든 사건에 이중 체계를 가동하자는 뜻이 아니라 이전 경로와 검증 자료, 긴급 유지 의무를 계약으로 확보하자는 것이다. 장기 협력이 주는 운영 안정성과 비용 절감의 이익을 인정하더라도 공급 중단 시 기록 보존과 심리 연속성을 지키는 퇴출·이전 조건은 필수적이다.
10.4대비책 완화 조건과 심리 연속성
독립된 대체 경로가 실제로 작동하고 중단 시에도 심리 공백이 생기지 않음이 확인되면 이 명제에 따른 강한 추가 장치의 요구를 줄여야 한다. 모든 도구에 동일한 상시 이중화 설비를 강제하지 않으며 전환 지연 위험에 비례해 대비책을 요구한다. 그러나 공급 중단이나 철수만으로 진행 중인 심리와 구제가 멈추는 구조가 남는다면 이는 편의가 아니라 권력의 문제이며 사법 독립으로 정당화될 수 없다.
제11편나누어 맡기면 사라지는 책임을 묻는다
분산된 견제 장치 사이의 책임 공백
판사의 생성형 인공지능 사용에 따른 책임 공백을 막기 위해 실패 시나리오를 예측 가능한 유형으로 분류하고 시간축에 따른 인적 통제 장치를 설계해야 한다. 이는 출처 오류, 법리 왜곡, 사실 오인, 편향 강화의 네 유형에 맞춰 사용 전·중·후의 다층 검증 의무와 잔여 위험 경계가 작동할 때 성립한다.
11.1책임 공백 방지를 위한 위임 통제
판사가 재판 업무에 생성형 인공지능을 쓸 때 예상되는 실패를 어떻게 분류하고 위임 통제와 감시 장치를 정비해 책임 공백을 막을 것인가. 중심 명제는 실패 시나리오를 예측 가능한 유형으로 분류하고 각 유형별 최소 검증 의무와 시간축에 따른 인적 통제 장치를 설계하는 위임 통제 모형이 필요하다는 것이다. 실패 사고를 사후에 규제하는 방식만으로는 판사의 자율성과 재판의 공정성을 동시에 보호하기 어렵다. 사전에 같은 언어로 위험을 식별해야 법원 행정과 판사가 각자의 자리에서 통제할 수 있다. 본 설계는 국내 헌법과 판례, 법령의 사전 확인 없이 확정되지 않으며 조건부 제안으로 유지된다.
11.2네 가지 실패 유형과 대응 매트릭스
유형 분류는 설계상의 유용성을 위한 것으로 실제 사용 현황이나 빈도를 주장하지 않는다. 존재하지 않는 판례를 인용하는 출처 오류, 복잡한 쟁점을 요약하며 원래 법리와 다른 논리를 재구성하는 법리 왜곡, 증거의 중요 요소를 누락하거나 과장하는 사실 오인, 기존 통계적 편향을 반복하는 편향 강화가 그것이다. 매트릭스는 단순 목록과 다르다. 각 유형에 발생 조건과 예상 결과, 대응 가능한 통제 장치와 통제 이후 남는 잔여 위험을 하나의 구조 안에서 연결한다. 이를 통해 설계자는 어디에서 무엇이 나타나고 어디까지 통제되는지를 비교할 수 있다. 출처 오류에는 인용 대상이 실재하는지에 대한 독립 확인이, 법리 왜곡에는 원전 대조가, 사실 오인에는 원본 증거 대조가, 편향 강화에는 집단별 오염 점검이 대응한다. 이는 현행법상 의무가 존재한다는 주장이 아니라 설계 원칙이다.
11.3시간축별 삼중 통제와 잔여 위험
통제 장치는 사용 전과 사용 중, 사용 후의 세 계층으로 나누어야 한다. 사전 승인은 사용 범위와 출처 오류, 편향 강화의 사전 통제에 기여하고, 실시간 검증은 법리 왜곡과 사실 오인의 통제에 기능하며, 사후 감사는 재발 방지에 기여한다. 그럼에도 잔여 위험은 남는다. 검증 의무를 이행하더라도 피로와 시간 압박으로 검증의 질이 떨어지거나 절차만 밟는 형식화가 생길 수 있다. 통제를 감시할 주체가 다시 통제의 대상이 되는 역설도 있다. 이를 인정하는 것은 무용함의 주장이 아니라 과잉 신뢰에 대한 경계다. 가장 강한 반론은 실증 기반 없는 추상 모형이라는 비판이며, 국내 법원의 운영 실태와 관련 판례, 실증 자료가 확인되지 않은 사실임을 인정한다. 그러나 선행 검토와 자료 확보를 폐기 조건으로 명시한 조건부 설계는 검증 없는 확정을 막는 정직성의 근거가 된다.
11.4헌법적 경계와 설계 폐기 조건
헌법적 경계에 관한 논증은 통제가 판사의 독립성을 제한하거나 재판 지연을 초래해 목적을 잃지 않도록 재판받을 권리와 공정한 재판의 가치 안에서 조건부로 유지된다. 폐기 조건은 명확하다. 헌법 조문과 판례 검토가 선행되지 않거나 실제 사용 현황의 실증 자료 확보가 불가능하거나 법원 행정과의 협의가 이루어지지 않으면 설계를 확정하지 않고 폐기한다. 네 가지 유형이 모든 실패를 포괄한다거나 통제가 잔여 위험을 완전히 제거한다는 보장은 주장하지 않는다.
제12편한 곳에 모으지 않는 권력분립
사법 기술에 적용할 권력분립의 구조
사법 기술의 권력분립은 도구 승인, 자료 접근, 감사와 불복 권한을 국가·기업·사법부 어느 한 곳에 집중시키지 않고 권한 분산과 대체 가능성, 독립 감사로 구성해야 한다. 이는 권한 분리와 중지·종료의 억제 규칙이 결합되고 유예 시간 동안 독립 검증과 당사자의 반박 능력, 피해 회복 수단이 함께 확보될 때 성립한다.
12.1사법 기술 권한의 비집중 구조
사법 기술에 적용할 권력분립은 어떤 구조여야 하는가. 중심 명제는 도구 승인과 자료 접근, 감사와 불복의 권한을 국가와 기업, 사법부 중 어느 한 곳에도 모두 집중시키지 않고 권한 분산과 이해충돌 공개, 대체 가능성과 독립 감사로 구성해야 한다는 것이다. 기반시설의 경로 분리와 책임 귀속, 당사자 이해충돌 통제와 버전 고정, 실패 관문 검증과 감독 권한 분산, 제한 열람과 외부 감사, 퇴출 조건과 위임 통제의 설계는 여기서 하나의 구조로 맞물린다. 어느 한 축의 통제만으로는 되돌리기 어려운 침해에 앞서 숙고와 이의 제기, 중지와 회복의 시간을 확보하는 카테콘의 공적 기능이 작동하지 않는다.
12.2억제 규칙의 결합과 유예 시간 활용
성립 조건은 권한의 분리와 억제 규칙의 결합이다. 공급자가 사건 당사자가 되거나 서비스를 중단해도 독립 심리와 도구 변경 경로가 남아야 한다. 중지를 검토하고 끝내는 권한에도 이유·심사·변경·종료 규칙과 서로 다른 위험 문턱이 적용되어야 한다. 유예가 확보한 시간을 무엇에 쓰는지도 함께 정해야 한다. 독립 검증과 대체 수단, 피해 회복과 공공 전문성, 당사자의 반박 능력이 자라지 않는다면 시간을 소비한 것에 그친다. 국제적 권한 배분은 같은 총서의 제15권에 맡기고 이 편은 국내 사법 기술의 분산 구조에 머문다. 외국 정책의 세부 원문 범위는 확인되지 않은 사실이므로 국내 의무로 전용하지 않으며, 관할별 주체와 조건, 예외와 효과를 대조해 이식 한계를 구별한다.
12.3반론: 분산의 비효율과 국가 종속
가장 강한 반론은 분산이 비효율과 책임 회피를 낳으며 국가 개입이 법원을 행정부 기술 체계에 더 종속시킬 수 있다는 것이다. 공급망 독립을 위한 국가 개입이 오히려 종속을 키울 수 있다는 우려는 이 권의 출발 가설에 대한 정당한 경고다. 이에 대한 답은 국가 독점도 심사 대상에 포함하는 데 있다. 도입·지원 권한과 재판 권한을 분리하고 국가와 기업, 사법부 내부의 기본값 권력까지 효과에 따라 나누어 심사하면 집중의 위험은 어느 위치에서든 통제된다. 분산된 견제 사이의 책임 공백은 사용 전후의 단계별 검증 의무와 귀속 책임, 당사자의 이의 제기 경로를 함께 설계함으로써 메운다.
12.4당사자의 구체적 능력과 공진화
이 구조의 희망은 거창한 약속이 아니라 당사자가 얻는 구체적 능력이다. 인공지능을 이용하지 않을 권리와 인공지능의 판단에 반대할 권리를 포함한 채 더 저렴한 조력과 접근 가능한 설명, 놓친 증거와 반론의 발견, 빠른 피해 파악과 회복이 분배될 때 공진화의 후보가 열린다. 그 능력이 확보되어야 다음 단계로 이동할 수 있다. 공급자의 동의 없이는 불리한 결과를 검토할 수 없는 구조를 사법 독립으로 설명한다면 이 설계는 탈락한다.