Summary
초지능이 판결에 결정적 영향을 미치는 환경에서 절차적 정의를 지키려면 법정 정확도 외에 실패 유형별 인간 재검증과 근거 제시 의무를 제도화해야 한다. 이는 인용 전 검증과 결정 전 재현, 정기 편향 감사와 불이익 없는 긴급 정지 권한이 중첩 설계될 때 성립한다.
6.1초지능 판결의 네 가지 실패 유형
초지능이 판결에 사실상 결정적 영향을 미치는 조건에서 법정 정확도만으로는 포착되지 않는 정의의 요건을 어떻게 제도화할 수 있는가. 이 편의 답은 실패 유형의 사전 분류, 각 유형에 대응하는 인간 재검증 절차, 근거 제시 의무의 설계에 있다. 실패는 단순한 오답률의 문제가 아니다. 근거가 당사자에게 공개되지 않을 때, 추론 과정을 사후에 역추적할 수 없을 때, 과거 데이터의 집단 편향이 누적되어 특정 집단에 불리한 판결이 반복될 때, 사람이 시스템을 최종 통제할 수 없을 때 발생한다. 이 물음이 해결되지 않으면 정확한 판결이 부정의한 절차로 나오는 일이 반복되고, 항소심에서 무엇을 다툴 것인지가 사라진다. AI는 쟁점 정리와 편향 징후의 조기 탐지를 통해 절차의 투명성을 넓힐 수 있으나, 그 탐지 결과가 당사자와 재판부가 검증할 수 있는 기록으로 남을 때만 정의에 기여한다.
6.2실패에 대응하는 네 통제 지점
이 설계가 성립하려면 네 가지 통제 지점이 필요하다. 근거 비공개 실패에는 시스템 출력을 판결문에 인용하기 전 검증 단계를, 추론 불가역성에는 결정 전 재현 검증을, 집단 편향 누적에는 정기적 편향 감사를, 통제 상실에는 긴급 정지 권한을 둔다. 각 지점에서 정지 권한의 주체와 복합 실패에 대비한 중첩 보호가 문서화되어야 한다. 당사자의 항소권과 긴급 정지 행사자의 불이익 금지도 상위 규범으로 보장되어야 감독이 장식에 그치지 않는다. 「대한민국헌법 제27조」가 보장하는 재판청구권과 공개재판, 방어권은 본래 특정 기술의 정확도 수준과 무관한 기준이다. 근거 비공개는 형식적 공개재판을 실질적으로 무력화할 수 있으므로, 이 기준은 근거 공개로 나아가야 한다는 규범적 선택으로 읽는다. 「CEPEJ 유럽 윤리헌장」의 원칙은 국내에 직접 적용되는 근거가 아니라 비교 자원과 참고 틀로만 사용한다.
6.3반론: 실용성과 조문주의의 한계
가장 강한 반론은 아직 존재하지 않는 초지능을 전제하므로 실용적 가치가 없고, 조문만으로 특정 제도의 합헌성을 도출하는 것은 오류이며, 외국 지침의 이식은 체계 차이를 무시한다는 것이다. 세 지적 모두 일리가 있다. 특히 조문주의의 위험을 피하기 위해 이 설계는 조문을 결과가 아니라 절차적 기준의 정당화 근거로만 사용하며 확정 판단을 하지 않는다. 실용성에 대해서도 이 설계는 미래 기술을 예측하기보다 실패 유형을 분류하는 틀을 제공하므로, 기술 변화와 무관하게 유효성을 유지할 수 있다. 이식 반론에 대해서는 외국 지침을 강행규범이 아닌 참고 틀로 명시적으로 한정한다. 미래 초지능 조건에서 시스템이 실질적으로 근거를 설명하고 공개할 수 있는지는 확인되지 않은 사실로 둔다. 공개 불가능 조건에 대비해 재판부의 독립 재현·검증 절차와 공개 불가 사유의 적법 고지 조항을 설계 과제로 남긴다.
6.4절차적 통제 설계의 폐기 조건
이 설계는 근거를 공개하고 재현할 수 없다는 점이 확인되고 대안 절차조차 실효성이 없으며, 긴급 정지를 포함한 인간 통제 지점이 실무상 반복적으로 무력화된다는 점이 확인되면 폐기되어야 한다. 또한 특정 이론의 관점이 사법 인공지능 문제에 더 이상 유효한 해석 틀이 아닌 것으로 밝혀지면 그 틀을 교체한다. 복합 실패는 합성 시나리오로서 관측된 실제 사례로 표시하지 않는다. 성능 지표를 법정 정확도로 환산하거나 조문만으로 특정 제도의 합헌성을 단정하지도 않는다. 현존 법원의 특정 시스템 도입 여부를 사실로 주장하는 것이 아니라, 조건부 가정 아래에서 절차적 정의와 재검증의 최소 기준을 정립하는 것이 목적이다.