Summary
AI가 개입한 재판의 정당성은 인간 판사의 형식적 서명만으로 유지되지 않으며 인간의 최종 승인과 시스템의 구조적 보증으로 공동생산되어야 한다. 이는 인간 책임의 명확한 귀속과 외부의 근거 재구성 가능성이라는 두 독립 축이 사안별 개입 문서화 및 사전 공개와 결합할 때 성립한다.
6.1서명을 넘어선 정당성의 공동생산
AI가 법 적용 판단에 개입하는 재판에서 판결의 정당성은 어떻게 배분되어야 하는가. 형식적으로 인간 판사가 서명한 판단이라도 그 실질적 내용이 외부에서 통제하기 어려운 AI 추론으로 형성되었다면 정당성은 흔들린다. '인간의 최종 승인'만으로 그 판단이 인간의 재판으로 인정될 수 있다는 가정은, AI가 판단의 어느 부분을 실질적으로 생산했는지와 그 과정이 검증 가능한지에 따라 쉽게 흔들린다. 이 물음이 해결되지 않으면 실질을 잃은 서명만 남은 판결에 맞설 방법을 찾지 못한 당사자가 남는다. 이 편의 중심 명제는 AI 보조 재판의 정당성이 인간 판사의 양심과 전문성에 홀로 기대서는 유지될 수 없고, '인간의 최종 승인'과 '시스템의 구조적 보증'으로 공동생산되어야 한다는 것이다.
6.2책임 귀속과 근거 재구성의 두 축
정당성의 배분은 두 개의 규범적 축으로 구조화된다. 첫째 축은 판단의 최종 책임과 승인 권한이 명확히 특정된 인간에게 귀속되는지이며, 둘째 축은 판단의 근거 구조가 외부 주체에 의해 재구성되고 비판될 수 있는지다. 두 축은 서로 독립적이어서 한쪽이 충족된다고 다른 축의 실패가 보완되지는 않는다. 생성형 모델이 내부에서 따르지 않은 이유를 외부에 제시할 수 있다는 관측은, AI의 설명을 읽고 동의하는 감독이 표면적 일치에 그칠 수 있음을 드러낸다. 실질적 감독은 설명과 독립적으로 검증 가능한 제3의 경로를 요구하며, '설명 수용'과 '실질적 재구성 검증'을 구별해야 한다. 「Tessler 등의 연구 초록」이 다룬 공동 입장문에 대한 참가자 선호는 정의나 재판의 정당성을 측정한 결과가 아니며, 이를 사법 영역으로 연결하는 논증 자체가 연구 대상이다.
6.3실패 양상별 배분과 사전 검증 절차
두 축의 비중이 언제나 같지는 않다. 책임 소재가 불명확한 자동화 환경에서는 인간 책임의 특정 가능성을, 책임은 특정되나 근거가 불투명한 상황에서는 재구성 가능성을 우선 강화한다. 이는 고정된 위계가 아니라 실패 양상에 따라 조정되는 배분 규범이다. 공동생산이 성립하려면 어떤 판단 단계에 AI가 개입했는지와 역할의 경계가 사안별로 문서화되어야 하고, AI가 제시한 근거를 독립적으로 재구성하고 비판할 수 있는 절차적 장치가 있어야 하며, 인간 책임자의 최종 승인이 형식적 동의가 아닌 실질적 검증을 전제로 해야 한다. 또한 변론 과정에서 AI의 관여 범위와 근거의 재구성 가능성이 당사자에게 사전에 제공되어야 하며, 사후적 이의제기만으로는 방어권이 형식에 그친다.
6.4반론: 사법 효율 저하와 예외의 규범화
가장 강한 반론은 단순하고 명료한 사안에서는 형식적 서명과 신속한 검증만으로도 실질적 정당성이 확보되며, 공동생산 요건을 획일적으로 적용하면 사법 효율을 심하게 저해한다는 지적이다. 모든 사안에 같은 강도를 적용할 필요가 없고 실무적 부담이 따른다는 점은 인정한다. 이에 대한 응답은 원리의 포기가 아니라 예외의 명시적 규범화다. 어떤 사안이 예외인지를 판단하는 기준을 별도로 정하고, 예외 인정의 절차와 근거를 기록하며, 예외에 해당하는 사안에서도 책임과 근거 검증의 최소 요건은 남긴다. 현행 법령과 판례가 이미 이 요건을 실질적으로 충족하고 있음이 확인되거나, 예외의 규범화가 명백히 작동 불가능하다는 점이 실증적으로 확인되거나, 두 축의 독립성이 법리상 성립할 수 없다는 점이 확고히 드러나면 이 분석 틀을 폐기한다. 이 편은 현행법의 해석이 아닌 규범적 제안이며, 성능 지표를 법정 정확도로 환산하거나 초지능 조건의 정당성을 확정하지 않는다.