요약
초지능의 추정 산출물을 증거로 수용하면서 인간 판사의 판단 권한을 지키려면 명목상 감독이 아니라 실질적 거부 가능성을 제도화해야 한다. 이는 최소 근거 문서의 제출 의무와 판사의 불복종 권한 및 기록 의무, 적법성 검토와 문서 거부 시 채택 불허 원칙이 맞물릴 때 성립한다.
7.1전달자로 전락하지 않을 판사의 권한
판결 권한을 인간 판사에게 요구하는 구조 아래에서 초지능 추정의 산출물을 증거로 받아들이려면 무엇이 필요한가. 이 편의 답은 인간이라는 표지가 아니라 실질적 판단 가능성을 보장하는 네 가지 조건이다. 시스템이 항상 옳다고 실무상 가정되는 조건에서는 반대 판단이 원칙적으로 오류로 추정되므로, 감독자는 판단자가 아니라 전달자로 전락한다. 따라서 법원은 결과에 대한 근거 제시 의무를 부과하고, 판사의 불복종 권한과 그 행사 근거를 공적 기록으로 남길 의무를 함께 부여하며, 증거 기반의 적법성을 검토하고, 근거 문서 제공을 거부하면 채택을 불허해야 한다. 이 물음이 해결되지 않으면 법원은 자기 권한을 스스로 기능 불능으로 만들면서도 형식적 감독 문구 뒤에 그 사실을 숨긴다. AI는 대안 시나리오와 반대 근거의 정리를 통해 판사의 검토 능력을 넓힐 수 있으나, 판사가 실제로 거부할 수 있는 구조가 확보될 때만 그 지원은 통제가 된다.
7.2상호 의존하는 네 단계 조건 사다리
이 명제가 성립하는 조건들은 서로 의존하는 사다리를 이룬다. 근거 제시 의무가 없으면 불복종 권한이 있어도 반박할 문서가 없다. 불복종 권한과 기록 의무가 없으면 근거 문서가 있어도 법관은 그 문서에 따르지 않는 판단을 정당한 심판으로 남길 실질적 권한이 없다. 증거 기반의 적법성 검토가 없으면 근거 문서가 남더라도 심리 과정에서 사라지고, 채택 불가 원칙이 없으면 앞선 조건들이 모두 도입 압력 앞에서 무력화된다. 「대한민국헌법 제27조」의 적법절차와 「대한민국헌법 제103조」가 선언하는 법률과 양심에 따른 심판에 관하여, 판단 주체 기준의 유권 해석·판례는 확인되지 않은 사실로 둔다. 두 규범은 추정에 반하는 판단이 불가능해진 구조가 그 실질에 미달할 수 있다는 필요조건으로만 읽고, 합헌성을 단정하지 않는다. 근거 제시는 모든 내부 사고를 공개하라는 요구가 아니라 법원이 추정을 검토하고 비판할 수 있는 최소 형태의 문서를 남기라는 요구이다. 합성 사례로 제시되는 표정과 목소리 분석에 기반한 신뢰도 추정이나 제공자의 근거 문서 거부 사례는 관측이 아니라 조건부 설계의 필요를 보여 주는 가상 사례이다.
7.3반론: 일반 감독 규범과 오류 증가
가장 강한 반론은 인간 감독 강화 규범만으로 충분하며 별도의 불복종 권한은 과잉이고, 시스템이 더 정확해지는 영역에서는 오히려 오류를 양산한다는 것이다. 인간 감독 강화가 실질적 판단 가능성과 그 기록을 구체화할 수 있다면 별도 제도화는 불필요할 수 있다. 우월성이 확립된 영역에서 반대 판단의 실익이 줄어들 수 있다는 점도 인정한다. 그러나 규범이 감독자의 실질적 판단 가능성과 기록 의무를 구체화하지 않는 한 역설은 남는다. 불복종 권한은 오류 양산이 아니라 판단의 실질적 가능성을 확보하는 장치이며, 기록 의무와 짝을 이룰 때 반대 판단이 오류가 아니라 정당한 심판으로 남는다. 유럽연합 인공지능법 제14조로 알려진 조항이나 「CEPEJ 유럽 윤리헌장」에 특정 설계가 명시적으로 요구된다는 주장은 하지 않는다. 해당 외국 규범의 정확한 집행력에 관한 판단은 확인되지 않은 사실로 유보한다.
7.4실질적 판단 가능성 전제의 한계
이 설계는 인간 법관의 실질적 판단 가능성이 헌법적 요건으로 남아 있다는 전제에 기댄다. 따라서 합의된 개정이나 유권 해석이 이를 요건으로 삼지 않게 되거나, 근거 구조가 원리적으로 공적 기록이 불가능한 형태로 발전하여 근거 제시 의무가 기술적으로 무의미해지면 폐기하고 재설계해야 한다. 근거 문서 없는 추정은 증거가 아니라 권위로 기능하며 적법절차가 요구하는 검증 가능성과 충돌한다. 제공 거부는 부정확성과 구별되는 절차적 결함으로 다루어져야 한다. 그렇지 않으면 법원은 사적 제공자의 재량에 실질적 판단 권한을 위임하게 된다. 최소 조건조차 확보되지 않는 세계가 오면 형식적 인간 감독은 실질적 지배를 은폐하는 데 그친다.