요약
형사절차에서 자동화의 한계를 세우려면 인간 참여를 서명이나 표결 같은 형식 요건이 아니라, 판단 근거를 반증 가능한 명제로 소유하고 있었는가라는 실질 능력 요건으로 재정의해야 한다. 이 명제는 근거 소유가 당사자의 반박 가능성과 판단자의 실질적 개입·번복 가능성으로 나타나고, 시스템의 외적 성능 지표를 법정 정확도나 근거 소유로 환원하지 않을 때 성립한다.
10.1형식적 완결성과 근거 소유 능력
형사절차에서는 자유와 낙인이라는 되돌리기 어려운 결과가 걸려 있어 자동화의 한계가 별도로 서야 한다. 이 편의 중심 명제는 인간 참여를 서명·관여·표결 같은 형식 요건의 충족이 아니라, 인간이 판단 근거를 반증 가능한 명제로 소유하고 있었는가라는 능력 요건으로 재정의해야 한다는 것이다. 절차 문서와 판단 근거가 촘촘히 채워지는 포화 상태일수록 형식적 완결성의 인상 때문에 실질 검증이 생략될 위험이 커진다. 형식 요건을 검증하는 일과 근거성을 검증하는 일은 동일하지 않으며, 둘을 혼동하면 절차 완결이 근거의 면죄부가 된다. 이 물음이 해결되지 않으면 서류는 완벽한데 누구도 이유를 소유하지 않은 유죄 판단과 구금이 남는다.
10.2반박·개입 가능성과 재판관 독립
명제가 성립하는 조건은 근거 소유가 반박 가능성과 개입 가능성으로 드러나는 데 있다. 「대한민국헌법 제27조」가 보장하는 재판받을 권리를 근거에 반박하고 설명을 요구할 수 있는 권리로 조건부로 재정초하면, 형식 참여와 실질 참여를 구별하는 기준이 선다. 재판관 독립의 명제도 외적 간섭의 배제를 넘어 무엇으로 판단하는가가 외부에 좌우되지 않는 상태와 연결될 때 실질화된다. 헌법 제103조의 재판관 독립 명제와의 양립성은 실정법상 확정 해석으로 단정하지 않고 조건부 규범 명제로만 다룬다. 국제 규범의 인적 감독 요구, 즉 「Framework Convention on Artificial Intelligence」의 기본권 보호 논리와 유럽 규범의 감독 방향성은 이름만 표시된 감독이 아니라 실제로 개입하고 결과를 되돌릴 수 있는 상태를 지향한다는 점에서 이 능력 요건과 접점을 갖는다. 이를 국내 적용 가능성의 확정 판단으로 확장하지는 않는다.
10.3반론: 내적 능력 검증의 난도
가장 강한 반론은 실질 능력 요건이 검증하기 어렵다는 것이다. 형식 요건은 기록으로 검증되지만 능력 요건은 내적 사유에 대한 접근을 요구하므로 실천적으로 무력할 수 있다. 형식 요건이 항상 더 검증하기 쉽다는 점은 인정해야 한다. 그러나 검증 난도가 높다는 것이 형식 충족이 실질 근거성을 보증한다는 추론을 정당화하지는 않는다. 형식 요건도 근거성을 보증하지 못한다는 점을 양쪽이 함께 겪는 문제로 인정한다면, 검증 난도의 우열은 형식 요건의 규범적 우위를 입증하지 못한다. 고도로 숙련된 전문가조차 형식적으로 관여하면서 실제로 능력을 행사하지 않을 수 있다는 반례는 양쪽이 함께 안는 취약점이다. 이 한정 안에서 능력 요건은 형식 요건의 규범적 무효성을 드러내는 대안 기준으로 상대적 우월성을 가진다. 성능 지표와 법정 정확도를 서로 환원하지 않고 반증 가능성을 기준으로 유지하는 한, 이 기여는 그 성격을 잃지 않는다.
10.4능력 요건의 폐기와 정당성 조건
이 명제를 버려야 하는 조건은 미리 정해 둔다. 형식 요건 충족이 실질 근거성을 규범적으로 보증한다는 반례가 확립되거나, 실질 능력 요건이 형식 대안에 비해 규범적 판단 기준을 제공하는 데 실패하는 것이 확인되면 기여를 폐기한다. 성능 지표는 시스템의 외적 측정값이고 법정 정확도는 사법 판단의 규범적 기준이므로, 어떤 시스템이 높은 수치를 기록했다는 사실로 판단 근거의 소유를 대신할 수 없다. 형식적 서명만으로 실질 근거성을 추론하는 길을 차단하는 데서 이 기준은 작동한다. AI가 쟁점과 반증을 정리해 판단자의 검토 능력을 넓힌다는 희망은, 인간이 근거 명제를 자신의 말로 다시 쓰고 이를 뒤집을 자료와 절차 앞에 열어 둔다는 조건 아래에서만 형사사법의 정당성을 지킨다.