Summary
초지능에 대한 법관의 실질적 종속을 막고 자동 판단의 정당성을 확보하려면 성능 지표가 아니라 독자적 검증과 거부의 조건을 갖춰야 한다. 이는 투입 전 검증 범위의 한계 설정과 판단 후 거부 사유의 기록, 그리고 거부 시 인사·평가상 불이익을 막는 조직 구조가 결합될 때 성립한다.
9.1비지배 관점에서 본 법관의 독립
초지능이 법관의 판단을 실질적으로 지배하는 방향으로 발전할 때 정당성은 무엇으로 확보되는가. 이 편의 답은 성능이 아니라 법관이 시스템 출력을 독자적으로 검증하고 거부할 수 있는 구조적 조건이다. 성능 지표는 측정 대상과 조건에 따라 달라지며, 이를 법정 정확도로 단순 환산하면 근거 없는 확신이 생긴다. 비지배의 관점에서 법관이 출력에 실질적으로 의존할 수밖에 없는 구조에 놓이면 명시적 강제가 없어도 정당성은 훼손된다. 형식적으로 서명하더라도 자신의 검증을 거치지 않은 판단은 정당화되지 않는다. 이 물음이 해결되지 않으면 법관은 정확한 도구의 연산자로 격하되고, 오판의 책임만 떠안은 채 판단의 주인으로서 지위를 잃는다. AI는 검증 가능한 범위 내의 쟁점 정리와 오류 유형의 제시를 통해 법관의 검토 능력을 넓힐 수 있으나, 그 범위를 넘어서는 출력이 자동으로 제시되지 않도록 설계될 때만 지원으로 남는다.
9.2사전·사후·구조의 세 층위 조건
이 명제가 성립하는 조건은 사전과 사후, 구조의 세 층위이다. 사전 조건은 투입 전에 출력의 검증 가능성 범위를 정의하는 일이다. 사후 조건은 반영 후에 거부 결정을 기록하고 사유를 남기는 일이며, 구조 조건은 거부 가능성이 실질적으로 기능하는 조직 구조를 확인하는 일이다. 세 층위는 투입 전과 판단 중, 제도적 배경의 각 단계에 대응하며 어느 하나만으로는 충분하지 않다. 단독 실패보다 검증 불가능과 종속 상태가 겹친 결합 실패의 심각도가 높으므로, 설계는 결합 실패를 우선 회피하는 방향으로 이루어져야 한다. 다만 심각도의 정량화는 시도하지 않는다. 다중 모델 인용 검수의 운영 같은 구체적 기법은 제I-46권에 맡기고 이 장은 그 기법이 어떤 실패를 막는지를 물을 조건에 집중한다.
9.3반론: 절차의 형식화와 역량 전제
가장 강한 반론은 회피 조건이 형식적 절차에 그치고, 거부하면 업무 지연이나 평가상 불이익이 예정된 조직에서는 효력을 잃으며, 법관의 검증 능력이 항상 시스템에 미달한다고 볼 근거도 없다는 것이다. 형식화의 위험은 실제로 존재하며, 검증 능력이 항상 미달한다는 주장은 확인되지 않은 전제이다. 이에 대한 응답은 형식화의 위험이 바로 구조 조건의 층위에서 다루는 대상이라는 점이다. 거부 결정이 평가나 인사상 불이익으로 이어지지 않는 구조를 확인하도록 설계 조건에 포함하여 절차의 장식화를 다룬다. 또한 이 논증은 모든 출력에 대해 법관의 검증이 불가능하다고 주장하지 않는다. 검증 능력의 초과를 실패 조건으로 정의한 것이지 보편적 무능을 단정한 것이 아니다. 외국의 인간 감독 원칙과 「CEPEJ 유럽 윤리헌장」은 국내 준용의 근거가 아니라 거부 가능성의 구조적 확인을 위한 참고 틀로만 재해석하여 사용한다.
9.4역설계 가설의 검증과 폐기 조건
이 제안은 설계 요소가 실질적 거부 가능성을 확보하지 못하고 형식적 절차에 그친다는 점이 실증적으로 확인되거나, 동등한 정당성 확보에 더 적합한 대안이 입증되면 폐기된다. 층위의 배타적 완결성을 단정하지 않으며 기록만으로 정당성을 단정하지도 않는다. 조건부 설계 제안인 만큼 각 요소의 실효성은 향후 검증이 필요하다. 폐기 조건을 명시하는 것은 이 제안이 확정된 결론이 아니라 실패 시나리오에서 역설계된 가설임을 분명히 하기 위해서다.