Summary
사법 인공지능에 대한 인간 감독이 실질적 통제가 되려면 독립성, 정보 접근, 거부권, 추적 가능성과 이의 경로를 갖춘 제도로 설계되어 법원·법조공동체·당사자에 분산되어야 한다. 이는 이해관계 독립, 산출 근거 파악, 실효적 거부·중단 권한, 사후 추적 평가의 네 요소가 모두 충족될 때 성립한다.
6.1선언을 넘어선 감독 권한의 분산
사법 인공지능에 대한 인간 감독이 형식적 승인을 넘어 실질적 통제가 되려면 어떤 제도적 조건이 필요한가. 중심 명제는 인간 감독이 독립성과 정보 접근, 거부권과 추적 가능성, 이의 경로를 갖춘 제도로 설계되어 법원 조직·법조공동체·당사자 측에 분산되어야 한다는 것이다. 이는 현행 합헌성에 관한 결론이 아닌 설계 규범으로만 기능한다. 가장 흔한 문장인 ‘인간이 최종 결정한다’는 선언만으로는 누가 어떤 정보를 갖고 어떤 방식으로 산출물을 검증하고 거부할 수 있는지가 규정되지 않는다. 감독이 형식에 그치면 책임은 명목상 인간에게 배정되지만 실제 판단 작용은 시스템에 이양되어 권력분립은 문구로만 남는다.
6.2실질적 감독의 네 요소와 역할 배분
실질성의 요소는 네 가지이며 서로 대체될 수 없다. 결정 주체와 공급자의 이해관계로부터 독립되어 있는지, 산출 근거를 실제로 파악할 수 있는지, 거부하거나 중단할 권한이 실효적인지, 감독 행위 자체가 사후에 추적되고 평가되는지다. 하나만 충족하고 나머지가 결여되면 감독은 형식에 머문다. 이를 국가와 플랫폼, 모델과 법원의 관계에 배분하는 것이 설계 원리다. 법관은 개별 사건에서 수용과 거부를 판단하는 최종 주체이되 도입 여부와 성능 기준까지 스스로 결정하기에는 이해관계가 얽힌다. 법원 조직은 내부 감사와 기술 검증을 맡되 판단 독립을 침해하지 않아야 한다. 외부 공급자는 계약과 기술 문서를 통해 검증 가능성에 관한 요구에 응해야 하며, 당사자는 오류에 대한 이의 경로를 가져야 한다.
6.3감독 전제로서의 설명 가능성
설명 가능성 요구는 장식이 아니라 감독의 전제다. 근거를 파악하지 못하면 정보 접근이 결여되고, 근거가 기록되지 않으면 사후 추적도 결여되기 때문이다. 유럽 윤리헌장이 설명 가능성과 정보 접근을 함께 요구하는 방향은 이 논증과 상응하지만 기술 표준이나 인증 절차까지 설계하지는 않는다. 또한 감독자 선임의 독립성과 결정 기록의 공개, 감독 활동에 대한 별도 점검이 함께 있어야 한다. 정보 접근은 입력 범위와 근거, 학습자료의 대표성과 시정 절차를 포함한다. 영업비밀과 개인정보 보호의 충돌 해소까지 설계하지 않는다는 점이 이 조건의 한계다.
6.4반론: 현행 법령 중복 우려와 폐기
가장 강한 반론은 현행 법령과 판례를 확인하지 않은 설계가 공허하며 국내 제도가 이미 적절한 체계를 갖추었다면 중복이라는 것이다. 현행 법령과 판례의 충족 여부가 확인되지 않은 사실임은 인정하며, 본 설계는 실정법 진단이 아니라 설계 언어를 제공한다. 따라서 폐기 조건은 세 가지다. 관련 법령이 네 요소와 네 축을 전부 충족하는 것으로 확인되거나, 감독 요소의 실질성을 사법 맥락에서 구조적으로 측정할 수 없음이 드러나거나, 감독 비용이 이를 통해 방지하는 오류 위험을 실증적으로 초과하면 본 설계를 폐기한다.