제1편재판은 분쟁 해결을 넘어 권한을 심사한다
사법이 수행해 온 서로 다른 기능
재판은 분쟁 해결뿐 아니라 권한 수여의 심사와 공적 이유 제시, 강제력 통제와 회복 기능을 함께 수행해야 한다. 이는 사실·규범의 정합성 외에 수여 범위의 식별과 선택 규칙의 공개, 그리고 집행의 개시·중단·회복 주체를 분리하는 조건이 충족될 때 성립한다.
1.1분쟁 종결을 넘어선 사법의 책무
사법이 수행해 온 일을 분쟁 해결 하나로 묶으면 제도의 절반이 사라진다. 법원은 분쟁을 종결하는 동시에 누구에게 어떤 강제력을 맡겼는지 확인하고, 그 행사가 수여된 범위를 넘었는지 심사하며, 잘못된 강제의 결과를 회복으로 연결하는 책무를 맡아 왔다. 이 물음이 해결되지 않으면 당사자는 패소했다는 사실을 넘어, 왜 자신을 구속하는 판단이 자신에게 적용되는지를 물을 통로를 잃는다. 분쟁 해결의 정확도만 높이는 개혁은 나머지 기능을 비워 둔 채 종결의 속도만 올릴 수 있다. AI는 놓친 증거와 반론의 발견, 이해 가능한 설명, 빠른 피해 파악을 통해 당사자의 반박 능력을 넓힐 수 있다. 그러나 그 지원이 관측과 해석과 판단의 경로를 한 체계에 묶는다면 독립된 반박의 여지는 오히려 좁아진다.
1.2네 가지 사법 기능의 성립 조건
각 기능이 성립하는 조건은 서로 다르다. 분쟁 해결은 사실 확인과 규범 적용의 정합성을 요구한다. 권한 심사는 수여의 주체와 범위, 변경 절차를 식별할 수 있어야 하며, 공적 이유 제시는 결론뿐 아니라 제외된 대안과 선택 규칙을 드러내야 한다. 강제력의 통제는 집행의 개시자와 중단자, 회복 책임자의 분리를 요구한다. 하나의 지표로 네 조건을 대신할 수 없으며, 특히 기술 과업에서의 성공 확률을 법정에서의 정확성으로 바꾸어 읽어서는 안 된다. 기술 능력의 실측은 제IV-01권에 맡기고 이 권은 그 측정이 이미 유리하게 주어졌다는 가정 아래 무엇을 더 요구해야 하는지를 묻는다. 현행 강제집행 절차의 해설은 제III-29~V35권에 맡기고 이 장은 집행 권한을 누구에게 맡기고 어떻게 거둘 것인가의 규범적 기준에 집중한다.
1.3반론: 신속한 종결 우선론
가장 강한 반론은 기능 분화가 학문적 구분에 불과하며, 실제로는 빠른 종결 하나면 충분하다는 주장이다. 당사자가 원하는 것은 긴 이유가 아니라 실효성 있는 해결이라는 것이다. 이 반론이 가리키는 비용의 현실을 부정할 필요는 없다. 기다릴 자원이 없는 사람에게 지연은 권리의 박탈과 같다. 다만 종결의 이익을 인정하는 것과 종결 방식에 대한 통제를 포기하는 것은 다르다. 이유를 묻고 다투고 회복을 청구할 수 있는 통로를 같은 비용으로 더 넓게 설계할 수 있다면 비싼 대면 절차를 고집할 이유는 없다. 보호를 낮추어 얻은 속도와 보호를 유지하며 없앤 낭비를 구분하는 일이 이 권 전체를 관통하는 방법이다.
1.4명제의 기각 조건과 제도 선택
이 편의 명제는 기능별 조건이 실제 제도 선택을 바꾸지 못한다면 버려야 한다. 예컨대 자동 제도가 수여의 확인과 다툼의 실효성, 회복의 실행을 모두 더 잘 보장하는데도 기존 조직의 존속을 요구한다면 그 요구는 직역 보호로 전락한다. 반대로 우수한 성능에도 독립된 다툼이나 회복이 불가능한 제도에 강제 권한을 맡기는 제안 역시 거부된다. 성과는 기능의 목록을 늘어놓는 데 있지 않고, 각 기능의 충족 여부를 물을 수 있는 질문을 남기는 데 있다. 다음 편들은 그 질문을 권한과 지위와 책임의 언어로 풀어 간다.
제2편정확함은 권한의 이유이지 권한 자체가 아니다
정확한 결론과 정당한 권한
AI의 높은 정확도는 판단을 맡길 좋은 이유일 뿐 타인을 구속할 권한 자체를 자동으로 부여하지 않는다. 구속 권한이 정당화되려면 수여 범위의 기록과 당사자의 반박 지위 보장, 중지 효과를 갖춘 다툼 통로와 집행·회복 책임의 식별이 함께 결합되어야 한다.
2.1인식적 우월성과 구속 권한의 간격
AI가 더 나은 결론을 내릴 수 있는 경우에도 그 능력만으로 타인을 구속할 권한이 자동으로 생기는가. 이 편의 답은 그렇지 않다는 것이다. 성능은 공적 판단을 맡길 강한 이유이나, 타인을 구속하는 권한은 정당화 가능한 수여와 당사자의 지위, 실효적인 다툼과 강제력의 책임을 함께 요구한다. 사적 조언자가 옳다는 이유로 상대방의 재산을 직접 이전할 수 없다는 가상 사례는 채택과 강제의 간격을 드러낸다. 결론이 맞더라도 누가 어떤 범위의 권한을 부여했으며 당사자가 어떤 지위로 응답할 수 있는지는 여전히 물어야 한다. 이 물음이 해결되지 않으면 인식적 우월성이 곧 지배 권한이라는 도약이 정당화 없이 통과되고, 자원이 없는 당사자부터 더 저렴하다는 이유로 다툴 기회 없이 구속된다. AI는 저렴한 법률 지원과 반론의 발견을 통해 구제받을 능력을 넓힐 수 있으나, 그 이익이 수여와 다툼의 조건과 함께 설계될 때만 공적 구제가 된다.
2.2권한 정당화를 위한 네 가지 조건
이 명제가 성립하는 조건은 네 가지로 나뉜다. 첫째, 권한의 수여가 식별 가능해야 하며 누가 무엇을 위해 어느 범위에서 맡겼는지가 기록되어야 한다. 「대한민국헌법 제27조」가 보장하는 재판청구권과 「대한민국헌법 제103조」가 정하는 독립 심판은 국내 논의의 출발점이 되는 규범이다. 그러나 두 조문을 제시한 것만으로 모든 자동 판단의 금지나 모든 인간 승인 방식의 허용이 증명되는 것은 아니다. 둘째, 당사자는 분류의 대상이 아니라 근거와 권한의 범위를 확인하고 이의를 제출하며 이유 있는 응답을 받을 지위를 갖는다. 셋째, 다툼은 버튼의 존재가 아니라 검토자와 근거, 기한과 중지 효과의 연결을 통해 실효성을 얻는다. 넷째, 누구의 결정으로 집행이 시작되고 누가 권한 초과를 심사하며 누가 잘못된 강제의 결과를 회복하는지 식별할 수 있어야 한다. 바꿀 능력이 없는 인간에게 책임자라는 이름만 붙이는 방식은 책임이 아니다.
2.3반론: 인간 관여의 비용 전가
가장 강한 반론은 정당성을 명목으로 인간의 관여를 보존하면 더 정확하고 저렴한 권리구제를 막아, 자원이 가장 부족한 당사자에게 비용을 전가한다는 것이다. 이 반론에는 받아들여야 할 부분이 있다. 정당성의 요구에도 비용이 따르며, 불필요한 인간 관여를 없애는 자동화는 권리 보장을 개선할 수 있다. 응답의 요지는 보존 대상이 인간 조직이 아니라 수여와 지위, 다툼과 책임의 실효적 기능이라는 점이다. 그 기능을 같거나 더 잘 보장하면서 구제를 개선하는 자동 대안은 기존 법원의 형식보다 우선할 이유가 있다. 그 기능을 제거해야만 얻는 속도는 효율이 아니라 가치 충돌로 드러내어 별도로 정당화해야 한다. 자동화를 막는 측에도 그 제한이 어떤 지위를 보전하며 덜 부담스러운 대안은 왜 부족한지 설명할 책임이 있다.
2.4조건부 결론과 권한 위임의 한계
이 편의 결론은 조건부이다. 결과 외의 지위에 독립된 정당화 가치가 없다는 반론이 성립하면, 충분조건을 부정하는 규범적 근거를 다시 써야 한다. 대안이 모든 기준을 더 잘 충족하면 인간 조직을 우선하는 선택은 폐기된다. 실효적 다툼과 회복이 불가능하면 해당 강제권 위임 제안은 폐기된다. 「국제 AI 안전 보고서」 등의 수치와 읽은 범위는 계산표와 근거대장에 고정하고 발행 이후 능력은 확인되지 않은 사실로 두며, 기술 실측은 제IV-01권에 맡긴 채 이 장은 권한의 추가 조건을 요구하는 추론을 명료화하는 데 기여한다.
다룬 공식 문서 대한민국헌법 제27조 ↗ · 대한민국헌법 제103조 ↗
제3편맞은 판결 앞에서도 당사자는 객체가 아니다
당사자를 판단의 대상으로만 취급할 때
결론의 정확도가 완전하더라도 사법은 당사자를 분류의 객체로 삼지 않고 근거 확인과 이의 제기 및 응답을 받을 지위를 보장해야 한다. 이는 이해 가능한 반박 지원과 검토·중지가 명시된 이의 경로, AI 비이용 선택권이 함께 설계될 때 성립한다.
3.1정확한 판결 앞의 당사자 지위
당사자를 판단의 대상으로만 취급할 때 사법은 무엇을 잃는가. 이 편의 명제는 결론의 정확도가 완전하더라도 당사자에게 근거를 확인하고 이의를 내며 응답을 받을 지위를 남겨야 한다는 것이다. 충분히 똑똑한 체계가 모든 반론을 미리 예상하더라도, 그 예상이 당사자를 대신하여 무엇을 주장할지 결정할 권한까지 주지는 않는다. 이 물음이 해결되지 않으면 승소한 당사자조차 자신의 승소가 왜 자신에게 귀속되는지 설명받지 못하고, 패소한 당사자는 틀렸다는 통보 앞에 침묵을 강요받는다. AI는 방대한 기록에서 놓친 쟁점과 유리한 반론을 찾아내어 말할 자리가 없던 사람의 발언 능력을 넓힐 수 있다. 그러나 그 지원이 당사자의 선택을 대체하도록 설계된다면 참여는 분류의 장식이 된다. 요구되는 지위는 원하는 판결을 얻을 권리도 무제한 재심사권도 아니다. 결론의 근거와 권한의 범위를 확인하고 이의가 이유 있게 다루어지는 통로를 뜻한다.
3.2지위 보장을 위한 세 가지 조건
이 명제가 성립하는 조건은 세 가지이다. 첫째, 반박 지원은 당사자가 이해하고 사용할 수 있는 형태로 제공되어야 한다. 이해할 수 없는 사유로 내려진 결정에 이의를 제기하기 어려운 상태를 그대로 두어서는 안 된다. 둘째, 이의의 경로는 검토 주체와 답변 기한, 심리 중지 여부를 명시해야 하며 화면 위의 이의 표시에 그쳐서는 안 된다. 셋째, AI를 이용하지 않을 선택권과 AI의 판단에 반대하는 사람의 권리가 같은 설계에 포함되어야 한다. 기술적 무지를 이유로 모든 자동 결정을 무효로 만드는 것도, 무지를 방치한 채 결정을 강행하는 것도 아니다. 현행 소송능력이나 공동소송의 요건 해설은 제III-02권 등에 맡기고 이 장은 미래 제도에서 당사자 지위를 기능적으로 보장하는 조건에 집중한다.
3.3반론: 온정적 자동화와 절차 부담
가장 강한 반론은 당사자 지위를 강조할수록 절차가 무거워지고 정작 급한 구제가 늦어지며, 잘 설계된 자동 분류가 당사자의 진정한 이익을 더 잘 실현한다는 주장이다. 온정적 자동화가 당사자의 부담을 덜어 준다는 것이다. 일리는 있다. 모든 사건에 대면 심리와 긴 구술 기회를 일률적으로 요구하는 일은 자원이 없는 사람에게 짐이 된다. 그러나 부담을 덜어 주는 것과 발언의 주인을 바꾸는 것은 다르다. 반박을 자동 생성하여 당사자에게 제공하고 당사자가 채택 여부를 정하게 하는 설계는 부담을 줄이면서 발언의 주인도 지킨다. 반대로 체계가 당사자의 반론까지 미리 처분해 버린다면 정확도는 올라도 비지배의 조건은 무너진다. 덜 부담스러운 방식으로 같은 보호를 제공할 수 있다면 비싼 방식을 고집할 이유는 없다. 다만 보호 수준을 낮추는 대가로 속도를 얻은 경우에는 그 가치 충돌을 숨기지 않아야 한다.
3.4당사자 지위 명제의 폐기 조건
이 명제는 당사자 지위의 독립된 가치가 제도 선택을 전혀 바꾸지 못한다는 점이 드러나면 버려야 한다. 예컨대 모든 사건에서 당사자가 결과에만 관심을 갖고 이유 확인과 이의 통로를 이용하지 않으며, 그 통로의 유지 비용이 구제의 접근성을 심각하게 해친다고 하자. 이 점이 확인되지 않은 사실에 그치지 않고 검증 가능한 설계 평가로 입증된다면 지위 보장 방식을 간소화해야 한다. 반대로 다툼과 회복의 실효성 없이 정확도만 높은 제도에 강제력을 맡기는 제안은 이 편의 기준에 따라 거부된다. 지위는 장식이 아니라 오판을 바로잡고 권한 남용을 멈추게 하는 실제 능력으로 남을 때만 정당화의 근거가 된다.
제4편결과를 모두 알아도 선택은 남는다
가치 갈등이 최적화 문제로 환원되는가
완전한 결과 예측과 최적화 계산만으로는 빠른 종결과 반박 기회 보존 같은 사법의 가치 갈등을 독립된 규범 없이 해결할 수 없다. 허용된 대안들 사이에서도 적용할 선택 규칙에 따라 결론이 달라지므로 예측과 별개로 우선순위 규칙을 정당화하고 기록해야 한다.
4.1예측과 최적화 뒤의 가치 선택
완전한 예측과 최적화는 가치 갈등을 독립된 규범 없이 해결하는가. 이 편의 답은 그렇지 않다는 것이다. 같은 결과를 두고도 가치 우선순위가 달라지면 선택이 달라질 수 있으므로, 예측만으로 충분하다는 주장을 기각한다. 어떤 대안을 택했을 때 누가 어떤 이익과 손실을 얻을지 모두 안다고 가정해도 빠른 종결과 추가 반박 기회 사이에서 무엇을 우선할지는 남을 수 있다. 계산은 주어진 목표에 맞는 대안을 찾을 수 있으나, 목표와 제약을 어디서 가져오는지는 별도의 질문이다. 이 물음이 해결되지 않으면 최적이라는 표현 뒤에 숨은 가치 선택의 책임자가 사라지고, 당사자는 예측이 틀렸는지 우선순위가 다른지 구별하지 못한 채 결과에 복종한다. 모델은 대안이 어떤 권리와 비용에 영향을 주는지 정리하고, 특정 규칙을 적용하면 누가 어떤 기회를 잃는지 비교함으로써 남은 선택을 드러내는 데 도움을 줄 수 있다. 그러나 그 비교에 포함되지 않은 가치를 없는 것으로 처리해서는 안 된다.
4.2결과 정보로 좁혀지지 않는 반례
이 명제가 성립하는 조건은 반례의 구조에 있다. 합성 사례에서 한 절차는 사건을 지금 종결하여 지연 부담을 줄이지만 추가 자료에 답할 기회를 닫고, 다른 절차는 그 기회를 남기는 대신 모두의 기다림을 늘린다고 하자. 두 결과가 정확히 알려져 있고 각 대안이 검토 가능한 범위에 있다면, 종결을 중시하는 규칙과 반박 보존을 중시하는 규칙은 서로 다른 선택을 낳을 수 있다. 따라서 결과 정보만으로 유일한 선택을 정할 수 없다. 이 반례는 실제 사건에서 기회를 닫아도 적법하다는 판단이 아니다. 허용 범위의 검토와 그 안에서의 가치 선택을 분리한 논리적 구성이다. 한 대안이 적용 규칙상 허용되지 않거나 모든 관련 가치에서 열등하다면 두 대안으로 구성된 이 반례는 재구성되어야 한다. 정당한 제약이 유일한 대안을 정하는 경우에는 남는 갈등을 과장하지 않고 그 규칙의 적용을 설명한다.
4.3반론: 권리 제약과 선호 학습
가장 강한 반론은 권리 제약을 넣으면 최적화만으로 충분히 결정할 수 있다는 것이다. 권리를 비용과 바꾸지 말고 엄격한 제약으로 두면, 허용되지 않는 대안을 먼저 제외하고 남은 범위에서 계산할 수 있다는 주장이다. 중요한 지적이다. 그러나 어떤 권리를 어떤 조건에서 제약으로 적용하는지는 계산 밖에서 정당화해야 한다. 권리들이 충돌하는 경우와 제약 안에서도 여러 대안이 남는 경우도 구분해야 한다. 제약을 넣어서 해결되었다면 사실 예측 단독이 아니라 그 제약과 결합된 판단이 문제를 해결한 것이다. 사람들의 선호를 학습하면 선택 규칙도 정당해지는가라는 물음도 마찬가지다. 선호 자료는 예상 부담과 수용 가능성을 이해하는 자료로서 유용하다. 그러나 표본 밖의 사람이나 소수의 권리까지 그 선호로 처분할 이유는 따로 필요하며, 실제 선호 조사의 정확도를 측정한 결과는 여기서 제시하지 않는다.
4.4기각의 철회 조건과 기록 원칙
이 기각은 대상 주장을 잘못 읽었다는 점이 드러나면 철회되어야 한다. 독립 규칙을 포함한 주장을 예측 단독 가설로 취급했다면 기각을 철회한다. 독립적으로 정당화된 규칙이 이 사건에서 유일한 허용 대안을 정한다면 매번 가치 논쟁을 다시 열 필요는 없다. 그 규칙과 사건 조건의 대응을 확인하고 계산의 도움을 받을 수 있다. 최종 기록에는 최적 대안이라는 표현만 남겨서는 안 된다. 대안의 예상 결과와 제외 이유, 채택한 선택 규칙과 그 적용 이유를 나누어 남겨야 새 자료가 생겼을 때 예측을 고칠지 규칙 적용을 다시 볼지 구분할 수 있다. 사실을 더 잘 아는 능력과 그 사실 아래에서 선택을 정당화하는 기준은 함께 작동할 수 있으나 서로의 자리를 대신하지 않는다.
제5편불확실해도 종결할 권한은 이유에 기대야 한다
불확실성 속에서 분쟁을 종결할 권한
불확실성 속에서 분쟁을 잠정 종결할 권한은 사실의 완전한 확실성이 아니라 이유 제시와 재검토 가능성의 설계에 의해 정당화된다. 이는 다툴 수 있는 이유의 기록과 사유·기한이 명시된 재개 통로, 그리고 기술 갱신과 분리된 규범 변경 절차가 갖춰질 때 성립한다.
5.1불확실성 속 잠정 종결의 정당화
불확실성 속에서 분쟁을 종결할 권한은 누구에게 있으며 무엇으로 정당화되는가. 이 편의 명제는 종결 권한의 정당화가 사실의 확실성이 아니라 이유 제시와 재검토 가능성의 조건에 달려 있다는 것이다. 완전한 진실을 기다릴 수 없으므로 법은 잠정적 종결을 허용하되, 그 종결을 어떤 근거와 범위에서 다시 열 수 있는지 함께 정해야 한다. 이 물음이 해결되지 않으면 종결은 힘 있는 자의 선언이 되고, 불확실하다는 이유로 판단을 미루는 일과 불확실한데도 되돌릴 수 없게 닫는 일이 구별되지 않는다. AI는 방대한 자료의 대조와 오류 가능성의 정리를 통해 판단자의 불확실성을 줄이고 당사자의 예측 가능성을 넓힐 수 있다. 그러나 그 정리가 종결의 이유와 재개 조건을 명시하는 일과 함께 이루어질 때만 정당화에 기여한다. 증명책임과 사실인정의 현행 법리 해설은 제III-09권에 맡기고 이 장은 미래 조건에서 종결 권한을 배분하는 규범적 기준을 묻는다.
5.2종결 권한이 성립하는 세 조건
이 명제가 성립하는 조건은 세 가지이다. 첫째, 종결의 이유는 당사자가 다툴 수 있는 형태로 남아야 하며 결과의 선언만으로 이유의 공개를 갈음해서는 안 된다. 둘째, 재개와 불복의 통로는 무제한으로 열어 두지 않고 명확한 사유와 기한, 효과를 갖추도록 설계해야 한다. 승복하지 않을 자유와 집행을 영원히 막을 권리를 혼동하지 않는다. 셋째, 종결 권한의 수여와 변경 절차가 식별되어야 하며 누가 종결 기준을 바꾸고 그 변경이 소급하는지 물을 수 있어야 한다. 기술 갱신과 규범 변경의 권한이 분리되지 않아 모델 변경이 공개 절차 없이 법적 기준을 바꾸는 상태는 이 조건에 반한다. 유예로 확보한 시간을 무엇에 쓰는지도 논증의 일부이다. 독립 검증과 대체 수단, 회복 능력이 자라지 않는다면 단지 시간을 소비한 것이다.
5.3반론: 종결 없는 상시 갱신론
가장 강한 반론은 초지능이 계속 학습하고 갱신되는 조건에서는 종결 자체가 구식이며, 잠정적 판단의 연속으로 분쟁을 관리하면 된다는 것이다. 종결의 비용을 치를 필요가 없다는 주장이다. 매력적이지만 두 가지를 놓친다. 하나는 당사자의 삶이 판결의 갱신 주기에 맞추어 무한히 대기할 수 없으며, 재산과 지위와 관계의 효력을 확정해야 다음 행위가 가능하다는 점이다. 다른 하나는 연속적 갱신이 누구의 기준으로 언제 이루어지는지 정하지 않으면 오히려 예측 불가능한 개입이 상시화된다는 점이다. 이에 대한 응답은 종결을 절대적 진실의 선언이 아니라 책임 있는 잠정적 매듭으로 재정의하는 것이다. 매듭은 풀 수 있으나, 푸는 이유와 절차와 비용을 미리 정해 둔다는 점에서 임의적 재개와 다르다.
5.4종결 중심주의의 수정과 폐기 조건
이 명제는 종결 없는 관리가 당사자의 지위와 회복을 더 잘 보장한다는 점이 설계 평가로 확인되면 버려야 한다. 예컨대 모든 관련 분쟁에서 잠정 판단의 연속이 확정적 종결보다 당사자의 계획 가능성을 높이고 권한 남용을 더 잘 통제한다면 종결 중심주의를 수정한다. 반대로 이유 공개와 재검토 통로 없이 종결의 최종성만 강화하는 제안은 이 편의 기준에 따라 거부된다. 불확실성은 판단 회피의 명분도 무조건적 종결의 명분도 아니며, 이유와 책임으로 관리될 때만 공적 질서의 자원이 된다.
제6편숨은 근거로는 정의로운 절차가 되지 않는다
공적 이유와 사회적 수용
초지능이 판결에 결정적 영향을 미치는 환경에서 절차적 정의를 지키려면 법정 정확도 외에 실패 유형별 인간 재검증과 근거 제시 의무를 제도화해야 한다. 이는 인용 전 검증과 결정 전 재현, 정기 편향 감사와 불이익 없는 긴급 정지 권한이 중첩 설계될 때 성립한다.
6.1초지능 판결의 네 가지 실패 유형
초지능이 판결에 사실상 결정적 영향을 미치는 조건에서 법정 정확도만으로는 포착되지 않는 정의의 요건을 어떻게 제도화할 수 있는가. 이 편의 답은 실패 유형의 사전 분류, 각 유형에 대응하는 인간 재검증 절차, 근거 제시 의무의 설계에 있다. 실패는 단순한 오답률의 문제가 아니다. 근거가 당사자에게 공개되지 않을 때, 추론 과정을 사후에 역추적할 수 없을 때, 과거 데이터의 집단 편향이 누적되어 특정 집단에 불리한 판결이 반복될 때, 사람이 시스템을 최종 통제할 수 없을 때 발생한다. 이 물음이 해결되지 않으면 정확한 판결이 부정의한 절차로 나오는 일이 반복되고, 항소심에서 무엇을 다툴 것인지가 사라진다. AI는 쟁점 정리와 편향 징후의 조기 탐지를 통해 절차의 투명성을 넓힐 수 있으나, 그 탐지 결과가 당사자와 재판부가 검증할 수 있는 기록으로 남을 때만 정의에 기여한다.
6.2실패에 대응하는 네 통제 지점
이 설계가 성립하려면 네 가지 통제 지점이 필요하다. 근거 비공개 실패에는 시스템 출력을 판결문에 인용하기 전 검증 단계를, 추론 불가역성에는 결정 전 재현 검증을, 집단 편향 누적에는 정기적 편향 감사를, 통제 상실에는 긴급 정지 권한을 둔다. 각 지점에서 정지 권한의 주체와 복합 실패에 대비한 중첩 보호가 문서화되어야 한다. 당사자의 항소권과 긴급 정지 행사자의 불이익 금지도 상위 규범으로 보장되어야 감독이 장식에 그치지 않는다. 「대한민국헌법 제27조」가 보장하는 재판청구권과 공개재판, 방어권은 본래 특정 기술의 정확도 수준과 무관한 기준이다. 근거 비공개는 형식적 공개재판을 실질적으로 무력화할 수 있으므로, 이 기준은 근거 공개로 나아가야 한다는 규범적 선택으로 읽는다. 「CEPEJ 유럽 윤리헌장」의 원칙은 국내에 직접 적용되는 근거가 아니라 비교 자원과 참고 틀로만 사용한다.
6.3반론: 실용성과 조문주의의 한계
가장 강한 반론은 아직 존재하지 않는 초지능을 전제하므로 실용적 가치가 없고, 조문만으로 특정 제도의 합헌성을 도출하는 것은 오류이며, 외국 지침의 이식은 체계 차이를 무시한다는 것이다. 세 지적 모두 일리가 있다. 특히 조문주의의 위험을 피하기 위해 이 설계는 조문을 결과가 아니라 절차적 기준의 정당화 근거로만 사용하며 확정 판단을 하지 않는다. 실용성에 대해서도 이 설계는 미래 기술을 예측하기보다 실패 유형을 분류하는 틀을 제공하므로, 기술 변화와 무관하게 유효성을 유지할 수 있다. 이식 반론에 대해서는 외국 지침을 강행규범이 아닌 참고 틀로 명시적으로 한정한다. 미래 초지능 조건에서 시스템이 실질적으로 근거를 설명하고 공개할 수 있는지는 확인되지 않은 사실로 둔다. 공개 불가능 조건에 대비해 재판부의 독립 재현·검증 절차와 공개 불가 사유의 적법 고지 조항을 설계 과제로 남긴다.
6.4절차적 통제 설계의 폐기 조건
이 설계는 근거를 공개하고 재현할 수 없다는 점이 확인되고 대안 절차조차 실효성이 없으며, 긴급 정지를 포함한 인간 통제 지점이 실무상 반복적으로 무력화된다는 점이 확인되면 폐기되어야 한다. 또한 특정 이론의 관점이 사법 인공지능 문제에 더 이상 유효한 해석 틀이 아닌 것으로 밝혀지면 그 틀을 교체한다. 복합 실패는 합성 시나리오로서 관측된 실제 사례로 표시하지 않는다. 성능 지표를 법정 정확도로 환산하거나 조문만으로 특정 제도의 합헌성을 단정하지도 않는다. 현존 법원의 특정 시스템 도입 여부를 사실로 주장하는 것이 아니라, 조건부 가정 아래에서 절차적 정의와 재검증의 최소 기준을 정립하는 것이 목적이다.
다룬 공식 문서 대한민국헌법 제27조 ↗ · CEPEJ European Ethical Charter on AI in judicial systems ↗
제7편판사에게 불복종할 권한을 남겨야 한다
강제력을 행사하는 자의 책임
초지능의 추정 산출물을 증거로 수용하면서 인간 판사의 판단 권한을 지키려면 명목상 감독이 아니라 실질적 거부 가능성을 제도화해야 한다. 이는 최소 근거 문서의 제출 의무와 판사의 불복종 권한 및 기록 의무, 적법성 검토와 문서 거부 시 채택 불허 원칙이 맞물릴 때 성립한다.
7.1전달자로 전락하지 않을 판사의 권한
판결 권한을 인간 판사에게 요구하는 구조 아래에서 초지능 추정의 산출물을 증거로 받아들이려면 무엇이 필요한가. 이 편의 답은 인간이라는 표지가 아니라 실질적 판단 가능성을 보장하는 네 가지 조건이다. 시스템이 항상 옳다고 실무상 가정되는 조건에서는 반대 판단이 원칙적으로 오류로 추정되므로, 감독자는 판단자가 아니라 전달자로 전락한다. 따라서 법원은 결과에 대한 근거 제시 의무를 부과하고, 판사의 불복종 권한과 그 행사 근거를 공적 기록으로 남길 의무를 함께 부여하며, 증거 기반의 적법성을 검토하고, 근거 문서 제공을 거부하면 채택을 불허해야 한다. 이 물음이 해결되지 않으면 법원은 자기 권한을 스스로 기능 불능으로 만들면서도 형식적 감독 문구 뒤에 그 사실을 숨긴다. AI는 대안 시나리오와 반대 근거의 정리를 통해 판사의 검토 능력을 넓힐 수 있으나, 판사가 실제로 거부할 수 있는 구조가 확보될 때만 그 지원은 통제가 된다.
7.2상호 의존하는 네 단계 조건 사다리
이 명제가 성립하는 조건들은 서로 의존하는 사다리를 이룬다. 근거 제시 의무가 없으면 불복종 권한이 있어도 반박할 문서가 없다. 불복종 권한과 기록 의무가 없으면 근거 문서가 있어도 법관은 그 문서에 따르지 않는 판단을 정당한 심판으로 남길 실질적 권한이 없다. 증거 기반의 적법성 검토가 없으면 근거 문서가 남더라도 심리 과정에서 사라지고, 채택 불가 원칙이 없으면 앞선 조건들이 모두 도입 압력 앞에서 무력화된다. 「대한민국헌법 제27조」의 적법절차와 「대한민국헌법 제103조」가 선언하는 법률과 양심에 따른 심판에 관하여, 판단 주체 기준의 유권 해석·판례는 확인되지 않은 사실로 둔다. 두 규범은 추정에 반하는 판단이 불가능해진 구조가 그 실질에 미달할 수 있다는 필요조건으로만 읽고, 합헌성을 단정하지 않는다. 근거 제시는 모든 내부 사고를 공개하라는 요구가 아니라 법원이 추정을 검토하고 비판할 수 있는 최소 형태의 문서를 남기라는 요구이다. 합성 사례로 제시되는 표정과 목소리 분석에 기반한 신뢰도 추정이나 제공자의 근거 문서 거부 사례는 관측이 아니라 조건부 설계의 필요를 보여 주는 가상 사례이다.
7.3반론: 일반 감독 규범과 오류 증가
가장 강한 반론은 인간 감독 강화 규범만으로 충분하며 별도의 불복종 권한은 과잉이고, 시스템이 더 정확해지는 영역에서는 오히려 오류를 양산한다는 것이다. 인간 감독 강화가 실질적 판단 가능성과 그 기록을 구체화할 수 있다면 별도 제도화는 불필요할 수 있다. 우월성이 확립된 영역에서 반대 판단의 실익이 줄어들 수 있다는 점도 인정한다. 그러나 규범이 감독자의 실질적 판단 가능성과 기록 의무를 구체화하지 않는 한 역설은 남는다. 불복종 권한은 오류 양산이 아니라 판단의 실질적 가능성을 확보하는 장치이며, 기록 의무와 짝을 이룰 때 반대 판단이 오류가 아니라 정당한 심판으로 남는다. 유럽연합 인공지능법 제14조로 알려진 조항이나 「CEPEJ 유럽 윤리헌장」에 특정 설계가 명시적으로 요구된다는 주장은 하지 않는다. 해당 외국 규범의 정확한 집행력에 관한 판단은 확인되지 않은 사실로 유보한다.
7.4실질적 판단 가능성 전제의 한계
이 설계는 인간 법관의 실질적 판단 가능성이 헌법적 요건으로 남아 있다는 전제에 기댄다. 따라서 합의된 개정이나 유권 해석이 이를 요건으로 삼지 않게 되거나, 근거 구조가 원리적으로 공적 기록이 불가능한 형태로 발전하여 근거 제시 의무가 기술적으로 무의미해지면 폐기하고 재설계해야 한다. 근거 문서 없는 추정은 증거가 아니라 권위로 기능하며 적법절차가 요구하는 검증 가능성과 충돌한다. 제공 거부는 부정확성과 구별되는 절차적 결함으로 다루어져야 한다. 그렇지 않으면 법원은 사적 제공자의 재량에 실질적 판단 권한을 위임하게 된다. 최소 조건조차 확보되지 않는 세계가 오면 형식적 인간 감독은 실질적 지배를 은폐하는 데 그친다.
다룬 공식 문서 대한민국헌법 제27조 ↗ · 대한민국헌법 제103조 ↗ · CEPEJ European Ethical Charter on AI in judicial systems ↗
제8편인간의 실패를 자동화로 봉인하지 않는다
인간 사법의 실패를 보존하지 않는 원칙
사법 자동화 논의는 지연과 비용, 불투명성 같은 인간 사법의 실패를 전통이나 정당성의 대가로 미화하여 보존해서는 안 된다. 이는 인간 절차와 자동 대안을 수여·지위·다툼·회복의 동일 기능으로 대칭 평가하고 개혁의 이익을 당사자에게 귀속시킬 때 성립한다.
8.1인간 사법의 실패 보존 금지
인간 사법의 실패를 보존하지 않는 원칙은 무엇인가. 이 편의 명제는 인간 관여의 표지를 그 자체로 보호하지 않으며, 지연과 비용, 불투명성과 편향 같은 실패를 정당성의 대가로 정당화하지 않는다는 것이다. 인간 법원이 늦고 비싸서 권리행사를 포기하게 만드는 상태는 보호할 전통이 아니라 고쳐야 할 결함이다. 이 물음이 해결되지 않으면 자동화 논의가 인간 실패의 미화와 기계 낙관의 대립에 갇혀, 당사자는 어느 쪽 실패에 복종할지만 선택하게 된다. AI는 서류 정리와 쟁점 예시, 절차 안내와 비용 절감을 통해 접근의 문턱을 낮출 수 있다. 그러나 그 효율이 과거 판결 데이터에 박힌 편향을 그대로 학습하여 반복한다면 접근의 확대는 차별의 확대가 된다. 현행 판결 이유와 항소와 상고의 해설은 제III-17권 등에 맡기고 이 장은 실패를 반복하지 않으면서 정당화 기능을 지키는 개혁의 기준을 묻는다.
8.2대칭적 기능 평가의 세 조건
이 명제가 성립하는 조건은 세 가지이다. 첫째, 인간 절차의 각 요소가 수여 확인과 당사자 지위, 다툼의 실효성과 회복 실행 중 무엇을 담당하는지 식별해야 한다. 담당하는 기능이 없는 관행은 효율화 또는 폐지의 대상이다. 둘째, 자동 대안도 같은 기능 목록에 따라 대칭적으로 평가되어야 하며, 이상적인 인간 법원과 실제로 불완전한 인공지능을 맞세우는 비교는 금지된다. 셋째, 개혁의 이익이 당사자에게 도달하는 경로가 명시되어야 한다. 법원 내부의 업무 경감에만 그치는 효율은 공적 정당화의 이유가 되지 않는다. 공공 도구의 조달과 지원 구조에 관한 구체적 설계는 제IV-12권에 맡기고 이 장은 그 도구가 어떤 기능을 개선했는지를 물을 평가 기준에 집중한다.
8.3반론: 권력 견제로서의 절차 마찰
가장 강한 반론은 인간의 느림과 번거로움이 오히려 권력을 견제하는 마찰이며, 매끄러운 자동화가 그 마찰을 없애면 통제가 사라진다는 것이다. 비효율이 안전장치라는 주장이다. 경청할 이유가 있다. 모든 마찰이 낭비는 아니며 숙고와 이의제기, 중지의 시간은 카테콘적 기능으로서 보호되어야 한다. 그러나 모든 지연이 숙고는 아니다. 당사자를 기다리게 하면서도 검증과 반박, 회복의 능력이 자라지 않는 시간은 소비일 뿐이다. 이에 대한 응답은 마찰을 기능별로 구분하자는 것이다. 권한 남용을 멈추게 하는 마찰은 설계에 남기고, 자원이 없는 사람의 청구를 탈락시키는 마찰은 자동화와 지원을 통해 없앤다. 무엇을 남기고 무엇을 없앨지는 선언이 아니라 어떤 능력이 확보되어야 다음 단계로 이동할 수 있는지를 밝히는 방식으로 표현되어야 한다.
8.4기능 훼손 시 자동화 중단 조건
이 원칙은 인간 실패의 제거가 정당화 기능도 함께 제거한다는 점이 확인되면 수정되어야 한다. 예컨대 특정 대면 절차를 없앴더니 이유 확인과 이의 응답의 실효성이 함께 무너졌다는 평가가 나온다면, 그 자동화는 중단하고 설계를 되돌린다. 반대로 자동 대안이 수여와 지위, 다툼과 책임을 더 잘 보장하는데도 인간 조직의 존속을 요구한다면 그 요구는 폐기된다. 실패를 보존하지 않는다는 말은 과거를 부정하는 구호가 아니라 각 관행의 기능을 묻고 그 기능을 더 잘 수행할 주체를 찾는 규율이다.
제9편지배받지 않을 때 자동 판단은 더 정당하다
자동 판단이 더 정당할 수 있는 조건
초지능에 대한 법관의 실질적 종속을 막고 자동 판단의 정당성을 확보하려면 성능 지표가 아니라 독자적 검증과 거부의 조건을 갖춰야 한다. 이는 투입 전 검증 범위의 한계 설정과 판단 후 거부 사유의 기록, 그리고 거부 시 인사·평가상 불이익을 막는 조직 구조가 결합될 때 성립한다.
9.1비지배 관점에서 본 법관의 독립
초지능이 법관의 판단을 실질적으로 지배하는 방향으로 발전할 때 정당성은 무엇으로 확보되는가. 이 편의 답은 성능이 아니라 법관이 시스템 출력을 독자적으로 검증하고 거부할 수 있는 구조적 조건이다. 성능 지표는 측정 대상과 조건에 따라 달라지며, 이를 법정 정확도로 단순 환산하면 근거 없는 확신이 생긴다. 비지배의 관점에서 법관이 출력에 실질적으로 의존할 수밖에 없는 구조에 놓이면 명시적 강제가 없어도 정당성은 훼손된다. 형식적으로 서명하더라도 자신의 검증을 거치지 않은 판단은 정당화되지 않는다. 이 물음이 해결되지 않으면 법관은 정확한 도구의 연산자로 격하되고, 오판의 책임만 떠안은 채 판단의 주인으로서 지위를 잃는다. AI는 검증 가능한 범위 내의 쟁점 정리와 오류 유형의 제시를 통해 법관의 검토 능력을 넓힐 수 있으나, 그 범위를 넘어서는 출력이 자동으로 제시되지 않도록 설계될 때만 지원으로 남는다.
9.2사전·사후·구조의 세 층위 조건
이 명제가 성립하는 조건은 사전과 사후, 구조의 세 층위이다. 사전 조건은 투입 전에 출력의 검증 가능성 범위를 정의하는 일이다. 사후 조건은 반영 후에 거부 결정을 기록하고 사유를 남기는 일이며, 구조 조건은 거부 가능성이 실질적으로 기능하는 조직 구조를 확인하는 일이다. 세 층위는 투입 전과 판단 중, 제도적 배경의 각 단계에 대응하며 어느 하나만으로는 충분하지 않다. 단독 실패보다 검증 불가능과 종속 상태가 겹친 결합 실패의 심각도가 높으므로, 설계는 결합 실패를 우선 회피하는 방향으로 이루어져야 한다. 다만 심각도의 정량화는 시도하지 않는다. 다중 모델 인용 검수의 운영 같은 구체적 기법은 제I-46권에 맡기고 이 장은 그 기법이 어떤 실패를 막는지를 물을 조건에 집중한다.
9.3반론: 절차의 형식화와 역량 전제
가장 강한 반론은 회피 조건이 형식적 절차에 그치고, 거부하면 업무 지연이나 평가상 불이익이 예정된 조직에서는 효력을 잃으며, 법관의 검증 능력이 항상 시스템에 미달한다고 볼 근거도 없다는 것이다. 형식화의 위험은 실제로 존재하며, 검증 능력이 항상 미달한다는 주장은 확인되지 않은 전제이다. 이에 대한 응답은 형식화의 위험이 바로 구조 조건의 층위에서 다루는 대상이라는 점이다. 거부 결정이 평가나 인사상 불이익으로 이어지지 않는 구조를 확인하도록 설계 조건에 포함하여 절차의 장식화를 다룬다. 또한 이 논증은 모든 출력에 대해 법관의 검증이 불가능하다고 주장하지 않는다. 검증 능력의 초과를 실패 조건으로 정의한 것이지 보편적 무능을 단정한 것이 아니다. 외국의 인간 감독 원칙과 「CEPEJ 유럽 윤리헌장」은 국내 준용의 근거가 아니라 거부 가능성의 구조적 확인을 위한 참고 틀로만 재해석하여 사용한다.
9.4역설계 가설의 검증과 폐기 조건
이 제안은 설계 요소가 실질적 거부 가능성을 확보하지 못하고 형식적 절차에 그친다는 점이 실증적으로 확인되거나, 동등한 정당성 확보에 더 적합한 대안이 입증되면 폐기된다. 층위의 배타적 완결성을 단정하지 않으며 기록만으로 정당성을 단정하지도 않는다. 조건부 설계 제안인 만큼 각 요소의 실효성은 향후 검증이 필요하다. 폐기 조건을 명시하는 것은 이 제안이 확정된 결론이 아니라 실패 시나리오에서 역설계된 가설임을 분명히 하기 위해서다.
다룬 공식 문서 CEPEJ European Ethical Charter on AI in judicial systems ↗
제10편상징이 아니라 다툼과 회수가 권한을 만든다
권위의 상징과 실제 권리 보장의 분리
우수한 성능의 시스템이라도 타인을 구속할 권한을 얻으려면 명목상 인간 승인이 아니라 실효적 다툼과 권한 회수 가능성이 보장되어야 한다. 이는 회수 사유·기한·이의 절차의 명시와 당사자 지원, 그리고 재검토 주기와 조건 변경 기록이 선행 조건으로 설계될 때 성립한다.
10.1권위의 상징을 넘어선 회수 가능성
성능이 우월해도 타인을 구속할 권한이 생기는 조건은 무엇인가. 이 편의 답은 수여와 당사자 지위, 실효적 다툼과 강제력의 책임에 회수 가능성을 더한 다섯 조건이다. 성능은 채택의 강한 이유이지 충분조건이 아니다. 회수 경로와 시점, 주체와 효과가 없으면 수여는 일방통행이다. 명목상 인간 승인만으로 회수를 대체할 수 없으며, 승인 표시만 남고 변경 능력이 없으면 책임 공백은 그대로다. 권위의 상징과 실제 권리 보장을 분리하는 일이 이 편의 과제이다. 이 물음이 해결되지 않으면 이의 칸 같은 장식이 실효적 다툼으로 집계되고, 같은 원천의 설명을 독립 증거로 중복 집계하는 오류가 반복된다. AI는 이의 사유의 자동 정리와 대체 접근의 제공을 통해 다툼의 문턱을 낮출 수 있으나, 그 지원이 검토자와 기한, 중지 효과에 연결될 때만 실효성을 얻는다.
10.2책임 있는 회수와 재검토의 조건
이 명제의 성립 조건은 앞선 편과 겹치지 않도록 회수에 초점을 맞춘다. 수여는 회수 가능성을 선행 조건으로 두어야 한다. 회수의 근거 유형과 검토 기한, 회수에 대한 이의를 명시하여 임의적 회수와 책임 있는 회수를 구분한다. 회수를 너무 쉽게 허용하면 외부 압력으로 판단이 흔들리고, 너무 어렵게 만들면 다툼이 무력해진다. 따라서 독립성 요구와 회수 실효성이 충돌하는 지점을 각각의 조건으로 명시한다. 당사자의 기술적 무지가 다툼을 무력화하는 문제도 따로 다룬다. 사유의 이해 가능성과 대체 접근, 지원을 실효성 항목으로 적되 무지를 이유로 모든 자동 결정을 무효로 만들지는 않는다. 재판 이유의 설명과 불복에 관한 구체적 절차는 제IV-10권에 맡기고 이 장은 회수 없는 수여를 닫는 원칙에 집중한다. 수여 조건에는 재검토 주기와 변경 기록을 넣어 능력과 위험이 바뀌어도 제도가 굳어지지 않게 한다. 조건 변경 시 무엇을 관측하고 무엇을 다시 결정할지도 명시한다.
10.3반론: 판단 안정성과 절차 비용
가장 강한 반론은 회수와 재검토 절차를 두면 외부 압력으로 판단의 안정성이 흔들리거나, 반대로 절차 비용만 늘려 자원이 가장 부족한 당사자의 신속한 구제를 막는다는 것이다. 회수 절차와 재검토 요구에도 비용이 따르며, 불필요한 인간 승인 장식을 없애는 일은 권리 보장을 개선할 수 있다는 점을 인정한다. 응답의 요지는 보존할 대상이 명목상 승인 표지가 아니라 다툼과 회수, 재검토의 실효적 작동이라는 점이다. 회수의 사유와 기한, 회수에 대한 이의 절차를 명시해 임의적 흔들기와 책임 있는 회수를 구분하고, 이 기능을 더 적은 부담으로 보장하는 자동 대안을 우선한다. 카테콘적 유예와 호응하되 수여를 미루는 일 자체를 성과로 삼지 않는다. 조건이 바뀔 때 무엇을 관측해 권한을 거두거나 조정할지 정해 두어야 일방적 위임을 막을 수 있다.
10.4정당성 기준의 경제성과 단순화
이 기준은 다원적 정당성의 경제성 검사를 받는다. 어느 항목이 실제 제도 선택을 전혀 바꾸지 않거나 다른 항목에 충분히 포괄된다는 점이 확인되면 항목을 단순화한다. 회수나 재검토 조건 없이도 다른 장치가 권한 통제와 다툼의 실효성을 완전히 충족한다는 점이 확인되면 기준 항목을 줄인다. 반대로 회수 불가능한 위임 제안은 거부한다. 이를 성능 실측이나 국내 회수 절차의 확정으로 읽어서는 안 된다. 회수 설계가 존재해야 한다는 요구를 명확히 하는 데 그친다.
제11편들여놓는 이유와 내보내는 이유를 함께 설계한다
사법의 대체·재편·존속을 비교하는 기준
외부 벤더의 초지능 판결지원시스템은 단순 성능 수치가 아니라 재판관이 책임질 수 있는 상태를 기준으로 도입과 퇴출을 함께 통제해야 한다. 이는 기능 한정과 열람·협력을 심사하는 인가, 사건별 설명·오류 검증, 독립 주체의 상시 감사, 전제 붕괴 시 작동하는 퇴출이 상호 의존할 때 성립한다.
11.1벤더 시스템의 도입과 퇴출 기준
외부 벤더의 초지능 판결지원시스템에 의존하게 될 때 무엇을 근거로 법정에 들여놓고 무엇을 근거로 다시 내보낼 것인가. 이 편의 답은 성능이 아니라 재판관이 책임질 수 있는 상태를 기준으로 인가와 검증, 감사와 퇴출의 네 단계에서 통제해야 한다는 것이다. 성능 수치는 특정 평가셋과 기준에 대한 조건부 결과일 뿐, 어떤 사건에서도 재판관이 책임질 수 있음을 보장하지 않는다. 성능이 책임을 대신하게 되면 사법은 정확도에 매여 흔들린다. 이 물음이 해결되지 않으면 도입 판단이 성능 시험에서 도입으로 이어지는 단선적 논리에 머물고, 공급자가 자료와 도구와 업데이트를 지배한 채 법원은 그 공급자를 심리할 수 없는 상태가 된다. AI는 기능별 한정 사용과 오류 유형의 축적을 통해 책임질 수 있는 투입 범위를 넓힐 수 있다. 그러나 감사 가능성을 잃은 시스템은 아무리 우수해도 절차에 들어올 수 없다는 원칙이 함께 서야 한다.
11.2인가·검증·감사·퇴출의 상호 의존
이 명제가 성립하는 조건은 네 단계의 상호 의존에 있다. 인가는 성능 서열이 아니라 기능 한정, 학습자료 구성과 평가 방법의 열람 가능성, 오류 탐지와 회복 경로, 검증 정보 제공, 감사 협력 의무를 심사한다. 검증은 각 사건에서 기능 한정 기록과 입력 기록, 참고자료나 관행에 근거한 설명, 과거 오류 유형의 확인을 요구한다. 하나라도 확보할 수 없으면 사용을 중단하고 독자적 판단으로 돌아간다. 감사는 인가기관과 별도의 독립 주체가 정기 감사와 비정기 감사를 병행하는 방식으로 이루어진다. 입출력 기록과 협력 의무 이행 여부를 대상으로 하며, 의심을 제도화하기 위해 존재한다. 퇴출은 성능 하락뿐 아니라 인가 전제의 무효, 감사 협력 거부, 검증 가능성의 지속적 상실, 인가 범위 일탈을 사유로 삼으며 처벌이 아니라 조건의 종료이다. 인가가 검증의 정보 요건을 정하고, 검증이 감사의 대상을 만들며, 감사가 인가 전제의 존속을 확인하고, 퇴출이 셋 중 하나의 붕괴에 발동되므로 네 단계는 함께 설계되어야 한다.
11.3반론: 도입 지연과 대형 벤더 독점
가장 강한 반론은 네 단계가 민첩성을 떨어뜨리고 도입 비용을 가중하여 접근성을 악화시키며, 엄격한 인가가 소수 대형 벤더만 살아남게 해 종속을 키운다는 것이다. 신속성과 벤더의 생존 가능성을 희생시킬 수 있다는 지적은 타당하며, 시범 운영이나 한정 인가 같은 경유 경로의 필요성도 인정한다. 그러나 이 설계는 성능 하락이 아니라 인가 조건의 파괴를 퇴출 근거로 삼으므로 조건부 접근이 가능하며, 시범 인가를 인가 절차 내 선택지로 흡수할 수 있다. 무인가·무감사 상태의 도입이 장기적으로 사법 신뢰를 더 크게 훼손할 가능성이 높다는 점에서, 접근성 우려는 설계의 실패라기보다 사회적 합의 수준의 문제이다. 「유럽평의회 AI 프레임워크 협약」의 국내 구속력 여부는 확인되지 않은 사실로 두고 설계 원리의 참고점으로만 참조한다. 국내 현행 인가나 퇴출 제도의 부재를 단정하지 않고 설계되어야 할 항목으로 기술한다.
11.4통제 설계의 완화와 폐기 조건
이 설계안은 내부 추론이 원리적으로 설명 가능하다는 점이 실증되면 인가 요건을 완화할 근거를 갖게 된다. 이에 더해 성능 지표만으로 안전한 자동화가 가능하다는 점과 재판관 책임이 위임 아래에서도 실질적으로 유지된다는 점이 함께 확인되면 폐기된다. 국내 현행 법령이 유사한 인가 절차를 두고 있다고 주장하거나, 특정 설계가 재판 독립을 보장한다고 확정하지 않는다. 내부 추론의 설명 불가능성을 확정하거나 더 높은 정확도를 주장하지도 않으며, 성능 지표를 도입 판단에서 완전히 배제해야 한다는 주장도 하지 않는다. 합성 사례와 미래 조건을 관측과 구별하여 기술하는 규율을 지킨다.
다룬 공식 문서 Council of Europe Framework Convention on AI: official overview ↗
제12편바뀌어도 남겨야 할 최소 기능은 수여와 구제다
초지능 시대에 유지할 최소 사법 기능
초지능 시대에 제도의 형식이 바뀌어도 사법이 유지해야 할 최소 헌정 기능은 권한 수여의 확인과 다툼의 실효성, 그리고 피해 회복의 실행이다. 이는 기존 법원 형식이나 직역 보호를 목표로 삼지 않고 새 대안과 현행 제도를 동일한 권리 보장·비지배 기준으로 대칭 비교할 때 성립한다.
12.1사법의 헌정적 재정의와 최소 기능
초지능 시대에 유지할 최소 사법 기능은 무엇인가. 이 편의 답은 지능의 종류와 제도의 형식이 달라져도 정당화와 참여와 책임을 유지하도록 사법을 헌정적으로 재정의하는 것이다. 그 최소 기능은 권한의 수여 확인과 다툼의 실효성, 회복의 실행이다. 누가 권한을 수여했고 누가 영향을 받으며 누가 결론을 다툴 수 있는지가 제도별로 설명되지 않는 자동 판단은 정확해도 사법이 아니다. 이 물음이 해결되지 않으면 제도 개혁이 조직의 존속과 폐지라는 이분법에 갇혀, 무엇을 바꾸고 무엇을 지킬지 물을 언어를 잃는다. AI는 누구나 이유를 묻고 맞서며 잘못을 고치고 피해를 회복할 수 있는 능력을 넓힐 수 있다. 그러나 억제권을 행사하는 자에게도 이유와 심사, 변경과 종료의 규칙이 적용될 때만 그 확장이 공진화가 된다. 중지를 검토할 권한과 중지를 끝낼 권한을 함께 설계하되 위험 문턱을 같게 만들지 않으며, 재심사를 받을 수 있다는 것과 재개할 권리가 이미 있다는 것을 구분한다.
12.2대체와 존속을 가르는 대칭 비교
이 명제가 성립하는 조건은 비교의 기준에 있다. 대체와 재편과 존속은 정확성만으로 서열화하지 않는다. 수여의 식별 가능성, 당사자 지위의 보장 수준, 다툼의 실효성, 강제 책임의 귀속, 회수 가능성, 재검토 주기를 대칭적으로 적용한다. 각 기능을 더 잘 수행하는 새로운 제도 형태도 비교 대상에 포함하되, 기존 법원의 모든 형식이나 법률가의 직역을 보호 목표로 삼지 않는다. 국제적 권한 배분이나 승인 질서에 관한 구체적 검토는 제IV-15권에 맡기고, 시험에서 정식 도입으로의 전환 방법은 제IV-14권에 맡기며, 이 장은 전환의 당부를 물을 최소 기준에 집중한다. 발전에 대한 관측과 미래에 대한 가정을 구별하며 기술 과업의 추세를 법정 정확성이나 도래일로 바꾸지 않는다. 해당 보고서들의 발행 시점 이후 능력까지 확인했다고 주장하지도 않는다.
12.3반론: 최소 기능론의 직역 보호화
가장 강한 반론은 최소 기능론이 결국 인간 제도의 정당성을 앞세워 더 정확하고 접근 가능한 자동 판단을 거부하는 직역 보호가 된다는 것이다. 경계해야 할 위험이다. 이에 대한 응답의 한계는 분명하다. 기존 법원의 형식을 보호 목표로 삼지 않고 권리 보장과 비지배의 기능을 기준으로 대안을 비교한다. 정확성이 권한의 유일한 근거가 되는 경로와, 반대로 인간이라는 지위만으로 검증과 변화를 거부하는 경로를 함께 차단한다. 정확성만으로 지배 권한을 정당화하거나 인간의 관여만으로 적법성을 선언하면 핵심 가설에 반하므로 배제된다. 인간 사법의 실패를 보존하지 않는다는 앞 편의 원칙은 여기서도 적용된다. 최소 기능에 기여하지 않는 관행은 효율화 또는 폐지의 대상이다.
12.4사법 재정의의 폐기와 유예의 조건
이 재정의는 누가 권한을 수여했고 누가 영향을 받으며 누가 다툴 수 있는지를 설명하지 못하는 제도를 사법으로 승인한다면 버려야 한다. 반대로 최소 기능을 더 잘 수행하는 제도가 나타났는데도 기존 형식을 고집한다면 그 고집도 버려야 한다. 법률 제도만으로 통제 불능을 해소했다는 주장은 하지 않으며, 단일한 도래 시점을 예측하지도 않는다. 유예로 확보한 시간에 독립 검증과 대체 수단, 피해 회복과 공공 전문성, 반박 능력이 자라지 않는다면 단지 시간을 소비한 것이다. 따라서 다음 단계로 이동할 수 있는 능력이 확보되었는지를 묻는 조건문으로 논증을 닫는다.