Summary
파일럿의 제한된 성과가 곧바로 전체 사법의 정당성이 될 수는 없으며, 도입의 확대·유지·축소·철회는 관측된 결과에 묶여야 한다. 이는 다기준 비교 조건과 실패 기준을 사전에 확정하고, 되돌릴 수 없는 권리 침해 여부에 따라 단계적 문턱을 작동시켜 실제 도입 범위를 조정할 때 성립한다.
9.1관측 결과에 묶인 도입 범위
파일럿의 성공이 전체 사법의 정당성이 되는 순간, 시험은 되돌릴 수 없는 도입이 된다. 이 편의 중심 명제는 확대·유지·축소·철회의 판단이 사전에 정한 비교 조건과 실패 기준에 묶여 있어야 하고, 관측된 결과가 실제 도입 범위를 바꾸어야 한다는 것이다. 「EU AI Act 제14조」가 정한 감독 요건의 구체적 조문 내용은 확인되지 않은 사실이나, 인간 개입의 필요성 자체는 전환 설계의 출발점이 된다. 이 편은 그 개입이 도입 시점의 승인만이 아니라 도입 이후의 범위 변경에도 작동해야 한다고 본다. 정확도 하나로 전환을 평가하지 않는다는 이 권의 논증 가설은 확대 조건에 권리 보장·접근·비용·독립성·회복 가능성의 충돌이 드러나 있어야 한다는 뜻이다.
9.2시험 범위 한정과 단계적 판단
단계적 판단은 시험과 실제 권한 부여 사이에 놓인다. 시험에서 확인한 것은 그 조건에서 성립한 범위의 주장이고, 도입으로 옮길 때 새로 생기는 전제는 별도로 확인한다. 합성 시험이나 제안된 연구를 실제 법원과 인간 대상의 검증 완료로 표시하면, 이 편은 그 성과 주장을 폐기한다. 파일럿이 편한 사건과 제한된 성과만을 다루었다면 확대의 근거는 그 범위에 한정된다. 이를 넘는 확대는 관측된 결과가 아니라 희망에 기대는 판단이다. 반대로 관측된 결과가 예상과 다르면 축소와 철회도 같은 절차로 열려 있어야 한다. 기술 능력이 앞으로 어떻게 변할지의 측정은 IV-01의 몫이며, 이 편은 관측된 결과가 범위를 바꾸는 조건만 다룬다. 이 편이 막으려는 것은 확대 자체가 아니라, 확대가 되돌릴 수 없는 상태가 되는 일이다.
9.3반론: 기준 경직성과 단계적 문턱
최강 반론은 도입 범위를 사전 기준에 엄격히 묶어 두면 예상치 못한 현장 여건에 유연하게 대응하지 못한다는 것이다. 작은 지표 미달에도 잦은 축소와 철회가 일어나 절차적 혼란을 키운다는 지적도 따른다. 경직된 문턱이 운영의 안정을 해칠 수 있다는 점은 인정한다. 답은 일률적인 전면 철회가 아니라 확대·유지·축소·철회의 단계적 문턱을 나누는 데 있다. 회복 가능한 부분 미달에는 범위 유지를 두고, 되돌릴 수 없는 권리 침해가 관측될 때 축소와 철회를 작동시킨다. 그래서 이 편은 사전 기준의 확정과 관측 후의 단계적 범위 변경을 함께 요구한다. 기준이 미리 정해지지 않으면 확대는 재량이 되고, 관측이 범위를 바꾸지 못하면 기준은 장식이 된다.
9.4단계적 판단 설계를 버릴 조건
이 명제는 두 경우에 버린다. 관측된 결과가 실제 도입 범위를 바꾸는 일이 이미 제도 안에서 충분히 작동하고 있다면, 단계적 판단의 별도 설계를 더할 이유가 약해진다. 또는 사전에 정한 실패 기준이 실제 판단에서 아무 역할을 하지 못한다면, 그 기준의 형식은 설계 기여로 남기 어렵다. 확대 조건과 철회 조건을 같은 문턱으로 만들지는 않되, 어느 쪽이든 결정의 이유가 기록되어야 한다. 제한된 성과가 전체 사법의 정당성이 되지 않게 하는 것은 바로 이 기록과 범위의 한정이며, 중단 뒤의 복구 설계는 다음 편에서 이어받는다.