요약
모델 갱신이 법 변경을 은폐하지 못하고 기술과 규범이 공진화하도록, 관찰·수정·공개 심의·규범 변경·영향 점검의 다섯 단계를 구분하는 사법 학습 순환을 자기수정 절차로 제도화해야 한다. 이 절차는 변경 권한의 정당화와 독립된 반박, 중지 개시와 해제의 차등 설계, 피해 회복과 단계별 책임 귀속이 함께 작동할 때 성립한다.
12.1사법 학습 순환의 자기수정 절차화
법은 바뀌는 것으로 끝나지 않고 바뀌는 방식을 고칠 수 있어야 한다. 모델 갱신이 법의 변경을 은폐하지 않도록 하려면 일회성 규칙이 아니라 순환을 관리하는 절차가 필요하다. 이 편의 중심 명제는 관찰과 수정, 공개 심의, 규범 변경, 영향 점검을 구분하는 사법 학습 순환을 법 절차로 제도화하라는 것이다. 공진화의 후보는 인공지능이 능력을 넓히면서 자신이 행사하는 권한에 상응하는 통제를 받는 관계다. 이 결합이 가능하다는 결론을 미리 증명된 사실로 취급하지 않는다. 이 물음이 해결되지 않으면 법은 배우지 못하거나 배우는 대가로 정당성을 잃는다.
12.2권한 분리·반박·회복의 결합 조건
성립 조건은 권한의 정당화와 독립된 반박, 실제 개입과 피해 회복, 공개된 자기수정이 함께 작동하는 것이다. 변경된 규범 또는 도구의 내용과 권한, 적용 범위와 영향을 받는 사건을 추적하고 이의를 제기할 수 있어야 한다. 기술 갱신과 규범 변경의 권한을 분리하고 중지를 검토할 권한과 중지를 끝낼 권한을 함께 설계하되, 위험 문턱을 반드시 같게 만들지는 않는다. 「인공지능에 관한 프레임워크 협약」이 요구하는 인권과 법치의 틀이 선언에 그치지 않으려면 국내 절차의 언어로 번역되어야 한다. 시험에서 정식 도입으로의 전환은 IV-14에 맡기고 이 편은 정식 도입 이후의 자기수정에 집중한다. 공공 인프라의 운영과 예산 구조는 IV-12에 맡기고 국제적 권한 배분은 IV-15에 맡긴다. 외국판결·중재 승인 일반은 III-48에 맡기고 확인되지 않은 사실인 초지능 출현 시점의 단일 예측에는 기대지 않는다.
12.3반론: 관료적 절차 증식과 책임 분산
최강 반론은 순환의 제도화가 결국 관료적 순환의 자기증식이며 현장의 판단을 묶는다는 것이다. 모든 학습을 절차로 묶으면 적응이 늦어지고 책임은 분산된다는 우려다. 답은 순환 전체의 통제가 아니라 경계의 유지다. 관찰, 수정, 공개 심의, 규범 변경, 영향 점검의 다섯 단계마다 결정 주체와 책임의 귀속을 명시해 둔다. 그러면 절차가 스스로 증식하지 않고 어느 단계의 판단이 잘못되었는지 특정해 책임을 물을 수 있다. 독립 검증과 대체 가능성, 접근권과 이해충돌 통제가 있으면 공급자가 자료와 도구, 업데이트를 지배해도 심사는 가능하다. 인공지능이 당사자의 반박 능력을 키우고 회복을 돕는다는 희망은 이 순환이 열려 있을 때에만 당사자에게 도달한다.
12.4자기수정 절차 명제의 실패·성립 조건
이 명제는 추적과 이의가 작동하지 않음이 확인되면 유지되지 않는다. 명령은 있으나 그 명령이 도달할 통제자와 실행 수단이 없거나 같은 원천의 설명을 독립 증거로 집계하고 있다면 순환은 실패다. 모델 변경이 공개 절차 없이 법적 기준을 바꾼 사례가 확인되면 그 변경은 정비로 처리되지 않는다. 반대로 변경 요소의 분리와 영향 점검, 공개 심의와 권한 통제가 함께 작동함이 확인되면 자기수정은 공진화의 시간을 만든다. 되돌리기 어려운 침해에 앞서 숙고와 중지, 회복의 시간을 확보하는 일이 이 권 전체의 제안이며, 마지막 편의 절차는 그 시간을 반복적으로 만들어 내는 법이다.