요약
재판 기록과 인공지능 모델이 서로 학습하는 순환을 멈추지 말되, 관찰·수정·공개 심의·규범 변경·영향 점검을 서로 다른 결정으로 구별해야 한다. 이 구별은 판단에 쓰인 변경 내역의 추적, 학습 권한과 규범 변경 권한의 분리, 당사자의 실질적 이의 제기 경로가 함께 보장될 때 성립한다.
1.1학습 순환과 규범 변경의 구별
재판은 기록을 남기고 모델은 그 기록에서 다음 문장을 배운다. 학습한 모델이 사실 요약과 쟁점 정리, 초안 작성을 돕고 그 결과가 다시 판결문과 준비서면의 일부가 되면 재판과 모델은 서로를 가르치는 순환에 들어간다. 이 순환 자체는 잘못이 아니다. 문제는 배우는 과정이 구속력 있는 규범을 바꾸는 권한과 뒤섞일 때 생긴다. 이 편의 중심 명제는 순환을 멈추지 말고 구별하라는 것이다. 관찰과 수정, 공개된 심의, 규범 변경, 영향 점검을 하나의 갱신으로 처리하지 않고 서로 다른 결정으로 나눈다. 이 물음이 해결되지 않으면 당사자는 자신을 구속하는 판단이 언제, 어떤 경로로 달라졌는지 물을 수 없게 된다.
1.2추적·권한 분리·이의 제기 조건
이 명제가 성립하려면 세 가지 조건이 함께 작동해야 한다. 첫째, 무엇이 바뀌었는지 추적할 수 있어야 한다. 입력된 사건 기록과 참조 자료, 모델과 설정, 출력이 판단의 어디에 쓰였는지가 남아야 한다. 둘째, 배우는 권한과 바꾸는 권한이 분리되어야 한다. 성능 개선을 이유로 규범의 적용 범위가 넓어졌다면 그 확장은 기술 정비로 처리되지 않는다. 셋째, 영향을 받는 사람이 다툴 수 있어야 한다. 변경의 내용과 권한, 적용 범위와 대상 사건이 알려지고 이의의 경로가 열려야 한다. 인공지능을 이용하지 않거나 인공지능의 판단에 반대하는 사람의 권리도 같은 설계에 포함된다. 이러한 조건 아래에서만 순환은 학습의 이익을 남기고 규범 변경의 은폐를 막는다. 현행 법률 인공지능의 환각과 일치도 측정의 일반론은 I-44부터 I-49에 맡기고 이 편은 순환의 구별 원리에 집중한다.
1.3반론: 절차화에 따른 적응 지연
가장 강한 반론은 모든 변경을 공적 절차로 묶으면 오류 수정과 적응이 기술 변화보다 늘 늦어진다는 것이다. 실제로 기술 과업의 추세를 보여주는 METR의 기술 과업 평가와 국제 AI 안전 보고서는 발전을 관측할 출발점이다. 다만 이 기획은 그 추세를 법정에서의 정확성이나 초지능 도래일로 바꾸지 않는다. 지연이 오류와 비용을 키운다는 지적은 타당하지만 법원의 규범 결정은 기술 관측과 별도로 정당화해야 한다. 답은 모든 갱신을 늦추자는 것이 아니다. 판단 근거와 대응 조건을 바꾸지 않는 정비는 빠르게 하되, 권리 효과가 달라지는 변경은 공개된 변경 경로를 거치게 한다. 분류 자체도 사후 심사의 대상이 되게 하면 긴급한 결함 수정은 막지 않으면서 은폐된 규범 변경은 걸러낼 수 있다. 인공지능을 통한 저렴한 법률 지원과 접근 가능한 설명, 놓친 반론의 발견이라는 이익도 이러한 차등 속에서만 유지된다.
1.4순환 구별 명제를 버릴 조건
이 명제는 두 경우에 버려야 한다. 첫째, 기존 재판 절차만으로 관찰과 심의, 규범 변경과 영향 점검이 이미 분리되어 다툼이 보장된다면 별도 순환 절차를 덧씌우지 않는다. 둘째, 공급자의 모델 업데이트만으로 권리 효과가 달라졌는데도 이를 단순 기술 정비로 처리한다면 공진화 순환 제안은 탈락한다. 정확한 수치와 읽은 범위는 별도 계산표와 근거대장에 고정하고, 이 편의 논증은 그 범위를 넘어서지 않는다. 기술 과업의 길이와 성공 확률, 환경과 자율성을 나누어 읽는 태도가 사법의 학습 순환에도 필요하다.