Chapter 1순환을 끊지 말고 구별하라: 배우는 법원과 배우는 모델
재판과 모델이 서로를 학습하는 순환
재판 기록과 인공지능 모델이 서로 학습하는 순환을 멈추지 말되, 관찰·수정·공개 심의·규범 변경·영향 점검을 서로 다른 결정으로 구별해야 한다. 이 구별은 판단에 쓰인 변경 내역의 추적, 학습 권한과 규범 변경 권한의 분리, 당사자의 실질적 이의 제기 경로가 함께 보장될 때 성립한다.
1.1학습 순환과 규범 변경의 구별
재판은 기록을 남기고 모델은 그 기록에서 다음 문장을 배운다. 학습한 모델이 사실 요약과 쟁점 정리, 초안 작성을 돕고 그 결과가 다시 판결문과 준비서면의 일부가 되면 재판과 모델은 서로를 가르치는 순환에 들어간다. 이 순환 자체는 잘못이 아니다. 문제는 배우는 과정이 구속력 있는 규범을 바꾸는 권한과 뒤섞일 때 생긴다. 이 편의 중심 명제는 순환을 멈추지 말고 구별하라는 것이다. 관찰과 수정, 공개된 심의, 규범 변경, 영향 점검을 하나의 갱신으로 처리하지 않고 서로 다른 결정으로 나눈다. 이 물음이 해결되지 않으면 당사자는 자신을 구속하는 판단이 언제, 어떤 경로로 달라졌는지 물을 수 없게 된다.
1.2추적·권한 분리·이의 제기 조건
이 명제가 성립하려면 세 가지 조건이 함께 작동해야 한다. 첫째, 무엇이 바뀌었는지 추적할 수 있어야 한다. 입력된 사건 기록과 참조 자료, 모델과 설정, 출력이 판단의 어디에 쓰였는지가 남아야 한다. 둘째, 배우는 권한과 바꾸는 권한이 분리되어야 한다. 성능 개선을 이유로 규범의 적용 범위가 넓어졌다면 그 확장은 기술 정비로 처리되지 않는다. 셋째, 영향을 받는 사람이 다툴 수 있어야 한다. 변경의 내용과 권한, 적용 범위와 대상 사건이 알려지고 이의의 경로가 열려야 한다. 인공지능을 이용하지 않거나 인공지능의 판단에 반대하는 사람의 권리도 같은 설계에 포함된다. 이러한 조건 아래에서만 순환은 학습의 이익을 남기고 규범 변경의 은폐를 막는다. 현행 법률 인공지능의 환각과 일치도 측정의 일반론은 I-44부터 I-49에 맡기고 이 편은 순환의 구별 원리에 집중한다.
1.3반론: 절차화에 따른 적응 지연
가장 강한 반론은 모든 변경을 공적 절차로 묶으면 오류 수정과 적응이 기술 변화보다 늘 늦어진다는 것이다. 실제로 기술 과업의 추세를 보여주는 METR의 기술 과업 평가와 국제 AI 안전 보고서는 발전을 관측할 출발점이다. 다만 이 기획은 그 추세를 법정에서의 정확성이나 초지능 도래일로 바꾸지 않는다. 지연이 오류와 비용을 키운다는 지적은 타당하지만 법원의 규범 결정은 기술 관측과 별도로 정당화해야 한다. 답은 모든 갱신을 늦추자는 것이 아니다. 판단 근거와 대응 조건을 바꾸지 않는 정비는 빠르게 하되, 권리 효과가 달라지는 변경은 공개된 변경 경로를 거치게 한다. 분류 자체도 사후 심사의 대상이 되게 하면 긴급한 결함 수정은 막지 않으면서 은폐된 규범 변경은 걸러낼 수 있다. 인공지능을 통한 저렴한 법률 지원과 접근 가능한 설명, 놓친 반론의 발견이라는 이익도 이러한 차등 속에서만 유지된다.
1.4순환 구별 명제를 버릴 조건
이 명제는 두 경우에 버려야 한다. 첫째, 기존 재판 절차만으로 관찰과 심의, 규범 변경과 영향 점검이 이미 분리되어 다툼이 보장된다면 별도 순환 절차를 덧씌우지 않는다. 둘째, 공급자의 모델 업데이트만으로 권리 효과가 달라졌는데도 이를 단순 기술 정비로 처리한다면 공진화 순환 제안은 탈락한다. 정확한 수치와 읽은 범위는 별도 계산표와 근거대장에 고정하고, 이 편의 논증은 그 범위를 넘어서지 않는다. 기술 과업의 길이와 성공 확률, 환경과 자율성을 나누어 읽는 태도가 사법의 학습 순환에도 필요하다.
Chapter 2정비는 빠르게, 변경은 밝게: 기술 갱신과 규범 변경을 가르는 법
기술적 갱신과 규범 변경의 경계
도구의 성능을 손보는 기술 정비와 당사자의 권리 효과를 바꾸는 규범 변경을 구별하되, 그 분류 자체를 사후에 다툴 수 있게 열어 두어야 한다. 이를 위해 변경 결정 주체와 권한 근거를 밝히고 입력·자료·모델·설정의 변화가 판단에 미친 경로를 기록하며 당사자의 재심사 청구권을 보장해야 한다.
2.1기술 정비와 규범 변경의 구별
도구의 기능을 고치는 일과 법이 요구하는 행동을 바꾸는 일은 같은 화면에서 일어날 수 있으나 같은 결정은 아니다. 전자는 도구의 성능을 손보는 정비일 수 있고, 후자는 당사자의 권리 효과를 바꾸는 규범 변경이다. 이 편의 중심 명제는 권리 효과가 달라지는 변경과 기능 개선을 구별하되 그 분류 자체를 사후에 다툴 수 있게 하라는 것이다. 분류가 운영자의 일방적 표시로 끝나면 공급자의 업데이트 한 번으로 사실상 법이 바뀌어도 누구도 묻지 못한다. 이 물음이 해결되지 않으면 법원은 쓰던 도구를 바꾸었을 뿐인데 당사자는 다른 법을 적용받는 상태에 놓인다.
2.2주체·변경 경로 기록과 사후 심사
성립 조건은 구체적이다. 주체에 관해서는 변경을 결정한 자와 그 권한의 근거를 밝혀야 한다. 조건은 어떤 입력과 자료, 모델과 설정이 바뀌었고 그 변화가 판단의 어느 부분에 쓰였는지를 남기는 것이다. 예외는 긴급한 결함 수정처럼 즉시 적용이 필요한 경우이며, 이때도 사후에 이유와 범위를 공개한다. 효과는 당사자가 분류에 이의를 제기하고 다시 심사받을 수 있다는 점이다. 제안과 현행 제도의 구별도 분명히 한다. 현행 절차가 이미 새로운 근거에 대한 반박 기회를 주고 있다면 중복된 절차를 덧씌우지 않는다. 「영국 사법부의 인공지능 사용에 관한 입장문」의 세부 검증 문언은 확인되지 않은 사실이다. 다만 판사의 이용 원칙과 감독 책임을 규율하는 취지를 살리려면 변경의 성격부터 가려야 한다. 책임 있는 이용이란 최신 도구를 쓴다는 뜻이 아니라 바뀐 근거를 설명할 수 있다는 뜻이다.
2.3반론: 결함 방치와 적응 지연
최강 반론은 공적 절차의 요구가 적응을 늦추어 알려진 결함을 계속 쓰게 만든다는 것이다. 구버전에 머물면 더 많은 오류와 비용이 생기고 당사자가 피해를 본다는 지적은 무겁다. 답은 일률적인 지연 요구가 아니라 영향에 맞춘 차등이다. 근거를 그대로 정리하는 수준의 정비는 알림으로 충분할 수 있으나, 새로운 불리한 전제를 제시하는 변경에는 의견 제시의 경로가 필요하다. 개선의 필요성과 절차의 강도는 별도 판단이다. 인공지능이 빠른 피해 파악과 회복을 돕는다는 희망도 분류가 정확할 때에만 실현된다. 분류를 잘못해 규범 변경을 정비로 처리하면 회복은 빨라져도 이유는 사라진다.
2.4차등 분류 명제를 버릴 조건
명제를 버려야 하는 조건은 분명하다. 사전 기준만으로 기능 개선과 권리 효과 변경이 다툼 없이 구별됨이 확인되면 사후 분류 심사의 필요성은 축소한다. 현행 불복 절차만으로 도구의 변경 경위와 규범적 효과를 충분히 다툴 수 있음이 확인되어도 별도 분류 절차를 고집하지 않는다. 반대로 변경 기록이 누락되어 권리 효과의 변동 여부를 판별할 수 없다면 정비로 단정하지 않고 미확인으로 남긴다. 기술 정비라는 이름이 규범 변경을 가리고 사후 이의까지 막는 순간, 이 편의 차등 분류 제안은 탈락한다.
Official documents referred to Judiciary of England and Wales: Position statement on the judicial use of AI ↗
Chapter 3무엇을 먹였는지가 법이 된다: 학습자료 선택의 공개
학습자료의 선택이 선례를 만드는 문제
판결문과 문헌을 골라 학습시키는 선택이 사실상의 선례를 만들 수 있으므로, 학습자료의 선택 원리를 공개하고 표본 구성 비중과 규범 적용력을 분리해 관리해야 한다. 수집·제외 기준과 사건 비중 조정 내역을 기록으로 남기고 중복 문서를 독립 선례로 세지 않으며 미공개 기준으로 만든 요약의 근거 사용을 제한할 때 성립한다.
3.1학습자료 선택 원리의 공개
판결문이 모두 학습되는 것은 아니다. 어떤 사건을 뽑고 어떤 문장을 남기며 어떤 조건을 지울지에 따라 모델이 배우는 법은 달라진다. 선택된 자료가 반복 인용되고 요약되면 한 번의 편집이 여러 사건의 답을 바꾸는 사실상의 선례가 된다. 이 편의 중심 명제는 학습자료의 선택 원리를 공개하고 자료 구성의 비중과 규범의 적용력을 서로 다른 항목으로 유지하라는 것이다. 분포를 조정하는 선택도 이유와 범위를 밝혀야 한다. 이 물음이 해결되지 않으면 공개된 개정 없이 적용 범위가 넓어지고 당사자는 바뀐 규칙을 다툴 기회조차 갖지 못한다.
3.2표본 비중과 규범 지위의 분리
성립 조건은 원문과 지위, 조건의 대응이다. 어떤 기준과 시점에 따라 판결과 문헌을 수집하거나 제외했는지, 특정 유형의 사건 비중을 어떻게 조정했는지가 기록으로 남아야 한다. 선택된 자료의 출현 빈도가 곧 선례의 구속력이 되지 않도록 표본 구성 지표와 규범 지위 표시를 분리한다. 선별 기준이 공개되지 않은 자료 집합에서 도출된 요약은 선례의 근거로 쓸 범위를 제한한다. 편집 과정에서 중복 수집된 문서는 독립된 복수의 선례로 집계하지 않는다. 판례 데이터의 구조화 기법 자체는 I-48에 맡기고 이 편은 선택이 규범 적용의 조건을 바꾸는 경로에 집중한다. 자료의 양을 늘리는 일과 법적 의미의 경계를 보존하는 일은 다르며, 후자는 별도의 확인을 요구한다. 특정 국가의 실제 판례 분포를 측정한 결과는 확인되지 않은 사실로 남기고, 이 편은 선택 원리의 논증에 머문다.
3.3반론: 운영 유연성 저하와 강제
최강 반론은 학습자료의 선택 기준과 분포 조정을 일일이 공개하면 도구 운영의 유연성이 떨어지고 특정 판례 구성을 정치적으로 강제하게 된다는 것이다. 공급자의 자료 편성 방식까지 심사 대상으로 삼으면 모델 개선이 멈춘다는 우려다. 답은 원자료 전체의 일괄 공개와 선별 원리의 공개를 나누는 것이다. 모든 내부 자료를 공개하여 보관하지 않더라도 어떤 범주의 판결과 조건을 포함하거나 제외했는지, 분포를 왜 조정했는지는 감독자와 당사자가 확인할 수 있어야 한다. 선택의 이유와 범위를 기록해 두면 데이터 편성이 곧바로 규범의 변경으로 굳어지지 않는다. 인공지능이 놓친 증거와 반론의 발견을 돕는다는 희망도 이 구별 위에서만 타당하다.
3.4선택 공개 명제를 버릴 조건
자료 선별과 분포 조정의 차이가 출력의 규범 적용 범위를 바꾸지 않음이 확인되면 선택 공개 요구를 축소한다. 이것이 이 명제를 버려야 할 조건이다. 독립된 선례 심사 절차만으로 편향된 자료 선택의 효과가 이미 걸러진다면 별도 통제를 덧씌우지 않는다. 반대로 선택 기준과 제외 범위를 확인할 자료가 없으면 그 학습 집합의 결과를 대표성 있는 선례 분포로 확정하지 않고 미확인으로 남긴다. 자료 선택의 대표성과 규범의 적용력을 혼동하지 않는다는 경계가 이 편의 제안 전체를 지킨다.
Chapter 4틀린 요약이 판례처럼 보일 때: 오류의 권위화 차단
오류가 권위로 재생산되는 경로
예외가 생략된 요약이 반복 인용되고 재학습되어 판례처럼 굳어지는 오류의 권위화를 막기 위해, 파생 경로와 요약의 지위를 기록하고 단순 반복을 독립 근거로 집계하지 말아야 한다. 이는 원문에서 파생된 경로를 추적하고 관측·보존·해석 체계를 분리하며 원문 정정이 파생 문서와 후속 인용으로 이어지는지 점검할 때 성립한다.
4.1파생 경로 기록과 반복 권위화 차단
요약은 빠뜨림에서 시작한다. 예외 문단이 빠진 요약이 여러 문서에 복사되고 그 문서가 다시 학습에 들어가면 같은 생략이 점점 일반적인 규칙처럼 보인다. 문서 수의 증가는 독립된 근거가 늘었다는 뜻이 아니지만 화면에서는 그렇게 보인다. 이 편의 중심 명제는 파생 경로와 요약의 지위를 남기고 반복을 독립 근거로 세지 말라는 것이다. 오류가 권위로 재생산되는 경로는 한 번의 실수에서 그치지 않고 출처 표시의 실패를 통해 자란다. 이 물음이 해결되지 않으면 선택된 가치와 오류가 법의 필연성처럼 굳어지고 당사자는 굳어진 전제를 반박할 문헌을 찾지 못한다.
4.2원문 추적과 관측·해석 체계의 분리
성립 조건은 추적과 시험의 분리다. 원문에서 파생된 경로가 기록되어 같은 출처를 공유하는 반복을 확인할 수 있어야 한다. 기록의 관측과 보존, 해석 경로를 같은 체계에 묶지 않고 분리하여 한 번의 요약 오류가 검증 기준까지 오염시키지 않게 해야 한다. 원문에서 오류가 발견되어 정정되었을 때 그 수정이 파생 요약과 후속 인용 문서로 이어지는지도 함께 점검한다. 파생 경로와 원문 대조가 작동할 때에만 반복 인용의 독립성 검증은 의미를 갖는다. 국제 AI 안전 보고서를 읽을 때 이 기획이 능력과 배치 조건을 나누어 보듯, 파생 오류도 생성 능력과 재사용 조건을 나누어 보아야 한다. 순환의 규모를 과장하지 않고 조건부 경로를 조건부로 서술해야 한다. 실제 순환이 얼마나 발생하는지에 대한 측정은 확인되지 않은 사실로 남긴다.
4.3반론: 출처 관리의 비용과 지연
최강 반론은 모든 파생 표시와 재검사가 속도를 늦추고 비용을 늘려 결국 구제를 어렵게 한다는 것이다. 현장에서는 완벽한 출처 관리보다 빠른 정정이 낫다는 주장이다. 답은 전부 아니면 전무라는 선택이 아니라 용도 제한이다. 파생 경로가 남지 않으면 원문을 아무리 빠르게 고쳐도 이미 퍼져 나간 요약본과 후속 학습자료의 오류는 찾아내 고칠 수 없다. 따라서 모든 문서를 같은 길이로 보존하는 대신 원문과의 연결 고리를 남기고, 연결이 끊긴 요약은 규범 적용의 근거로 쓰지 못하게 제한한다. 인공지능이 빠른 피해 파악을 돕는다는 희망도 출처가 남을 때에만 신뢰할 수 있다.
4.4오류 권위화 차단 명제의 기각 조건
서로 독립된 원문 근거가 확인되면 반복이라는 이유만으로 같은 출처의 파생물로 취급하지 않는다. 이것이 이 명제를 버려야 할 조건이다. 관측과 보존, 해석 경로가 이미 분리되어 원문의 정정이 파생 문서와 후속 사용에 곧바로 반영된다면 별도 제한은 축소한다. 반대로 같은 원천에서 파생된 설명을 독립된 복수의 증거로 집계하고 있음이 드러나면 그 제시는 권위가 아니라 기각 대상으로 취급한다. 원문 정정이 후속 사용으로 이어지는 경로와 권위의 표시를 분리하는 한, 오류의 권위화는 차단될 수 있다.
Chapter 5드물다고 약하지 않다: 예외와 소수 의견을 지키는 법
소수 의견과 예외의 보존
출현 빈도가 높다고 더 강한 규범이 되는 것은 아니므로, 빈도와 표본 구성 및 법적 지위를 분리하여 일반 규칙의 예외와 비채택 소수 의견의 역할을 각각 보존해야 한다. 이는 유효한 예외와 소수 의견의 법적 지위를 원문과 제도에 따라 구별하고 사건의 사실 전제·적용 조건·원문 위치를 함께 연결할 때 성립한다.
5.1출현 빈도와 법적 지위의 분리
자주 등장하는 문장이 더 강한 규범은 아니다. 자료에서 어떤 명제가 자주 등장하면 도구는 이를 일반적인 답으로 쉽게 제시할 수 있다. 그러나 자주 보인다는 사실과 해당 사건을 구속하는 규범이라는 사실은 다르다. 드문 예외가 성립하는 사건에서는 덜 등장한 조건이 결론을 바꿀 수 있다. 이 편의 중심 명제는 빈도와 표본 구성, 법적 지위를 나누고 일반 규칙의 예외와 비채택 의견의 역할을 보존하라는 것이다. 반복된 파생 문서를 독립 근거로 세지 않는다. 이는 자료 선택과 압축이 공개된 규범 변경 없이 적용 범위를 넓히지 않게 하기 위해 필요하다. 이 물음이 해결되지 않으면 예외 사건의 당사자는 다수 사례에 맞는 답을 자신의 답으로 강요받는다.
5.2유효한 예외와 소수 의견의 구별
명제가 성립하는 전제는 지위의 구별이다. 법적으로 적용되는 예외와 채택되지 않은 소수 의견은 희소하다는 점에서 비슷해 보여도 역할이 다르다. 예외는 해당 조건에서 적용할 규범일 수 있고, 소수 의견은 현재 결론을 비판하거나 이후 변경을 검토할 자료일 수 있다. 구체적 지위는 원문과 제도에 따라 확인해야 한다. 자료 구성의 비중과 법적 지위를 서로 다른 항목으로 유지해야 하며, 소수 의견의 노출을 늘렸다고 그 의견이 다수 판단의 지위를 얻는 것은 아니다. 짧은 결론 문장이 편리하다는 이유로 조건과 예외를 떼어내면 원래보다 넓은 규칙이 된다. 따라서 사건의 사실적 전제와 적용 조건, 판단의 지위와 원문 위치를 함께 연결해야 한다. 자료 선택에서 법적 권위로 넘어가는 전제의 이동을 설명하는 것이 이 편의 기여이며, 학습 성과 자료를 제시하는 일이 아니다.
5.3반론: 폐기된 주장의 과장 우려
최강 반론은 드문 의견을 보존하면 폐기된 주장을 현행법처럼 부풀릴 수 있다는 것이다. 인정할 부분은 분명하다. 소수 의견과 유효한 예외는 같은 권위가 아니다. 답은 보존과 승격을 나누고 원문 지위와 적용 조건을 함께 기록하는 것이다. 보존은 찾을 수 있게 한다는 뜻이지 현행 판단을 대체할 권한을 준다는 뜻이 아니다. 예외를 소수라는 이유로 단순 의견으로 낮추어서도 안 된다. 학습이나 평가에서 드문 사례를 더 자주 보여주는 방법이 조건을 놓치는 문제를 줄일 가능성은 있으나, 실제 성과 자료가 없으므로 효과를 보장하지 않는다. 분포 조정도 이유와 범위를 공개해야 한다.
5.4예외·소수의견 보존 명제의 철회 조건
원문 지위와 조건이 이미 보존되면 빈도만을 이유로 한 결함 주장을 철회하고, 자료 반복이 지위 혼동을 만들면 구성안의 우위를 철회한다. 적용력이 독립된 법적 근거로 확인된 명제는 빈도가 높다는 이유만으로 의심하지 않는다. 예외 조건이 충분히 보존되고 해당 사건에서 적용된다면 자료의 희소성만으로 실패를 주장하지 않는다. 조건과 지위를 복원할 근거가 없으면 확정된 적용 규칙으로 사용하지 않는다. 자료의 법적 지위를 확인하지 못했으면 적용 규칙과 비판 의견 중 하나로 확정하지 않고 미확인으로 남긴다. 규범의 예외 조건을 원문으로 확인한 뒤, 빈도에 흔들리지 않는 적용과 무조건 예외를 넓히는 오류를 함께 검사해야 한다. 원문 확인이 없으면 실제 정확성 시험으로 보고하지 않는다.
Chapter 6배포일과 재판일을 함께 쓰지 않는다: 버전과 적용 시점의 분리
모델 버전과 사건 적용 시점
신버전 도구의 배포 시점과 진행 중인 사건에 대한 법적 적용 시점을 구별하고, 기술적 재실행을 법적 구제나 판단 변경의 정당화로 대치하지 말아야 한다. 이를 위해 버전 이름에만 의존하지 않고 입력된 사건 기록, 참조 규범 자료, 모델 설정과 판단 반영 위치를 요소별로 분리해 추적하고 보존해야 한다.
6.1도구 배포일과 법적 적용일의 분리
더 나은 도구가 나왔다는 사실이 그 도구를 모든 사건에 즉시 적용해야 한다는 뜻은 아니다. 신버전의 평균 성능이 좋아졌다는 평가를 인정하더라도 진행 중인 사건에서 언제, 무엇을 바꿀지는 별도의 판단이다. 이미 당사자가 다툰 근거가 새 출력에서 달라지거나 적용할 자료의 시점이 바뀔 수 있기 때문이다. 이 편의 중심 명제는 배포 시점과 법적 적용 시점을 구별하고 입력과 자료, 모델과 설정의 변경을 추적하라는 것이다. 기술적 재현과 재실행은 영향 조사의 재료이며, 사건 적용의 정당화나 종결 판단의 변경을 대신하지 않는다. 이는 모델 개선을 이유로 판단 근거가 조용히 바뀌거나 기술적 되돌리기를 법적 구제로 오인하는 일을 막기 위해 필요하다.
6.2입력·자료·설정 등 변경 요소 분리
성립 조건은 변경 요소의 분리다. 같은 모델 버전이라도 입력된 사건 기록이나 검색 대상 자료가 달라지면 다른 결과가 나올 수 있으므로 버전 이름만으로 재현 가능성을 확보했다고 말할 수 없다. 어떤 기록과 자료 집합, 설정을 사용했으며 그 출력이 판단의 어느 부분에 쓰였는지 연결해야 한다. 합성 사례로 보자. 구버전이 기록의 예외 문단을 빠뜨리고 신버전이 이를 읽는다면 결함 수정의 문제다. 참고하는 규범 자료가 바뀌어 결과가 달라졌다면 적용 시점의 문제이고, 당사자가 새 사실 기록을 제출했다면 사실 보완의 문제다. 실제 갱신에서는 이 요소들이 섞일 수 있으므로 배타적인 이름 하나를 붙이기보다 변경 요소를 분리한다. 모든 비밀 자료를 공개하여 보관할 필요는 없으며, 적절한 검토자가 대응 관계를 확인할 수 있도록 보존하면 충분하다. 같은 출력을 다시 얻는 일과 그 출력의 법적 타당성을 확인하는 일은 다르다.
6.3반론: 구버전 유지의 오류와 비용
최강 반론은 개선된 도구의 사용을 늦추면 알려진 결함을 계속 사용하여 더 많은 오류와 비용을 만든다는 것이다. 인정할 부분은 구버전의 고정이 공정성 보장이 아니며 긴급한 결함 수정의 이익을 고려해야 한다는 점이다. 답은 모든 갱신의 지연이 아니라 변경 요소와 판단 영향에 맞춘 설계다. 당사자가 이미 다툰 근거를 그대로 정리하는 경우와 새로운 불리한 전제를 제시하는 경우는 구별한다. 후자에서는 변경된 근거와 출처를 식별하고 관련 의견을 제시할 경로를 검토한다. 모든 화면 수정에 새 심리를 열자는 주장이 아니라 판단 근거와 대응 조건을 바꾸는 정도에 맞추어 절차를 정하자는 것이다. 필요한 법적 근거와 시간은 해당 사건에서 확인하며 자동적인 기한 연장이나 정지 권한을 선언하지 않는다.
6.4시점 분리 명제를 축소·철회할 조건
갱신이 판단 근거와 대응 조건을 바꾸지 않거나 기존 절차가 그 변화를 충분히 다룬다면 추가 절차의 필요성을 그 효과에 맞게 축소한다. 변경 원인이 분리되지 않으면 특정 효과의 귀속을 철회하고 복합과 미확인으로 남긴다. 사건이 끝난 뒤 결함이 발견되어도 프로그램을 되돌리듯 판결을 되돌리지 않는다. 영향을 받은 자료와 판단 부분을 먼저 식별하고 적용 가능한 구제 절차를 확인한다. 구체적 구제의 법적 요건을 확인하지 못했으면 재실행 결과를 근거로 사건 재개 가능성을 확정하지 않는다. 판단 의존 관계가 확인되지 않으면 영향 유무를 단정하지 않으며, 기록 누락이 크면 완전한 대상 목록이라고 표시하지 않는다.
Chapter 7누가 무엇을 왜 바꿨는가: 변경 권한과 이유의 공개
변경 권한과 공개된 정당화
모델 갱신이 공적 심리를 공급자의 일정에 종속시키지 않도록, 변경된 도구나 규범의 내용·권한·적용 범위·영향 사건을 추적하고 당사자가 이의를 제기할 수 있게 해야 한다. 이는 기술 운영자의 도구 수정 권한과 법적 규범 변경 승인 권한을 분리하고 변경 이유와 영향을 사건 관계자가 이해할 수 있게 공개할 때 성립한다.
7.1변경 권한·범위 추적과 이의 제기
배우는 제도는 바꾸는 권한이 어디에 있는지 물을 수 있을 때에만 정당하다. 모델을 고치는 손과 규범을 바꾸는 손이 같은 조직 안에 있어도 권한의 근거는 같지 않다. 이 편의 중심 명제는 변경된 규범 또는 도구의 내용과 권한, 적용 범위와 영향을 받는 사건을 추적하고 이의를 제기할 수 있게 하라는 것이다. 변경 권한자와 근거, 이유와 범위가 공개되고 다툼의 경로가 열려야 한다. 이 물음이 해결되지 않으면 침해에 앞서 숙고와 이의 제기, 중지와 회복의 시간을 확보하는 공적 기능이 공급자의 일방적인 업데이트 일정에 종속된다. 공급자의 동의 없이는 그 공급자를 심리할 수 없는 상태가 되면 독립된 심리는 무너진다.
7.2권한 분리와 변경 이유의 이중 공개
성립 조건은 권한과 절차의 이중 공개다. 기술 갱신과 규범 변경의 권한 분리가 먼저다. 기술 운영자는 성능과 안전을 이유로 도구를 바꿀 수 있으나, 그 변경이 권리 효과를 바꾸면 법정 절차의 언어로 다시 정당화되어야 한다. 다음은 이유의 공개다. 무엇이 왜 바뀌었고 누구에게 어떤 영향을 주는지가 사건 관계자가 이해할 수 있는 형태로 남아야 한다. 「대한민국헌법 제103조」의 구체적 조문 문언은 확인되지 않은 사실이다. 다만 관측된 헌법 규칙에서 확인되는 재판의 독립 원칙은 권한의 정당화가 독립된 심사로 이어져야 함을 보여준다. 「인공지능에 관한 프레임워크 협약」이 인권과 민주주의, 법치의 틀을 요구하는 점과 「영국 사법부의 인공지능 사용에 관한 입장문」이 책임 있는 이용을 강조하는 점도 같은 방향이다. 억제 권한 자체의 정당화는 IV-06에 맡기고 이 편은 변경 권한의 행사 방식에 집중한다.
7.3반론: 사전 심의에 따른 대응 마비
최강 반론은 모든 변경을 공적 절차로 묶으면 적응이 늦어지고 긴급한 보호가 비는 틈이 생긴다는 것이다. 기술 운영자가 결함을 즉시 고칠 때마다 사전 공적 심의를 거치라고 하면 현장의 대응력이 마비된다는 지적이다. 답은 임시 기술 조치 권한과 규범 변경 승인 권한을 나누고 사후 심사 문턱을 차등화하는 것이다. 긴급한 오류 차단이나 임시 조치를 기술 운영 권한으로 먼저 시행할 수 있다는 것과 구속력 있는 법적 기준을 바꿀 권한이 이미 있다는 것은 다르다. 임시 조치로 확보한 시간 동안 변경 이유의 공개와 독립 검증, 대체 가능성과 이해충돌 통제, 당사자의 반박 기회를 갖추지 못한다면 그 변경은 정당성을 얻지 못한다. 따라서 긴급 수정의 개시 경로는 열어 두되, 권리 효과를 바꾸는 변경의 유지 조건은 엄격한 공개 심사로 묻는다. 인공지능을 통한 접근 가능한 설명과 빠른 피해 파악이라는 희망도 권한 공개가 있을 때에만 당사자의 능력이 된다.
7.4권한 공개 명제의 탈락과 축소 조건
이 명제는 공급자의 모델 업데이트만으로 권리 효과가 달라졌는데 이를 단순 기술 정비로 처리하면 탈락한다. 반대로 변경의 내용과 권한, 적용 범위와 영향이 충분히 공개되고 실질적 이의 경로가 작동함이 확인되면 추가 통제 요구는 축소한다. 인간의 승인 표시만 형식적으로 남고 실제 변경 능력은 없거나, 공급자의 동의 없이는 그 변경 근거를 심리할 수 없는 상태여도 같은 실패다. 누가 어떤 권한으로 무엇을 바꾸었는지 당사자가 묻고 다툴 수 없는 변경은 정당화되지 않는다.
Official documents referred to 대한민국헌법 제103조 ↗ · Council of Europe Framework Convention on AI: official overview ↗ · Judiciary of England and Wales: Position statement on the judicial use of AI ↗
Chapter 8서술이 없어도 책임은 남는다: 안정된 기대의 근거
법적 안정성과 정당한 기대
인간의 형성적 판결문 서술 의무를 사법의 본질로 보는 명제를 기각하고, 규율의 중심을 문체나 서술 형식이 아닌 인간 감독 능력의 실효성과 판단 책임의 명료화에 두어야 한다. 이는 헌법상 재판 독립과 인간 감독 규범이 요구하는 검토·시정·거부 능력을 서술 형식의 본질성으로 부당하게 승격하지 않고 구별할 때 성립한다.
8.1형성적 서술 본질론 기각과 책임 중심
형성적 판결문 작성 의무를 인간 사법의 본질로 규정하는 규범 명제는 기각되어야 한다. 관측 대상에서는 서술적 판결문 의무가 존재하지만 그것이 판단 서술을 보장하는 근거로 연결되지는 않는다. 동일한 관측에서 서술 없는 판단이 정당화되는 사례가 성립하기 때문이다. 이 편의 중심 명제는 형성적 서술 의무가 본질 요건이 아니라 제도적 선택이며, 규율의 중심을 서술 형식이 아니라 감독 능력의 실효성과 판단 책임의 명료화에 두어야 한다는 것이다. 법적 안정성과 정당한 기대는 특정 문체에 걸려 있지 않다. 이 물음이 해결되지 않으면 인공지능 시대의 사법은 형식의 수호에 매달린 채 정작 누가 무엇을 책임지는지 묻지 못하게 된다.
8.2절차·감독 규범과 서술 형식의 구별
명제가 성립하는 전제는 관측과 승격의 구별이다. 「대한민국헌법 제103조」의 구체적 조문 범위는 확인되지 않은 사실이나, 재판의 독립과 공정한 재판을 받을 권리는 관측된 헌법 규칙에서 확인된다. 두 규칙은 절차적·조직적 질서를 보호하는 것이지 판결문의 형식적 요건을 본질적으로 요구하는 규범은 아니다. 「인공지능에 관한 프레임워크 협약」이 인권과 법치의 틀을 제시하고 「영국 사법부의 인공지능 사용에 관한 입장문」이 이용 원칙을 규율하는 점은 확인된다. EU AI Act 제14조 등 고위험 체계에 대한 인간 감독 의무를 다룬 규범이 인간의 검토와 시정, 거부 능력을 요구하는 점도 확인된다. 그러나 인간의 서술 형식 요구와 감독 책임은 서로 다른 규범이다. 서술 형식이 본질 요건이라면 관측 규칙에서 그 도출 경로가 확인되어야 하나 확인되지 않는다. 다만 도출의 결여 자체가 서술 규범의 실체적 부정을 뜻하지는 않는다. 다중 규범 질서에서는 하나의 목적에 종속된 요구가 다른 규범으로 확장되지 않는다. 개별 판결의 불복과 재심사의 요건은 IV-10에 맡기고 이 편은 기대의 근거가 형식에 있는지 책임에 있는지 묻는다.
8.3반론: 서술 형식의 투명성 보장 기능
최강 반론은 형성적 서술 의무가 재판의 투명성과 당사자의 이해 가능성을 실질적으로 보장하며 서술 없는 판단은 정당성을 잃는다는 것이다. 서술 형식이 기여할 수 있다는 점과 그 제도적 기능, 규범적 기대는 인정한다. 그러나 기여 가능성과 본질 요건 확정은 서로 다른 명제다. 사례 규칙에서 인간 감독은 시스템 판단을 검토하고 시정하며 거부하는 능력으로 규정되고, 그 책임은 감독 능력의 실효성에 걸린다. 감독 능력의 실효성은 사고 서술 형식과 논리적으로 독립적이다. 그러므로 서술하지 않고도 감독과 책임이 성립하는 사례는 규칙 문언에서 확인된다. 따라서 서술 형식 없는 판단도 규범적으로 정당화될 수 있고, 투명성은 다른 규율 수단으로도 확보될 수 있다. 인공지능이 설명에 대한 접근을 넓힌다는 희망도 서술 형식의 승격이 아니라 책임 소재의 명료화에서 나온다.
8.4서술 본질론 기각을 포기할 조건
이 기각 논증은 관측 규칙에서 형성적 서술 의무가 본질 요건으로 확인되거나 서술 없는 감독과 책임이 규범적으로 불가능하다는 관측이 성립하면 포기한다. 소스 풀 밖의 규범에서 서술의 본질성이 확정적으로 확인되면 재검토 대상이 된다. 그러나 확인 전에는 조건부로 유지되며 확정된 실체로 확장되지 않는다. 대안은 새로운 본질 요건의 창설이 아니라 관측 규칙이 이미 요구한 감독 능력의 실효성과 책임 귀속을 규율 형식으로 옮기는 것이다. 기각과 대안을 구별할 때에만 안정된 기대는 형식이 아니라 책임에 안착한다.
Official documents referred to 대한민국헌법 제103조 ↗ · Council of Europe Framework Convention on AI: official overview ↗ · Judiciary of England and Wales: Position statement on the judicial use of AI ↗
Chapter 9모두 다시 열지 않고 놓치지 않는다: 영향받은 사건의 재점검
영향받는 사건의 재점검 범위
결함 발견 시 모든 사건을 다시 열거나 종결 사건의 조사를 일괄 금지하지 말고, 사용 목록에서 출발해 기능 호출·자료 연결·판단 반영 경로를 따라 재점검 대상을 좁혀야 한다. 이는 사건의 진행·종결 단계를 구별해 교차 점검표를 적용하고 기록이 불분명한 사건은 미확인으로 분류해 당사자에게 통지·보완 경로를 열 때 성립한다.
9.1호출·연결·판단 경로를 따른 대상 축소
결함이 발견되었다고 모든 사건을 자동으로 다시 여는 일도, 끝난 사건이라는 이유로 영향 조사까지 금지하는 일도 모두 잘못이다. 문제가 있는 버전을 쓴 모든 사건이 같은 영향을 받은 것은 아니며, 버전 기록이 빠진 사건이 실제 영향을 받았을 가능성도 남는다. 이 편의 중심 명제는 사용 목록에서 출발하되 기능 호출과 자료 연결, 판단에서의 사용을 따라 영향 범위를 좁히라는 것이다. 연결이 불분명한 사건은 영향 없음으로 지우지 말고 미확인으로 둔다. 결함 유형과 사건 단계를 교차하여 필요한 확인을 정하되, 그 표가 완전한 영향 집합을 보증한다고 말하지 않는다. 이 물음이 해결되지 않으면 실제로 해를 입은 사람은 구제받지 못하고 해가 없는 사건의 당사자는 불안에 떨게 된다.
9.2의존 경로 추적과 사건 단계별 구별
성립 조건은 의존 추적과 단계 구별이다. 어떤 기능이 호출되었는지, 어떤 자료와 연결되었는지, 그 출력이 판단의 어느 부분에 쓰였는지가 남아야 한다. 진행 중인 사건과 종결된 사건은 다르게 다룬다. 진행 중인 사건에서는 바뀐 근거에 대한 반박 기회를 묻고, 종결된 사건에서는 확정성과 구제의 조건이라는 별도 법적 문제를 묻는다. 결함 유형과 사건 단계를 교차한 점검표에 따라 문제 기능을 실제로 호출해 판단 근거로 삼은 사건부터 우선 추린다. 기록이 일부 빠진 사건은 별도 확인 대상으로 분류한다. 당사자와 대리인에게는 자신의 사건이 어느 점검 범주에 속하는지 통지하고 누락된 연결 자료의 보완을 요구할 경로를 열어 둔다. 개별 판결의 불복과 재심사의 실체 요건은 IV-10에 맡기고 이 편은 누구를 다시 볼 것인지 찾는 방법에 집중한다. 인공지능이 빠른 피해 파악과 회복을 돕는다는 희망은 이 좁히기가 정확할 때에만 실현된다.
9.3반론: 선별 지연과 전수 재검사 요구
최강 반론은 좁히기에 들이는 시간과 자원이 구제를 늦추고, 기록이 불완전한 사건을 미확인으로 남기면 불확실성만 키운다는 것이다. 전수 재검사가 공정해 보인다는 주장도 있다. 답은 전수 재검사가 공정하지 않다는 점이다. 문제 기능이 호출되지 않았거나 출력이 판단에 쓰이지 않은 사건까지 다시 열면 당사자의 확정된 기대가 흔들린다. 반대로 연결이 불분명하다고 영향 없음으로 처리하면 실제 피해가 지워진다. 기록 누락의 범위를 함께 보고하고 미확인을 미확인으로 남기는 것은 불확실성을 키우는 일이 아니라 정직하게 관리하는 일이다. 공공 법률 지원과 이의를 제기할 수 있는 자원 배분이 뒷받침될 때에만 좁히기는 특권의 절차가 되지 않는다.
9.4재점검 범위 축소 설계의 기각 조건
모든 사건의 기능 호출과 판단 반영 경로가 실시간으로 완전하게 기록되어 별도의 단계적 좁히기 없이도 대상이 즉시 특정된다면 이 명제가 요구하는 절차를 축소한다. 반대로 기록 누락이 큰데도 점검 목록을 완전한 대상 목록으로 공표하거나, 연결 미확인 사건을 일괄적으로 영향 없음으로 지워 버린다면 이 재점검 설계는 기각된다. 또한 자동 분류만으로 재점검 대상에서 배제된 당사자가 그 분류에 이의를 제기할 통로가 없다면 그 좁히기 역시 정당화되지 않는다. 이러한 경계가 지켜질 때 재점검은 모두 다시 여는 남용도 모두 덮는 방기도 피한다.
Chapter 10모으는 숙의가 아니라 다투는 숙의: 인공지능이 돕는 시민 참여
시민 참여와 AI가 돕는 공적 숙의
인공지능을 활용한 시민 숙의 지원은 단순 의견 집계의 속도가 아니라, 당사자와 시민이 판단 이유에 접근하고 반박할 능력을 넓힐 때에만 사법의 공적 숙의로 정당화된다. 이는 참여 주체와 기초 자료, 소수 의견과 예외의 보존 방식, 원문 압축 과정을 공개하고 단순 선호 점수를 정당성의 증거로 전용하지 않을 때 성립한다.
10.1반박 능력을 넓히는 공적 숙의 지원
인공지능이 숙의를 도울 수 있다는 기대가 커지고 있다. 실제 숙의 요약의 일반적 성능은 확인되지 않은 사실이나, 많은 의견을 모아 공통 문안을 정리하는 데 인공지능을 활용하려는 시도가 있다. 그러나 모은 의견이 곧 정의나 재판의 정당성은 아니다. 이 편의 중심 명제는 인공지능의 숙의 지원이 이유에 접근하고 반박할 능력을 넓힐 때에만 사법의 공적 숙의로 정당화된다는 것이다. 집계의 속도가 아니라 다툼의 질이 기준이다. 이 물음이 해결되지 않으면 시민 참여는 듣는 시늉으로 전락하고 모델이 정리한 문장이 공적 이유인 것처럼 굳어진다.
10.2원문 조건 보존과 압축 과정의 공개
성립 조건은 참여와 영향의 연결이다. 누가 어떤 자료로 어떤 질문에 답했는지, 소수 의견과 예외가 어떻게 보존되었는지, 정리 과정이 원문을 어떻게 압축했는지가 공개되어야 한다. Tessler 등의 연구 초록이 보여주는 공동 입장문에 대한 참가자의 선호는 정의나 재판의 정당성을 측정한 결과가 아니다. 이 가능성을 사법에 가져오는 연결 논증 자체가 연구 대상이다. 따라서 선호 점수를 정당성의 증거로 전용하지 않는다. 인공지능을 이용하지 않는 선택이나 인공지능의 판단에 반대하는 사람의 권리도 같은 설계에 포함된다. 저렴한 법률 지원과 접근 가능한 설명이 당사자에게 도달하려면 설명의 출처와 한계도 함께 주어져야 한다. 시험에서 정식 도입으로의 전환 방법은 IV-14에 맡기고 이 편은 숙의의 질을 묻는다.
10.3반론: 반박 중심 설계의 속도·규모 한계
최강 반론은 반박 중심 설계가 속도와 규모를 희생시켜 정작 많은 시민의 목소리를 듣지 못하게 한다는 것이다. 포용을 위해서는 매끄러운 요약과 빠른 합의가 필요하다는 주장이다. 답은 포용과 정당화를 구별하는 것이다. 많이 듣는 일은 필요하나, 듣고 나서 무엇을 이유로 채택했는지를 다툴 수 있어야 한다. 반대 의견과 책임의 귀속을 남기는 기능별 위임이 대안이다. 인간의 승인 표시만 남고 변경 능력은 없다면 숙의 지원이 아니라 자동 분류다. 유예로 확보한 시간을 공공 전문성과 당사자의 반박 능력을 키우는 데 쓰지 않는다면 단지 시간을 소비한 것이라는 카테콘의 교훈이 여기에도 적용된다.
10.4숙의 지원 규율의 축소와 기각 조건
기존 공적 숙의 절차만으로 원문의 조건 보존과 당사자의 반박 기회가 이미 충분히 보장됨이 확인되면 이 명제의 추가 규율 요구를 축소한다. 같은 원천의 설명을 독립 증거로 집계했음이 드러나면 집계 결과의 우위를 철회한다. 자동 분류로 본안의 다툼 기회를 잃고도 이의를 제기할 수 없다면 그 숙의 지원 설계는 기각한다. 반대로 조건 보존이 확인되고 이의 경로가 작동하면 숙의 지원의 확대를 막지 않는다. 지식의 진보를 규범에 반영하는 속도와 공개 심의의 절차는 다음 편과 마지막 편에 맡기고 이 편은 시민이 다툴 수 있는 숙의의 조건에 머문다.
Chapter 11빨리도 늦게도 아닌 만큼: 지식을 규범에 옮기는 속도
지식의 진보를 규범에 반영하는 속도
새로운 지식을 규범에 옮기는 속도는 일률적으로 정할 수 없으며, 당사자의 권리 효과와 침해의 가역성 및 검증 가능성에 따라 차등화해야 한다. 이를 위해 새 지식이 바꾸는 규범 전제와 권리 효과, 회복 가능성과 검증 방법을 공개하고 유예 기간 동안 독립 검증과 당사자의 반박 능력을 실질적으로 확보해야 한다.
11.1권리 효과와 가역성에 따른 속도 차등
새로운 지식이 나왔다고 법이 즉시 바뀌어야 하는 것은 아니며, 법이 안정되어야 한다고 해서 지식을 외면해도 되는 것은 아니다. 증거 방법과 위험 이해, 치료와 복구 가능성이 바뀌면 규범은 응답해야 하나 그 응답의 속도는 일률적일 수 없다. 이 편의 중심 명제는 반영 속도를 권리 효과와 가역성, 검증 가능성에 따라 차등화하라는 것이다. 되돌리기 어려운 침해에 앞선 숙고와 중지, 회복의 시간을 확보하는 공적 기능이 속도 설계의 중심이다. 이 물음이 해결되지 않으면 성급한 반영은 무고한 사람에게 책임을 지우고 늦은 반영은 막을 수 있는 피해를 키운다.
11.2전제 변화와 검증 방법 등 이유 공개
성립 조건은 속도를 정하는 이유의 공개다. 어떤 지식이 어떤 규범의 어느 전제를 바꾸는지, 그 변경이 누구의 권리 효과를 어떻게 바꾸는지, 되돌릴 수 있는지와 어떻게 검증할지를 밝힌다. 발전 추세의 측정은 IV-01에, 실제 도입 실험의 승인과 전환은 IV-14에 맡기고 이 편은 측정 결과를 규범에 옮기는 결정에 집중한다. 국제 AI 안전 보고서를 비롯한 기술 관측을 읽을 때처럼 능력과 배치 조건을 나누어 읽는 태도가 필요하다. 뛰어난 능력이 곧 해로운 의도나 무제한 권한을 뜻하지 않는다. 실제 통제 수단이 소멸한 상황은 법만으로 해결했다고 선언할 수 없는 경계로 남긴다. 악의적 악용과 자율 시스템의 통제 실패, 평범한 제도적 의존을 구분하듯 지식 반영에서도 근거의 종류와 대응을 구분한다. 인공지능이 놓친 증거를 찾고 회복을 빠르게 한다는 희망도 반영 속도가 차등화될 때에만 남용되지 않는다.
11.3반론: 차등화로 인한 적응 지연 피해
최강 반론은 차등이 곧 지연이며 지연되는 동안 피해가 쌓인다는 것이다. 모든 변경을 공적 절차로 묶으면 오류 수정과 적응이 기술 변화보다 늘 늦어진다는 지적은 여기서 가장 아프다. 답은 유예에 조건을 두는 것이다. 독립 검증과 대체 수단, 피해 회복과 공공 전문성, 당사자의 반박 능력이 자라지 않는 유예는 정당화되지 않는다. 어떤 능력이 확보되어야 다음 단계로 이동할 수 있는지를 명시하면 미래의 선의를 기대하는 문장을 피할 수 있다. 중지를 검토할 권한과 중지를 끝낼 권한을 함께 설계하되 둘의 위험 문턱을 반드시 같게 두지는 않는다. 재심사를 받을 수 있다는 것과 재개할 권리가 이미 있다는 것도 구별한다.
11.4속도 차등화 설계의 축소·기각 조건
새로운 지식의 반영이 당사자의 권리 효과나 침해의 가역성을 바꾸지 않거나, 기존 개정 절차만으로 검증과 다툼이 충분함이 확인되면 이 명제의 추가 차등 절차를 축소한다. 반대로 유예로 확보한 시간 동안 독립 검증과 피해 회복, 당사자의 반박 능력이 자라지 않아 단지 시간만 소비했다면 이 속도 설계는 기각한다. 유예가 무기한 통제와 성급한 해제의 명분이 된 경우도 마찬가지다. 모델 변경이 공개 절차 없이 법적 기준을 바꾸는 일이 확인되면 속도 논쟁 이전에 권한의 문제로 다루어야 한다. 빠름과 늦음 자체가 가치가 아니라 무엇을 위해, 누구의 다툼을 보장하며 기다리는지가 가치다.
Chapter 12고쳐지는 법을 고치는 법: 공진화를 위한 자기수정 절차
공진화하는 법의 자기수정 절차
모델 갱신이 법 변경을 은폐하지 못하고 기술과 규범이 공진화하도록, 관찰·수정·공개 심의·규범 변경·영향 점검의 다섯 단계를 구분하는 사법 학습 순환을 자기수정 절차로 제도화해야 한다. 이 절차는 변경 권한의 정당화와 독립된 반박, 중지 개시와 해제의 차등 설계, 피해 회복과 단계별 책임 귀속이 함께 작동할 때 성립한다.
12.1사법 학습 순환의 자기수정 절차화
법은 바뀌는 것으로 끝나지 않고 바뀌는 방식을 고칠 수 있어야 한다. 모델 갱신이 법의 변경을 은폐하지 않도록 하려면 일회성 규칙이 아니라 순환을 관리하는 절차가 필요하다. 이 편의 중심 명제는 관찰과 수정, 공개 심의, 규범 변경, 영향 점검을 구분하는 사법 학습 순환을 법 절차로 제도화하라는 것이다. 공진화의 후보는 인공지능이 능력을 넓히면서 자신이 행사하는 권한에 상응하는 통제를 받는 관계다. 이 결합이 가능하다는 결론을 미리 증명된 사실로 취급하지 않는다. 이 물음이 해결되지 않으면 법은 배우지 못하거나 배우는 대가로 정당성을 잃는다.
12.2권한 분리·반박·회복의 결합 조건
성립 조건은 권한의 정당화와 독립된 반박, 실제 개입과 피해 회복, 공개된 자기수정이 함께 작동하는 것이다. 변경된 규범 또는 도구의 내용과 권한, 적용 범위와 영향을 받는 사건을 추적하고 이의를 제기할 수 있어야 한다. 기술 갱신과 규범 변경의 권한을 분리하고 중지를 검토할 권한과 중지를 끝낼 권한을 함께 설계하되, 위험 문턱을 반드시 같게 만들지는 않는다. 「인공지능에 관한 프레임워크 협약」이 요구하는 인권과 법치의 틀이 선언에 그치지 않으려면 국내 절차의 언어로 번역되어야 한다. 시험에서 정식 도입으로의 전환은 IV-14에 맡기고 이 편은 정식 도입 이후의 자기수정에 집중한다. 공공 인프라의 운영과 예산 구조는 IV-12에 맡기고 국제적 권한 배분은 IV-15에 맡긴다. 외국판결·중재 승인 일반은 III-48에 맡기고 확인되지 않은 사실인 초지능 출현 시점의 단일 예측에는 기대지 않는다.
12.3반론: 관료적 절차 증식과 책임 분산
최강 반론은 순환의 제도화가 결국 관료적 순환의 자기증식이며 현장의 판단을 묶는다는 것이다. 모든 학습을 절차로 묶으면 적응이 늦어지고 책임은 분산된다는 우려다. 답은 순환 전체의 통제가 아니라 경계의 유지다. 관찰, 수정, 공개 심의, 규범 변경, 영향 점검의 다섯 단계마다 결정 주체와 책임의 귀속을 명시해 둔다. 그러면 절차가 스스로 증식하지 않고 어느 단계의 판단이 잘못되었는지 특정해 책임을 물을 수 있다. 독립 검증과 대체 가능성, 접근권과 이해충돌 통제가 있으면 공급자가 자료와 도구, 업데이트를 지배해도 심사는 가능하다. 인공지능이 당사자의 반박 능력을 키우고 회복을 돕는다는 희망은 이 순환이 열려 있을 때에만 당사자에게 도달한다.
12.4자기수정 절차 명제의 실패·성립 조건
이 명제는 추적과 이의가 작동하지 않음이 확인되면 유지되지 않는다. 명령은 있으나 그 명령이 도달할 통제자와 실행 수단이 없거나 같은 원천의 설명을 독립 증거로 집계하고 있다면 순환은 실패다. 모델 변경이 공개 절차 없이 법적 기준을 바꾼 사례가 확인되면 그 변경은 정비로 처리되지 않는다. 반대로 변경 요소의 분리와 영향 점검, 공개 심의와 권한 통제가 함께 작동함이 확인되면 자기수정은 공진화의 시간을 만든다. 되돌리기 어려운 침해에 앞서 숙고와 중지, 회복의 시간을 확보하는 일이 이 권 전체의 제안이며, 마지막 편의 절차는 그 시간을 반복적으로 만들어 내는 법이다.
Official documents referred to Council of Europe Framework Convention on AI: official overview ↗