Chapter 1갱신은 공개된 법을 대신하지 않는다
전환의 목표와 현행 제도의 기준선
모델과 판결 체계의 반복 갱신은 공개된 법의 변경을 대신할 수 없으며, 비공개 갱신이 사실상 법적 기준을 바꾸는 경로는 차단되어야 한다. 이는 갱신 승인 권한과 규범 변경 권한을 분리하고 동일 조건에서 전후를 비교하며, 적용 기준의 버전과 변경 요지를 기록해 당사자의 실효적 이의 경로를 보장할 때 성립한다.
1.1갱신과 규범 변경의 구별
모델과 판결 체계의 반복 학습은 공개된 법의 변경과 어떻게 다른가. 모델을 바꾸면 판단 습관이 달라질 수 있다. 그러나 그 사실이 곧 법적 기준의 변경을 뜻하지는 않는다. 이 권이 전환의 기준선으로 삼는 것은 공개된 법이며, 기준 변경에는 공개된 절차와 이유가 필요하다. 갱신과 규범 변경은 권한·절차·기록이 다르다. 이 구별이 없으면 당사자는 바뀐 기준 앞에서 다툴 대상을 잃고, 무엇이 적용되었는지 묻는 기회조차 잃는다. 이 편은 비공개 갱신이 사실상 기준을 바꾸는 경로를 닫고, 적용 기준의 버전과 이유, 변경 요지를 추적해 이의의 경로를 연다. 다만 갱신이 실제 결과에 아무런 영향을 주지 않는다는 허구적 안정도 주장하지 않는다. 이 물음이 해결되지 않으면 갱신의 편의가 공개 절차 없는 기준 변경으로 이어지고, 당사자는 비공개로 바뀐 기준에 구속된다.
1.2권한 분리와 추적 기록 조건
성립의 조건은 권한의 분리, 동일한 비교 조건, 추적을 위한 기록이다. 갱신을 승인하는 권한과 규범을 바꾸는 권한을 같은 자리에 두지 않는다. 평가 도구·과업·환경이 함께 바뀌면 갱신 전후의 비교는 무의미하므로, 동일 조건 비교와 계열 분리를 요구한다. 비교가 불가능하면 갱신의 이점을 확정하지 않고 임시 수용의 조건으로 남긴다. 임시 수용은 무조건 승인과 다르다. 회귀가 관측되면 영향 범위 확인, 대체, 결정의 순서를 밟되, 지표 하나만으로 전면 롤백을 강제하지 않는다. 명백한 회귀를 방치하는 것도 기준 변경의 무책임한 형태다. 당사자가 모델 이름을 알 필요는 없지만, 무엇이 적용되었고 왜 그 기준인지, 무엇이 달라졌는지는 이의의 대상이다. 「CEPEJ 유럽 윤리 헌장」의 투명성·감독 권고는 이 방향을 뒷받침하는 공개 자료다. 이 편의 기여는 새로운 갱신 이론이 아니라, 비공개 기준 변경을 막는 운영 규칙의 묶음이다.
1.3반론: 공개 비용과 이의 분리
최강 반론은 이렇게 말한다. 갱신을 공개하고 추적하면 보안과 상업 비밀, 운영 안정이 훼손되고, 이의가 갱신 자체를 마비시킬 수 있다. 공개·추적·이의에는 실제로 비용이 든다. 무차별 공개는 설계 실패다. 이 부담이 실재한다는 점은 인정한다. 그러나 비용이 있다는 사실이 비공개 기준 변경의 허가가 되지는 않는다. 답은 공개 범위의 차등과 이의 대상의 분리다. 기준에 영향을 주는 갱신의 최소 기록과 적용 기준에 대한 이의만을 의무화하고, 이를 갱신 정책 자체에 대한 이의와 섞지 않는다. 두 이의를 섞으면 어느 쪽도 제대로 처리되지 않는다. 분리하더라도 적용 기준에 대한 이의는 실제로 결과를 바꿀 수 있어야 실효적이다. 문제를 숨기면 당면한 혼란은 줄어드는 듯 보이지만, 오류가 드러나지 않으면 수정도 기록도 없다. 비공개 기준 변경을 신뢰의 전략으로 삼지 않는다는 것이 이 편의 태도다.
1.4설계 폐기 조건과 적용 범위
이 편의 분리는 언제 폐기되는가. 갱신이 규범 변경으로 기능하지 않거나 추적 기록이 이의에 기여하지 않으면 설계 기여를 폐기한다. 갱신이 번거롭다는 이유만으로 분리를 포기하지는 않는다. 번거로움과 무용성은 다르다. 국내에서 비공개 기준 변경이 이미 확산했다는 사실 주장도 하지 않고, 갱신 공개의 헌법적 의무를 확정하지 않으며, 모든 갱신의 전면 공개를 요구하지도 않는다. 현행 판결 이유와 불복의 해설은 다른 권이 맡고, 이 편은 전환기의 갱신 운영만 다룬다. 희망은 AI가 법률 지원과 설명을 넓히는 동시에, 당사자가 적용된 기준을 묻고 고치는 경로를 지키는 데 있다. 그 경로가 열려 있을 때 갱신은 공개된 법을 대신하지 않으면서 공개된 자기수정의 규율을 받는다.
Official documents referred to CEPEJ European Ethical Charter on AI in judicial systems ↗
Chapter 2시험의 허용과 보류는 되돌림 가능성에서 갈린다
무엇을 시험할 수 있고 무엇은 보류할 것인가
사법 전환에서 시험의 허용과 보류는 도구의 단순 성능이 아니라, 그 사용이 넓히는 능력과 남기는 권리 부담을 되돌릴 수 있는지에 따라 갈린다. 이 기준은 시험 범위의 사전 고지, 적법한 중지 명령과 복구 재원의 확보, 당사자의 참여 거부권 및 반대권이 함께 작동할 때 성립한다.
2.1되돌림 가능성에 따른 시험 구분
전환의 첫 물음은 무엇을 시험할 수 있고 무엇을 보류할 것인가다. 이 편의 중심 명제는 시험의 허용과 보류가 도구의 성능이 아니라, 그 사용이 넓히는 능력과 남기는 권리 부담을 되돌릴 수 있는지에 따라 갈린다는 것이다. 안전하게 시험할 수 있는 유익한 변화는 허용하되, 되돌릴 수 없는 권한 부여는 시험의 범위 밖에 둔다. 시험이라고 이름 붙인 모든 도입이 무해한 것은 아니다. 반대로 확인이 덜 되었다는 이유로 모든 유익한 변화를 막는 것 역시 이 권이 받아들이지 않는 지연이다. 파일럿의 편한 사건과 제한된 성과가 전체 사법의 정당성으로 확대되는 경로는 바로 시험과 도입이 구별되지 않을 때 열린다. 이 물음이 풀리지 않으면 당사자는 설명 없는 자동 분류로 본안의 기회를 잃고도 다툴 수 없다.
2.2사전 고지와 중지·불참 보장
성립의 조건은 범위의 사전 고지, 중지의 작동, 참여의 분리다. 무엇을 시험하고 무엇이 시험 밖에 있는지 미리 밝힌다. 비가역적 행위와 빠른 자원 이동은 시험 대상이 아니라 보류의 사유로 남긴다. 배치 전에 적법한 개입 경로와 복구 재원을 확보하지 않으면, 시험 중에 생긴 피해에 관해 명령을 내려도 그 명령이 도달할 통제자와 실행 수단이 없다. 당사자는 자신의 사건이 시험의 일부임을 알고 참여하지 않을 수 있어야 하며, AI를 이용하지 않는 선택과 AI의 판단에 반대할 권리를 같은 설계에 둔다. 「CEPEJ 유럽 윤리 헌장」은 투명성·감독 권고를 담은 공개 자료이며, 「UK 사법부 인공지능 사용 입장문」과 「EU AI Act 제14조」의 세부 내용은 확인되지 않은 사실이다. 다만 외국의 정책을 국내의 법적 의무로 옮기지는 않으며, 국내 전환의 문턱은 이 권이 직접 논증한다.
2.3반론: 도입 지연과 대칭 비교
최강 반론은 이러한 문턱이 도입을 지연시킨다는 지적이다. 어떤 시험도 완전히 무해하지 않은데 이 문턱을 고수하면 아무것도 시험할 수 없고, 그사이에 기존 제도의 오류와 비용은 계속된다는 것이다. 까다로운 평가 요구가 기존 문제를 그대로 두는 전략이 될 수 있다는 점을 인정한다. 답은 비교의 대칭이다. 현행 제도의 오류율과 비용, 접근의 장벽도 같은 기준으로 측정하고, 안전하게 시험할 수 있는 유익한 변화는 좁은 범위에서 허용한다. 시험의 범위가 좁다는 사실 자체를 실패로 세지 않되, 허용 조건으로 둔 중지와 복구가 실제로 작동하는지 확인한다. 중지를 검토할 권한과 중지를 끝낼 권한을 함께 설계하되, 둘의 위험 문턱을 반드시 같게 만들지는 않는다. 재심사를 받을 수 있다는 것과 재개할 권리가 이미 있다는 것은 다르다. 중지 권한 자체의 정당화는 별도의 권이 맡는 물음이다.
2.4시험 허용 설계의 폐기 조건
폐기의 조건은 명확하다. 시험이 실제 권한 부여와 분리되지 않거나, 중지 명령이 실제로 실행되지 않거나, 관찰된 결과가 도입 범위를 바꾸지 못하면 시험 허용의 설계를 버린다. 반대로 시험 결과가 범위를 실제로 줄였거나 복구가 당사자에게 도달했다면, 그 기록은 전환의 근거로 남는다. 이 편은 어느 도구의 안전성과 적법성을 확정하지 않으며, 국내 시험의 성과나 외국 사례의 국내 전이도 주장하지 않는다. 희망은 시험이 당사자의 접근과 반론의 능력을 넓히는 쪽으로만 열리고, 열리지 못한 쪽은 기록으로 남는 전환에 있다. 그 기록이 쌓일 때 확대는 허가가 아니라 검증된 선택이 된다.
Official documents referred to CEPEJ European Ethical Charter on AI in judicial systems ↗ · Judiciary of England and Wales: Position statement on the judicial use of AI ↗ · EU AI Act Article 14: Human oversight ↗
Chapter 3합성의 통과는 현장 전이의 전제와 나뉜다
합성 검증과 실제 사건 적용의 간극
합성 시험의 통과는 미리 고정된 조건에서의 기능 수행을 뜻할 뿐, 실제 사건의 자료 가용성과 당사자 반응까지 자동으로 정당화하지는 않는다. 현장 전이는 시험 전제와 도입 후 변하는 행위·관찰 조건을 대응표로 연결해 사용 경계를 정하고, 전제가 달라질 때 수정 책임을 작동시킬 때만 성립한다.
3.1합성 통과와 현장 전이의 분리
합성 시험의 통과는 무엇을 확인하는가. 합성 사건에서는 작성자가 필요한 사실과 정답, 자료를 얻는 경로를 미리 정할 수 있다. 이 조건에서의 성과는 유용하다. 그러나 실제 사건에서도 같은 사실을 알 수 있고 같은 자료를 얻으며 상대방이 같은 방식으로 대응한다는 결론은 따로 정당화해야 한다. 중심 명제는 시험에서 고정한 조건과 도입으로 변하는 행위·관찰 조건을 대응시켜 검증 결과가 지지하는 사용의 경계를 정하고, 변경 근거에 따라 이를 다시 검토한다는 것이다. 이 편은 시험의 가치를 낮추지 않는다. 통과한 과제의 내용과 현장에 옮길 때 추가되는 전제를 분리해 과도한 전이를 막는다. 합성 정답의 완결성을 실제 사건의 자료·반응·정답 가용성으로 오인하면, 확대의 근거가 되지 못할 시험이 정당성의 출처가 된다. 이 물음이 풀리지 않으면 당사자는 검증되지 않은 전제 아래에서 판정을 받는다.
3.2전제 대응표와 수정 책임
성립의 조건은 대응표와 수정의 책임이다. 검증 보고서는 통과한 기능의 이름만 나열하기보다, 그 결과로 어떤 사용을 정당화하려는지 먼저 밝힌다. 각 주장에 시험 자료와 관찰 결과, 고정한 전제, 예정된 사용에서 달라지는 조건을 대응시킨다. 원문 규범은 별도의 근거로 연결하되 시험 결과와 같은 종류의 증거로 섞지 않는다. 이 대응을 기록하는 방법으로 자료·주장 대응표를 쓰되, 이 편은 대한민국 전환기 사법 지원의 개별 절차 규범과 실제 시험 자료를 대조한 보고서가 아니다. 사용 자체가 시험의 전제를 바꿀 수 있다. 도입 후 상대방이 자료의 형식이나 제출 시점을 바꿀 수 있다면, 정답률이 그대로여도 새로운 대응 아래의 구제 가능성은 확인되지 않았다. 이는 당사자가 언제나 전략적으로 행동한다는 주장이 아니다. 행위 변화가 없는 시험만으로 도입 이후의 상호작용까지 입증할 수 없다는 한정된 논증이다. 대응표의 빈칸은 실패의 목록이 아니라 아직 확인하지 못한 것을 드러내는 장치다.
3.3반론: 완전 검증 불가와 가설 한정
관찰만으로는 간극이 해소되지 않는다. 도구의 제안을 실제 판단에 반영하지 않고 관찰하는 방식은 현장에서 무엇을 놓치는지 보여 준다. 그러나 당사자가 제안에 반응하지 않았다면 사용 이후의 행동 변화는 아직 관찰되지 않았다. 반대로 제안을 알려 주는 순간 행위가 달라진다면 이미 다른 평가 조건이다. 누가 무엇을 알고 어떤 행동을 바꿀 수 있었는지를 기록해야 한다. 최강 반론은 실제 사용의 효과를 미리 모두 검증하라는 요구가 어떤 도입도 불가능하게 만든다는 것이다. 사용으로 생기는 상호작용을 사전에 완전히 재현하기 어렵다는 점은 인정한다. 답은 완전 검증 대신 한정된 가설과 추가 확인, 중단과 수정의 조건을 명시하는 것이다. L-KAT는 유예의 기간 자체보다 재검토할 이유와 복귀 조건을 묻는 렌즈다. 이는 실제 제한 운영이 안전하다는 성과 주장이 아니라, 불확실성을 책임 있는 판단 과제로 남기는 방법이다. 실제 사건에서 결론이 미확정이거나 결과가 늦게 드러나면, 편의상 부여한 정답을 실제 법적 정답으로 보지 않는다.
3.4사용 경계 기록과 우월성 철회
새로운 현장 정보가 과거 시험의 모든 결과를 폐기하게 하지는 않는다. 당시 고정된 조건에서 기능이 수행되었다는 사실은 남는다. 다만 현장 사용의 전제가 깨졌다면 그 주장의 범위를 줄이거나 추가 확인을 해야 한다. 기록할 것은 성공과 실패라는 이름만이 아니라, 근거가 지지하는 사용의 경계다. 수정 책임과 다음 확인의 담당자가 없으면 대응표는 공백만 적는 문서에 그친다. 이 편의 산출물은 합성 검증을 실제 적용의 주장으로 옮길 때 필요한 대응표와 확인 순서다. 이 권의 문헌 풀은 방법과 규범을 찾는 출발점이며 실제 사건의 성과 자료가 아니다. 기존 검증 절차가 같은 전제 대응과 수정 책임을 이미 충분히 수행하면 별도 방법의 우월성 주장을 철회한다. 희망은 AI가 놓친 증거와 반론을 발견할 가능성을 넓히되, 그 능력이 현장의 조건에서 확인될 때만 도입 범위로 이어지는 데 있다.
Chapter 4참여는 절차의 장식이 아니라 판단의 조건이다
당사자 참여와 연구 윤리
당사자가 실험 대상으로만 소모되는 시험은 사법적 정당성을 만들지 못하며, 참여는 절차의 장식이 아니라 판단이 성립하기 위한 조건이다. 이는 기본 사건 처리와 시험 참여를 분리해 불참·철회 시의 불이익을 막고, 당사자의 자발적 참여와 반론이 실제 판정 결과를 바꿀 수 있을 때 성립한다.
4.1판단 정당성 조건으로서의 참여
전환의 시험에 당사자가 참여하는 조건은 연구 윤리의 장식이 아니라 판단의 정당성 조건이다. 이 편의 중심 명제는 당사자가 실험의 대상으로만 남는 시험은 사법의 근거를 만들지 못하며, 참여의 자발성과 철회, 반론의 경로가 결과를 실제로 바꿀 때만 전환의 증거가 된다는 것이다. 전환의 성과가 아무리 좋아 보여도, 그 성과를 만드는 과정에서 당사자의 권리가 소모되었다면 확대의 근거는 되지 못한다. 반대로 참여의 형식만 늘어나고 실질이 없어도 같은 문제가 생긴다. 이 물음이 해결되지 않으면 당사자는 자신을 대상으로 한 시험의 결과로 불리한 판정을 받고도 이의를 제기할 자리를 찾지 못한다. 사법의 구제가 남아 있어야 할 자리는 바로 그 자리다.
4.2사건 처리와 시험 참여의 분리
성립의 조건은 참여와 처리의 분리다. 사건 처리가 기본이고, 시험에 참여하는 경우에만 추가 보호를 둔다. 참여는 자발적이어야 하며 철회할 수 있어야 한다. 참여 거부와 중도 철회가 사건 처리의 불이익으로 이어지지 않도록 하는 보호 장치를 같은 설계에 포함한다. 시험 결과가 당사자에게 불리하게 작용하지 않도록 시험과 실무의 범위를 나누고, 실제 사건 자료의 이용 권한과 보호 조건을 별도로 확인한다. 「Tessler 등의 연구 초록」은 AI가 숙의를 도울 가능성을 다룬다. 그러나 공동 입장문에 대한 참가자의 선호는 정의나 재판의 정당성을 측정한 결과가 아니다. 이 가능성을 사법에 가져오는 연결 논증 자체가 연구 대상이며, 참가자의 만족을 재판의 정당성으로 읽지 않는다.
4.3반론: 구제 지연과 부담의 대칭
최강 반론은 속도와 형식의 문제를 지적한다. 사법은 연구가 아니라 사건 처리이며, 연구 윤리의 형식이 신속한 구제를 지연시킨다는 것이다. 참여에 선택지를 주면 전략적 선택만 늘어난다는 우려도 있다. 인정할 부분이 있다. 형식적인 동의와 긴 설명이 실제 이해를 보장하지는 않으며, 절차의 부담은 약한 쪽에 먼저 돌아간다. 그러나 이 반론이 입증하는 것은 절차를 줄여야 한다는 결론이 아니라, 어떤 절차가 실제 능력이 되는지 구분해야 한다는 것이다. 답은 부담의 대칭이다. 참여의 형식을 줄이되, 반론이 결과를 바꾸는 경로와 철회가 실제 효력을 갖는 조건을 남긴다. 시험에 참여하지 않아도 사건 처리의 질이 떨어지지 않아야 한다. 그 분리가 없으면 시험은 당사자의 불가피한 참여를 근거로 삼아 자신의 정당성을 만든다.
4.4형식적 참여의 폐기와 권리구제
폐기의 조건은 형식과 실효의 분기점에서 정해진다. 참여 조건이 문서에만 남고 실제 이의와 철회가 결과를 바꾸지 않으면 그 설계를 폐기한다. 반대로 반론이 판정을 바꾸었거나 철회가 실제로 존중된 기록이 있다면 그 조건은 전환의 근거로 남는다. 이 편은 AI의 권리와 지위 문제를 지능·자율성·의식·이익·법적 인격으로 구별해 다루는 논의를 대신하지 않는다. 현재 인간의 권리구제를 보류할 근거로 AI의 지위 논의를 쓰지 않으며, AI의 이해가 존재할 가능성을 지능의 종류만으로 미리 닫지도 않는다. 그 자리는 별도의 물음으로 남긴다. 희망은 AI로 당사자가 더 저렴한 법률 지원과 접근 가능한 설명을 얻는 동시에, 그 이용 여부를 스스로 정하고 반대할 수 있는 능력에 있다. 이 능력이 확인되지 않으면 전환의 성과는 당사자에게 도달하지 못한다.
Chapter 5정확도 하나로 전환을 비교하지 않는다
정확도·접근·비용·독립성의 비교
사법 전환의 정당성은 정확도라는 단일 지표만으로 입증되지 않으며, 권리 보장·접근·비용·독립성·회복 가능성의 충돌을 함께 드러내야 한다. 이러한 다기준 비교는 확대 전에 측정 설계와 실패·복구 기준을 미리 고정하고, 현행 제도의 오류와 비용도 동일한 기준 위에 놓고 대조할 때 성립한다.
5.1단일 정확도 비교의 한계
정확도가 높아진 것은 전환의 근거 중 하나일 뿐이다. 이 편의 중심 명제는 사법 전환의 비교가 정확도의 단일 지표가 아니라 권리 보장·접근·비용·독립성·회복 가능성의 충돌을 함께 드러낼 때만 성립한다는 것이다. 하나의 지표로 전환을 정당화하면, 그 지표가 보지 못하는 손실이 도입의 비용으로 굳어진다. 반대로 모든 가치를 한 번에 충족하라고 요구하면 어떤 전환도 허용되지 않는다. 따라서 무엇을 어떻게 비교할지 미리 고정한다. 현행 제도가 이미 낳고 있는 오류와 비용도 같은 기준 위에 놓는다. 이 물음이 해결되지 않으면 정확도 상승이라는 이름 아래 접근이 좁아지고 독립성이 약해지는 전환이 확대된다.
5.2측정 사전 고정과 현행 비교
성립의 조건은 측정 설계의 사전 고정과 현행 제도의 동일 기준 비교다. 측정할 것과 측정되지 않는 것을 먼저 정하고, 관측 단위와 분모, 오류 조건을 적는다. 자료가 없으면 획득 수요로 표시하고, 지표의 설계를 성과 측정의 결과로 바꾸지 않는다. 현행 제도의 오류와 비용, 지연과 접근의 장벽도 같은 기준으로 비교한다. 안전하게 시험할 수 있는 유익한 변화는 허용한다는 원칙이 여기서 작동한다. 비교 결과는 확대의 자동 근거가 아니라, 어느 조건에서 범위를 넓히거나 줄일지 판단하는 재료다. 관찰된 결과가 실제 도입 범위를 바꿀 때 비로소 비교는 실효를 얻는다. 「국제 AI 안전 보고서」와 「METR의 기술 과업 평가」는 발전을 관측할 출발점이지, 법정에서의 정확성이나 도입 효과의 측정 결과가 아니다. 발전 추세의 측정 자체는 앞의 권이 맡는다.
5.3반론: 결정 지연과 충돌 기록
최강 반론은 다기준 비교의 무한 회귀를 지적한다. 기준이 많을수록 결정이 늦어지고, 늦어지는 동안 기존 제도의 피해가 계속된다는 것이다. 어느 정도 사실이다. 그러나 단일 지표에 따른 서두름과 다기준 비교의 지연 사이에는 사전 고정이라는 중간 지점이 있다. 비교 기준과 충돌을 조정하는 방식을 확대 전에 정하고, 사후에 유리한 기준만 골라 쓰지 않는다. 정확도·접근·비용·독립성이 서로 충돌하면 어느 하나를 희생하더라도 그로 인해 남는 손실을 기록한다. 이 기록이 없으면 충돌은 조정된 것이 아니라 덮인 것이다. 확대 전에 비교 조건과 실패·복구 기준을 정한다는 성립 조건이 이 반론에 대한 답이다.
5.4비교 대칭 훼손 시의 폐기
폐기의 조건은 비교의 대칭이 깨질 때 성립한다. 비교 기준이 사후에 맞추어지거나 현행 제도를 같은 기준에서 예외로 두면, 그 비교는 전환의 근거로 쓸 수 없다. 반대로 같은 기준의 비교가 현행 제도의 오류를 드러냈고 그 결과가 도입 범위를 실제로 바꾸었다면, 그 기록은 남는다. 이 편은 특정 도구의 우월성을 주장하지 않으며, 아직 수행되지 않은 측정의 결과를 미리 적지 않는다. 자료가 비어 있다는 사실 자체를 결론으로 삼지도 않는다. 마찬가지로 공급자의 이해충돌 통제처럼 독립성의 기준을 빼놓은 채 정확도만 내세운 비교도 전환의 근거로 삼지 않는다. 희망은 AI로 당사자가 더 저렴한 법률 지원과 접근 가능한 설명을 얻는 능력에 있으며, 그 능력은 비용과 독립성을 함께 확인할 때만 전환의 이익이 된다.
Chapter 6평균의 개선이 남기는 손실은 예외에서 드러난다
취약 집단과 예외 사건의 손실
전체 평균의 개선이 취약 집단과 예외 사건의 손실을 가린다면 사법 전환의 정당성은 성립하지 않는다. 평균의 착시를 막으려면 비교의 분모와 예외 사건을 미리 정의해 손실 원인을 구분해 기록하고, 확인된 손실 구간에서 확대를 늦추거나 복구 기준과 공공 지원을 작동시켜야 한다.
6.1평균 뒤에 가려진 예외 손실
전체의 평균이 좋아져도 취약 집단과 예외 사건의 손실이 남으면 전환의 정당성은 성립하지 않는다. 이 편의 중심 명제는 파일럿의 편한 사건과 제한된 성과가 전체 사법의 정당성으로 확대되지 않도록 손실의 분포를 확인하고, 확인된 손실 앞에서 확대를 늦추거나 되돌리는 조건을 남긴다는 것이다. 평균은 어디에서 탈락이 생겼는지를 숨긴다. 자동 분류로 본안의 기회를 잃은 당사자는 통과율의 분모에 남지 않을 수 있다. 사건이 어려운 탓인지 도구가 실패한 탓인지 뒤섞이면, 손실은 오류로 기록되지 않는다. 이 물음이 해결되지 않으면 가장 약한 당사자가 전환의 비용을 먼저 치르고, 그 손실은 평균 수치 뒤로 가려진다.
6.2분모 정의와 예외 원인 식별
성립의 조건은 분모의 정의와 예외의 식별이다. 어느 집단이 비교의 분모에 들어가는지, 어떤 사건이 예외로 남는지 미리 밝힌다. 자료를 얻지 못한 것인지, 판단의 결론이 늦게 드러난 것인지, 도구가 대응하지 못한 것인지 구분해 기록한다. 취약 집단을 사전에 모두 열거하지 못하더라도, 손실이 확인된 범위에서 실패·복구 기준을 작동시킨다. 이용하지 않을 권리와 반대할 권리를 행사한 당사자에게 불이익이 생기지 않아야 한다. 공공 법률 지원과 이의 가능한 자원 배분이 함께 이루어지지 않으면, 주장 생성의 속도 격차는 실질적 청문의 격차가 된다. 「UK 사법부 인공지능 사용 입장문」의 구체적 책임 문안은 확인되지 않은 사실이나, 사용자가 결과를 책임진다는 선언만으로는 이 물음에 닿지 않는다.
6.3반론: 보호 비용과 대응 우선순위
최강 반론은 예외 보호의 무한성을 지적한다. 모든 예외를 사전에 보호하라는 요구는 어떤 제도 설계도 불가능하게 만들고, 취약 집단의 보호는 전환 평가가 아니라 별도 예산의 문제라는 것이다. 인정할 부분이 있다. 예외를 모두 사전에 열거할 수 없고, 보호의 비용은 실재한다. 그러나 이 반론이 정당화하는 것은 손실에 대한 무관심이 아니라 손실 대응의 우선순위다. 확인된 손실이 있는 범위에서 확대를 늦추고, 되돌릴 수 없는 피해는 시험 밖에 둔다. 이때 예외 사건의 손실이 악의적인 행위자의 악용, 자율 시스템의 통제 실패, 편리한 도구에 대한 평범한 제도적 의존 중 어디에서 비롯되었는지도 구분한다. 이 경로들은 서로 다른 근거와 복구 대책을 요구하며 하나의 평균 지표로 덮이지 않는다.
6.4하위 집단 손실 무시의 폐기
폐기의 조건은 손실의 무게에서 정해진다. 하위 집단의 손실이 확인되지 않는 비교만으로 확대를 정당화하면 그 주장을 폐기한다. 반대로 예외 사건에서 확인된 손실이 수정으로 이어졌다면 그 경로는 전환의 조건으로 남는다. 이 편은 어느 집단의 손해 배분을 확정하지 않으며, 개별 사건의 책임과 현행 절차의 요건은 다른 권이 맡은 물음이다. 예외 사건에서 드러난 도구의 한계와 사건 자체의 난이도는 나누어 기록한다. 희망은 AI가 놓친 증거와 반론을 발견하고 피해를 빨리 파악해 회복을 돕는 능력에 있으며, 이 능력이 취약한 당사자에게 먼저 도달할 때 전환의 희망은 실효를 얻는다. 평균이 아니라 예외에서 확인되는 개선만이 사법의 구제를 지킨다.
Official documents referred to Judiciary of England and Wales: Position statement on the judicial use of AI ↗
Chapter 7평가자가 도입자와 갈라 설 때 결과가 믿을 만해진다
독립 평가와 결과 공개
도입을 결정한 기관이 스스로 효과를 측정하면 유리한 해석만 남기 쉬우므로, 평가 결과는 평가자가 도입 주체와 갈라 설 때만 신뢰할 수 있다. 이는 비교 조건 설정·자료 접근·해석 확정 권한을 도입 주체와 분리하고, 사건 비밀을 보호하면서도 지표의 분모와 산출 기준을 차등 공개해 반박 경로를 열 때 성립한다.
7.1자기평가의 한계와 분리 필요성
도입을 결정한 기관이 그 효과를 스스로 측정하면, 좋은 수치는 확대의 근거가 되고 나쁜 수치는 측정의 한계로 흡수되기 쉽다. 이 편은 평가의 설계와 자료 접근, 해석이 도입 주체와 분리되어야 하며, 그 결과가 공개되어 다른 사람이 반박할 수 있어야 한다고 주장한다. 「Position Statement on the Judicial Use of Artificial Intelligence (AI)」의 세부 내용은 확인되지 않은 사실이나, 도입 주체의 책임이 자신이 만든 성과를 스스로 확인하는 일로 끝나면 안 된다는 점은 분명하다. 독립 평가와 결과 공개가 함께 있어야, 관측된 결과가 실제 도입 범위를 바꾸었는지 다른 사람도 확인할 수 있다.
7.2평가 권한 분리와 산출 기준 공개
독립성은 명칭이 아니라 권한의 배치로 확인한다. 누가 비교 조건을 정하고, 누구에게 자료가 열리며, 누가 해석을 확정하는지가 분리되지 않으면 외부 평가자라는 이름만으로 결과의 중립성이 보장되지 않는다. 「European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their Environment」의 투명성·감독 권고는 이 방향을 뒷받침하는 공개 자료이나, 평가 권한 분리의 세부 기준은 확인되지 않은 사실이다. 결과 공개의 범위는 사건의 비밀과 충돌할 수 있으므로 전면 공개를 전제하지 않는다. 그러나 어떤 지표가 어떤 범위에서 계산되었고 무엇이 집계에서 빠졌는지는, 확대의 근거로 쓰이는 한 공개되어야 한다. 공개된 부분과 비공개된 부분의 경계가 기록되지 않으면, 나중에 어떤 결론이 어떤 자료 위에 서 있었는지 확인할 길이 없다.
7.3반론: 보안 위협과 차등 공개
최강 반론은 외부 평가와 자료 공개가 사건의 비밀과 보안을 위협하고 검증 비용을 키워 도입 자체를 가로막는다는 것이다. 무차별적 원자료 공개가 비밀 보호와 충돌하고 외부 검증에 비용이 든다는 지적은 옳다. 답은 원자료의 전면 공개가 아니라 권한 분리와 산출 기준의 차등 공개다. 사건의 비밀과 보호 대상 자료는 가리되, 누가 어떤 분모와 제외 기준으로 지표를 계산했는지, 도입 주체로부터 독립하기 위한 조건은 무엇인지 공개한다. 요구하는 것은 모든 내부 자료의 노출이 아니라, 도입 주체가 유리한 해석만 확정하지 못하도록 검증 경로를 여는 일이다.
7.4독립성·공개 설계를 버릴 조건
이 명제는 두 경우에 버린다. 도입 주체와 분리된 평가가 이미 작동하고 그 결과가 다른 이의에서 실제로 인용되고 있다면, 별도의 독립성 설계를 더할 이유가 약해진다. 또는 공개된 항목이 당사자의 이의에 기여하지 못하고 형식적 요건만 남는다면, 공개 의무의 설계 기여는 약해진다. 다만 공개가 번거롭다는 사실만으로 분리를 포기하지는 않는다. 이 권의 성립 조건인 확대 전의 비교 조건과 실패 기준의 확정은 평가자가 누구인지, 그 결과가 누구에게 보이는지를 빼면 지켜지지 않는다.
Official documents referred to Judiciary of England and Wales: Position statement on the judicial use of AI ↗ · CEPEJ European Ethical Charter on AI in judicial systems ↗
Chapter 8실패가 기록되지 않으면 시정도 시작되지 않는다
실패의 탐지·신고·시정
제도의 실패가 기록으로 남지 않으면 어떤 시정도 시작되지 않으므로, 실패를 알고 고치는 구조가 사법 전환에 반드시 마련되어야 한다. 이는 당사자의 신고 수용과 결함 확정을 구분해 기록 문턱을 낮추고, 탐지·신고·시정 책임과 확인 기한을 분리해 문제가 묻히지 않고 재발 방지로 이어지게 할 때 성립한다.
8.1탐지·신고·시정 단계의 분리
제도가 실패를 맞이하는 방식은 그 실패를 어떻게 아는가에 달려 있다. 이 편은 당사자가 실패를 신고할 수 있고, 그 신고가 기록으로 보존되며, 확인된 문제가 시정과 재발 방지로 이어지는 경로가 있어야 한다고 주장한다. 탐지·신고·시정의 책임이 한곳에 모이면, 문제가 드러나는 순간 정리되거나 묻힐 수 있다. 그래서 세 단계를 나누어 어느 한 단계가 막혀도 다른 단계가 남게 한다. 실패를 아는 구조의 설계가 이 편의 대상이며, 무엇이 실패인지의 기준 자체가 낡는 문제는 제11편의 몫으로 남긴다.
8.2신고 기록과 시정 책임의 단절 사례
합성 사례로, 한 운영에서 당사자가 같은 오류를 반복해 신고했다고 하자. 보고서는 모두 접수되고 분류 기록도 남지만, 어느 담당자가 그 오류를 고치는지 정해져 있지 않다. 오류는 다음 갱신 때 다루어질 것으로 기대되고, 당사자에게는 접수와 설명만 돌아간다. 이 운영에는 신고 기록은 있으나 시정 책임은 없다. 반대로 시정 책임만 있고 신고가 닿는 경로가 없다면, 당사자가 겪은 실패는 기록에 오르지 않고 담당자는 알려진 오류만 고친다. 실제 운영에서 이러한 배치가 얼마나 자주 나타나는지는 확인되지 않은 사실로 남긴다. 이 반례는 어느 한쪽만으로 충분하지 않다는 뜻이다.
8.3반론: 신고 남용과 결함 확정 분리
최강 반론은 모든 신고를 제도 결함으로 인정하면 비용을 감당하기 어렵고, 신고 자체가 무기가 된다는 것이다. 신고의 남용이 실제로 가능하다는 점은 인정한다. 그러나 신고의 진실성을 먼저 확인해야만 기록이 남는 구조에서는 확인하기 어려운 실패일수록 늦게 드러난다. 답은 신고의 수용과 결함의 확정을 분리하는 데 있다. 주장이 접수되는 것과 그 주장이 목표 기능의 결함으로 인정되는 것은 다른 판단이며, 후자에는 더 무거운 확인이 따른다. 분리가 시정을 늦추지 않으려면, 시정 담당과 다음 확인의 기한이 함께 적혀야 한다. 「Position Statement on the Judicial Use of Artificial Intelligence (AI)」의 구체적 책임 규정은 확인되지 않은 사실이나, 사법상 책임은 시정할 대상이 기록에 남아 있을 때만 실효를 가진다.
8.4분리 설계를 버릴 조건
이 명제는 기존의 신고·시정 경로가 이미 같은 분리를 충분히 수행하고, 그 기록이 실제 판단을 바꾸었다는 근거가 쌓이면 약해진다. 또는 탐지·신고·시정을 분리한 기록이 실제 오류 수정과 재발 방지로 이어지지 못한다면 이 분리 설계는 폐기된다. 법률 문서의 검수 절차 자체는 I-46·II-15·II-16의 몫이며, 이 편은 그 절차를 대신하지 않는다. 이 편이 남기는 것은 실패가 도입 범위를 바꾸는 통로를 열어 두는 설계다.
Official documents referred to Judiciary of England and Wales: Position statement on the judicial use of AI ↗
Chapter 9확대는 관측된 결과에 묶인다
확대·유지·축소·철회의 조건
파일럿의 제한된 성과가 곧바로 전체 사법의 정당성이 될 수는 없으며, 도입의 확대·유지·축소·철회는 관측된 결과에 묶여야 한다. 이는 다기준 비교 조건과 실패 기준을 사전에 확정하고, 되돌릴 수 없는 권리 침해 여부에 따라 단계적 문턱을 작동시켜 실제 도입 범위를 조정할 때 성립한다.
9.1관측 결과에 묶인 도입 범위
파일럿의 성공이 전체 사법의 정당성이 되는 순간, 시험은 되돌릴 수 없는 도입이 된다. 이 편의 중심 명제는 확대·유지·축소·철회의 판단이 사전에 정한 비교 조건과 실패 기준에 묶여 있어야 하고, 관측된 결과가 실제 도입 범위를 바꾸어야 한다는 것이다. 「EU AI Act 제14조」가 정한 감독 요건의 구체적 조문 내용은 확인되지 않은 사실이나, 인간 개입의 필요성 자체는 전환 설계의 출발점이 된다. 이 편은 그 개입이 도입 시점의 승인만이 아니라 도입 이후의 범위 변경에도 작동해야 한다고 본다. 정확도 하나로 전환을 평가하지 않는다는 이 권의 논증 가설은 확대 조건에 권리 보장·접근·비용·독립성·회복 가능성의 충돌이 드러나 있어야 한다는 뜻이다.
9.2시험 범위 한정과 단계적 판단
단계적 판단은 시험과 실제 권한 부여 사이에 놓인다. 시험에서 확인한 것은 그 조건에서 성립한 범위의 주장이고, 도입으로 옮길 때 새로 생기는 전제는 별도로 확인한다. 합성 시험이나 제안된 연구를 실제 법원과 인간 대상의 검증 완료로 표시하면, 이 편은 그 성과 주장을 폐기한다. 파일럿이 편한 사건과 제한된 성과만을 다루었다면 확대의 근거는 그 범위에 한정된다. 이를 넘는 확대는 관측된 결과가 아니라 희망에 기대는 판단이다. 반대로 관측된 결과가 예상과 다르면 축소와 철회도 같은 절차로 열려 있어야 한다. 기술 능력이 앞으로 어떻게 변할지의 측정은 IV-01의 몫이며, 이 편은 관측된 결과가 범위를 바꾸는 조건만 다룬다. 이 편이 막으려는 것은 확대 자체가 아니라, 확대가 되돌릴 수 없는 상태가 되는 일이다.
9.3반론: 기준 경직성과 단계적 문턱
최강 반론은 도입 범위를 사전 기준에 엄격히 묶어 두면 예상치 못한 현장 여건에 유연하게 대응하지 못한다는 것이다. 작은 지표 미달에도 잦은 축소와 철회가 일어나 절차적 혼란을 키운다는 지적도 따른다. 경직된 문턱이 운영의 안정을 해칠 수 있다는 점은 인정한다. 답은 일률적인 전면 철회가 아니라 확대·유지·축소·철회의 단계적 문턱을 나누는 데 있다. 회복 가능한 부분 미달에는 범위 유지를 두고, 되돌릴 수 없는 권리 침해가 관측될 때 축소와 철회를 작동시킨다. 그래서 이 편은 사전 기준의 확정과 관측 후의 단계적 범위 변경을 함께 요구한다. 기준이 미리 정해지지 않으면 확대는 재량이 되고, 관측이 범위를 바꾸지 못하면 기준은 장식이 된다.
9.4단계적 판단 설계를 버릴 조건
이 명제는 두 경우에 버린다. 관측된 결과가 실제 도입 범위를 바꾸는 일이 이미 제도 안에서 충분히 작동하고 있다면, 단계적 판단의 별도 설계를 더할 이유가 약해진다. 또는 사전에 정한 실패 기준이 실제 판단에서 아무 역할을 하지 못한다면, 그 기준의 형식은 설계 기여로 남기 어렵다. 확대 조건과 철회 조건을 같은 문턱으로 만들지는 않되, 어느 쪽이든 결정의 이유가 기록되어야 한다. 제한된 성과가 전체 사법의 정당성이 되지 않게 하는 것은 바로 이 기록과 범위의 한정이며, 중단 뒤의 복구 설계는 다음 편에서 이어받는다.
Official documents referred to EU AI Act Article 14: Human oversight ↗
Chapter 10중단 뒤에도 구제의 문은 열려 있어야 한다
서비스 중단 뒤의 복구와 연속성
도구 운영이 멈추거나 철회되더라도 진행 중인 사건과 피해 회복 요청은 사라지지 않으므로, 중단 뒤에도 구제의 문은 열려 있어야 한다. 이는 배치 전에 적법한 개입 경로와 복구 재원을 확보하고, 중단 통지·대체 창구·기한 처리·판단 재확인을 포함한 연속성 계획을 위험 수준에 맞게 마련할 때 성립한다.
10.1중단 이후의 구제 연속성
서비스가 멈추거나 철회될 때, 그 순간에 걸려 있던 사건과 회복 요청은 함께 사라지지 않는다. 이 편의 중심 명제는 배치 전에 중단·복구·연속성의 경로가 정해져 있어야 하고, 중단 뒤에도 진행 중인 절차와 피해 회복 요청이 끊기지 않아야 한다는 것이다. 이 권이 밝히려는 무력화 경로 하나는 비가역적 행위와 빠른 자원 이동 앞에서 명령은 있으나 도달할 통제자와 실행 수단이 없는 상태다. 복구 설계는 그 상태가 현실이 되기 전에 마련해야 하는 장치다. 중지 권한의 정당화와 그 한계는 IV-06의 몫이며, 이 편은 중지를 정당화하지 않는다. 이 편이 다루는 것은 중단이 이미 결정된 뒤에도 구제의 문이 닫히지 않게 하는 일이다.
10.2절차 공백을 메우는 복구 계획
합성 사례를 들어 보자. 한 운영이 갱신 실패로 멈추고, 그동안 기한이 도래한 신청과 답변이 쌓인다고 가정한다. 복구 계획이 없다면 당사자는 누구에게 무엇을 요청해야 하는지 알 수 없고, 기한은 계속 지난다. 복구의 핵심은 이전 상태로 되돌리는 일이 아니라, 중단 기간의 절차적 공백을 메우고 진행 중인 사건의 담당을 다시 정하는 일이다. 중단 통지, 대체 창구, 기한의 처리, 이미 내려진 판단의 재확인이 같은 계획 안에 있어야 한다. 비가역적 행위가 이미 실행된 뒤의 복구는 중단 자체보다 어렵다. 그래서 배치 전에 적법한 개입 경로와 복구 재원을 두어야 한다. 재원의 규모나 실제 중단의 빈도는 확인되지 않은 사실로 남는다.
10.3반론: 복구 비용과 위험 비례 설계
최강 반론은 복구 설계가 도입을 비싸게 만들고, 낮은 확률의 사고에 큰 비용을 미리 지불하게 한다는 것이다. 복구 계획에도 비용이 있고, 과도한 설계는 유익한 도입을 막을 수 있다는 점은 인정한다. 그러나 복구가 없다는 것은 비용이 없는 것이 아니라, 그 비용을 중단 시점의 당사자에게 이전한다는 뜻이다. 현행 제도의 중단과 지연도 같은 척도로 비교해야 한다는 이 권의 응답은 여기에도 적용된다. 복구 수준은 도입의 위험과 중단이 남기는 비가역성에 맞추어 정하며, 모든 기능에 같은 무거운 계획을 요구하지는 않는다. 중단이 남기는 손실이 작고 대체 수단이 분명한 기능에는 가벼운 계획으로 충분할 수 있다.
10.4복구 설계를 버릴 조건
이 명제는 두 경우에 약해진다. 중단이 실제로 거의 일어나지 않고, 일어나더라도 기존 절차가 당사자의 사건과 회복을 충분히 이어받는다는 근거가 쌓이면 별도 복구 설계의 필요는 줄어든다. 또는 복구 계획이 형식으로만 존재하고 중단 시에 작동하지 않는다면 그 계획의 설계 기여는 폐기된다. 다만 복구가 번거롭다는 이유만으로 연속성의 요구를 버리지는 않는다. 구제를 약속한 제도가 멈춘 뒤에도 남는 것은 그 약속이 아니라, 멈춘 사이에 기한을 잃은 사람들이다.
Chapter 11통과 점수가 보지 못하게 된 실패
평가 체계가 낡았음을 알아내는 방법
같은 시험 점수의 유지나 상승이 목표 기능의 달성을 자동으로 증명하지는 않으므로, 통과 점수가 보지 못하게 된 실패를 점검해야 한다. 이는 목표 기능이 다른데도 같은 점수를 받는 반례로 지표의 판정 범위를 확인하고, 기존 항목 밖의 실패 경험과 기준 변경 권한 및 전후 비교 책임을 연결할 때 성립한다.
11.1점수 연속성과 목표 기능의 괴리
같은 시험을 오래 유지하면 시점별 비교가 쉬워진다. 그러나 운영의 중요한 기능이 달라졌거나 애초에 측정하지 못한 실패가 드러났다면, 같은 점수의 의미를 다시 물어야 한다. 이 편의 중심 명제는 목표 기능이 다른 운영이 같은 점수를 받는 반례로 지표의 사용 범위를 점검하고, 항목 밖의 이의·변경 권한·전후 비교의 책임을 연결하는 것이다. 오래 사용했다는 사실이 평가 목적에 맞는다는 근거를 대신하지 못하며, 기준을 자주 바꾸는 일도 그 자체로 개선은 아니다. 이 편은 대한민국과 EU의 전환기 가상 환경에서 평가 기준 자체를 검토할 질문을 제안하는 규범적 논증이며, 실제 평가 체계가 낡았다는 관측이 아니다. 측정의 연속성이나 점수 상승이 목표 기능의 유지와 개선을 자동으로 증명하지 못하게 하는 것이 이 편의 목적이다.
11.2같은 점수, 다른 구제 경로
합성 사례의 두 운영은 이의를 접수하고 설명을 제공했다는 같은 기록을 남긴다. 한쪽에서는 이의가 결론을 바꿀 권한자에게 전달되고 다른 쪽에서는 전달이 끊긴다. 접수와 설명의 완료만 세는 평가는 두 운영을 같게 보지만, 목표가 잘못된 판단에 실질적으로 개입할 기회라면 중요한 차이가 남는다. 이는 접수 지표가 쓸모없다는 뜻이 아니다. 그 지표만으로 전체 구제 기능을 판정하는 충분조건이 실패한다는 뜻이며, 그 차이가 실제 운영에서 얼마나 자주 나타나는지는 별도 자료가 필요하다. 평가 하나에 사법의 모든 가치를 담으라고 요구하면 어떤 지표도 충분할 수 없다. 그러므로 그 점수로 무엇을 판정하겠다고 약속했는지 먼저 확인한다. 처음부터 한정한 범위를 넘는 결론이 붙었다면 측정 자체와 그 사용의 문제를 나누어 본다. 아울러 점수가 좋아졌을 때 어떤 기능이 실제로 나아졌는지 묻고, 중요한 기능을 바꾸었을 때 점수도 반응하는지 함께 묻는다. 이 두 물음을 통해 점수만 올리는 변화와 목적에 필요한데도 보이지 않는 변화를 구별한다.
11.3항목 밖 실패와 기준 변경 기록
운영 중 당사자가 겪은 실패가 기존 점수 항목에 없을 수 있다. 항목이 없다는 이유로 버리면 평가 체계는 자신의 빈칸을 발견하기 어렵다. L-REPAIR는 당사자의 경험이 단순 민원 기록을 넘어 평가의 범위와 운영의 수정을 검토하게 하는지를 묻는다. 모든 불만을 평가 결함으로 인정하자는 뜻은 아니며, 확인된 사실과 주장, 목표 기능에 미친 영향과 다른 원인을 나누어 검토한다. 평가 담당자는 계산 오류와 측정 방법을 고칠 수 있지만, 성과가 불리하다는 이유로 항목을 삭제하거나 문턱을 낮출 권한까지 가지지는 않는다. 수정이 점수의 의미와 운영 허용 범위를 바꾸면, 변경의 이유와 담당 권한, 영향을 받을 판단이 기록되어야 한다.
11.4전후 비교 조건과 반례의 한계
새 기준이 중요한 실패를 포착하더라도 과거 점수와 그대로 비교할 수 있다는 뜻은 아니다. 가능한 경우 같은 자료에 두 기준을 적용해 어떤 차이가 기준 변경에서 생겼는지 살핀다. 공통 비교의 근거가 없으면 변경 전후의 점수를 하나의 연속된 성과로 제시하지 않는다. 최강 반론은 모든 미측정 가치를 결함으로 부르면 기준을 끝없이 바꾸어 비교와 운영이 불가능해진다는 것이다. 목적 밖의 한계가 곧 결함은 아니며 연속성에도 가치가 있다는 점은 인정한다. 답은 약속된 판단 범위에 반례를 한정하고 이전 기준과 새 기준의 의미를 함께 보존하는 것이다. 전제 반례 모형은 목표 기능의 차이에도 점수가 같다는 반례로 사용 범위를 검사한다. 다만 반례가 원래 목적 밖의 일을 요구했다면 결함이라는 주장을 철회하고, 기존 평가가 그 실패를 다른 항목에서 반영한다면 빈칸이라는 진단을 고친다. 이 권의 문헌 풀은 이 논의를 확인할 자료일 뿐 현장 성능의 증거가 아니다.
Chapter 12안전한 시험이 개선의 습관이 되는 조건
안전한 실험을 지속 가능한 개선으로 잇기
안전한 시험은 일회성 사건으로 끝나지 않고 다음 판단과 운영을 바꾸는 개선의 습관으로 이어질 때만 제도의 능력이 된다. 이는 되돌릴 수 있는 작은 시험과 범위 변경을 수반하는 시험의 기록 무게를 차등화하되, 시험 결과가 도입 범위를 바꾼 순간 관측 결과와 변경 이유를 공개된 기록으로 남길 때 성립한다.
12.1시험과 공개된 개선 기록의 연결
안전하게 시험한 것은 그것이 개선으로 이어질 때만 제도의 능력이 된다. 이 편의 중심 명제는 시험에서 확인한 것과 그 확인이 바꾼 도입 범위가 공개된 개선 기록으로 이어져야 한다는 것이다. 그렇지 않으면 시험은 일회성 사건이 되고 개선은 다시 비공개 재량에 맡겨진다. 이 권의 공진화 제안은 권리 침해에 대응하는 중지·복구와 개선 경로를 함께 가진 단계적 전환이다. 이 편은 그중 개선이 어떻게 지속 가능해지는지 묻는다. 갱신이 공개된 법을 대신하지 않는 조건은 제1편의 몫이므로, 여기서는 시험의 결과가 운영의 범위를 바꾸는 경로만 다룬다.
12.2도입 범위 변경과 무변경의 기록
시험에서 확인한 것은 고정한 조건에서 성립한 범위의 주장이다. 그 확인이 실제 도입 범위를 바꾸었다면, 무엇이 관측되었고 어떤 범위가 어떻게 바뀌었는지 기록되어야 한다. 기록이 없으면 확대와 축소의 결정이 무엇에 근거했는지 나중에 확인할 길이 없다. 반대로 시험이 아무 범위도 바꾸지 않았다면 그 사실도 기록의 대상이다. 확인된 결과가 없다는 기록과 확인하지 않았다는 방치는 다르며, 후자는 개선의 부재를 숨긴다. 「Position Statement on the Judicial Use of Artificial Intelligence (AI)」의 세부 책임 조항은 확인되지 않은 사실이나, 전환의 책임은 무엇을 언제 확인했는지 기록으로 남아 있을 때 다음 판단의 자료가 된다.
12.3반론: 실험 위축과 기록 차등화
최강 반론은 시험과 운영의 연속 기록이 실험 자체를 위축시킨다는 것이다. 모든 시험에 운영 수준의 기록을 요구하면, 되돌릴 수 있는 작은 시험조차 시도하기 어렵다. 모든 시험에 동일한 수준의 문서 부담을 지우는 것이 작은 실험의 문턱을 높일 수 있다는 점은 인정한다. 답은 기록의 무게를 도입 범위의 변경 여부에 따라 차등화하는 데 있다. 되돌릴 수 있는 작은 시험은 간소한 점검 기록으로 허용하되, 결과를 근거로 제도를 넓히거나 줄일 때에는 검증 기록을 남긴다. 그 결과로 확대와 축소의 범위가 바뀌는 순간에는 관측된 결과와 변경된 범위, 그 결정의 이유가 함께 남아야 한다. 이 한정이 없으면 지속 가능한 개선이라는 말 아래 시험의 성과만 선택적으로 전해진다.
12.4개선 연결 설계를 버릴 조건
이 명제는 두 경우에 약해진다. 시험 결과가 운영의 개선으로 이미 이어지고 있고, 그 기록이 다른 이의에서 실제로 사용되고 있다면 별도의 연결 설계를 더할 이유는 적다. 또는 기록이 쌓여도 누구도 그 기록으로 범위를 다시 묻지 않는다면, 공개된 개선이라는 명제는 형식에 그친다. 개선의 경로가 닫히면 안전한 실험은 과거의 사건이 되고, 도입 범위는 앞선 판단에 다시 고정된다. 이 편이 남기는 것은 시험이 한 번의 사건에 그치지 않고 다음 판단을 바꾸는 자료가 되게 하는 연결이다.
Official documents referred to Judiciary of England and Wales: Position statement on the judicial use of AI ↗