요약
안전한 시험은 일회성 사건으로 끝나지 않고 다음 판단과 운영을 바꾸는 개선의 습관으로 이어질 때만 제도의 능력이 된다. 이는 되돌릴 수 있는 작은 시험과 범위 변경을 수반하는 시험의 기록 무게를 차등화하되, 시험 결과가 도입 범위를 바꾼 순간 관측 결과와 변경 이유를 공개된 기록으로 남길 때 성립한다.
12.1시험과 공개된 개선 기록의 연결
안전하게 시험한 것은 그것이 개선으로 이어질 때만 제도의 능력이 된다. 이 편의 중심 명제는 시험에서 확인한 것과 그 확인이 바꾼 도입 범위가 공개된 개선 기록으로 이어져야 한다는 것이다. 그렇지 않으면 시험은 일회성 사건이 되고 개선은 다시 비공개 재량에 맡겨진다. 이 권의 공진화 제안은 권리 침해에 대응하는 중지·복구와 개선 경로를 함께 가진 단계적 전환이다. 이 편은 그중 개선이 어떻게 지속 가능해지는지 묻는다. 갱신이 공개된 법을 대신하지 않는 조건은 제1편의 몫이므로, 여기서는 시험의 결과가 운영의 범위를 바꾸는 경로만 다룬다.
12.2도입 범위 변경과 무변경의 기록
시험에서 확인한 것은 고정한 조건에서 성립한 범위의 주장이다. 그 확인이 실제 도입 범위를 바꾸었다면, 무엇이 관측되었고 어떤 범위가 어떻게 바뀌었는지 기록되어야 한다. 기록이 없으면 확대와 축소의 결정이 무엇에 근거했는지 나중에 확인할 길이 없다. 반대로 시험이 아무 범위도 바꾸지 않았다면 그 사실도 기록의 대상이다. 확인된 결과가 없다는 기록과 확인하지 않았다는 방치는 다르며, 후자는 개선의 부재를 숨긴다. 「Position Statement on the Judicial Use of Artificial Intelligence (AI)」의 세부 책임 조항은 확인되지 않은 사실이나, 전환의 책임은 무엇을 언제 확인했는지 기록으로 남아 있을 때 다음 판단의 자료가 된다.
12.3반론: 실험 위축과 기록 차등화
최강 반론은 시험과 운영의 연속 기록이 실험 자체를 위축시킨다는 것이다. 모든 시험에 운영 수준의 기록을 요구하면, 되돌릴 수 있는 작은 시험조차 시도하기 어렵다. 모든 시험에 동일한 수준의 문서 부담을 지우는 것이 작은 실험의 문턱을 높일 수 있다는 점은 인정한다. 답은 기록의 무게를 도입 범위의 변경 여부에 따라 차등화하는 데 있다. 되돌릴 수 있는 작은 시험은 간소한 점검 기록으로 허용하되, 결과를 근거로 제도를 넓히거나 줄일 때에는 검증 기록을 남긴다. 그 결과로 확대와 축소의 범위가 바뀌는 순간에는 관측된 결과와 변경된 범위, 그 결정의 이유가 함께 남아야 한다. 이 한정이 없으면 지속 가능한 개선이라는 말 아래 시험의 성과만 선택적으로 전해진다.
12.4개선 연결 설계를 버릴 조건
이 명제는 두 경우에 약해진다. 시험 결과가 운영의 개선으로 이미 이어지고 있고, 그 기록이 다른 이의에서 실제로 사용되고 있다면 별도의 연결 설계를 더할 이유는 적다. 또는 기록이 쌓여도 누구도 그 기록으로 범위를 다시 묻지 않는다면, 공개된 개선이라는 명제는 형식에 그친다. 개선의 경로가 닫히면 안전한 실험은 과거의 사건이 되고, 도입 범위는 앞선 판단에 다시 고정된다. 이 편이 남기는 것은 시험이 한 번의 사건에 그치지 않고 다음 판단을 바꾸는 자료가 되게 하는 연결이다.