Summary
자율 시스템의 비가역성은 모델 내부 상태가 아니라 외부 효과별 회복 경로의 작동 가능성으로 정의하며, 발생 전 중지 기회와 발생 후 잔존 손실 회복을 구별해야 한다. 이는 효과 종류별 회복 경로 구분, 비가역 시점과 개입 가능성의 개별 확인, 복구 재원과 실행 주체의 검토가 결합될 때 성립한다.
4.1효과 확정과 법적 구제의 시차
자율 시스템이 심리에 필요한 시간보다 빠르게 외부 효과를 완성하면, 판결 시점에는 이미 발생한 효과와 남은 회복 가능성을 함께 살펴야 한다. 문제가 되는 것은 기계의 속도 자체가 아니라, 되돌릴 수 없는 결과가 확정되는 시점과 법적 구제가 도달하는 시점 사이의 격차다. 이 물음이 해결되지 않으면 당사자는 잘못을 확인한 순간 이미 사라진 자료와 넘어간 권리를 되돌리지 못한다. 이 편이 다루는 주제는 무엇이 되돌릴 수 없는지에 관한 판단 기준이며, 시차를 메우는 수단으로서 중지와 재개를 설계하는 문제는 앞선 편에 남긴다.
4.2외부 효과별 회복 경로와 비가역성
중심 명제는 외부 효과별 회복 경로에 따라 비가역성을 판단하고, 효과 발생 전에는 이의와 중지의 기회를 확보하며, 발생 후에도 추가 피해 차단과 남은 손실의 회복을 구별해야 한다는 것이다. 이 명제는 외부 효과의 종류별로 회복 경로가 구분되고, 비가역 시점과 실제 개입 가능성을 따로 확인하며, 복구 재원과 실행 주체가 함께 검토될 때 성립한다. 비가역성은 모델의 내부 상태가 아니라 외부 효과와 회복 가능성으로 정의하므로, 자산 이전이나 권리 변동, 기록 파기가 시작되면 유예의 의미가 달라진다. 무엇이 중단되었고 무엇이 되돌아왔으며 무엇이 남았는지를 나누어 기록하지 않으면 회복의 대상 자체가 정해지지 않는다. 회복 불가능한 항목은 다른 구제의 대상이 될 수 있으나, 그 권원과 범위는 별도의 검토 사항이다.
4.3반론: 일괄 분류에 따른 지연
가장 강한 반론은 외부 효과를 일괄적으로 비가역으로 분류하면 실제 위험과 무관한 지연이 쌓이고 정당한 활동까지 멈춘다는 주장이다. 모든 효과를 비가역으로 선언하면 이 반론은 그대로 성립하며 유예는 책임 회피의 수단이 된다. 반대로 아무것도 비가역으로 두지 않으면 중지와 유예의 설계가 붙들 대상을 잃는다. 따라서 이 편은 선의를 기대하지 않고 효과의 종류와 회복 경로를 각각 적어 판단한다.
4.4회복 작동 여부와 기준 수정 조건
이에 대한 답은 회복 경로가 실제로 작동할 수 있는지에 따라 비가역성을 판정하는 것이다. 복구 재원과 실행 주체가 없으면 중지 규칙만으로는 구제가 선언에 그치며, 이행 상태와 잔존 손실을 함께 남겨야 다음 판단이 완료 보고 하나에 가려지지 않는다. 다른 구제가 가능하더라도 원래 효과가 되돌려지는 것은 아니므로, 원상회복과 별도 구제의 가능성을 나누어 비가역성의 판단 범위를 정한다. 「International AI Safety Report 2026」과 METR의 기술 과업 평가에서 출발한 관측 역시 기술 과업의 추세를 비가역 사고의 빈도나 법정에서의 정확성으로 바꾸지 않으며, 비가역 사고의 실제 통계와 국내 제도의 확정은 확인되지 않은 사실이다. 회복 가능성에 따른 분류가 실제 효과의 가역성과 어긋나거나 지정한 시점이 맞지 않으면, 이 편의 판단 기준을 버리거나 수정한다.