제1편전달 기록은 이행의 사실을 대신하지 않는다
발령·전달·이행·회복의 분리
명령의 전달 기록만으로는 실제 이행 완료를 입증할 수 없으며, 발령·전달·이행·회복의 네 단계를 구분해 확인해야 한다. 이는 실행 상태 인증이 전달 기록에 포함되지 않은 조건에서 성립하며, 요구된 상태와 일치하는 독립적 상태 관찰과 인과적 개입 능력의 별도 확인을 요구한다.
1.1전달과 이행의 단계적 분리
법원이 적법한 명령을 내리고 지정된 수신자가 이를 받았다는 사실까지 인정되더라도, 명령이 요구한 상태가 실현되었다는 결론에 이르려면 별도의 근거가 필요하다. 발령은 무엇을 해야 하는지를 정하고, 전달은 그 요구가 어디까지 도달했는지를 보여 주며, 이행은 실제 대상의 상태에 관한 별도의 주장이고, 회복은 이미 발생한 손실이 어떻게 되돌려졌는지를 묻는다. 이 네 단계를 하나의 완료 표시로 합치면, 사법은 바꾸지 못한 상태를 바꾸었다고 기록하게 된다. 이 물음이 해결되지 않으면 완료 판정이 잘못 내려진 당사자는 회복할 기회를 잃고, 법원은 없는 집행력을 확보된 것처럼 말하게 된다. ASI가 복수의 실행 장치를 조정하는 미래에도 이 구별은 사라지지 않는다. 추론 능력이 뛰어나다는 가정이 전달 이후의 상태를 자동으로 관찰 가능하게 만들지는 않기 때문이다.
1.2동일 기록과 상이한 실행 상태
관찰 가능한 정보가 같다는 전제 아래의 반례는 다음과 같이 구성된다. 합성사례의 첫째 경우, 중계기는 정지 명령을 받아 장치에 전달하고 장치도 정지한다. 둘째 경우, 같은 중계기가 동일한 수신증을 남기지만 하위 연결이 끊겨 장치는 계속 작동한다. 법원이 보는 기록은 두 경우가 완전히 같으므로, 그 기록만으로 이행 완료를 판단하는 규칙은 둘째 경우를 잘못 승인하거나 첫째 경우의 실제 이행을 확인하지 못한다. 무작위 선택 역시 모든 경우에 부합하는 보증을 만들지 못한다. 이 반례는 현실의 실패 빈도를 말하는 것이 아니다. 동일한 전달 기록과 서로 다른 실행 상태가 양립할 때, 전달 기록만 사용하는 판정은 이행과 미이행을 항상 구별할 수 없다는 제한된 부정적 결과다.
1.3반론: 상태 인증과 철회 조건
이에 대한 가장 강한 반론은 실행 상태 인증이 수신증에 포함된다면 전달 기록만으로도 이행을 확인할 수 있으므로 반례가 인위적이라는 주장이다. 이 반론의 절반은 받아들인다. 신뢰할 수 있는 상태 인증이 전달과 함께 제공되면 정보 제약은 해소될 수 있으며, 전달 기록이라는 이유만으로 그 인증을 배제해서는 안 된다. 따라서 결론은 상태 인증이 없는 경우로 한정하고, 인증의 존재·범위·시점을 반례 철회의 조건으로 둔다. 그러나 확인 수단이 늘었다는 사실이 곧 집행 능력을 증명하는 것은 아니다. 관찰된 정지는 우연한 고장이나 다른 행위자의 개입으로도 발생할 수 있으므로, 완료 확인과 법원의 인과적 기여, 반복 가능한 개입 능력을 나누어 살펴야 무엇이 확보되었는지가 드러난다.
1.4독립 관찰의 요건과 확인 범위
독립적인 상태 관찰이 더해지면 두 경우는 더 이상 같은 정보 조건에 놓이지 않을 수 있다. 다만 어제의 상태나 일부 장치의 상태만 확인한 기록으로 현재의 전체 정지를 보증할 수는 없으므로, 관찰 대상과 시점, 누락된 범위를 명령이 요구한 상태와 맞추어야 한다. 또한 독립성이라는 이름 자체가 정확성을 자동으로 보장하지 않으므로, 어떤 정보가 어느 상태 주장을 뒷받침하는지 명시하는 설계를 제안한다. 확인 범위를 벗어난 상태에 대해 완료 판단을 유보하는 것은 이행의 부정과도 구별된다. 「International AI Safety Report 2026」은 발전을 관측할 출발점이지 법정에서의 정확성을 뜻하지 않으며, 이 편에서도 보고서가 다루지 않은 능력을 확인된 사실처럼 취급하지 않는다. 현행 강제집행 절차의 법리는 제3총서 III-29~III-35에 맡긴다.
제2편중지와 재개는 하나의 권한이 아니다
시스템 속도와 법적 구제의 시차
중지는 구제 시차를 줄이는 잠정적 방어 수단이고 재개는 새로운 효과를 낳는 조치이므로 두 권한에는 서로 다른 위험 문턱이 적용되어야 한다. 이 명제는 외부 효과와 회복 가능성으로 비가역 시점을 배치 전에 특정하고, 복구·검증·대체·이의 조건과 복구 재원을 각각 갖추었을 때 성립한다.
2.1구제 시차와 잠정 판단의 필요
행위가 재판의 시간보다 빠르게 되돌릴 수 없는 결과를 만들면, 판결이 나올 때는 이미 돌이킬 수 없는 손실이 남는다. 시차를 줄이는 방법은 판단이 도달하기 전의 시점에서 행위를 멈추는 것이며, 따라서 중지는 구제의 시차를 다루는 권한이자 잠정적 판단의 형식이다. 이 물음이 해결되지 않으면 당사자는 결과가 확정된 뒤에야 권리를 확인하게 되고, 법원은 이미 지나간 시간을 되돌릴 수단을 얻지 못한다. 이 편은 명령의 존재를 현실의 변경으로, 복구 가능성을 재개의 정당화로, 유예를 성과로 오인하는 세 가지 도약을 막는 데서 출발한다.
2.2중지와 재개의 비대칭 문턱 설계
중심 명제는 중지와 재개가 같은 권한이 아니라는 것이다. 중지는 되돌릴 수 있는 방어 수단일 수 있는 반면, 재개는 새로운 효과를 일으킬 수 있으므로 두 권한에 동일한 위험 문턱을 일률적으로 적용하면 한쪽이 다른 쪽을 봉쇄할 수 있다. 이 명제는 중지에 필요한 근거와 재개에 필요한 근거를 각각 적고, 재심사를 받을 수 있다는 사실과 재개할 권리가 이미 존재한다는 것을 구분하며, 비가역 시점을 모델의 내부 상태가 아니라 외부 효과와 회복 가능성으로 배치 전에 특정할 때 성립한다. 이 설계에서는 자산 이전·권리 변동·기록 파기의 시점에 따라 유예의 의미를 나누고, 비가역 시점 이후의 행위에는 더 강한 이의 절차와 책임을 부여한다. 이 구별이 없으면 유예는 무기한 통제나 성급한 해제의 명분이 된다.
2.3유예 기간의 검증과 재개 조건
중지로 확보한 시간은 그 자체로 성과가 아니며, 그 시간 동안 검증이 늘었는지, 대체 경로가 생겼는지, 피해가 회복되었는지가 기준이 된다. 활용하지 않은 유예를 성공으로 집계하지 않되, 유예 기간을 제대로 쓰지 못했다는 사실이 곧바로 재개를 명령할 근거가 되는 것도 아니며 이는 재개 조건을 재검토할 계기가 될 뿐이다. 복구 가능성만으로 재개가 정당화되면 동일한 피해가 반복될 조건이 남아 있어도 작동이 재개되므로, 복구·검증·대체·이의의 기회를 재개 조건으로 나누어 적는다. 중지와 재개의 규칙만 있고 복구 재원과 실행 주체가 없으면 구제는 선언에 그치며, 재원이 없을 때는 명령의 실효성 기록에 미달로 남긴다.
2.4반론: 양방향 악용과 폐기 조건
가장 강한 반론은 중지를 쉽게 만들면 공격자가 반복 중지를 악용하고, 재개를 어렵게 만들면 정당한 회복이 막힌다는 주장이다. 양쪽 악용이 모두 가능하므로 문턱 설계의 실패는 중지와 재개를 함께 망가뜨린다. 이에 대한 답은 이의 경로와 유예 시간의 사용처 기록을 분리해 악용 지점을 좁히고, 유예의 종료 조건과 사용처를 함께 적으며, 선의의 기대 대신 확보해야 할 능력을 문장으로 명시하는 것이다. 「EU AI Act Article 14」의 감독 요구와 「Framework Convention on Artificial Intelligence」의 절차적 보호는 이 방향과 호응하는 공개 자료이나, 대한민국 재원 제도의 구체적 설계는 확인되지 않은 사실로 남긴다. 비대칭 문턱과 복구의 연결이 실제 회복을 구동하지 못하거나 유예가 적응에 기여하지 않으면 이 편의 설계 기여를 폐기한다. 억제 권한의 규범적 한계는 IV-06에 맡긴다.
다룬 공식 문서 EU AI Act Article 14: Human oversight ↗ · Council of Europe Framework Convention on AI: official overview ↗
제3편법원이 부른 자와 시스템을 움직이는 자가 갈라질 때
명령받는 자와 실제 통제자의 불일치
사법 명령의 실효성은 수신자의 법적 지위만으로는 확보되지 않으며, 수신자와 개입 수단의 연결 및 대상에 대한 실제 통제 능력에 달려 있다. 이는 수신자·집행 대상·작동 수단의 연결, 발령과 중지·회복의 개별 확인, 통제권 귀속과 이행 의무 주체의 특정이 함께 이루어질 때 성립한다.
3.1수신자와 실제 통제자의 괴리
법원이 지정한 수신자가 명령을 받고도 시스템의 작동을 멈추지 못하거나 자원을 돌려보낼 수 없다면, 그 명령은 책임의 자리만 표시한 채 현실을 바꾸지 못한다. 자율 시스템이 여러 조직·계약·자동화 장치를 거칠수록 수신자와 실제 통제자의 불일치가 늘어나는지는 확인되지 않은 사실이다. 그러나 이 물음이 해결되지 않으면 피해자는 법적 책임 주체를 특정하고도 회복할 자원에 실제로 개입할 자를 찾지 못할 수 있다. 이 편은 현행 강제집행 절차의 법리를 다시 설명하지 않고, 명령이 도달한 뒤에도 개입이 실패하는 지점을 다룬다.
3.2실효성 성립의 세 가지 연결 조건
중심 명제는 명령의 실효성이 수신자의 법적 지위뿐만 아니라, 수신자와 개입 수단의 연결 및 그 수단이 대상에 닿는지 여부에 달려 있다는 것이다. 이 명제는 세 가지가 함께 확인될 때 성립한다. 첫째, 명령의 수신자와 집행 대상, 작동 수단이 연결되어 있을 것. 둘째, 발령 사실과 실제 중지·회복의 달성을 각각 확인할 수 있을 것. 셋째, 통제권의 귀속과 이행 의무의 주체가 각각 특정되어 있을 것. 법적 권한의 존재와 실제 통제 능력의 유무는 별도의 확인을 요구하며, 어느 한쪽만으로 다른 쪽을 증명하지 못한다.
3.3반론: 과도한 개입과 감시 우려
가장 강한 반론은 수신자와 통제자를 나누어 확인하려는 요구가 결국 기업의 내부 구조를 법원이 통째로 들여다보고 재편하는 결과로 이어진다는 주장이다. 개입의 대상과 조건, 범위, 이의, 종료를 특정하지 않으면 실제로 그러한 결과가 초래될 수 있다. 공급자가 자료·도구·업데이트를 지배하는 상황에서는 독립된 심리 자체가 위협받고, 그 지배 구조를 법원이 대신 행사하기 시작하면 구제라는 이름으로 감시와 통제가 들어선다. 이 반론은 설계를 무효로 만드는 비판이 아니라 설계의 경계를 정하라는 요구다.
3.4회복 범위 한정과 실질 통제 기준
이에 대한 답은 개입의 범위를 회복에 필요한 수준으로 한정하고, 대체 가능성과 접근권, 이해충돌 통제를 함께 두는 것이다. 추천 성능이 높아 인간이 과도하게 의존하는 구조에서는 권한을 부여하고 회수하는 판단과 귀속 책임, 반대 의견 경로가 함께 설계되어야 하며, 인간의 승인 표시만 남고 변경 능력이 없는 상태는 실질적 통제로 보지 않는 것이 그 기준이다. 「EU AI Act Article 14」의 인간 감독 요구는 이 방향과 호응하는 공개 자료이나 국내 제도의 확정은 아니다. 국외 사업자 협조의 한계와 통제권의 실재적 귀속을 보여 주는 자료는 확인 전까지 확인되지 않은 사실로 남기며, 국제 공조와 승인 질서는 IV-15에 맡긴다. 실제 개입 수단 없이 금지 규정만으로 통제 가능성을 선언하는 설계는 기각한다.
제4편비가역성은 내부 상태가 아니라 회복 가능성으로 정의한다
자율행위가 만드는 비가역적 결과
자율 시스템의 비가역성은 모델 내부 상태가 아니라 외부 효과별 회복 경로의 작동 가능성으로 정의하며, 발생 전 중지 기회와 발생 후 잔존 손실 회복을 구별해야 한다. 이는 효과 종류별 회복 경로 구분, 비가역 시점과 개입 가능성의 개별 확인, 복구 재원과 실행 주체의 검토가 결합될 때 성립한다.
4.1효과 확정과 법적 구제의 시차
자율 시스템이 심리에 필요한 시간보다 빠르게 외부 효과를 완성하면, 판결 시점에는 이미 발생한 효과와 남은 회복 가능성을 함께 살펴야 한다. 문제가 되는 것은 기계의 속도 자체가 아니라, 되돌릴 수 없는 결과가 확정되는 시점과 법적 구제가 도달하는 시점 사이의 격차다. 이 물음이 해결되지 않으면 당사자는 잘못을 확인한 순간 이미 사라진 자료와 넘어간 권리를 되돌리지 못한다. 이 편이 다루는 주제는 무엇이 되돌릴 수 없는지에 관한 판단 기준이며, 시차를 메우는 수단으로서 중지와 재개를 설계하는 문제는 앞선 편에 남긴다.
4.2외부 효과별 회복 경로와 비가역성
중심 명제는 외부 효과별 회복 경로에 따라 비가역성을 판단하고, 효과 발생 전에는 이의와 중지의 기회를 확보하며, 발생 후에도 추가 피해 차단과 남은 손실의 회복을 구별해야 한다는 것이다. 이 명제는 외부 효과의 종류별로 회복 경로가 구분되고, 비가역 시점과 실제 개입 가능성을 따로 확인하며, 복구 재원과 실행 주체가 함께 검토될 때 성립한다. 비가역성은 모델의 내부 상태가 아니라 외부 효과와 회복 가능성으로 정의하므로, 자산 이전이나 권리 변동, 기록 파기가 시작되면 유예의 의미가 달라진다. 무엇이 중단되었고 무엇이 되돌아왔으며 무엇이 남았는지를 나누어 기록하지 않으면 회복의 대상 자체가 정해지지 않는다. 회복 불가능한 항목은 다른 구제의 대상이 될 수 있으나, 그 권원과 범위는 별도의 검토 사항이다.
4.3반론: 일괄 분류에 따른 지연
가장 강한 반론은 외부 효과를 일괄적으로 비가역으로 분류하면 실제 위험과 무관한 지연이 쌓이고 정당한 활동까지 멈춘다는 주장이다. 모든 효과를 비가역으로 선언하면 이 반론은 그대로 성립하며 유예는 책임 회피의 수단이 된다. 반대로 아무것도 비가역으로 두지 않으면 중지와 유예의 설계가 붙들 대상을 잃는다. 따라서 이 편은 선의를 기대하지 않고 효과의 종류와 회복 경로를 각각 적어 판단한다.
4.4회복 작동 여부와 기준 수정 조건
이에 대한 답은 회복 경로가 실제로 작동할 수 있는지에 따라 비가역성을 판정하는 것이다. 복구 재원과 실행 주체가 없으면 중지 규칙만으로는 구제가 선언에 그치며, 이행 상태와 잔존 손실을 함께 남겨야 다음 판단이 완료 보고 하나에 가려지지 않는다. 다른 구제가 가능하더라도 원래 효과가 되돌려지는 것은 아니므로, 원상회복과 별도 구제의 가능성을 나누어 비가역성의 판단 범위를 정한다. 「International AI Safety Report 2026」과 METR의 기술 과업 평가에서 출발한 관측 역시 기술 과업의 추세를 비가역 사고의 빈도나 법정에서의 정확성으로 바꾸지 않으며, 비가역 사고의 실제 통계와 국내 제도의 확정은 확인되지 않은 사실이다. 회복 가능성에 따른 분류가 실제 효과의 가역성과 어긋나거나 지정한 시점이 맞지 않으면, 이 편의 판단 기준을 버리거나 수정한다.
제5편회복의 약속은 추적 가능한 재원에서만 구제가 된다
재산과 보상 재원의 추적 가능성
손해배상이나 회복의 약속이 실질적 구제가 되려면 사용할 재원이 추적 가능하고 그 재원에 대한 통제권의 귀속이 특정되어야 한다. 이 명제는 집행 대상이 특정되고 재원의 소재와 이동 경로가 확인에 열려 있으며, 회복 범위 내에서 자원 확보 조치의 조건·범위·이의·종료가 정해질 때 성립한다.
5.1자원 이동 속도와 집행의 공백
판결이 손해배상을 명하더라도 배상할 재산이 어디에 있고 누구의 통제 아래 있는지 확인할 수 없다면, 피해자는 확정된 권리를 얻고도 피해를 회복하지 못할 수 있다. 비가역적 행위와 빠른 자원 이동은 집행과 회복을 동시에 위협하며, 명령은 있으나 도달할 통제자와 실행 수단이 없는 상태를 만든다. 이 물음이 해결되지 않으면 잘못을 겪은 사람은 판결문만 얻고 현실의 회복은 얻지 못한다. 자원 이동의 속도와 소재의 불명확함이 함께 작동할 때, 사법의 결론은 기록으로만 남는다.
5.2재원의 추적 가능성과 통제권 특정
중심 명제는 회복의 약속이 실질적인 구제가 되려면 회복에 쓸 재원이 추적 가능하고 그 재원에 대한 통제권의 귀속이 특정되어 있어야 한다는 것이다. 이 명제는 집행 대상이 특정되고, 재원의 소재와 이동 경로가 확인에 열려 있으며, 회복에 필요한 범위에서 자원을 확보하는 조치의 대상·조건·범위·이의·종료가 정해질 때 성립한다. 법적 권한과 실제 통제 능력을 별도로 확인하는 원칙은 여기서도 적용된다. 재원이 없으면 명령의 실효성 기록에 미달을 남기고, 그 미달 기록은 다음 판단이 완료 표시 하나에 가려지는 일을 막는다.
5.3반론: 인프라 감시와 지배력 심화
가장 강한 반론은 재산을 추적하거나 묶어 두는 제도가 인프라 감시와 과도한 국가 통제로 이어진다는 주장이다. 개입의 범위를 회복에 필요한 수준으로 한정하지 않으면 이 반론은 그대로 성립하며, 구제라는 이름으로 감시가 들어서는 결과를 피할 수 없다. 공급자가 자료·도구·업데이트를 지배하는 구조에서는 회복 재원마저 그 지배 아래 놓일 수 있어, 이해충돌 통제와 접근권이 함께 검토되지 않으면 추적 가능성은 지배자의 정보 우위만 키운다. 이 반론은 회복 재원의 확보를 포기하라는 요구가 아니라, 확보의 범위를 회복에 필요한 수준으로 묶으라는 요구다.
5.4보호된 검토와 사전 조치의 한계
이에 대한 답은 사전 조치를 회복에 필요한 범위로 한정하고 이의와 종료의 경로를 함께 두며, 실제 통제 능력의 존재와 법적 권한을 각각 확인하는 것이다. 보호된 검토 절차를 함께 설계하면 자료의 비공개가 확인을 영구히 막는 명분이 되지 않는다. 국외로 옮겨진 자원이나 국외 사업자의 협조 없이는 도달할 수 없는 재원에 대해서는 국내 법적 권한만으로 회복을 선언할 수 없으며, 국제 공조와 승인 질서는 IV-15에 맡긴다. 현행 강제집행과 국가배상의 법리는 이 편에서 다시 설명하지 않고 제3총서에 맡기며, 대한민국 회복 재원 제도의 구체적 설계는 확인되지 않은 사실로 남긴다. 실제 개입 수단이 없는 상태에서 금지 규정만으로 통제 가능성을 선언하는 설계는 기각하고, 추적 가능성의 설계가 회복을 실제로 넓히지 못하면 수정한다.
제6편중지 수단의 존재와 그 행사를 정하는 권한은 별개다
중지 수단의 실재성과 법적 통제
중지 수단의 실재성은 존재·도달 가능성·작동 결과로 판단하고, 법적 통제는 행사 주체의 권한과 조건이 적법하게 정해졌는지로 별도 판단해야 한다. 이는 담당자·대상·수단·대체 경로가 연결되고 권한의 부여·회수 판단이 설계되며, 발령과 실제 중지가 해당 조건에서 각각 확인될 때 성립한다.
6.1중지 수단의 실재성과 행사 권한
시스템을 멈출 수단이 없다면 법원의 금지는 문장으로만 남고, 수단이 있어도 누가 어떤 조건에서 그것을 행사할 수 있는지 정해져 있지 않다면 중지는 사적 자의에 놓인다. 이 물음이 해결되지 않으면 멈춰야 할 순간에 멈추지 못하거나, 누구도 승인하지 않은 중지가 필수 서비스를 끊게 된다. 중지 수단의 실재성은 대상에 도달해 작동하는지의 문제이며, 행사 권한은 별도의 법적 문제다. 이 편은 중지 수단을 제도의 대상으로 삼아 무엇이 확인되어야 하는지를 정한다.
6.2작동 확인과 권한 설계의 분리
중심 명제는 중지 수단의 실재성을 존재·도달 가능성·작동 결과로 판단하고, 법적 통제는 그 수단을 행사할 주체의 권한과 행사 조건이 적법하게 정해졌는지에 따라 별도로 판단해야 한다는 것이다. 이 명제는 담당자와 실제 대상, 사용 가능한 수단, 실패 시의 대체 경로가 연결되고, 권한을 부여하고 회수하는 판단이 함께 설계되며, 발령과 실제 중지가 각각 확인될 때 성립한다. 목록을 갖췄다는 이유만으로 능력이 증명되는 것은 아니며, 실제 개입 가능성은 해당 대상과 조건에서 따로 확인해야 한다. 억제 권한의 규범적 한계는 이 편에서 다루지 않고 IV-06에 맡긴다.
6.3반론: 형식적 버튼과 제어 결합
가장 강한 반론은 법이 중지 수단을 요구하면 공급자는 형식적인 버튼만 만들고 실제 통제를 숨기며, 내부를 공개하면 보안이 무너진다는 주장이다. 양쪽 모두 가능하므로 요구의 형식만으로 실재성이 확보되거나 약화된다고 말할 수 없다. 시스템 전체를 멈출 버튼이 있다는 사실은 아무런 개입도 할 수 없는 상태와는 다르지만, 중지해야 할 기능과 유지해야 할 서비스가 같은 제어 단위에 묶여 있다면 그 버튼은 두 목표를 동시에 만족시키지 못할 수 있다. 이 점은 필수 서비스의 연속성을 함께 다룰 다음 편의 문제이지 이 편의 결론이 아니다.
6.4보호된 작동 검토와 설계 탈락 조건
이에 대한 답은 보호된 검토를 통해 해당 대상과 조건에 맞춰 수단의 작동을 확인하고, 이를 행사할 법적 권한과 책임 주체를 별도로 확인하는 것이다. 「EU AI Act Article 14」와 「Framework Convention on Artificial Intelligence」는 묶음에서 인간 감독과 절차적 보호의 자료로 제시되며, 기능별 위임과 귀속 책임의 구체적 설계는 이 편의 제안이다. 실제 중지·복구 능력과 통제권의 귀속, 국외 사업자 협조의 한계를 보여 주는 자료는 확인 전까지 확인되지 않은 사실로 남긴다. 중지 수단이 작동하지 않거나 행사 권한이 어떤 법적 주체에도 연결되지 않으면, 그 수단을 집행 가능한 것으로 보는 설계는 탈락한다. 이 조건을 먼저 적는 것은 결론의 약함이 아니라 다음에 무엇을 관측해야 하는지를 고정하는 일이다.
다룬 공식 문서 EU AI Act Article 14: Human oversight ↗ · Council of Europe Framework Convention on AI: official overview ↗
제7편멈춰야 할 것과 멈추면 안 되는 것이 한 단추에 묶일 때
기반시설 의존과 공공서비스의 연속성
주어진 대응 시간 안에 전체 가동과 전체 중단만 가능하다면, 문제 기능의 중지와 필수 서비스 유지를 동시에 달성하겠다는 보증은 성립하지 않는다. 이 조건부 불가능성은 시간 내에 작동하는 부분 제어나 대체 경로가 없을 때 성립하며, 자료·인력·권한·전환 시간이 확인된 실제 경로가 확보되면 철회된다.
7.1단일 제어 단위와 선택성의 한계
법원이 특정 기능만을 멈추라고 명령했는데도 그 기능이 필수 서비스와 같은 실행 단위에 묶여 있다면, 중지 버튼의 존재는 통제의 완성을 뜻하지 않는다. 이 편이 묻는 것은 중지 능력 자체의 유무가 아니라, 그 능력이 대상 중지와 서비스 유지라는 두 목표를 함께 만족시킬 만큼 선택적인지 여부다. 중심 명제는 주어진 대응 시간 안에 전체 가동과 전체 중단만이 가능하다면, 문제 기능의 중지와 필수 서비스의 유지를 동시에 달성하겠다는 보증은 성립하지 않는다는 것이다. 이 불가능성은 어느 가치를 우선해야 하는지에 대한 답이 아니라, 현재의 선택지에는 두 목표를 함께 실현하는 상태가 없다는 사실을 드러내는 결과다. 이 물음이 풀리지 않으면 결정자는 어느 손실을 감수할지 설명하지 못한 채 전체 중단이나 전체 방치 중 하나를 떠안게 되고, 그 비용은 이용자와 당사자가 먼저 부담한다.
7.2합성사례: 목표 동시 달성 불가
합성사례로 동일한 처리 단위가 유해한 자동 기능과 재난 안내 서비스를 함께 제공한다고 가정하자. 전체를 켜면 문제 기능도 계속 작동하고, 전체를 끄면 안내도 함께 멈추며, 정해진 시간 안에 쓸 수 있는 별도의 실행 경로는 없다고 둔다. 이때 가능한 상태 중에는 문제 기능은 멈추고 안내는 유지되는 상태가 없으므로 두 목표의 동시 달성은 성립하지 않는다. 이 결과는 현실의 모든 서비스가 실제로 이렇게 결합되어 있다는 진단이 아니라, 제한된 선택지라는 전제 아래에서는 목표 조합이 불가능하다는 조건부 결과다. 이에 대한 가장 강한 반론은 대체 경로를 만들면 충돌이 사라지므로 불가능성을 말하는 일이 사소하다는 지적이다.
7.3반론: 대체 경로와 현재의 선택지
대체 경로가 해당 시간 안에 실제로 사용 가능하다면 전제가 깨지므로 불가능성 주장을 철회해야 한다는 점을 인정한다. 응답의 핵심은 현재의 대응 시간 안에 있는 선택지와 미래의 확충 계획을 구별하는 데 있다. 언젠가 분리할 수 있다는 문서상의 계획은 지금 당장 가능한 상태를 늘리지 않으며, 자료와 인력, 접속 권한과 전환 시간이 확인될 때만 새로운 선택지가 생긴다. 운영자의 협력 약속도 같은 이유로 결합 자체를 해소하지 못한다. 이 제약은 악의나 기만 없이도 성립하기 때문이다. 필수 서비스라는 주장 역시 설명만으로 확정해서는 안 된다. 어떤 이용자가 어느 기능에 의존하고 대체 경로가 왜 작동하지 않는지 확인할 자료가 필요하며, 비공개가 필요하다면 보호된 검토 절차를 함께 설계해야 한다.
7.4결합 구조 특정과 불가능성 철회
대한민국과 유럽연합에서 같은 운영 구조를 보더라도 중지 명령의 근거와 공공서비스 보호 요건이 동일한지는 확인되지 않은 사실이므로 단정하지 않는다. 먼저 전체 가동과 전체 중단만 가능하다는 기술 조건을 고정한 뒤 각 제도의 판단 질문을 대입하면, 권한이 없어서 행동하지 못하는 경우와 권한은 있지만 필요한 선택지가 없는 경우를 구별할 수 있다. 이 편이 제안하는 것은 모든 서비스를 분리하라는 보편 명령이 아니라, 어떤 결합이 중요한 목표 충돌을 만들고 어떤 분리가 그 충돌을 줄이는지 먼저 특정하라는 절차다. 정해진 시간 안에 부분 제어나 대체 경로로 대상 중지와 충분한 서비스 유지를 함께 달성할 수 있으면 불가능성은 철회되며, 이때 전환 비용과 권한도 함께 확인한다. 인공지능이 결합 관계와 대체 경로를 미리 드러내고 전환 절차를 당사자가 이해할 수 있게 돕는다면 당사자의 반박 능력은 넓어질 수 있으나, 그 효과는 실제 경로의 작동 확인을 조건으로 한다. 공공 인프라의 운영과 예산 구조 자체를 해설하는 일은 IV-12에 맡긴다.
제8편협력을 요구할 수 있는 자리와 멈춰야 하는 자리
집행 협력의 정당한 범위
사법 집행을 위한 사업자 협력 요구는 명령의 효력 유지에 필요한 정보 제공·접근 허용·작동 실행에 한정하고, 포괄적 감시나 사전 접근에는 별도 정당화와 이의 절차를 두어야 한다. 이는 협력 요구의 적법한 근거가 있고 요구 범위가 이행 수단에 직결되며, 대상·조건·범위·이의·종료가 명령문에 특정될 때 성립한다.
8.1집행 협력의 범위와 별도 정당화
판결 이후의 집행이 특정 사업자의 자료·도구·업데이트에 의존한다면, 법원은 그 사업자에게 협력을 요구하지 않고서는 명령을 현실에 도달시킬 수 없다. 이 편은 협력 요구의 적법한 근거가 있다는 전제 아래, 어디까지 요구할 수 있고 어디부터 별도의 근거와 다툼의 기회가 필요한지를 묻는다. 중심 명제는 집행 협력을 명령의 효력을 유지하는 데 필요한 정보 제공, 접근 허용, 작동 실행에 한정하고, 그 범위를 넘는 포괄적 감시나 사전 접근에는 독립된 정당화와 이의 절차를 요구한다는 것이다. 이 범위와 실제 접근 경로를 확보하지 못하면 공급자의 동의에 의존하는 심리에서 벗어난다고 보장할 수 없다. 이 물음이 해결되지 않으면 당사자는 과도한 자료 처리와 서비스 중단 사이에서 다툴 언어를 잃고, 법원은 권한의 부족인지 수단의 부재인지 구별하지 못한다. 국경을 넘는 공조와 승인 질서 일반은 이 권이 확정하지 않고 IV-15에 맡긴다.
8.2이행 수단 연결과 사전 감시 반론
이 명제의 성립 조건은 협력 요구의 적법한 근거가 있고, 요구 범위가 명령 이행에 필요한 정보·작동 수단에 연결되며, 이의와 종료가 보장되는 것이다. 합성상황으로 법원이 특정 자동 결정의 중단과 관련 기록의 보존을 명했는데, 기록이 국외 서버와 공급자의 전용 도구에 나뉘어 있다고 가정하자. 이 설계에서는 중단 확인에 필요한 접속 기록과 보존 목록을 협력 범위의 후보로 삼되, 향후 모든 변경 사항을 실시간으로 통보하라는 요구는 별도 정당화가 필요한 부담으로 본다. 가장 강한 반론은 실효성을 확보하려면 광범위한 사전 접근과 지속적 감시가 불가피하며, 범위를 좁히면 집행이 무력화된다는 주장이다. 이 우려에는 이유가 있다. 속도와 규모가 큰 시스템 앞에서는 사후 확인만으로 비가역적 결과를 막기 어렵기 때문이다.
8.3개입 조건·범위·이의·종료의 특정
유럽의 논의가 인간 감독과 절차적 보호를 강조한다는 점은 「EU AI Act Article 14」와 「Framework Convention on Artificial Intelligence」를 출발점으로 삼아 읽을 수 있으나, 이를 국내 의무로 직접 옮기지는 않는다. 답은 개입의 대상·조건·범위·이의·종료를 함께 특정하는 데 있다. 누구에게 무엇을 어느 기간과 자료 범위로 요구하는지, 거부나 지연 시 대체 경로는 무엇인지, 이의는 누구에게 어떤 시간 안에 제기하는지, 요구가 언제 끝나는지를 명령문에 함께 적어야 한다. 이렇게 적힌 요구는 공급자의 선의에 의존하지 않고도 집행 가능성을 사후에 평가하게 하며, 포괄적 협조 선언을 해결의 증거로 취급하는 오류를 막는다. 특정 사업자의 실제 협조 수준이나 국내 제도의 운영 실태는 확인되지 않은 사실로서 단정하지 않으며, 이 편은 조건부 설계만을 말한다.
8.4사전 접근의 입증과 설계 기각 조건
사전 접근이 필요하더라도 그 필요를 주장하는 쪽이 비가역성의 종류와 회복 경로의 부재를 각각 밝히고, 부담에 상응하는 보호와 보상을 함께 설계해야 한다. 특정 공급자에 고착되면 협력 요구가 심사 대상에 대한 종속으로 바뀌므로, 대체 가능성과 이해충돌 통제도 같은 구조의 일부가 된다. 설계를 기각할 조건도 미리 정한다. 실제 개입 수단이 없는데도 금지 규정이나 포괄 조항만으로 통제 가능하다고 선언한다면 이 설계는 기각되어야 한다. 반대로 범위와 종료가 특정되지 않은 채 무기한 접근이 유지된다면, 그 부분은 집행 협력이 아니라 별도의 감시 제도로 다루어야 한다. 인공지능이 요구 범위와 이행 여부를 당사자가 알아볼 수 있게 정리하고 이의서 작성을 돕는다면 반박 능력은 넓어질 수 있으나, 이는 독립된 검토 경로가 열려 있을 때만 의미를 가진다.
다룬 공식 문서 EU AI Act Article 14: Human oversight ↗ · Council of Europe Framework Convention on AI: official overview ↗
제9편멈춤만으로는 끝나지 않는다
피해 최소화와 사후 복구의 조합
작동 정지만으로는 이미 발생한 피해가 사라지지 않으므로, 잔존 피해가 있을 때는 피해 최소화 조치와 사후 복구의 재원·주체를 함께 설계해야 구제의 실효성이 확보된다. 이는 중단된 부분, 회복된 부분, 남은 손실을 나누어 기록하고 회복 가능 여부에 따라 각기 다른 구제 수단과 실행 주체를 연결할 때 성립한다.
9.1작동 정지와 사후 복구의 결합 설계
작동을 멈추었다는 보고가 곧 피해가 회복되었다는 뜻은 아니다. 이미 이루어진 자료 전송의 영향이나 지나간 신청 기회의 손실은 정지 뒤에도 남기 때문이다. 이 편이 묻는 것은 멈춤과 되돌림 중 어느 하나를 택하는 일이 아니라, 두 수단을 어떤 순서와 재원으로 함께 준비해야 명령이 선언에 그치지 않는지다. 중심 명제는 피해가 남아 복구가 필요한 경우에는 피해 최소화 조치와 사후 복구의 재원·주체를 함께 설계해야 구제의 실효성을 확보할 수 있다는 것이다. 이 결합이 없으면 중지 규칙만 있고 복구 재원과 실행 주체가 없는 선언이 반복되며, 피해자는 멈춘 화면 앞에서 회복되지 않은 손실을 홀로 감당하게 된다. 개별 손해의 책임 배분과 현행 국가배상 법리의 해설은 이 편이 확정하지 않고 IV-11과 III-42에 맡긴다.
9.2중단·회복·잔존 피해의 분리 기록
성립 조건은 무엇이 중단되었고 무엇이 되돌아왔으며 무엇이 남았는지를 나누어 기록하고, 각 항목에 대응하는 수단과 주체를 연결하는 것이다. 합성상황으로 자동 이체 지시가 잘못 실행되어 일부 자금은 이동 전에 차단되고 일부는 이미 이전되었다고 가정하자. 차단된 부분은 중지의 성과로, 되돌아온 금액은 회복의 성과로, 되찾을 수 없는 기회 손실이 있다면 잔존 피해로 각각 적어야 완료 보고 하나가 세 결과를 가리는 오류를 막을 수 있다. 명령 자체가 현재 작동의 정지만 요구했다면 잔존 손실을 이유로 그 좁은 명령의 이행을 부정하지 않고 별도의 회복 문제로 기록한다. 가장 강한 반론은 모든 손실을 되돌릴 수는 없으므로 복구까지 약속하는 설계는 과도하며 신속한 차단에 집중해야 한다는 주장이다.
9.3반론: 원상회복 한계와 차등 구제
복구가 불가능한 항목이 있다는 점은 인정한다. 원상회복을 보편적으로 가정하지 않는 것이 이 편의 전제다. 답은 불가능하다는 이유로 재원 설계를 생략하지 않고, 회복 가능한 부분과 불가능한 부분에 서로 다른 구제를 연결하는 데 있다. 회복 가능한 항목에는 추적 가능한 재산과 보상 재원, 실행 권한을 가진 회복 주체, 이행 확인 절차가 필요하고, 회복 불가능한 항목에는 그 사실을 명시한 채 다른 구제의 권원과 범위를 별도로 검토한다. 「Framework Convention on Artificial Intelligence」는 묶음에서 절차적 보호의 자료로 제시되며, 명령 권한과 복구 재원을 함께 설계하자는 주장은 이 편의 제안이지 국내 재정 제도의 확정이 아니다. 복구 가능성이 있다는 이유만으로 차단의 필요가 사라지지도 않는다. 피해가 더 확산될 조건이 남아 있다면 회복 준비와 추가 피해를 막는 조치를 함께 검토해야 하기 때문이다. 인공지능이 피해 확산을 빨리 파악하고 놓친 증거와 반론을 찾아낸다면 회복 청구 능력은 넓어질 수 있으나, 그 이익이 당사자에게 도달할 통로와 비용 부담이 함께 설계될 때만 현실이 된다.
9.4결합 설계의 폐기 조건과 기록 원칙
이 명제를 버려야 하는 조건은 분명하다. 복구 재원과 주체의 연결이 실제 회복과 검증 개선을 만들어 내지 못한다면 결합 설계의 기여는 폐기되어야 한다. 피해 최소화의 성과와 잔존 손실, 복구의 범위를 따로 남겨, 차단된 부분을 이미 회복한 것으로 보거나 회복되지 않은 피해 때문에 차단 자체의 성과를 지우지 않아야 한다. 멈춤과 되돌림을 함께 남기는 기록이 쌓일 때, 법원은 금지 규정만으로 통제를 선언하는 유혹에서 벗어나 다음 배치 전에 무엇을 확보해야 하는지 물을 수 있다. 그 질문이 남는 한 사법은 실패를 숨기지 않고 다음 판단을 준비하는 일을 계속할 수 있다. 이는 낙관이 아니라 다음 집행을 위한 최소한의 정직이다.
다룬 공식 문서 Council of Europe Framework Convention on AI: official overview ↗
제10편국경 밖에 있는 스위치와 장부
국경과 물리적 관할이 남기는 공백
명령 수신자와 실제 통제자가 국경을 사이에 두고 갈라져 물리적 접근이 차단된 조건에서는 국내 명령만으로 집행 완결을 보증할 수 없으며, 집행 공백은 접근과 작동의 연결 여부로 판단해야 한다. 이는 발령·전달·이행·회복을 분리 기록하고 각 단계별 관할·수신자·도달 수단 및 적법한 협력 경로를 특정할 때 성립한다.
10.1초국경 분리와 국내 명령의 한계
명령을 받은 법인과 실제 자원을 움직일 수 있는 통제자가 다른 나라에 있고 서버와 자금도 국경을 넘어 이동한다면, 국내 법원의 명령문은 어디까지 도달하는가. 이 편이 묻는 것은 관할을 선언하는 문장의 힘이 아니라, 명령의 수신자와 집행 대상, 작동 수단이 국경을 넘어 연결되는지 여부다. 중심 명제는 수신자와 통제자가 갈라지고 물리적 접근이 차단되는 조건에서는 국내 명령만으로 집행 완결을 보증할 수 없으며, 집행의 공백은 권한 선언이 아니라 접근과 작동의 연결 여부로 판단해야 한다는 것이다. 이 구별이 없으면 법원은 도달하지 않는 명령을 반복해 권위를 소모하고, 당사자는 승소한 판결문과 바뀌지 않은 현실 사이에서 구제를 잃는다. 외국판결의 승인과 중재 판단의 집행 일반은 이 편이 확정하지 않고 III-48과 IV-15에 맡긴다.
10.2단계별 도달 특정과 국가 통제 반론
성립 조건은 발령·전달·이행·회복을 분리해 기록하고, 각 단계마다 어느 관할의 누구에게 어떤 수단으로 도달하는지를 특정하는 것이다. 합성상황으로 적법한 권한을 가진 국내 법원이 자동 거래의 중지와 자금 동결을 명했는데, 실행 스위치는 국외 자회사에 있고 자금은 다시 다른 관할의 분산 장부에 있다고 가정하자. 전달이 확인되더라도 하위 연결이 끊기거나 동결 지시가 현지 법질서와 충돌하면, 기술적 접근의 복구와 적법한 협력 가능성을 각각 확인해야 한다. 가장 강한 반론은 국외 사업자의 협조가 있으면 공백이 사라지므로, 관할의 한계를 강조하는 일이 과도한 국가 통제를 정당화한다는 주장이다. 이 우려를 인정한다. 집행 가능성을 미리 확보하려는 요구가 인프라 감시와 과도한 통제로 흐를 수 있기 때문이다.
10.3국경 상황별 개입 조건과 대체 경로
특정 국가의 협조 실태나 실제 중지 능력은 확인되지 않은 사실로서 단정하지 않으며, 이 편은 조건부 공백만을 다룬다. 답은 개입의 대상·조건·범위·이의·종료를 국경 상황에 맞추어 다시 쓰는 데 있다. 누구에게 협조를 요청하고 누구에게 강제할 수 있는지, 요청이 거부될 때 대체 경로는 무엇인지, 자료 이전과 자금 추적에서 당사자의 권리 부담은 어디까지 허용되는지를 명령과 별도로 적어야 한다. 역량 추세를 관측하는 출발점으로 「International AI Safety Report 2026」을 읽을 수 있으나, 그 보고서가 법정에서의 정확성이나 특정 관할의 집행 성공을 보증하지는 않는다. 공급자가 자료·도구·업데이트를 지배하는 의존 구조가 겹치면 공백은 더 커지므로, 대체 가능성과 접근권, 이해충돌 통제를 함께 준비해야 한다. 인공지능이 재산 이동의 흔적을 빨리 정리해 보여 준다면 추적 능력은 넓어질 수 있으나, 국외 접근의 적법성과 그 정리를 재판의 근거로 쓸 수 있는지는 확인되지 않은 사실이다.
10.4공백 철회 조건과 차기 배치 인계
명제를 버려야 하는 조건도 함께 적는다. 발령과 실제 중지, 회복이 각 관할에서 각각 확인되고 통제자와 수단의 연결이 복원되면 해당 사건에 대한 공백 주장은 철회한다. 반대로 실제 개입 수단이 없는데도 금지 규정만으로 통제 가능성을 선언한다면, 그 설계는 이 권의 탈락 조건에 따라 기각되어야 한다. 공백을 공백으로 남기는 기록은 체념이 아니라, 다음 배치 전에 어떤 협조 경로와 회복 재원을 확보해야 하는지를 묻는 제12편으로의 인계다. 그 인계가 정확할 때 사법은 국경 앞에서 사라지는 것이 아니라, 자신이 할 수 있는 일과 할 수 없는 일을 함께 말하는 제도로 남는다.
제11편판결이 명령으로 남는 조건
통제가 불가능한 경우의 제도적 한계
자동화된 집행 단계에서 사법 권위가 실효적 명령으로 유지되려면 정당한 판결 내용에 더해 재판정과 집행을 잇는 검증 가능한 현실 통제 구조가 필요하다. 이는 재판정의 경로 추적, 외부 감사, 이해관계자의 이의 제기, 적법한 중단 발동이라는 네 가지 대체 불가능한 가능성이 실질적으로 작동할 때 성립한다.
11.1자동화 집행과 사법 권위의 귀속
판결이 선고된 뒤 집행과 실행 단계가 자동화의 대상이 되면 사법 권위는 무엇을 근거로 유지되는가. 중심 명제는 집행 단계의 권위가 정당한 판결의 내용과 더불어 집행 주체의 현실 통제력을 통해 실현된다는 것이다. 인공지능이 집행의 판단과 이행을 대행할수록 정당한 재판정과 집행을 잇는 검증 가능한 통제 구조가 필요하며, 그 귀속 링크가 끊기면 판결은 실효적 명령으로 기능하지 못하고 기록으로만 남는다. 이 물음이 해결되지 않으면 당사자는 재판받을 권리를 가졌으되 판결의 실효성을 물을 언어를 잃고, 집행 재량은 권위 바깥의 행정처럼 취급된다. 사법 존립의 일반 정당화를 이론 전체로 다루는 일은 이 편이 맡지 않고 IV-05에 맡긴다.
11.2귀속 단절 경로와 사중 통제 구조
귀속 링크가 끊길 수 있는 경로를 세 가지로 가정한다. 첫째, 판결문이 시스템 사양으로 번역될 때 정당화의 뉘앙스와 재량의 한계, 예외에 대한 유보가 압축되거나 왜곡된다. 둘째, 시스템 내부의 불투명성이 집행 결정의 추론을 재구성할 수 없게 만든다. 셋째, 선고와 집행 사이의 시간과 매개자의 개입이 두 사건을 서로 다른 세계의 일처럼 갈라놓는다. 이에 대한 재구성으로 제안하는 통제 구조는 재판정이 집행 경로를 추적할 수 있고, 외부 감시 주체가 감사할 수 있으며, 이해관계자가 이의를 제기할 수 있고, 적법한 권한을 가진 주체가 중단을 발동할 수 있을 때 집행이 권위 있는 명령으로 남는다는 것이다. 이때 인간 감독은 통제 구조 전체와 같은 것이 아니라 그 한 구성 요소다. 감독이 개입 가능성만 다룬다면 추적 가능성과 이의 경로는 비어 있게 되기 때문이다. 인간 감독의 강조가 국제 논의의 방향과 정합적이라는 점은 「EU AI Act Article 14」를 입구로 삼아 읽을 수 있으나, 조문 해석의 확정으로 확대하지는 않는다.
11.3반론: 순환성 비판과 전달 경로화
가장 강력한 반례는 순환성 비판이다. 통제 구조를 설계하고 감시하는 주체 자체가 인간 기관이라면, 통제 구조는 결국 인간 정당성의 다른 이름에 불과해 독립된 권위 근거가 될 수 없다는 지적이다. 이 비판이 가리키는 한계를 인정한다. 통제 구조 자체는 민주적 책임 체계와 재판정의 정당성에 의존하며, 그 자체로 권위의 원천이 될 수는 없다. 응답은 통제 구조를 정당성의 원천이 아니라 전달 경로로 재정의하는 데 있다. 낯설어진 것은 원천이 아니라 원천이 집행에 이르는 경로의 형식이며, 이 재정의는 비판을 완전히 해소하기보다 그 적용 범위를 제한한다. 통제를 형식적으로 갖추어도 권위가 붕괴하는 잔여 사례는 남는다. 정보 비대칭과 비용 부담으로 인해 이의 권한이 행사되지 못하는 명목상 통제와, 결정 속도가 통제 주체의 반응을 압도하는 구조적 과부하가 그것이다. 이 두 사례는 관찰된 현실이 아니라 합성 논증으로서, 통제 구조의 존재 여부만으로는 걸러지지 않으며 실질적 작동에 대한 별도의 확인을 요구한다.
11.4네 가능성의 비대체성과 재검토 조건
추적·감사·이의·중단의 네 가능성은 서로 대체할 수 없다. 추적 가능성만으로는 이의 경로가 비고, 중단 권한만으로는 경로와 이유를 밝힐 수 없기 때문이다. 네 가능성이 모두 결여된 집행은 실효성의 관점에서 명령보다 기록에 가깝다. 판결문의 법적 요구가 소멸한 것이 아니라 이를 현실에 연결할 구조가 비어 있기 때문이다. 이 편의 기여는 선고 중심의 권위 이론을 집행 단계로 확장하고, 인적 정당성에 통제 구조의 정당성을 결합하며, 명령과 기록의 구분을 진단 도구로 확립하는 데 있으나 조건부 제안으로 남는다. 예측적 함의가 경험적으로 반증되거나, 통제 구조가 실무에서 구현 불가능하다고 판단되거나, 순환성 비판이 원천과 경로의 구분으로도 흡수되지 않는 강도로 확정되면 이 기여는 재검토되어야 한다. 인공지능이 집행 경로를 알아볼 수 있게 정리하고 이의제기 문턱을 낮출 때 감시 능력은 넓어질 수 있으나, 그 정리가 재판정과의 귀속 링크를 살릴 때만 권위의 회복으로 이어진다.
제12편배치 전에 집행 가능성을 묻는 법
집행 가능한 권한을 배치 전에 확보하는 조건
확정 판결의 정당성은 절차적 종결만으로 완성되지 않으며, 집행 단계는 별도의 규범적 정당화 층위를 갖추어 배치 전에 집행 가능성을 검증해야 한다. 이는 관찰 가능한 규범적 관행, 조건부 전제, 규범적 선택을 삼층으로 분리해 진술하고 자기 재검토와 폐기 조건을 명시할 때 검증 가능한 제안으로 성립한다.
12.1집행 단계의 별도 정당화 층위
판결이 확정되는 순간 절차는 종결된 것처럼 보이지만, 확정 판결과 실제 사회 질서의 변화 사이에는 여전히 간극이 남는다. 중심 명제는 판결의 정당성이 확정 시점의 절차적 정당성만으로 완성되지 않으며, 집행 단계는 별도의 규범적 정당화 층위를 필요로 하고, 그 층위는 관찰 가능한 관행과 규범적 선택, 조건부 전제를 분리해 진술할 때만 검증 가능하다는 것이다. 이 형식을 갖추지 않으면 확인하지 않은 법령과 판례로 특정 제도의 합헌이나 위법을 단정하는 검증 불가능한 확언이 반복된다. 이 물음이 해결되지 않으면 형식적 종결이 실질적 변화를 대신하는 말로 쓰이고, 당사자는 집행의 근거를 물을 기회를 잃는다. 억제 권한의 정당화 일반은 이 편이 확정하지 않고 IV-06에 맡긴다.
12.2삼층 분리와 권위·실효성의 독립
정당화 층위의 삼층 분리는 실제로 관찰되는 규범적 관행, 확인되지 않았거나 앞으로 성립할 조건을 전제하는 논거, 어떤 통제를 정당하다고 볼 것인지에 관한 규범적 선택을 나누는 일이다. 형식적 권위와 실질적 실효성, 절차적 정당성과 사회적 수용성은 하나의 원리로 환원되지 않으며 서로 긴장한 채 병존할 수 있다는 점이 다중 이론 렌즈가 일깨우는 바다. 형식적 권위는 판결문의 법적 지위에서 나오고 실질적 실효성은 실제 질서의 변화 여부에서 나온다. 권위를 가진 판단이 실효성을 갖지 못할 수 있고 실효성이 관찰된다고 해서 적법성이 담보되지는 않으므로, 두 축의 독립성은 규범적으로 유지되어야 한다. 법관의 기술 사용이 형식적 정당성의 근원을 바꾸는지, 판단 내용에 영향을 미쳤을 때 그 영향을 어떻게 다루어야 하는지는 별도의 선택 문제이며, 확인되지 않은 판례와 조문으로 국내 관행을 단정하지 않는다. 국제 논의의 관측 방향을 읽는 입구로 「International AI Safety Report 2026」과 「Framework Convention on Artificial Intelligence」를 삼되, 이를 국내 의무로 전용하지는 않는다.
12.3반론: 공허한 형식주의와 검증 가능성
고도의 자율 시스템이 판단과 집행에 개입한다는 조건은 묶음에서 확인되지 않은 사실이므로 조건부로 다룬다. 인간 감독과 책임 소재를 강조하는 설계가 국제 논의와 호응하더라도 동일한 제도나 국내 의무의 존재를 뜻하지는 않는다. 가장 강한 반론은 실증 자료 없이 형식 구조만 제시하므로 아무것도 확정하지 못하는 공허한 형식주의이며, 삼층 분리는 누구나 쓸 수 있는 서술 방식에 불과하다는 지적이다. 실증 결론이 없다는 점과 삼층 분리가 반드시 새로운 것임을 보장하지는 못한다는 점을 인정한다. 응답은 기여의 성격을 실증 결론이 아니라 검증 가능성을 형식적으로 확보하는 일로 한정하는 데 있다. 결론의 형식과 경계를 먼저 확정하는 일이 규범적 이론 기여의 영역에 속한다는 것이다. 다만 이 방어는 규범적 선택의 수준에서만 성립하며 실증적 반박으로 전환되지는 않는다.
12.4폐기 조건 명시와 배치 전 관측 항목
결론의 폐기 조건은 미리 정해 둔다. 조건부 전제가 사실과 상충하거나, 삼층 분리가 실제 적용에서 일관되게 작동하지 않거나, 법적 문제 해결에 무익하거나 권력 확장을 은폐한다는 반례가 실증적으로 확정되면 결론은 폐기되거나 다시 쓰여야 한다. 이러한 자기 재검토의 명시가 규범적 논증의 검증 가능성 조건이며, 영원한 명제가 아니라 조건부 제안이라는 선언이다. 배치 전에는 명령의 수신자·집행 대상·개입 수단의 연결과 중지·회복의 확인 여부를 관측 항목으로 두고, 미확인 사항은 조건부 전제로 남기며, 권한의 범위는 규범적 선택으로 적는다. 인공지능이 이 구분과 이의제기 지점을 당사자에게 보여 주더라도 연결의 실재성은 별도로 확인해야 하며, 그 결과에 따라 배치 여부를 판단한다.
다룬 공식 문서 International AI Safety Report 2026 ↗ · Council of Europe Framework Convention on AI: official overview ↗