요약
위기 대응을 위한 공동의 중지 권한은 무기한 통제나 성급한 해제로 흐르지 않도록 시작 조건과 종료 조건의 쌍으로 설계되어야 한다. 비가역성과 검증 불가능성을 기준으로 발동하되 유예 기간 동안 독립 검증과 대체 수단, 당사자의 반박 능력을 확보하고 이를 재개 조건에 연결할 때 정당화된다.
11.1공동 중지 권한의 시작과 종료 쌍
위기 앞에서 함께 멈출 권한이 필요하다는 데는 이견이 적다. 어려운 것은 멈춘 다음이다. 누가 언제 어떤 조건에서 다시 시작할지를 정하지 않으면 중지는 무기한 통제가 되거나 성급한 해제로 끝난다. 이 편의 중심 명제는 위기 대응의 공동 권한을 시작 조건과 종료 조건의 쌍으로 설계해야 한다는 것이다. 중지를 검토할 권한과 중지를 끝낼 권한을 함께 두되 둘의 위험 문턱을 반드시 같게 만들지는 않는다. 이 물음이 해결되지 않으면 카테콘은 시간을 버는 기능이 아니라 시간을 소비하는 명분이 된다.
11.2카테콘의 발동 요건과 유예 사용처
조건은 카테콘의 정의에서 나온다. 카테콘은 되돌리기 어려운 침해에 앞서 숙고와 이의제기, 중지와 회복의 시간을 확보하고, 그 시간에 적응 능력과 정당한 재개 조건을 만드는 공적 기능이다. 따라서 첫째, 발동 요건을 좁히고 분명히 한다. 비가역성과 확산 속도, 검증 불가능성을 기준으로 삼고 막연한 불안만으로 발동하지 않는다. 둘째, 유예의 사용처를 정한다. 독립 검증과 대체 수단, 피해 회복과 공공 전문성, 당사자의 반박 능력이 자라지 않으면 시간을 소비한 것에 불과하다. 따라서 어떤 능력이 확보되어야 다음 단계로 이동할 수 있는지를 문장으로 적는다. 셋째, 재개와 재심사를 나눈다. 재심사를 받을 수 있다는 것과 재개할 권리가 이미 있다는 것은 다르다. 억제권을 행사하는 자에게도 이유와 심사, 변경과 종료의 규칙이 적용되어야 한다. 「International AI Safety Report 2026」의 세부 서술은 확인되지 않은 사실이나, 기획헌장이 나눈 자율행위·자원 접근·외부 개입 가능성의 축과 관측 자료를 함께 참조하되 보고서 발행 이후의 능력까지 확인했다고 주장하지 않는다. 실제 개입 수단의 기술적 진단은 IV-04에 맡기고 이 편은 권한의 설계에 머문다.
11.3반론: 위기 시급성과 한정된 위임
가장 강한 반론은 위기가 닥치면 절차를 따질 겨를이 없으며 사전에 정한 종료 조건이 현장의 판단을 묶는다는 것이다. 인정할 부분은 있다. 위기는 예외를 요구한다. 그러나 답은 무제한 위임이 아니라 한정된 사전 위임과 사후 심사다. 긴급한 일시 중지는 넓게 허용하되 기간과 범위를 한정하고, 연장될수록 더 높은 심사 문턱과 더 많은 이유 제시를 요구한다. 종료 판단은 기간 경과만으로 하지 않고 요구의 변경과 능력 확보 여부에 연결한다. 중지 결정에는 현재 위험의 근거와 확보할 적응 능력을 남겨 긴급 유예가 이유 없는 무기한 통제로 이어지지 않게 한다.
11.4집행 수단·역량 부재 시 설계 폐기
이 명제는 공동 중지가 실제 집행 수단과 복구 재원 없이 선언에만 그치면 폐기한다. 명령은 있으나 도달할 통제자와 실행 수단이 없다는 것이 드러나면 같은 권한을 되풀이하지 않는다. 유예 기간에 독립 검증과 대체 수단, 당사자의 반박 능력이 자라지 않거나 종료 조건 없이 중지만 반복되어도 설계를 다시 짠다. 공동 권한의 유지 여부를 판단하는 기준은 중지의 횟수가 아니라 재개된 결정의 이유와 피해 회복의 기록이다. 멈출 수 있고 다시 시작할 이유를 물을 수 있을 때 위기는 예외가 아니라 질서의 일부가 된다.