제1편억제·유예·재개는 서로 다른 시간 구조다
억제와 유예의 개념적 계보
카테콘이 무기한 통제나 성급한 해제로 변질하지 않으려면 권한의 원천 유보인 억제, 조건부 연기인 유예, 범위 한정적 재개의 시간 구조를 구별해야 한다. 이 구별은 중지 명령의 속도를 늦추지 않으면서 중지 이후의 기록과 재검사, 종료 조건을 따로 규율할 때 성립한다.
1.1억제·유예·재개의 시간 분리
이 편의 중심 명제는 억제·유예·재개가 각각 다른 시간 구조를 가진 개념이며, 셋을 구별하지 않으면 카테콘은 무기한 통제와 성급한 해제 중 하나로 변질한다는 것이다. 카테콘(κατέχω)의 신학적 모티프는 이 제도를 설명하기 위해 저자가 규범적으로 재구성한 은유적 렌즈다. 성서의 억제와 때의 모티프가 이 제도를 이미 정당화한다고 주장하지 않으며(「살후 2:6-7」), 그 모티프를 특정 정치권력과 동일시하지도 않는다. 카테콘의 정치신학 원전과 예방원칙·비상권한·가처분의 비교법 원문은 아직 확보하지 못한 자료이며(확인되지 않은 사실), 현행 보전처분의 해설은 제3총서 III-35·III-40에 맡긴다. 개념을 나누지 않으면 무엇이 중지의 대상이고 무엇이 종료의 조건인지가 뒤섞인다. 억제의 정당화와 종료의 정당화도 같은 문장 안에서 서로를 대신하게 된다.
1.2세 개념의 성립과 전환 조건
억제는 권한 이양의 원천적 유보를, 유예는 조건 성취를 기다리는 조건부 연기를, 재개는 효과의 다시 시작을 뜻한다. 세 개념은 성립과 전환에 각각 다른 조건을 요구한다. 억제는 왜 그 권한을 주지 않는지에 관한 근거를, 유예는 언제 무엇이 성취되면 무엇을 다시 허용하는지에 관한 조건을, 재개는 어떤 범위와 관측 아래 다시 시작하는지에 관한 한정을 요구한다. 한 문장으로 중지를 명한 뒤 이 세 조건을 함께 적지 않으면, 중지의 이유가 곧 무기한 유지의 이유로 오인된다. 기한이 지나면 자동으로 허용된다는 오류도 같은 자리에서 생긴다. 이 편이 다루는 것은 현행 중지 절차의 확정이 아니라, 이 권이 앞세운 사법 기능을 정하는 개념적 출발점이다. 실정법상 중지·재개 절차의 요건은 별도의 확인 대상이며, 이 편은 그 존재나 공백을 검증한 바 없다.
1.3능력·배치로 본 ASI와 무력화
ASI의 사법적 의미도 명칭이 아니라 능력과 배치 조건으로 나눈다. 인간보다 뛰어난 추론, 긴 시간에 걸친 자율행위, 설득과 정보 환경에 대한 영향, 자원과 기반시설에 대한 접근, 자기 변경, 외부의 개입 가능성은 서로 다른 축이다. 뛰어난 능력이 곧 해로운 의도나 무제한 권한을 뜻하지 않으며, 실제 통제 수단이 소멸한 상황은 법만으로 해결했다고 선언할 수 없는 경계로 남긴다. 발전을 관측할 출발점으로 국제 AI 안전 보고서와 METR의 기술 과업 평가를 두되, 과업의 길이·성공 확률·환경·자율성을 나누어 읽는다. 기술 과업의 추세를 법정에서의 정확성이나 ASI의 도래일로 바꾸지 않는다. 보고서의 발행 시점 이후의 능력까지 확인했다고 주장하지 않는 것도 같은 이유다. 무력화는 모델의 이름이 아니라 기록·심리·독립성·집행 같은 기능의 상실로 나타나며, 이 구별이 다음 편에서 설계 대상을 한정하는 출발점이 된다.
1.4반론: 비상시 중지의 신속성
최강 반론은 개념 구별이 비상 상황에서 무의미하다는 것이다. 위험이 임박한 때에는 중지 명령 하나로 모든 것이 멈추어야 하며, 억제와 유예를 나누는 언어는 지연의 명분으로만 쓰인다는 우려다. 신속한 중지가 실제로 중요하다는 점은 인정한다. 그러나 규칙이 붙는 자리는 중지 자체의 속도가 아니라 중지 이후의 기록과 재검사, 종료 조건이다. 이 구별은 신속성을 금지하지 않고 신속한 중지가 남긴 시간을 무엇에 쓸지 묻게 한다. 반론이 유지되려면 구별이 실제로 중지의 신속성을 떨어뜨리면서도 보호에는 아무 기여도 하지 못한다는 점이 확인되어야 한다. 반례로, 시간 구조를 분리하지 않아도 억제의 유지와 해제가 같은 질로 기록되거나 시간 구조를 나누어 기록해도 다음 판단의 근거가 달라지지 않는다면, 이 구별은 설계상의 기여를 상실한다. 이 편의 결론은 세 개념의 시간 구조를 나누는 것이 억제를 약화하는 일이 아니라, 억제가 정당화와 종료를 함께 설명하게 만드는 조건이라는 것이다.
다룬 공식 문서 2 Thessalonians 2:6–7, ESV ↗
제2편유예와 재개에는 서로 다른 설계 요건이 있다
카테콘을 사법 기능으로 옮길 때의 정당화
법적 효력을 유지한 채 적용만 미루는 카테콘 설계 패턴은 유예의 사전 문서화, 신뢰이익 손실의 사후 배분, 재개 검증 주체의 기관적 분리라는 세 요건을 갖출 때 정당화될 수 있다. 재개 조건이 사전에 고정되지 않거나 독립적 사실 인정 절차가 없으면 이 설계는 소극적 효력 선언으로 재분류되어 정당화를 상실한다.
2.1카테콘 설계의 세 가지 요건
이 편은 법령·판례의 효력을 무효화하거나 제거하지 않으면서 그 적용을 일시 유예하고 조건 성취 시 재개하는 설계가 어디까지 정당화될 수 있는지, 어떤 절차 요건이 필요한지를 묻는다. 중심 명제는 이른바 카테콘 설계 패턴이 세 요건을 갖출 때에만 정당화 논증이 성립 가능한 상태가 된다는 것이다. 세 요건은 유예의 명시적 근거·기간·재개 조건의 사전 문서화, 유예 중 발생한 손실의 사후 배분, 재개 판단의 독립적 검증 주체 확보다. 대상은 법적 효력을 이미 보유하면서 적용만 일시 정지할 수 있는 조항으로 한정하며, 효력을 소멸시키는 무효 선언이나 일몰 법제는 포함하지 않는다. 재개 조건이 예약되어 있는지가 이 패턴과 단순한 일시 정지의 구분점이다. 이 명제는 형식적 정의와 검증 가능한 설계 산출물에 그치며, 대한민국 현행법의 합헌성이나 특정 제도의 적법성을 단정하지 않는다. 규제 정책의 시간 구조를 다루는 행정·규제 영역을 주된 적용 대상으로 삼는다.
2.2유예 사전 문서화와 손실 배분
유예는 명시적 근거와 예상 기간, 재개 조건이 사전 문서로 고정된 경우에만 정당화의 후보가 된다. 사후에 유예의 사유와 조건을 문서화하는 것은 유예라기보다 임의 집행에 가까우며, 이 패턴의 범위 밖이다. 기간 제한을 함께 문서화해야 하는 이유는 무제한 연장이 유예를 소극적 효력 선언으로 변질시키기 때문이다. 유예 기간 중 기존 규제의 보호 대상이던 제3자가 입은 신뢰이익상 손실은 유예 결정 주체가 우선 배상한다는 원칙을 설계에 넣는다. 배상은 유예로 인한 직접 손실에 한정하고, 일반적 시장 변동으로 인한 손실은 범위 밖에 둔다. 이 원칙은 형식적 설계 원리로 제시될 뿐 손해 산정 기준이나 소멸시효 같은 실정법의 세부 사항은 다루지 않는다. 형사 처벌의 유예나 집행유예·형의 감경처럼 죄책과 형량의 비례성에 지배되는 영역에는 유추 적용하지 않는다.
2.3재개 검증의 분리와 헌법 반론
재개 판단의 주체는 유예를 결정한 주체와 기관적으로 분리하는 것을 원칙으로 한다. 권한이 한 주체에 모이면 재개 조건이 충족되었는데도 재개가 지연되거나, 반대로 조건을 충족하지 못한 상태에서 조기에 재개될 위험이 있다. 분리가 현실적으로 불가능하면 판단 사유를 문서로 소명하고 공개하는 절차를 의무적인 대체 수단으로 둔다. 충족 여부의 검증은 유예 결정 주체와 분리된 독립적 사실 인정 절차를 거치며, 어떤 지표를 쓸지는 유예 결정 시점에 미리 고정한다. 사전에 고정하지 않은 지표는 재개 시점에 임의로 도입될 수 있으므로 요건을 충족하지 못한다. 최강 반론은 유예·재개의 권한 분리 요구가 헌법상 권력분립과 재판권 보장, 법관 독립의 요구와 충돌하여 도입 자체가 불가능하다는 것이다. 이 요구가 대한민국 헌법 체계에서 반드시 요청되는지, 허용되는지는 이 편이 판단하지 않는다. 헌법재판소·법원의 판단이 선행하지 않으면 구체적 제도에 대한 정당화 결론에 이르지 못한다는 점을 인정한다. 이 패턴은 실정 헌법의 해석 결론이 아니라 제도 설계에 관한 조건부 진술이다. 헌법 체계와의 정합성 문제는 별도의 헌법 해석 과제로 분리하며, 설계 요건을 충족하면 정당화 논증이 성립 가능한 상태가 된다는 데 기여를 한정한다.
2.4소극적 효력 선언과 폐기 조건
이 설계 패턴은 재개 조건이 사전 문서화되지 않았거나, 재개 판단 주체가 분리되지 않고 독립적 사실 인정 절차도 부재한 경우 정당화를 상실한다. 그때의 유예는 카테콘 설계 패턴의 유예가 아니라 소극적 효력 선언으로 재분류해야 하며, 정당성 심사는 별도 기준으로 옮겨 간다. 이 폐기 조건은 자기 한정 원리이며, 패턴이 폐기된다고 해서 그 유예 결정의 위법성이 곧 확정되는 것은 아니다. 새로움의 범위는 기존 논의가 규제의 발동과 폐지를 이분법으로 다루는 것과 달리, 발동·유예·재개의 시간 구조를 형식화하고 유예와 재개에 서로 다른 설계 요건을 부여한 데 있다. 재개 판단 주체의 독립성과 지표의 사전 고정을 형식 명제로 정의한 것도 같은 범위에 들어간다. 이 설계 원리가 충족된다고 특정 제도의 합헌성이 확보되거나 국가배상 책임이 성립하거나 미래 인공지능 거버넌스에 이 패턴이 필수적으로 적용된다는 주장은 하지 않는다. 실제로 유예·재개 요건이 실정법의 어떤 유형에서도 검증 가능하게 기술되지 않고 모든 사례가 임의적 사후 판단으로 환원된다면, 이 기여는 폐기한다.
제3편억제권이 규율되지 않으면 유예는 통제의 이름을 얻는다
누구를 무엇으로부터 보호하는가
비가역적 피해로부터의 보호가 무기한 통제로 변질하지 않으려면 억제권 행사자에게도 이유·심사·변경·종료의 규칙을 부과해야 한다. 긴급한 중지의 신속성과 사후 기록·종료 조건을 분리하고 유예 기간에 독립 검증과 회복 수단을 확보할 때에만 유예가 통제의 명분에서 벗어난다.
3.1억제권자 규율과 이중의 보호
이 편은 누구를 무엇으로부터 보호하는지를 묻는다. 비가역적 파괴로부터 당사자와 공공을 보호하는 일과, 중지의 이름으로 가해지는 무기한 통제로부터 보호하는 일은 같은 설계 안에 들어가야 한다. 중심 명제는 억제권을 행사하는 자에게도 이유·심사·변경·종료의 규칙을 적용해야 한다는 것이다. 재심사 가능성과 재개 권리를 구분하고 유예 시간의 사용처를 적지 않으면 유예는 통제의 명분이 된다. 억제의 대상만 규율하는 제도에서 중지·재개 권한의 설계가 막히는 지점이 바로 여기다. 이 물음이 해결되지 않으면 유예로 서비스 접근을 잃은 당사자와 피해 우려를 가진 당사자 모두 자신의 손실을 담을 절차를 얻지 못한다. 이 편이 내놓는 것은 새로운 중지 이론이 아니라, 유예가 통제의 명분이 되지 않게 하는 규칙의 묶음이다.
3.2반론: 신속 중지와 기한의 성격
최강 반론은 억제권에 규칙을 붙이면 위험 상황에서 신속한 중지가 불가능해진다는 것이다. 신속성은 실제로 중요하며, 규칙이 중지를 무력화하면 보호 자체가 무너진다. 이에 대한 응답으로 규칙을 사후 기록과 재검사, 종료 조건에 배치하고 중지 자체의 신속성과 분리한다. 안전을 위해 중지를 무기한 유지하면 유예의 적응 기능이 사라지고 통제만 남는다. 따라서 중지에는 기한과 재검사 주기를 붙이고 영구화는 별도 결정으로 다룬다. 다만 기한이 도래했다고 자동으로 재개되는 것은 아니다. 기한은 재검사의 계기일 뿐, 기한이 지났다는 사실만으로 중지를 부른 위험이 사라지지는 않기 때문이다.
3.3유예 시간 사용처와 재개 조건
유예는 조건이다. 그 시간에 독립 검증이 늘지 않거나 대체 수단이 생기지 않거나 피해가 회복되지 않으면 유예는 목적 없는 지연이다. 따라서 시간의 사용처를 명시하고 미사용을 성과로 집계하지 않으며, 검증의 산출을 능력 지표로 적는다. 다만 지표의 부재가 유예 자체의 부정으로 이어지지는 않는다는 점도 함께 적는다. 재심사는 결정을 다시 보는 절차이고 재개는 효과를 다시 시작하는 선택이다. 그러므로 심사받을 기회만으로 재개가 정당화되거나 재개 거부가 심사 거부로 오해되어서는 안 된다. 재개의 속도는 감정이 아니라 회복 상태와 남은 위험, 대체 수단, 이의 기회에 관한 조건 목록으로 정하며, 속도 자체를 가치로 옹호하지 않는다. 재개 후에도 관찰 유예를 두어 재개가 실제 회복을 방해하지 않는지 살핀다. 이 유예는 중지 유예와 문턱이 다르며, 재개를 지연하는 수단이 아니라 재개의 안정성을 확인하는 수단이다. 중지와 재개 양쪽에 이유 제시와 반박 기회를 두는 절차적 대칭성은 위험 문턱의 동일성이나 자동 재개를 뜻하지 않는다.
3.4검증 경로 독점과 설계 폐기
억제권 규율과 유예 시간의 사용이 실제 안전과 회복에 기여하지 않으면 설계 기여를 폐기한다. 다만 유예가 번거롭다는 이유만으로는 폐기하지 않으며, 무용성의 입증과 번거로움을 구별한다. 재심사 기관이 독립된 반박을 받을 수 없거나 억제권자가 검증 경로를 영구 독점하면 완성된 해결책이라는 주장을 철회한다. 중지 명령이 도달할 통제자나 실행 수단이 없는 경우에는 명령의 존재만으로 보호가 생기지 않으며, 실제 개입 수단의 진단과 설계는 제4권 IV-04에 맡긴다. 억제권자가 자료·도구·업데이트를 지배하여 공급자를 심리할 수 없는 상황도 같은 방향의 무력화 경로이며, 대체 가능성과 접근권의 설계는 뒤의 편에서 다룬다. 이 편은 국내 중지·재개 절차가 이미 체계화되었다는 사실 주장이나 카테콘의 종교적 정당화, 신속 중지의 금지를 주장하지 않는다.
제4편돌이킬 수 없음은 예방의 문턱을 낮출 뿐 근거를 대신하지 않는다
돌이킬 수 없는 변화와 예방의 근거
회복 불가능한 피해의 가능성은 예방의 문턱을 낮출 수 있으나, 그 조치는 무지가 아니라 피해 경로와 보전 이익의 연결, 실현 가능한 대안, 기한과 해제 조건 위에 서야 한다. 억제권자에 대한 독립 심사와 유예 기간의 공공 역량 확보, 신뢰이익 배분이 함께 작동할 때에만 낮은 문턱의 예방이 정당화 후보로 남는다.
4.1낮은 예방 문턱의 규범적 전제
중심 명제는 되돌리기 어려운 피해의 가능성이 더 낮은 예방 문턱을 정당화할 수 있으나, 그 문턱은 무지가 아니라 명시된 규범적 전제 위에 서야 한다는 것이다. 억제의 정당화는 위험 근거와 대안, 기한, 불복, 해제 조건을 함께 제시할 때 검토할 수 있다. 한 가지 조건만으로는 정당화의 후보가 되지 않으며, 그중 무엇이 빠졌는지에 따라 결함의 종류가 다르다. 이 물음이 해결되지 않으면 회복이 불가능한 피해를 입은 사람과 예방의 이름으로 혁신과 서비스의 기회를 잃은 사람이 각각 다른 방식으로 손실을 떠안는다. 유예가 확보한 시간을 무엇에 쓰는지도 같은 논증의 일부다. 독립 검증과 대체 수단, 피해 회복, 공공 전문성, 당사자의 반박 능력이 자라지 않으면 단지 시간을 소비한 것이다.
4.2피해 경로 연결과 실현 가능 대안
예방의 근거가 성립하려면 가능한 피해 경로와 조치가 그 경로에 미치는 영향이 밝혀져야 한다. 회복 불가능성과 중대성이 낮은 문턱을 지지할 수 있는 것은 어떤 손실을 우선 피하고 어떤 부담을 감수할지에 관한 규범적 판단이 더해지기 때문이다. 무지가 피해의 증거로 바뀌기 때문은 아니다. 비교에는 범위를 줄인 사용과 대체 수단, 정보 확보를 위한 한정된 유예처럼 실제로 가능한 선택지를 함께 놓는다. 가능하다고 적힌 대안이 곧 실행할 수 있는 대안은 아니므로 권한과 자원을 확인하고, 확인되지 않은 것은 이미 쓸 수 있는 선택지로 계산하지 않는다. 모든 손실을 하나의 금액으로 합산하자는 것이 아니라, 비교에서 무엇을 보전하고 무엇을 남기는지 설명하여 규범적 선택이 위험 수치 뒤에 숨지 않게 하자는 것이다. 조치가 보전하려는 이익 및 피해 경로와 연결되지 않으면, 돌이킬 수 없다는 사정만으로 그 조치를 정당화하지 않는다.
4.3반론: 불확실성을 이용한 통제
최강 반론은 미래 재난을 막는다는 명분이 권력자를 불확실성의 이용자로 만든다는 것이다. 즉 혁신과 자유를 무기한 제한하는 명분으로 쓰인다는 우려다. 이 우려는 개별 행위자의 악의가 아니라 제도적 경로의 문제다. 이에 대한 응답은 억제권자 자신도 독립 심사와 종료 규칙의 대상이 되어야 하고, 유예 기간에 확보할 공공 능력과 재개 조건을 명시해야 한다는 데 한정된다. 유예의 정당화는 유예로 인한 불이익의 무제한 전가를 전제하지 않으며, 신뢰이익의 배분 원칙은 이 한계를 설계로 옮기는 장치다. 억제를 검토할 권한과 억제를 끝낼 권한을 함께 설계하되, 둘의 위험 문턱을 반드시 같게 만들지는 않는다. 문턱의 차이는 회복 가능성과 개입의 시간차로 설명한다. 비상권력의 상시화를 막는 구조는 별도 편에서 다루되, 이 편은 예방의 근거가 그 구조 없이 성립하지 않는다는 점만 확정한다.
4.4예방 후보의 유지와 통제 한계
어떤 조치든 위험 근거·대안·기한·불복·해제 조건을 함께 제시하지 못하면 정당화의 후보에서 탈락한다. 반대로 피해 경로와 보전 이익의 연결, 대안과 기한, 불복과 해제 조건이 함께 소명되면 낮은 문턱의 예방도 정당화의 후보로 유지된다. 실제 통제 수단이 없다면 조치를 선언하는 것만으로 보호가 생기지 않는다. 이 경우에는 관측의 한계와 가능한 피해 완화, 남은 회복 자원을 따로 확인한다. 적응의 시간이 만들어 내야 할 것은 미래의 선의가 아니라, 어떤 능력이 확보되어야 다음 단계로 이동할 수 있는지를 정하는 조건이다. 이 편은 예방의 부당성을 주장하지 않고 현행 억제 권한을 확정하지도 않으며, 대한민국과 EU의 실제 예방 규칙은 별도의 원문 확인이 필요한 사항이다(확인되지 않은 사실). 악의적 행위자의 악용, 자율 시스템의 통제 실패, 편리한 도구에 대한 평범한 제도적 의존은 서로 다른 근거와 대응을 요구하므로 하나의 예방 논리로 묶지 않는다.
제5편모른다는 사실로 위험을 증명할 수 없다
무지를 위험의 증거로 바꾸지 않는 판단
모른다는 사실만으로는 위험도 안전도 증명할 수 없으므로, 불확실성 아래의 예방 조치는 피해 경로·보전 가치·조치 부담·정보의 가치라는 추가 전제를 명시해야 성립한다. 얻을 수 있는 자료로 확인 과제를 정하고 새 정보에 따라 조치 범위를 바꿀 경로를 열어 둘 때에만 무지가 무제한 억제의 근거로 전용되지 않는다.
5.1무지 단독 입증 기각과 추가 전제
이 편은 불확실성을 위험의 증거로 바꾸지 않으면서 예방 조치를 어떻게 정당화할 수 있는지 묻는다. 중심 명제는 무지 단독으로 특정 위험을 입증하기에 충분하다는 주장을 기각하고, 피해 경로·보전 가치·조치 부담·정보의 가치라는 추가 전제를 명시한다는 것이다. 지식 부족을 안전의 증명이나 무제한 억제의 근거로 전용하지 않기 위해서다. 이 편의 기여는 위험의 사실 판단과 불확실성 아래 조치의 정당화에 필요한 추가 전제를 분리하는 데 있다. 모른다는 말에는 필요한 자료가 없거나 측정 방법이 없거나 서로 다른 설명을 구별하지 못하는 경우가 섞일 수 있다. 이 상태들을 구별하지 않으면 무엇을 더 알아야 하는지, 어떤 조치가 필요한지도 흐려진다. 지식 부족을 가볍게 보자는 뜻이 아니라, 모른다는 진술이 특정 피해가 크거나 작다는 관측으로 바뀌지 않게 하자는 것이다.
5.2같은 무지, 다른 내부 상태
합성 사례에서는 검토자가 가진 자료로 서로 다른 내부 상태를 구별하지 못한다고 가정한다. 한 상태에서는 특정 사용이 피해로 이어지고 다른 상태에서는 그 피해가 생기지 않는데, 검토자의 지식 부족은 두 상태에서 같다. 그 부족만으로 피해가 발생한다고 확정하면 피해가 없는 상태에서도 같은 결론을 내린다. 반대로 모른다는 이유로 안전하다고 확정해도 같은 문제가 생긴다. 이 반례는 실제 위험이 없다는 증명이 아니다. 지식 부족 하나가 위험과 안전 중 어느 쪽의 사실 판단도 완성하지 못한다는 뜻이며, 조치의 선택에는 추가 전제가 필요하다. 추가 자료로 상태를 구별할 수 있게 되면 무지 단독의 반례에서 벗어나 그 증거를 평가해야 한다. 자료가 없거나 측정 방법이 없거나 설명을 구별하지 못하는 상태는 각각 다른 확인 과제를 남긴다.
5.3반론: 치명적 피해와 확인 과제
최강 반론은 치명적 피해에서는 확실한 증거를 기다리다가 조치의 기회를 잃는다는 것이다. 회복 불가능성과 중대성이 낮은 예방 문턱을 지지할 수 있다는 점을 인정한다. 그러나 손실이 크다는 판단과 그 손실이 얼마나 가능한지 아는 것은 다르다. 낮은 문턱을 선택한다면 보전할 이익과 피해 경로의 연결, 억제로 생기는 손실 부담, 권한과 자원이 확인된 대안, 실제 통제 수단을 분명히 해야 한다. 재개를 위해 모든 미래 위험의 부재를 증명하라고 요구하면 유예는 끝내 충족할 수 없는 조건에 묶인다. 그렇다고 일정한 시간이 지나면 자동으로 안전해지는 것도 아니다. 어떤 피해 경로를 확인할지, 어떤 정보가 들어오면 조치의 범위를 바꿀지를 구체적으로 정해야 한다. 확인 과제는 실제로 얻을 수 있는 자료와 연결하고, 얻을 수 없는 정보는 그대로 남긴다. 이처럼 시간을 정보와 판단 능력으로 바꾸는 조건을 묻는 것이 저자의 규범적 렌즈다. 재검토할 수 있다는 사실은 이미 재개할 권리가 확정되었다는 뜻과 다르다.
5.4새 정보의 해석과 기각의 범위
모든 새 정보가 억제의 이유가 되게 하면 조치를 바꿀 가능성이 닫힌다. 나쁜 결과는 위험의 입증으로, 좋은 결과는 숨은 위험의 미발견으로만 읽는 방식은 근거의 변화와 조치의 변화 사이의 실제 연결을 없앤다. 좋은 결과가 모든 위험을 없애는 것은 아니지만, 어떤 우려에 관한 증거인지는 평가해야 한다. 시험이 해당 경로를 다루지 않았다면 그 한계도 이유로 남는다. 새 정보가 해당 피해 경로와 무관하면 조치 변경을 강제하지 않되, 무관하다고 판단한 이유를 설명해야 한다. 기각의 범위는 무지 단독이 위험의 충분한 증거라는 주장에 한정하며, 한정된 예방의 정당성까지 사라지는 것은 아니다. 지식 부족 외에 독립된 피해 증거와 규범적 근거가 제시되면 무지 단독에 대한 기각을 그 판단 전체에 적용하지 않는다. 이 편은 ASI의 안전성이나 위험률을 추정하지 않으며, 모든 예방의 부당성이나 현행 억제 권한의 확정도 주장하지 않는다.
제6편억제는 필요·비례·최소 침해를 설계 요건으로 가진다
필요성·비례·최소 침해의 억제 설계
억제 설계가 정당화 후보로 유지되려면 필요성·비례·최소 침해가 선언이 아니라 보호 이익과 수단의 연결, 가용 대안 비교, 부담 배분을 따지는 절차 요건으로 작동해야 한다. 긴급 중지의 신속성과 유지·변경·종료의 비례 심사를 분리하고 실제 재심사로 조치가 달라질 수 있을 때에만 이 요건이 성립한다.
6.1절차 요건으로서 필요와 비례
중심 명제는 억제의 설계가 정당화 후보로 남으려면 필요성·비례·최소 침해를 선언이 아니라 검증 가능한 절차적 요건으로 충족해야 한다는 것이다. 필요한 것은 목표한 보호 이익과 침해 수단의 연결, 실현 가능한 대안과의 비교, 부담이 누구에게 가는지의 명시다. 이 물음이 해결되지 않으면 억제로 보호받는 사람과 억제로 선택을 잃은 사람 사이의 부담이 설명 없이 배분된다. 이 편은 억제의 정당화를 위험 근거·대안·기한·불복·해제 조건이 함께 제시될 때 검토할 수 있다는 전제 위에서, 그 조건들의 실질적 내용을 정한다. 필요성은 조치 없이도 보호 이익을 달성할 수 있는지, 그 수단이 피해 경로에 실제로 작용하는지를 묻는다. 비례는 억제로 얻는 보호와 억제로 잃는 자유·서비스·신뢰의 균형을 따지되, 모든 손실을 하나의 금액으로 환산하지 않고 무엇을 보전하고 무엇을 남기는지 설명한다.
6.2최소 침해 대안과 기능 분리
최소 침해는 같은 보호를 달성하는 더 좁은 범위의 수단이 있는지를 묻고, 대안은 실제 권한과 자원이 확인된 것만 선택지로 계산한다. 유예 기간의 신뢰이익 배분과 기한·재검사의 설계는 이 요건들이 시간축 위에서 작동하는 형태다. 기능을 나누어 일부만 중지하는 선택도 최소 침해의 후보가 된다. 그러나 그 분리가 명목적이거나 보조 기능의 출력만으로 비가역적 행위가 촉발된다면 후보에서 제외한다. 공급자가 자료·도구·업데이트를 지배하여 대체 수단이 실제로 존재하지 않는 경우에도, 대안이 없다는 사실은 최소 침해 검토를 생략할 사유가 아니라 기록해야 할 조건이다. 현행 법원에서 필요·비례·최소 침해가 이미 충족되어 있다고 가정하지 않으며, 각 요건이 충족되었다는 근거는 별도의 자료로 제시해야 한다. 확인되지 않은 대안을 이미 쓸 수 있는 선택지로 계산하면 비례의 판단 자체가 왜곡된다.
6.3반론: 심사 지연과 무력한 대안
최강 반론은 비례성 검토가 위험 앞에서 지연의 명분이 되고, 최소 침해 원리는 사실상 무력한 대안만 남긴다는 것이다. 비례성 심사 자체가 늦으면 보호의 기회를 놓친다. 이에 대한 응답으로 비례 요건을 긴급한 중지의 신속성과 분리해, 중지 이후의 유지·변경·종료 판단에 적용한다. 검토에 따른 지연은 별도 항목으로 기록하고, 어느 쪽이 더 큰 손실을 낳는지를 다음 판단의 입력으로 삼는다. 최소 침해가 무력한 대안만 남긴다는 우려는 같은 보호를 이루는 더 좁은 수단이 실제로 없을 때의 문제다. 그때는 그 사실 자체를 기록하고 억제를 넓은 범위로 유지할 근거로 삼되, 대안이 생겼을 때의 재검토 의무를 함께 둔다. 단계적 허용의 구체적 설계는 별도 편에서 다루며, 이 편은 비례 요건이 그 설계의 진입과 이탈 조건이 된다는 점만 확정한다.
6.4서식화된 심사와 명제 폐기 조건
필요·비례·최소 침해가 실제 침해의 경감으로 이어지지 않고 서식 충족에 그친다면 설계 기여를 폐기한다. 반대로 요건의 검토가 언제나 전면 금지의 결론으로만 이어져 반론과 수정의 가능성이 없어진다면, 이 역시 같은 요건의 실패다. 저항을 받지 않는 억제와 경감되지 않는 침해는 둘 다 이 설계의 목적을 이루지 못한다. 유예 기간에 확보된 검증·대안·회복 능력이 요건의 충족을 대신하지 않는 것처럼, 요건의 충족도 능력의 축적을 대신하지 않으므로 둘은 각각 기록한다. 이 편은 현행 법령상 비례성 원칙의 구체적 적용 요건이나 국내 억제 권한의 확정을 주장하지 않으며, 비교 규범의 원문은 별도의 확인 대상이다(확인되지 않은 사실). 성립 조건은 억제 결정에 이유·대상·대안·심사권자·종료 또는 재개 조건이 있고, 실제 재심사에 따라 조치가 달라질 수 있는 상태다. 그에 미치지 못하면 이 편의 명제는 조건부 설계의 수준을 벗어나지 못한다.
제7편유예의 성과는 경과 시간이 아니라 확인된 능력이다
유예 기간에 축적해야 할 공공 능력
유예 기간의 성과는 경과 시간이나 교육 횟수가 아니라 공급자 도움 없이 과업을 수행하고 오류에 개입해 수정 결과를 확인한 능력으로 입증되어야 한다. 과업에 필요한 원자료 접근과 실행 권한, 결과 피드백을 먼저 연결하고 확인된 수행과 남은 결손을 나누어 기록할 때 유예는 다음 판단의 자산이 된다.
7.1활동량과 독립 검증 능력의 구별
유예를 공진화의 시간이라 부르려면 그 기간에 무엇이 새로 가능해졌는지 보여야 한다. 교육을 많이 열었고 담당 인원이 늘었다는 기록은 활동이 있었다는 사실을 말할 뿐, 공급자의 도움 없이 자료를 대조하고 오류를 찾아 개입하며 수정 결과를 확인할 수 있게 되었다는 뜻은 아니다. 이 편의 중심 명제는 시간과 활동량만으로 공공 검증 능력의 축적을 인정할 수 없다는 것이다. 능력을 갖추었다고 말하려면 자료 접근, 실행 권한, 전문 인력, 결과 피드백이라는 선행 조건이 해당 과업에 실제로 연결되어 있어야 한다. 그 위에서 독립 수행의 기록도 확보되어야 한다. 준비가 덜 되었다는 사실은 자동 연장의 근거도, 자동 재개의 근거도 되지 않는다.
7.2같은 교육량, 다른 검증 과업
합성 사례의 두 기관은 같은 기간에 같은 교육을 받는다. 한 기관은 원자료에 접근하고 오류를 표시한 뒤 수정 결과를 확인할 수 있고, 다른 기관은 공급자가 고른 예제와 정답만 받는다. 교육의 양은 같아도 두 기관이 맡을 수 있는 검증 과업은 같지 않다. 이 대조는 실제 기관의 성과를 측정한 결과가 아니라, 활동의 양만으로 능력의 충분성을 주장할 수 없음을 보여 주는 구성이다. 자료 접근과 피드백은 명목상 존재하는 데 그치지 않고 해당 과업에서 사용할 수 있을 때 비로소 조건으로 인정된다. 준비 계획에도 순서가 있다. 교육부터 하고 나중에 접근권을 찾으면 배운 내용을 적용할 곳이 없어진다. 독립적으로 수행할 과업을 먼저 정하고 그 과업에 필요한 자료·도구·권한·인력·피드백을 연결한 뒤, 무엇을 먼저 확보해야 하는지 기록해야 한다. 그래야 후속 성과가 없을 때 교육 부족인지, 자료 미제공인지, 권한 부재인지 구별할 수 있다. 준비 활동의 책임도 그 연결에 맞추어 배정할 수 있다.
7.3반론: 장기 학습과 결손의 기록
가장 강한 반론은 능력이 장기간에 걸쳐 천천히 자라므로 단기 수행 기준이 준비를 왜곡한다는 것이다. 단기 기준의 왜곡 여부는 확인되지 않은 사실이나, 일부 학습은 늦게 나타나고 준비 과정에서 장애를 발견한 것 자체가 다음 설계에 도움이 될 수 있다. 그러나 이를 인정한다고 해서 시간만으로 충분하다는 결론에 이르지는 않는다. 저자는 단일 점수 대신 수행 가능한 과업, 해소되지 않은 장애에 관한 지식, 그 발견이 만든 계획 변경을 나누어 기록할 것을 제안한다. 예정한 과업을 끝내지 못했더라도 필요한 원자료가 애초에 생성되지 않는다는 사실을 확인했다면, 다음 설계는 교육의 반복이 아니라 기록 구조의 변경이 된다. 다만 이런 발견을 이미 검증 능력을 갖췄다는 성과로 보고해서는 안 된다. 같은 장애를 알면서 활동만 반복했다면 학습이라는 이름으로 성과를 부풀릴 이유가 없다. 수행 자료가 공급자의 답을 그대로 따라 한 것뿐이라면 독립 능력의 증거로 분류하지 않으며, 수료증의 수를 능력의 지표로 대신 쓰지 않는다.
7.4독립 수행 입증과 연장 심사
이 편이 기각하는 것은 경과 시간이나 교육량만으로 충분하다는 주장이다. 정해진 과업을 공급자 도움 없이 수행하고 오류를 제기하며 수정 결과를 확인한 기록이 확보되면, 시간만 소비했다는 평가는 거둔다. 어떤 과업과 조건에서 능력이 확인되었는지 정확히 적는다. 다른 사건과 더 큰 규모에서도 같을지는 후속 검증으로 남는다. 유예가 끝났는데 준비가 부족한 경우에도 연장과 재개를 각각 이유 제시와 심사의 대상으로 둔다. 연장이 바꿀 조건과 그 가능성을 제시하지 못하면 준비라는 이유만으로 연장의 충분성을 주장하지 않는다. 능력의 성패를 활동의 양이 아니라 확인된 과업과 남은 결손에 연결할 때, 유예의 시간은 다음 판단의 정보 조건을 바꾸는 자산이 된다. 대한민국과 잉글랜드·웨일스의 조직과 권한은 확인되지 않은 사실로 남기며, 이 편은 조건부 설계를 제시할 뿐 실제 역량 평가가 아니다.
제8편중지를 끝낼 수 있는 절차가 억제를 정당화한다
중지와 재개 조건의 대칭성
억제의 정당성은 중지 명령뿐 아니라 억제 지속과 재개 판단 양쪽에 이유 제시와 반박 기회를 부여하는 절차적 대칭성에서 나온다. 최초 결정에 재심사 계기와 제출 자료를 명시하고 유예 기간에 변경 기록·대체 서비스·회복 경로·공공 검토 역량을 확보할 때에만 억제 지속의 책임을 다툴 수 있다.
8.1중지와 재개의 절차적 대칭성
중지를 명할 때에는 위험을 설명하면서 억제의 지속을 정당화할 때에는 불확실성만 말해도 된다면, 억제권자는 종료를 설명할 책임에서 벗어난다. 이 편은 양쪽 결정에 이유 제시와 반박 기회를 함께 배치하는 절차적 대칭성을 제안한다. 대칭성이란 위험 문턱을 양쪽에 똑같이 두라는 뜻이 아니다. 긴급한 중지에 필요한 잠정적 소명과 비가역적 행위를 재개하는 데 필요한 검증이 같을 이유는 없다. 서로 다른 문턱을 채택할 때에는 침해의 회복 가능성과 개입의 시간차를 설명해야 한다. 문턱의 차이를 설명할 의무와 문턱을 동일하게 만들 의무를 구별해야 신속한 보호와 억제권의 통제가 함께 가능하다. 재심사를 받을 수 있다는 사실이 이미 재개할 권리가 있다는 뜻은 아니며, 기한이 도래했다는 사실도 자동 재개로 이어지지 않는다. 기한은 재검사의 계기다.
8.2사유 갱신과 반박 가능한 자료
재심사의 계기와 제출할 자료, 지연을 다투는 경로를 최초 결정에서 함께 정하지 않으면 중지는 위험이 아니라 절차의 부재 때문에 계속된다. 재심사 시점이 왔다는 사실은 중지를 유지하는 자에게 갱신된 이유를 요구할 뿐, 위험이 사라졌다는 사실까지 만들어 주지는 않는다. 재개 판단은 서로 다른 자료와 반론에 열려 있어야 한다. 공급자의 안전 보고만으로 재개를 결정하면 중지가 교정한 정보 의존이 그대로 돌아온다. 억제기관의 비공개 판단만으로 연장을 결정해도 같은 문제가 반대 방향에서 생긴다. 공급자가 주장하는 변경 사항과 억제기관이 지목하는 잔여 위험은 각각 반박 가능한 자료로 제시해야 한다. 피해 우려 당사자와 중지로 서비스 접근을 잃은 당사자는 서로 다른 손실을 주장할 수 있어야 한다. 공개가 새로운 위험을 만드는 경우에는 보호된 열람과 독립 검증을 검토하되, 비밀이라는 이유만으로 반론의 실질을 없애서는 안 된다. 고위험 AI에 대한 인간 감독 기능을 규정한 「EU AI법 제14조」와 절차적 보호를 설명하는 유럽평의회 공식 개요는 접근권 배분 전체를 명령한 조약 조문이 아닌 비교의 출발점이며, 한국 법원에 일반적 중지권이 있다는 근거로 이어 붙이지 않는다. 성서의 억제 모티프 역시 이 권한을 수여하지 않으며, 사법적 카테콘이라는 명칭은 저자의 재구성이다.
8.3유예 기간 과제와 제한 재개
유예 기간에 검증 가능한 변경 기록, 대체 서비스의 실제 제공 가능성, 피해 회복 경로, 독립된 공공 검토 능력이라는 과제를 배정하지 않으면 다음 심사는 처음의 불확실성을 다시 읽는 의식이 된다. 이 과제들이 모두 완수되면 반드시 재개한다는 약속은 아니다. 각 과제가 어떤 의존과 손실을 줄이고 어떤 위험을 남겼는지를 다음 판단의 입력으로 삼는다는 뜻이다. 전면 재개와 전면 금지 사이의 제한 재개는 기능 분리와 관측 가능성, 재중지 수단이 확보된 범위에서만 검토한다. 자료를 정리하는 보조 기능을 다시 쓰되 실행 기능의 중지를 유지하는 식이다. 그러나 분리가 명목적이거나 보조 기능의 출력만으로 비가역적 행위가 촉발된다면 이 경로는 닫힌다. 제한 재개 뒤 새 정보가 나타나면 다시 이유를 심사한다는 조건까지 있어야 시험이 사실상의 영구 허가로 굳어지는 것을 막을 수 있다. 실제 개입 수단이 도달하는 문제는 IV-04에서 진단하고, 이 편은 절차의 대칭성만 다룬다.
8.4반론: 억제 영구화와 폐기 조건
가장 강한 반론은 비가역적 위험의 불확실성이 해소되지 않을 수 있으므로 재심사를 반복해도 억제가 영구화된다는 것이다. 종료 가능성을 강조하면 부족한 증거로 위험한 활동을 허용하는 압력이 생긴다는 우려도 여기에 따른다. 절차적 대칭성은 재개 가능성이나 안전성을 보장하지 못한다. 정당한 중지가 장기간 계속될 수 있고, 검증 자원이 없는 환경에서는 반복 심사가 형식에 그칠 수 있다. 이를 인정하는 바탕 위에서 이 제안은 재개의 결과를 보장하기보다, 억제 지속의 이유와 지연 책임을 다툴 능력을 보장하려 한다. 재개 문턱을 낮추는 대신 대체 서비스·회복·공공 검증 역량을 키워 중지의 손실을 줄이고 다음 판단의 정보 조건을 바꾼다. 법원이 중지를 명할 권한을 얻어도 명령이 도달할 통제자나 실행 수단이 없다면 중지 성공이라는 서술은 거두고, 관측의 한계와 가능한 피해 완화, 남은 회복 자원을 각각 확인한다. 재심사 기관이 독립된 반박을 받을 수 없거나 억제권자가 검증 경로를 영구 독점하거나 통제 수단의 존재를 확인할 수 없는데도 이 설계만으로 정당한 재개를 보장해야 한다면, 이 적용 제안은 폐기한다. 어느 전제가 빠지면 중지 유지나 제한 재개의 결론이 달라지는지 기록하는 절차가 남는 한, 이 설계는 완성된 해법이 아니라 다음 검토를 가능하게 하는 제안으로 남는다.
다룬 공식 문서 EU AI Act Article 14: Human oversight ↗ · Council of Europe Framework Convention on AI: official overview ↗ · 2 Thessalonians 2:6–7, ESV ↗
제9편억제권자에게도 이유·심사·종료의 규칙이 있다
억제권자를 심사하는 권한
억제권이 자기면책에 빠지지 않으려면 권한을 행사하는 주체와 그 이유·변경·종료를 심사하는 주체를 기관적으로 분리해야 한다. 심사자가 반론 자료를 직접 확보해 실질적 변경·종료 결정을 내리고 반대 의견과 책임 귀속을 기록할 때에만 형식적 승인을 넘어선 사법적 통제가 성립한다.
9.1억제 행사와 심사 권한의 분리
억제의 대상만 규율하는 제도에서는 억제권 자체가 무규범 상태에 놓이고, 유예는 통제의 이름을 얻은 지연이 된다. 제3편이 중지자에게 사유 기록과 종료 조건을 요구했다면, 이 편은 그 규칙을 집행할 심사 권한이 누구에게 어떻게 놓여야 하는지를 묻는다. 중심 명제는 억제권자를 심사하는 권한이 행사 권한과 기관적으로 분리되어야 한다는 것이다. 억제권자 자신이 심사에서 제외되지 않고, 그 권한 행사의 이유·변경·종료를 다툴 수 있어야 한다. 권한을 부여하고 회수하는 판단이 기능별로 위임되고 반대 의견이 기록되며 책임의 귀속이 남을 때에만, 인간의 승인 표시만 있고 변경 능력은 없는 형태의 의존을 막을 수 있다. 공급자가 자료·도구·업데이트를 지배하는 곳에서는 대체 가능성과 접근권, 이해충돌 통제가 같은 심사의 전제로 놓인다. 그 공급자를 심리할 수 없는 구조라면 심사라는 이름을 붙여도 독립된 심리가 아니다.
9.2실질적 심사를 위한 네 가지 조건
심사 권한이 갖추어야 할 조건은 구체적이다. 첫째, 심사자는 억제권자가 쓴 자료에 더해 반론 측의 자료를 직접 구할 수 있어야 한다. 둘째, 심사 결과는 중지를 유지하거나 변경하거나 끝내는 형태로 실질적 효과를 낼 수 있어야 한다. 셋째, 심사 과정에서 다른 결론에 서명한 의견은 기록으로 남아 다음 판단의 자료가 되어야 한다. 넷째, 누가 어떤 판단에 대해 책임지는지 분명하게 귀속되어야 한다. 이 조건들은 억제권자의 판단을 무효로 만드는 장치가 아니라, 그 판단이 공적 검토를 거쳐 계속될 수 있는지를 정하는 장치다. 유예 시간의 사용처를 기록하지 않으면 심사는 처음의 불확실성을 다시 읽는 데 그치므로, 사용처의 기록도 심사의 대상에 넣는다. 헌법의 재판청구권과 독립 심판 기준은 이 설계를 검토할 출발점이지만, 구체적 심사 기관의 권한 배분은 확인되지 않은 사실로 남는다. 현행 보전처분의 해설은 III-35·III-40에 맡긴다.
9.3반론: 결정권 분산과 사후 심사
가장 강한 반론은 억제권자 밖에 별도의 심사 권한을 두면 결정권이 갈라져 긴급 대응이 흔들리고 책임만 흩어진다는 것이다. 신속성은 실제로 중요하고, 규칙이 중지를 무력화하면 보호 자체가 무너진다. 이 우려에 대한 답은 심사의 배치를 나누는 것이다. 중지 자체의 신속성은 사후 심사로 보호하되, 중지를 계속 유지하는 판단은 갱신 심사의 대상으로 둔다. 긴급한 중지에는 선행 청문이 제한될 수 있어도 신속한 사후 심사를 설계해야 한다. 그 심사에서 사유가 부족하면 중지의 지연이 아니라 사유의 보완이나 변경으로 이어져야 한다. 이 구분이 없으면 규칙은 언제나 신속성 앞에서 유보된다. 반대로 규칙이 중지의 속도 자체를 늦추는 설계는 이 편의 제안이 아니다. 책임도 마찬가지다. 심사가 더해졌다는 이유로 책임이 흩어져서는 안 된다. 중지를 명한 자는 그 명령의 근거와 이후의 사용에 대해 책임지고, 심사자는 자신의 심사 범위에 대해 책임진다. 이 귀속이 남는 한 심사는 책임의 회피 장치가 아니라 분리된 검토가 된다.
9.4형식적 승인의 배제와 폐기 조건
이 편의 기여는 억제권의 행사와 그 심사를 분리해 자기면책을 막는 권한의 배치다. 심사 권한의 분리가 억제권자의 독점이나 형식적 승인을 실제로 바꾸지 못하면 설계 기여를 폐기한다. 심사가 억제권자의 설명만 받아들이거나, 심사자가 변경과 종료의 수단을 갖지 못하거나, 반대 의견이 기록에서 지워지거나, 이해충돌이 있는 심사가 계속되는 경우에는 이 설계가 성립하지 않는다. 이때 남는 것은 승인의 형식뿐이며, 그 형식을 사법의 통제로 세지 않는다. 다만 규칙이 번거롭다는 이유만으로는 폐기하지 않는다. 무용성의 입증과 번거로움을 구별하는 것이 이 편의 자기 한정이다.
제10편비상권력의 상시화는 종료 조건의 부재에서 자란다
비상권력의 상시화를 막는 구조
비상적 억제의 상시화는 위험의 지속 때문이 아니라 종료 조건과 사유 갱신 의무가 빠진 제도 설계에서 비롯된다. 발동의 신속성은 사후 심사로 보호하되 억제의 연장은 유예 기간의 변화와 손실을 반영한 갱신 사유, 독립 심사, 대체 수단 확보에 묶을 때에만 비상권력이 한시적 수단으로 남는다.
10.1종료 조건 부재와 사유 갱신 의무
비상권력이 문제 되는 것은 발동된 순간이 아니라 끝나지 않을 때다. 이 편의 중심 명제는 비상적 억제의 상시화가 위험의 지속이 아니라 종료 조건과 사유 갱신 의무의 부재에서 자란다는 것이다. 기한·갱신·독립 심사·대체 수단을 함께 설계할 때에만 억제가 한시적 수단으로 남는다. 미래 재난을 막는다는 명분이 불확실성을 만나면 권한은 무기한 연장되는 쪽으로 흐르기 쉽다. 이 흐름을 막는 것은 위험의 낙관적 예측이 아니라, 억제의 지속을 선택하는 쪽이 새로 이유를 제출해야 한다는 절차다. 기한이 지났다는 사실만으로 자동으로 재개되는 것도 아니지만, 기한이 지났는데 같은 문구로 연장되는 것도 검토 가능한 판단이 아니다. 유예 시간에 무엇을 했고 무엇이 달라졌는지가 다음 연장의 근거에 포함되어야 한다.
10.2상시화의 징후와 한시성 설계
설계는 상시화가 시작되는 징후를 미리 드러내야 한다. 사유가 처음과 같은 문구로 반복되고, 예외 조항이 본래의 원칙을 밀어내며, 대체 수단이 만들어질 자리에 통제만 남고, 종료의 판단자가 스스로를 심사에서 제외하는 상태가 그런 징후다. 이 편은 징후가 보일 때 자동으로 권한이 소멸한다고 정하지 않는다. 별도의 결정을 요구하고, 그 결정이 이유·심사·종료의 규칙을 거치게 할 뿐이다. 영구적 비상권력을 정당화하는 법원과 돌이킬 수 없는 변화를 추인하는 법원은 모두 공진화의 가능성을 닫는다. 비상 수단의 신속성과 상시화의 통제를 구별해야 두 실패를 함께 피할 수 있다. 신속한 발동은 사후 심사로 보호하되, 지속은 매번 갱신되는 사유에 묶는다. 배치 전에 적법한 개입 경로와 복구 재원이 마련되지 않은 비가역적 행위는 이 한시성의 대상에 먼저 들어가며, 집행과 회복의 구체 수단은 IV-04에 맡긴다.
10.3반론: 상비 권력 필요성과 지연 책임
가장 강한 반론은 상비된 비상권력이 없으면 새 위험에 무방비가 된다는 것이다. 이 우려는 대응 속도가 곧 보호라는 점에서 타당하다. 그러나 대응의 신속성과 권한의 상시화는 같은 문제가 아니다. 신속성은 사전에 정해진 발동 요건과 사후 심사로 확보할 수 있고, 상시화는 그 신속성과 무관하게 권한이 제도 안에 머무는 시간의 문제다. 반대로 종료 가능성을 강조하면 부족한 증거로 위험한 활동을 허용하는 압력이 생긴다는 반론도 타당하다. 그래서 이 편은 재개를 강제하지 않고 억제 지속의 이유를 갱신하게 하며, 그 갱신이 지연될 때에는 지연의 책임을 남긴다. 대체 서비스와 피해 회복 능력이 유예 기간에 자라지 않으면 중지의 손실은 고스란히 당사자에게 남는다. 그 손실을 기록하지 않은 연장은 정당화가 충분하지 않은 결정이다. 억제권자에게도 이유·심사·변경·종료의 규칙을 적용해야 한다는 원리가 여기서 실질을 얻는다.
10.4문구 반복과 상시화 방지책 폐기
이 편의 제안을 폐기해야 할 조건은 분명하다. 종료 조건을 문서로 썼으나 실제로 끝난 사례가 없고, 사유의 갱신이 같은 문구의 반복으로 채워지며, 심사가 형식에 그치고, 확인 불가능한 요구만 재개의 조건으로 쌓인다면 상시화를 막는 구조라는 주장을 철회한다. 그때 남는 것은 영구적 통제의 다른 이름이며, 카테콘은 성급한 해제가 아니라 무기한 통제의 명분이 된다. 반대로 번거로움만으로 이 구조를 폐기하지도 않는다. 어떤 결정이 어떤 조건에서 다음 결정의 정보를 바꾸었는지가 기록되는 한, 한시성은 약속이 아니라 검토 가능한 절차로 남는다.
제11편혁신의 이익은 권한의 조건부 복원으로 남는다
혁신의 이익을 보존하는 단계적 허용
사법적 카테콘의 핵심은 권한 이양의 원천 유보인 억제, 조건부 연기인 유예, 단계적 작동인 재개의 삼단 구조를 통해 실패 시 원자적 보류 상태로 돌아갈 복원 경로를 설계 문서에 고정하는 데 있다. 각 단계의 전환 조건과 복원 경로가 실효적으로 작동할 때에만 사법 권한의 연속성과 기술 혁신의 이익을 함께 보전할 수 있다.
11.1원자적 보류와 삼단 구조의 형식
카테콘을 되돌리기 어려운 침해 앞에서 숙고 시간을 확보하는 공적 기능으로 재구성할 때, 그 핵심은 형이상학적 수호가 아니라 권한 위임의 조건부성과 복원 가능성을 구조화하는 설계 원리에 있다. 판단 권한의 원자적 보류란 사법의 고유성을 절대적으로 지키는 태도가 아니라, 이양의 조건과 실패 시의 복원 경로를 명시하는 절차적 장치다. 억제·유예·재개의 삼단 구조는 이 원리를 실무 형식으로 옮긴 것이다. 억제는 이양의 원천적 유보를, 유예는 이양 조건의 충족을 기다리는 조건부 연기를, 재개는 조건 충족에 따른 단계적 작동을 뜻한다. 이 구조는 판단 보조체계의 권한 부여를 연기하면서도 연기의 조건과 실패 시 보류 상태로의 복원 경로를 명시한다. 이를 통해 사법 권한의 연속성과 혁신의 이익을 함께 보전한다. 신학적 개념은 은유적 렌즈로만 쓰고 법적 실증으로 확대하지 않으며, 신학적 카테콘을 특정 정치권력과 동일시하는 주장은 이 권의 범위 밖이다.
11.2억제의 조건부화와 복원 경로
억제와 유예를 나누는 설계상의 차이는 실질적이다. 억제는 복원 조건의 설정과 무관한 절대적 유보인 반면, 유예는 복원 조건과 시점이 명시된 조건부 연기다. 유예 상태가 무한히 계속되면 사법 권한의 실질이 잠식되므로, 명시적 복원 조건과 시점을 설계에 포함해야 한다. 억제의 조건부화란 이양의 조건을 문서로 고정하여 억제가 무한정 지속되지 않도록 설계상 제한을 부과하는 일이다. 재개의 조건은 이양 조건의 충족 여부와 복원 경로의 명료함에 따라 정해진다. 이때 복원 경로는 재개가 실패했을 때 원자적 보류 상태로 되돌아올 수 있도록 보장해야 한다. 판단 보조체계에 대한 권한이 조건 없이 계속되는 상태와 복원이 불가능한 상태는 둘 다 삼단 구조의 실패다. 기능 분리의 구체 조건은 제8편에서 다루고, 이 편은 권한 이양의 형식만을 다룬다.
11.3설계 문서 고정과 규범적 전제
실무 형식은 설계 문서로 구체화된다. 각 단계의 조건과 시점, 어떤 조건이 충족되면 어느 단계로 이동하는지, 복원이 실패하면 어느 상태로 돌아가는지를 문서에 고정해야 한다. 이 형식이 있으면 유예는 목적 없는 지연이 아니라 조건을 채워 나가는 기간이 되고, 재개는 임의적 선언이 아니라 확인된 충족의 결과가 된다. 사법 판단의 공적 정당성은 결과의 정확성보다 권한 귀속과 책임 소재의 명료함에 기초한다는 규범적 선택이 이 형식의 바탕에 있다. 인간 최종 판단의 실질적 이양은 불가능하나 절차적 의존은 심화된다는 점과, 헌법상 사법 독립·재판청구권이 이양의 상한이 된다는 기준은 조건부 전제로 둔다. 이 규범 전제가 관측된 규범으로 확정되면 별도의 검토가 필요하다. 성능 지표를 법정 정확도로 환산하지 않는 것도 같은 형식의 일부다. 측정할 것과 측정되지 않는 것을 먼저 정하고, 자료가 없으면 획득 수요로 남긴다.
11.4반론: 신학적 은유와 폐기 조건
가장 강한 반론은 카테콘의 신학적 기원을 법리적 형식으로 옮기는 작업이 이질적인 개념의 결합이며, 은유적 수사에 그칠 수 있다는 것이다. 신학적 기원이 은유적 요소를 품는다는 점은 인정한다. 그러나 이 논증이 쓰는 것은 은유가 아니라 재정의된 조건부 연기의 구조다. 삼단 구조의 단계별 조건과 시점, 복원 경로, 폐기 조건을 실무 형식으로 구체화하는 데 설계 기여가 있다. 이 형식이 복원 경로의 실효성을 확보하지 못하거나, 전제의 조건부성이 관측된 규범으로 확정되어 이론적 토대가 소멸하면 삼단 구조의 실무 형식은 폐기한다. 카테콘이 현행 법령에 명시적으로 존재한다거나, 삼단 구조가 국내외 법령·판례에서 요구된다는 주장도 하지 않는다. 혁신의 이익을 보존하는 일은 권한 부여를 미루는 데 있지 않다. 조건이 채워진 만큼 단계적으로 허용하되, 실패 시 보류 상태로 복원할 수 있는 형태로 권한을 두는 데 있다.
제12편카테콘은 시간이 아니라 능력으로 적응을 만든다
적응의 시간을 만들어 내는 사법적 카테콘
사법이 초지능보다 더 많이 안다는 전제 없이도 공진화하려면, 카테콘이 확보한 유예 시간을 검증·대안·회복·공공 역량으로 바꾸어 다음 판단의 정보 조건을 갱신해야 한다. 권한 정당화, 독립 반박, 실제 개입, 피해 회복, 공개된 자기수정이 문서로 고정되어 실제 판단을 바꿀 때에만 억제가 무기한 통제로 흐르지 않는다.
12.1시간을 능력으로 바꾸는 카테콘
이 권의 중심 가설은 사법의 미래를 인간이 초지능보다 더 많이 안다는 전제 없이도 설계할 수 있다는 것이다. 다만 권한의 정당화, 독립된 반박, 실제 개입, 피해 회복, 공개된 자기수정이 함께 작동해야 한다. 앞의 편들이 각 조건을 나누어 다루었다면, 이 편은 그 조건들이 어떻게 억제의 시간을 적응의 능력으로 바꾸는지를 묻는다. 카테콘은 시간을 버는 장치가 아니다. 되돌리기 어려운 침해에 앞서 숙고·이의제기·중지·회복의 시간을 확보하고, 그 시간에 검증·대안·회복·공공 역량을 쌓아 다음 판단의 정보 조건을 바꾸는 공적 기능이다. 유예 시간의 사용처가 기록되지 않고, 재심사와 재개가 뒤섞이며, 억제권자가 자기 심사에서 제외되고, 능력의 성취가 활동량으로 대체되면 시간은 소비될 뿐이다. 이 실패들을 함께 막을 때에만 카테콘은 공진화의 후보가 된다.
12.2다음 판단을 바꾸는 기록의 연쇄
이는 조건들이 한꺼번에 충족되어야 하는 완성 상태를 뜻하지 않는다. 각 결정이 다음 결정의 정보를 바꾸는 순서로 설계하면 된다. 중지의 사유와 재심사의 계기를 함께 적고, 재심사의 시점이 오면 갱신된 이유를 요구하며, 유예 기간에 확인된 과업과 남은 결손을 기록한다. 그 기록이 유지·변경·종료의 판단에 실제로 반영되도록 하는 식이다. 확인된 능력 성취가 하나도 없이 시간만 쌓이면 공진화에 기여했다는 평가는 유보한다. 반대로 독립 수행이 확인된 과업에서는 시간만 소비했다는 평가를 거둔다. 국제 AI 안전 보고서나 METR의 기술 과업 평가에서 얻은 것은 발전을 관측할 출발점이며, 그 추세를 법정에서의 정확성이나 ASI의 도래일로 바꾸지 않는다. ASI의 사법적 의미는 명칭이 아니라 능력과 배치 조건에 따라 나뉜다. 실제 통제 수단이 소멸한 상황은 법만으로 해결했다고 선언할 수 없는 경계로 남긴다.
12.3반론: 속도 우위론과 자기수정 조건
가장 강한 반론은 이런 조건을 함께 요구하면 어떤 억제도 실행되지 못하고 결국 속도가 이긴다는 것이다. 그러나 신속한 보호와 억제권의 통제는 문턱을 같게 만들지 않아도 함께 가능하다. 긴급한 중지는 사후 심사로 보호하고, 억제의 지속은 갱신된 사유에 묶으며, 재개는 확인된 조건에 열어 둔다. AI가 숙의를 도울 가능성에 관한 연구도 있다. 다만 공동 입장문에 대한 참가자의 선호는 정의나 재판의 정당성을 측정한 결과가 아니므로, 그 가능성을 사법에 옮기는 연결 논증 자체가 남은 연구 대상이다. AI의 권리와 지위 문제는 지능·자율성·의식·이익·법적 인격을 구별해 다루며, 그 자격 문제는 IV-08에 맡긴다. 여기서는 인간의 권리구제를 보류할 근거로 쓰지 않는다는 한계만 고정한다. 결국 속도가 이긴다는 반론과 남은 불확실성에 대한 답은 완성된 해법의 약속이 아니라, 실패가 드러날 때 설계를 고칠 수 있는 형태로 조건을 두는 것이다.
12.4반복 유예의 폐기와 공적 질서
이 편의 제안을 폐기해야 할 조건은 확인된 능력 성취가 전혀 없이 유예와 심사가 반복되는 경우다. 그때 카테콘은 무기한 통제의 명분이 되고, 공진화 제안은 철회한다. 반대로 각 단계의 조건과 시점, 복원 경로가 문서로 고정되고 그 문서가 실제 판단을 바꾸었다면, 사법은 인간이 초지능보다 더 많이 안다는 전제 없이도 자신의 판단을 수정할 수 있는 질서로 남는다. 유예가 확보한 시간을 능력으로 바꾸는 연결이 이 권의 결론이다. 보호할 대상은 특정 기관의 형식이 아니라, 누구든 자신을 구속하는 판단의 이유를 묻고 그에 맞서며 잘못을 고치고 피해를 회복할 수 있는 공적 질서다.