제1편공존은 선언이 아니라 판정의 조건에서 갈린다
공존과 공진화를 판정하는 조건
사법과 AI의 공존은 선언이 아니라 권한의 정당화, 독립된 반박, 실제 개입, 피해 회복, 공개된 자기수정이라는 다섯 조건의 작동 여부로 판정된다. 이 조건들을 기술 능력과 분리해 배치 검토의 문턱으로 삼고, 공개된 이의제기 절차나 실제 통제 수단이 사라지면 허용 범위를 축소하거나 틀 자체를 버려야 한다.
1.1공존 판정의 다섯 출발 조건
공존과 공진화는 기술 발전이 저절로 만들어 내는 결과가 아니다. 일정한 조건이 함께 작동할 때에만 성립한다고 판정할 수 있는 관계다. 이 물음이 해결되지 않으면 약한 주체가 협력이라는 이름으로 반박의 기회를 잃는다. 판정의 출발점으로 삼는 조건은 권한의 정당화, 독립된 반박, 실제 개입, 피해 회복, 공개된 자기수정이다. 이 다섯이 함께 작동하는 배치만 후보로 올리고, 하나라도 빠지면 축소하거나 도입을 보류한다. 이 판정은 결론이 아니라 다음 단계로 나아가는 규칙이다. 조건을 만족했다고 공존이 실재한다고 선언하지 않고, 만족하지 못했다고 기술을 배제한다고 선언하지도 않는다. 희망이 기술에 대한 신뢰 선언으로 바뀌지 않으려면 판정의 조건을 결론 앞에 두어야 한다.
1.2기술 능력과 배치 조건의 분리
판정할 때에는 능력과 배치 조건을 나누어 읽는다. METR의 기술 과업 평가와 「International AI Safety Report 2026」은 발전을 관측할 출발점이며, 이 자료들은 과업의 길이·성공확률·환경·자율성을 구분해 읽는다. 기술 과업의 추세를 법정에서의 정확성이나 초지능의 도래일로 바꾸지 않으며, 수치와 읽은 범위는 계산표와 근거대장에 고정한다. 인간보다 뛰어난 추론, 긴 시간에 걸친 자율행위, 설득과 정보 환경에 대한 영향, 자원과 기반시설에 대한 접근, 자기 변경, 외부의 개입 가능성은 서로 다른 문제를 만든다. 뛰어난 능력이 해로운 의도나 무제한 권한을 뜻하지 않으므로, 능력이 확인되었다는 사실만으로 어떤 통제 조건을 생략해도 된다고 보지 않는다. 해당 보고서들의 발행 시점 이후의 능력까지 확인했다고 주장하지도 않는다.
1.3반론: 힘의 격차와 규범적 한계
가장 강한 반론은 판정 조건이 결국 설계자의 규범적 선택에 불과하다는 것이다. 아무리 조건을 정교하게 정해도 힘의 관계가 달라지면 그 판정은 지켜지지 않을 수 있다. 실제 통제 수단이 소멸한 상황에서는 법만으로 구제를 보장했다고 선언할 수 없으며, 이 경계는 이 권 전체에서 다시 확인한다. 인정해야 할 점은 분명하다. 조건의 충족 여부를 관측하는 사람도 판정을 집행하는 사람도 이해관계에서 자유롭지 않고, 순응이 관측되었다는 사실은 공정성의 증거가 되지 못한다. 이 판정은 저자의 규범적 선택과 조건부 추론이며, 문서 대장의 확인 범위를 실제 집행과 효과의 증거로 확대하지 않는다.
1.4검토 기준으로서의 조건부 판정
반론에 대한 답은 판정의 지위를 낮추는 것이다. 이 판정을 권리의 근거로 쓰지 않고, 어떤 조건 아래에서 어느 범위의 배치를 검토할 수 있는지 정하는 기준으로 둔다. 조건이 확인되면 제한된 후보를 검토하고, 협력의 편익과 외부 수단이 약해지면 허용 범위를 축소하며, 모두 사라지면 보장 주장을 포기한다. 판정 결과는 공개된 절차에서 누구나 이유를 대고 다툴 수 있어야 하며, 판정 조건 자체도 같은 절차로 바꿀 수 있어야 한다. 이 조건이 무력화되거나 판정이 공개 없이 바뀌면 이 틀을 버린다. AI가 능력을 넓히는 범위를 조건으로 묶어 두는 일은 당사자가 판단의 이유를 묻고 결과에 맞설 수 있는 자리를 남기는 방법이다.
제2편지킬 것은 형식이 아니라 이유를 묻는 기능이다
사법이 보존할 것과 바꾸어야 할 것
사법이 지켜야 할 본질은 법원의 외형적 형식이 아니라 당사자가 판단의 이유를 묻고 결과를 바꾸어 피해를 회복하는 공적 기능이다. 독립된 반박, 실질적 청문, 권한 회수, 공개적 자기수정의 네 기능이 실제 결정 변경으로 이어지는지에 따라 현행 형식의 보존과 개편 후보를 비교해야 한다.
2.1외형적 형식과 구제 기능의 구분
사법이 보호할 대상은 법원이라는 형식이나 법률가의 직역이 아니라, 누구든 자신을 구속하는 판단의 이유를 묻고 그 판단에 맞서고 잘못을 고치고 피해를 회복하는 공적 질서의 기능이다. 이 물음이 해결되지 않으면 기능을 지키겠다는 이름으로 형식이 굳어져, 환경이 바뀐 자리에서 구제가 닿지 않는 일이 생긴다. 「대한민국헌법」 제27조와 제103조의 재판·독립 심판 기준은 근거대장에 기록된 현행의 출발점이다. EU 인간 감독 조문이 적용 대상에 요구하는 감독 기능은 비교의 다른 출발점이며, 「유럽 평의회 인공지능 기본협약」의 세부 감독 규정은 아직 확인되지 않은 사실이다. 두 문서를 같은 권한을 부여하는 것으로 합치지 않으며, 형식과 기능을 나눈다는 것이 사법을 개편해도 좋다는 뜻은 아니다. 어떤 형식이 그 기능의 필수 조건인지 확인되지 않으면 보존을 우선하고, 확인된 경우에 한해 다른 형태를 비교한다.
2.2사법이 보존할 네 가지 핵심 기능
보존할 기능은 네 가지로 구체화된다. 사실에 관한 독립된 반박, 실질적 청문, 권한을 부여하고 회수하는 판단, 피해를 회복하고 법을 공개적으로 고치는 자기수정이다. 이 네 기능이 남는 한 사법의 형태는 비교의 대상이 될 수 있고, 이 기능들이 사라지면 어떤 형식이 남아 있어도 구제 질서는 아니다. 같은 체계가 기록의 생성·선별·해석을 모두 맡으면 독립된 반박이 사라지고, 추천의 높은 성능에 인간이 과도하게 의존하면 권한의 회수가 사라진다. 모델과 판결의 반복 학습이 공개 절차 없이 법적 기준을 바꾸면 자기수정의 통로가 닫힌다. 이 목록은 확인된 사건의 나열이 아니라, 형식을 비교할 때 지켜야 할 기능의 문턱이다.
2.3반론: 형식 폐기와 기능 훼손
가장 강한 반론은 형식을 버리면 기능도 함께 사라진다는 것이다. 법관에 의한 공개 심리와 정해진 서면 형식이 없으면 이유를 묻고 다툴 자리 자체가 생기지 않으므로, 개편은 곧 훼손이라는 주장이다. 이 반론은 상당 부분 옳다. 현행 판결 이유와 항소·상고의 해설은 제3총서에 맡기고, 재판 이유의 설명과 불복의 상세는 IV-10에서 다루지만, 이 권이 확인하는 것은 그 절차가 실제 결정을 바꿀 수 있을 때만 기능이 살아 있다는 점이다. 형식이 남아 있어도 절차가 실제 결정 변경으로 이어지지 않는다면 구제 기능은 비어 버린다. 따라서 이 반론은 모든 개편을 금지하는 결론이 아니라, 기능이 유지되는지 가리는 문턱으로 받아들인다.
2.4결정 변경 가능성에 따른 형식 비교
답은 형식의 가치를 기능의 수행에 비추어 비교하는 것이다. 같은 기능을 더 잘 수행하는 형태가 확인되면 후보로 올리고, 기능 수행이 확인되지 않으면 현행 형식을 유지한다. AI가 더 저렴한 법률 지원과 접근 가능한 설명을 제공하는 방향은 이 비교의 후보이지, 형식을 대체한 결과가 아니다. 개편이 이유의 공개, 독립된 반박, 실제 회복 가운데 어느 하나라도 약화하면 그 개편을 버린다. 이 판단은 저자의 규범적 선택이며, 앞선 권의 법리와 사례를 다시 요약하지 않는다. 당사자가 판단의 이유를 묻고 결과를 바꾸는 능력이 유지되는 한, 사법의 형태는 바뀌어도 구제의 이름을 지킬 수 있다.
다룬 공식 문서 대한민국헌법 제27조 ↗ · 대한민국헌법 제103조 ↗ · Council of Europe Framework Convention on AI: official overview ↗
제3편AI가 넓히는 능력은 당사자에게 닿을 때 권리구제다
AI가 확장할 권리구제의 능력
AI가 확장하는 법률 지원과 설명, 증거 발견의 이익은 중개자가 아니라 당사자에게 실제로 도달할 때에만 권리구제가 된다. 독립된 기록과 대체 처리 경로, 이의제기 자원 배분, AI 거부권이 함께 보장되지 않거나 빠른 처리가 본안 심리를 대체하면 능력 확장이라는 평가를 버려야 한다.
3.1중개자 편익과 당사자 도달의 구분
AI는 법률 지원을 더 싸게 만들고, 판단의 설명에 쉽게 접근하도록 하며, 사람이 놓친 증거와 반론을 발견하고, 피해를 빠르게 파악해 회복하는 데 쓰일 수 있다. 그러나 이 이익이 당사자에게 도달하지 않으면 권리구제의 확장이 아니라 중개자의 편익에 그친다. 이 물음이 해결되지 않으면 법률 지원의 비용 절감이 당사자의 반박권 포기를 대가로 이루어진다. 이 권은 그 이익이 당사자에게 도달하는 조건을 밝히는 일을 각 편의 적극적 기여로 삼는다. AI가 넓히는 능력의 목록은 미리 정해져 있지 않으며, 어떤 능력이 누구에게 닿는지는 배치의 설계로 판단한다.
3.2권리구제 확장을 위한 최소 설계
능력이 당사자에게 닿으려면 최소한의 조건이 함께 갖추어져야 한다. 자동 분류로 본안의 기회를 잃고도 다툴 수 없는 배치는 능력의 확장으로 보지 않으며, 공공 법률 지원과 이의를 제기할 수 있는 자원 배분이 뒤따라야 한다. AI를 이용하지 않는 선택과 AI의 판단에 반대하는 사람의 권리도 같은 설계에 포함한다. 설명 제공만으로 심리가 대체되지 않아야 하고, 독립적인 접근과 대체 처리가 가능한 배치만 후보로 올린다. 이는 저자의 제안이지 현행 제도가 이미 그렇게 작동한다는 주장이 아니다. 적용 범위와 권한 근거가 확인되지 않은 관할에서는 실행을 유보하고, 확인되지 않은 사실은 확인되지 않은 것으로 남긴다.
3.3반론: 공급자 독점과 심리 대체
AI가 숙의를 도울 가능성에 관한 원연구도 있다. Tessler 등의 연구 초록은 공동 입장문에 대한 참가자의 선호를 다루지만, 그 선호가 정의나 재판의 정당성을 측정한 결과는 아니다. 이 가능성을 사법에 가져오는 연결 논증 자체가 연구 대상이므로, 연구 결과를 사법의 효과로 읽지 않는다. 가장 강한 반론은 능력이 아무리 넓어져도 비용과 통제가 공급자에게 집중되면 당사자에게 닿지 않고, 오히려 빠른 처리가 심리를 대체한다는 것이다. 이 반론은 설명 제공의 이점을 과대평가하지 않게 한다. 능력의 비용과 통제가 한 축에 모이면 그 이익은 당사자에게 닿기 전에 종속과 의존으로 바뀐다.
3.4대체 경로 확보와 후보 배제 기준
답은 능력의 후보를 조건으로 제한하는 것이다. 독립된 기록과 대체 처리 경로, 이의를 제기할 수 있는 자원 배분이 확보된 배치에서만 능력의 확대를 검토하고, 그 조건이 없으면 확대하지 않거나 축소한다. 회복은 빠른 피해 파악에서 끝나지 않고, 잃은 기회를 다시 다툴 수 있는 경로로 이어져야 한다. 기술 도입으로 처리 속도가 빨라졌다는 사정만으로 당사자가 절차에서 배제된 손실을 상쇄하지 않으며, 공급자 독점으로 대체 경로가 막힌 배치는 구제 능력의 후보에서 제외한다. 자동 분류로 본안의 기회를 잃은 사람이 다툴 수 없거나 AI를 거부한 사람에게 불이익이 생기면, 능력의 확장이라는 평가를 버린다.
제4편협력의 이익과 그 이익이 사라진 뒤의 제약
상호 제약을 수용할 유인과 정당성
사법과 AI의 상호 제약은 권리 보존을 독립된 문턱으로 삼고 운영기관·이용자·당사자별로 예측 가능한 권한과 반박, 오류 회복의 편익을 설계할 때 작동한다. 협력 유인이 약해진 뒤에도 독립 기록과 대체 경로, 적법한 개입 수단 및 책임 재원이 남아 있어야 질서가 유지되며, 이 수단마저 소멸하면 법적 통제 보장을 포기해야 한다.
4.1권리 보존 문턱과 협력 편익 설계
사법과 AI가 상호 제약을 받아들일 이유를 어떻게 만들며, 그 제약을 수용할 유인이 약해져도 공진화 질서가 지속되게 할 수 있는가? 이 물음이 해결되지 않으면 강한 주체는 편익이 줄어드는 순간 떠나고, 약한 주체는 남은 부담만 진다. 중심 명제는 권리 보존을 독립된 문턱으로 두고, 예측 가능한 권한·반박·오류 회복이 만드는 협력 편익을 별도로 설계한다는 것이다. 편익이 약화된 뒤의 지속은 외부 개입과 책임·회복 수단이 남는 범위에 한정하며, 그 수단까지 소멸하면 보장 주장을 포기한다. 협력에 이익이 있다는 추론을 강한 행위자의 독점 선택까지 견디는 제도 설계로 전환하되, 유인에 부합한다는 사실을 도덕적 정당성으로 오인하지 않는다. 모두가 이익을 얻는다는 말만으로 상호 제약은 정당화되지 않는다.
4.2운영기관·이용자·당사자별 협력 유인
제약을 수용하는 주체를 AI 하나로 묶으면 실제 선택자가 사라진다. 운영기관은 권한의 부여와 갱신을 결정하고, 이용자는 허용된 업무에 결과를 사용하며, 당사자는 그 사용의 법적 효과를 부담한다. 여기서 이용자는 법원 업무 담당자이고 당사자는 해당 사건의 사람이다. 운영기관에는 예측 가능한 계약 유지가, 이용자에게는 적법한 수정 경로가, 당사자에게는 불이익 없이 다툴 기회가 각각 협력의 이유가 될 수 있다. 허용된 업무와 금지된 효과, 다툴 통로를 특정하면 이용자는 오류 수정을 요청하고, 운영기관은 무기한 배제의 불확실성을 줄이며, 당사자는 종속에서 벗어난다. 이 이익은 절차가 실제 결정을 바꿀 수 있을 때만 생긴다는 조건부 추론이다. 순응 출력을 욕구와 도덕적 동의의 증거로 바꾸지 않으며, 책임은 실제 결정 권한에 따라 나눈다.
4.3반론: 독점 이익과 선행 개입 조건
가장 강한 반론은 강한 운영기관이 협력보다 독점에서 더 큰 이익을 얻는다면 왜 제약을 따르겠느냐는 것이다. 기관이 기록과 서비스의 유일한 통로라면 탈퇴 허용이나 손해배상 약속도 빈약하다. 협력의 이익과 법적 약속만으로는 따를 이유도 실효적 제약도 보장되지 않는다. 외부 수단의 확보가 불가능하거나 과도한 비용을 요구할 수 있다는 점도 인정한다. 응답은 독립 기록, 대체 처리 경로, 해당 위험에 맞는 적법한 개입 수단과 책임 재원을 권한 확대의 선행 조건으로 삼는 것이다. 이들은 상대의 선의를 만드는 장치가 아니라, 협력 거부가 곧 전체 질서의 붕괴로 이어지지 않게 하는 조건이다. 확보 비용이 편익보다 크면 권한을 축소하거나 도입을 보류하며, 독점자를 설득했다고 가정하지 않는다. 개입 담당자도 중지 권한의 독점을 막기 위해 심사와 종료 규칙에 묶는다.
4.4오류 회복 경로와 통제 보장의 한계
오류 회복은 다음 협력을 가능하게 하는 자리다. 반박 기록이 누락된 결과에 대해 독립 보존본과 대체 업무 경로가 남아 있으면 그 사용을 멈추고 보존본으로 재처리를 진행할 수 있다. 재개는 원인의 설명만으로 허용하지 않고, 반박 전달과 결과 변경 수단이 다시 확보된 범위로 한정한다. 공진화의 가능 범위는 성공 뒤에 넓혀 붙일 이름이 아니라 권한 이전 전에 정할 경계다. 잔여 손실은 다음 버전의 개선으로 상쇄하지 않는다. 편익이 사라져도 외부 수단이 남으면 축소한 상태로 지속할 수 있는지 검토하지만, 수단이 없거나 모두 사라진 ASI 가정에서는 법적 통제 보장을 버린다. 당사자의 권리가 협력 비용으로 포기되거나 외부 개입과 회복 수단이 실재하지 않으면 지속 가능한 공진화라는 평가를 폐기한다. 피해자의 복종을 질서의 존속으로 계산하지 않으며, 유인의 실제 측정이나 법원 실험·배포 성과를 주장하지 않는다.
제5편반박에서 회복까지 끊기지 않아야 하는 네 자리
반박·중지·수정·회복의 공통 구조
반박·중지·수정·회복은 각 단계가 실제 결과를 바꿀 수 있도록 끊기지 않는 하나의 연속 구조로 설계되어야 한다. 기록의 독립성과 실질적 반박, 침해의 비가역성에 맞춘 중지·사후 심사 차등화, 기술 갱신과 규범 변경 권한의 분리가 함께 작동할 때에만 당사자의 기회 회복이 완성된다.
5.1결과 변경을 위한 네 자리 연속 구조
반박·중지·수정·회복은 따로 놓인 네 개의 장치가 아니라, 하나의 연속 구조로 설계해야 하는 네 자리다. 한 자리가 끊기면 앞뒤의 자리가 그 공백을 메우지 못한다. 이 물음이 해결되지 않으면 반박은 접수의 형식만 남고, 오류는 그대로 사건의 결과가 된다. 각 자리마다 누가 어떤 근거와 자료로 어떤 결과를 만드는지 정해져야 한다. 이 권은 그 최소의 문턱을 정하는 일을 맡고, 현행 불복 절차의 해설은 제3총서에, 공동 판단의 상세는 IV-09에, 개별 판결의 불복은 IV-10에 남긴다. 공통 구조의 중심은 단계의 수가 아니라, 각 단계가 실제 결과를 바꿀 수 있는가다.
5.2독립 기록에서 잔여 손실 구제까지
첫째로 기록이 독립되어야 한다. 기록의 생성·선별·해석이 같은 체계에 의존하면 사실에 관한 독립된 반박이 불가능해지므로, 관측·보존·해석의 경로를 분리하고 반증에 접근할 수 있어야 한다. 같은 원천의 설명을 독립 증거로 집계하지 않는다. 둘째로 반박이 실질적이어야 한다. 접수만 하고 집행이 계속되면 예측 가능성은 침해의 예측 가능성에 그친다. 셋째로 중지와 종료를 함께 설계하되 위험의 문턱을 반드시 같게 만들지 않는다. 중지를 검토할 권한과 중지를 끝낼 권한은 다른 위험을 다루며, 재심사를 받을 수 있다는 것과 재개할 권리가 이미 있다는 것도 다르다. 넷째로 수정과 회복이 재처리 경로 및 잔여 손실의 구제로 이어져야 네 자리의 연결이 완성된다.
5.3반론: 절차 지연 비용과 시간 확보
가장 강한 반론은 네 자리를 모두 갖추면 지연과 비용이 커져서 오히려 회복이 늦어진다는 것이다. 절차가 늘어나는 동안 피해는 이미 완성되고, 급한 침해 앞에서의 유예는 두 번째 피해가 된다. 회복이 늦어지는 비용이 실제로 존재한다는 점은 인정해야 한다. 여기서 중지는 모든 절차를 무기한 멈추는 장치가 아니라, 되돌리기 어려운 침해가 굳어지기 전에 결과 사용을 잠시 묶어 두어 시간을 확보하는 기능이다. 억제 권한의 규범적 한계는 IV-06에 맡긴다. 유예로 확보한 시간에 독립 검증, 대체 수단, 피해 회복, 공공 전문성, 당사자의 반박 능력이 자라지 않는다면 단지 시간을 소비한 것이다.
5.4비가역성 기준 차등화와 권한 분리
답은 침해의 비가역성에 맞추어 즉시 중지와 사후 심사의 경로를 차등화하되, 네 자리의 연결 자체는 생략하지 않고 결과 변경 가능성을 지키는 것이다. 어느 한 자리라도 담당자와 수단이 없으면 공통 구조의 주장을 이어가지 않는다. 모델과 판결의 반복 학습이 공개 절차 없이 법적 기준을 바꾸거나, 모델 변경이 규범 변경의 권한과 섞이면 그 배치를 버린다. 기술 갱신과 규범 변경의 권한을 나누는 일은 이 네 자리를 지키는 조건이다. AI가 놓친 반론과 증거를 더 빠르게 발견하는 능력은 그 발견이 반박으로 전달되고 결과를 바꿀 수 있을 때만 회복의 수단이 된다. 이 구조가 작동하면 당사자는 잘못을 고치고 잃은 기회를 다시 다툴 수 있다.
제6편분산된 권력에 책임을 묶는 연결
분산된 권력과 공동 책임의 연결
분산된 권력 아래에서 책임 공백을 막으려면 운영기관·이용자·개입 담당자·공급자의 실제 결정 권한에 따라 귀속 책임을 나누고 독립 기록으로 추적할 수 있어야 한다. 어느 한 축이 이행을 거부하더라도 사전 확보된 책임 재원과 대체 경로로 당사자의 회복을 먼저 집행할 수 있어야 공동 책임 설계가 유지된다.
6.1권력 분산에 따른 결정 추적 설계
권력이 분산되면 책임도 함께 분산되어, 누구도 책임지지 않는 공백이 생긴다. 이 물음이 해결되지 않으면 당사자는 어느 주체에도 책임을 물을 수 없고, 협력의 이름만 남는다. 분산된 권력을 공동 책임으로 묶는 방법은 비용을 나누는 약속이 아니라, 실제 결정 권한에 따라 책임을 나누고 그 결정을 추적할 수 있게 만드는 설계다. 운영기관, 이용자, 개입 담당자, 공급자, 당사자는 서로 다른 권한을 가지므로, 하나의 책임 주체로 합치지 않고 연결 고리를 만든다. 이 권이 제안하는 연결은 독립 기록과 귀속 책임이며, 헌정적 권력 배분의 상세는 IV-07에 맡긴다.
6.2주체별 역할 배분과 공급자 통제 조건
역할별로 남겨야 할 것이 다르다. 운영기관은 오류 자료와 수정 가능성을 제공하고, 이용자는 해당 결과의 사용을 멈추며, 당사자는 재처리 경로를 제공받는다. 개입 담당자는 영향을 받는 업무를 특정하여 이유를 남기고 별도의 심사를 받는다. 인간의 승인 표시만 남고 변경 능력이 없으면 권한을 부여하고 회수하는 판단이 무력화되므로, 기능별 위임과 반대 의견, 귀속 책임을 함께 둔다. 공급자가 자료·도구·업데이트를 지배하면 독립된 심리가 공급자의 동의에 묶이므로, 대체 가능성과 접근권, 이해충돌의 통제를 조건으로 한다. 이 역할 배치는 책임 면제의 거래가 아니다. 정당한 개입에도 손실이 생길 수 있으므로 부담 배분을 다툴 길을 남기되, 손실의 존재만으로 중지를 금지하지 않는다.
6.3반론: 분산된 무책임과 단일 책임의 한계
가장 강한 반론은 책임이 분산되면 아무도 책임지지 않는다는 것이다. 공동 책임은 무책임의 다른 이름이므로, 차라리 단일한 책임자를 두는 편이 낫다는 주장이다. 이 반론은 연결이 문서에만 남으면 옳다. 책임 경로가 서류에 적혀 있어도 실제 회복으로 이어지지 않으면 분산은 허울뿐인 구분이 된다. 그러나 단일 책임자로 합치는 방안은 다른 실패를 만든다. 한 주체가 모든 권한과 책임을 가지면 그 주체를 심리할 사람이 남지 않으며, 이는 공급자가 자료를 지배할 때의 무력화와 같은 형태다. 따라서 이 반론은 공동 책임의 설계가 추적 가능성과 회복으로 이어져야 한다는 문턱으로 받아들인다.
6.4독립 기록 귀속과 선행 회복 집행
답은 각 행위자의 위임·승인·개입 결정을 독립 기록에 남겨 귀속 책임을 특정하고, 어느 한 축이 이행을 거부하더라도 사전에 확보한 책임 재원과 대체 경로로 당사자의 회복을 먼저 집행하는 것이다. 책임 경로가 실제 회복으로 이어지지 않거나, 공급자의 동의 없이는 그 공급자를 심리할 수 없는 상태가 고정되면 이 설계를 버린다. 공공 도구의 조달과 지원 구조, 공공 인프라의 운영과 예산은 IV-12에서 다루며, 국제적 권한 배분은 IV-15에 맡긴다. AI가 빠른 피해 파악과 회복을 돕는 범위는 그 결과가 어느 권한에 귀속되는지 밝혀질 때 비로소 당사자의 능력이 된다.
제7편배분은 사후 보상이 아니라 접근과 회복의 설계다
기술 이익과 위험 비용의 공정한 배분
기술 이익과 위험 비용의 공정한 배분은 사후 보상 선언이 아니라 권한 부여에 앞선 접근 가능성, 대체 처리 경로, 회복 재원의 최소 조건 설계로 이루어진다. 반박권 포기나 단일 공급자 종속 같은 비용이 당사자에게 고정되지 않도록 허용 업무와 금지 효과를 미리 특정하고, 실제 접근과 회복에 닿지 못하면 배분 명제를 폐기한다.
7.1권한 부여의 선행 문턱으로서의 배분
기술 이익과 위험 비용이 누구에게 귀속되는지 묻지 않은 채 권한을 확대하면, 이익은 도구를 운영하는 주체에게 모이고 비용은 그 사용의 법적 효과를 부담하는 당사자에게 고정된다. 이 편은 공정한 배분을 사후의 보상 선언이 아니라 접근, 대체 경로, 회복 재원의 설계로 다룬다. 중심 명제는 배분 조건을 권한 부여의 선행 문턱으로 두지 않으면 협력의 편익은 이미 비용을 떠안은 사람의 희생 위에서 계산된다는 것이다. 이 물음이 해결되지 않으면 AI가 값싼 법률 지원과 빠른 피해 회복을 약속하는 동안 회복 수단을 잃는 쪽은 언제나 당사자다. 이 판단은 저자의 규범적 선택과 조건부 추론이며, 실제 배분 효과를 측정한 결과가 아니다.
7.2당사자 능력 기준의 이익·비용 특정
배분의 기준은 시스템의 성능 지표가 아니라 당사자가 얻는 능력이다. 사법은 AI를 통해 더 저렴한 법률 지원, 접근 가능한 설명, 놓친 증거와 반론의 발견, 빠른 피해 파악과 회복을 추구할 수 있으며, 이 넷을 실질적 이익으로 특정하고 그 이익이 당사자에게 도달하는 조건을 각 권의 적극적 기여로 삼는다. 비용도 같은 방식으로 특정한다. 반박권의 포기, 단일 공급자에 대한 종속, 회복이 불가능한 손실은 이익의 크기로 상쇄되지 않는다. 누구든 자신을 구속하는 판단의 이유를 묻고 그 판단에 맞서고 잘못을 고치고 현실의 피해를 회복할 수 있는 공적 질서가 보호 대상이라는 기준에서 보면, 배분의 최소 조건은 접근 가능성과 회복 가능성이다. AI를 이용하지 않는 선택이나 AI의 판단에 반대하는 사람의 권리도 같은 설계에 포함한다. 확보 비용이 기대 편익보다 클 가능성은 인정한다. 그 경우에는 이익의 선언을 키우는 대신 권한을 축소하거나 도입을 보류한다.
7.3반론: 미래 손익의 사전 고정 불가능성
가장 강한 반론은 사전 배분의 불가능성이다. 기술이 만들어 낼 이익의 크기와 형태를 지금 정해 두면 아직 보이지 않는 이익까지 잘라 버리고, 위험 비용의 분포는 배치 조건에 따라 달라지므로 고정된 배분 규칙은 오히려 부정확하다는 것이다. 「International AI Safety Report 2026」과 METR의 기술 과업 평가가 발전을 관측할 출발점인 것은 맞지만, 그 자료들이 특정 배치의 비용 분포를 알려 주지는 않는다. 발전의 관측과 미래의 가정을 구별한다는 이 권의 전제가 배분 논의에도 그대로 적용된다. 따라서 사전에 정한 고정 비율로 이익과 손실을 나눌 수 없다는 반론의 지적은 타당하며, 미래 배치의 실제 손익 규모는 아직 확인되지 않은 사실로 둔다.
7.4비용 고정을 막는 최소 조건 설계
답은 완전한 사전 배분이 아니라 최소 조건의 설계다. 허용된 업무와 금지된 효과를 미리 특정하고, 오류가 드러났을 때 접근할 수 있는 독립 기록과 대체 처리 경로, 피해 회복의 재원을 권한 확대의 선행 조건으로 둔다. 이는 비용을 정확히 예측하자는 것이 아니라, 비용이 한쪽에 고정되는 것을 막자는 것이다. 「유럽 평의회 인공지능 기본협약」의 구체적 배분·구제 조문은 자료 묶음에서 확인되지 않은 사실이므로, 외국 정책 문구를 국내 조달 의무로 옮기지 않고 관할별 근거를 확인한다. 「대한민국헌법」 제27조와 제103조가 재판을 받을 권리와 법관의 독립을 전제하는 범위에서, 배분의 결손은 절차적 편의가 아니라 권리의 실질에 관한 문제로 취급한다. 배분 기준이 서류상 선언에 그치고 당사자의 실제 접근과 회복에 도달하지 못하면 이 편의 명제는 폐기한다. 공정한 배분이라는 이름은 그 조건이 지켜질 때에만 붙일 수 있다.
다룬 공식 문서 International AI Safety Report 2026 ↗ · Council of Europe Framework Convention on AI: official overview ↗ · 대한민국헌법 제27조 ↗ · 대한민국헌법 제103조 ↗
제8편지위의 인정과 책임의 귀속은 나누어 정한다
지위와 권한이 바뀌는 과도기
AI의 법적 지위 인정과 책임 귀속은 하나의 결정으로 묶지 않고 분리하여 과도기에 기존 당사자의 권리구제가 대체되거나 끊기지 않게 설계해야 한다. 지위 확정 여부와 무관하게 실제 결정 권한을 행사한 운영기관과 담당자에게 책임을 묻고, 참여 당시의 권한 행사를 기준으로 자료 보존과 이의제기 경로를 유지해야 한다.
8.1지위 인정과 책임 귀속의 분리 설계
사법과 AI의 관계가 바뀌는 동안 가장 흔한 오류는 지위의 문제와 권한의 문제를 한 결정에서 함께 처리하려는 것이다. 새로운 지능의 이해가 인정되지 않으면 책임의 공백이 생기고, 서둘러 지위를 부여하면 그 지위가 기존 당사자의 권리구제를 대체한다. 중심 명제는 지위의 인정과 책임의 귀속을 분리하고, 권한이 이전되는 시점을 기준으로 구제의 연속성을 설계하면 과도기에 기존 구제가 사라지는 사고를 줄일 수 있다는 것이다. 이 물음이 해결되지 않으면 제도가 바뀌는 동안 잘못된 판단의 비용을 고스란히 부담하는 쪽은 그 변화를 요청한 적이 없는 당사자다. 이는 조건부 설계의 제안이지 현행법상 지위의 확정이 아니다.
8.2AI의 지위 구별과 구제 연속성 구조
이 권은 AI의 권리·지위 문제를 지능, 자율성, 의식, 이익, 법적 인격으로 구별해 다룬다. 높은 능력이나 순응 출력을 욕구와 도덕적 동의의 증거로 바꾸지 않으며, 그렇다고 AI의 이해가 존재할 가능성을 지능의 종류만으로 미리 닫지도 않는다. 이 불확실성을 현재 인간의 권리구제를 보류할 근거로 쓰지 않는다는 전제 아래, 공존의 법은 대표·보호·책임을 어떻게 구성할지 묻는다. 권한에 관해서는 누가 자료를 보존하고 누가 결과의 사용을 멈추며 누가 재처리를 맡는지, 그 시점과 함께 특정한다. 법적 인격의 근거는 IV-08에 넘기고, 현행 당사자능력의 해설은 III-02에서 확인한다. 여기서는 변화하는 지위 앞에서 구제가 끊기지 않게 하는 구조만 정한다.
8.3반론: 책임 소재 모호화와 회복 지연
가장 강한 반론은 분리 설계가 오히려 책임을 흐린다는 것이다. 지위를 인정하지 않으면서 책임만 나누면 아무도 최종적으로 답하지 않는 구조가 생기고, 책임 소재를 지위에 묶어 두는 편이 명확하다는 것이다. 또한 과도기의 불확실성을 핑계로 모든 결정을 미루면 이미 발생한 피해의 회복은 영원히 대기 상태에 놓인다. 이 반론은 상당 부분 옳다. 그러므로 이 편은 분리가 면제가 아님을 전제로 한다. 지위를 인정하지 않은 주체의 행위라도, 그 행위를 이용해 결정을 내린 운영기관과 업무 담당자의 책임은 각각의 결정 권한에 따라 묻는다.
8.4당시 권한 기준의 책임 배분과 보존
답은 책임을 지위가 아니라 실제 결정 권한에 따라 나누고, 회복의 경로는 사후의 지위 변경이 아니라 당시의 권한 행사에 묶는 것이다. 참여 중 이루어진 판단에 대한 이의제기는 지위가 바뀌었다는 이유로 소멸하지 않으며, 자료의 보존과 접근은 그 판단을 다투는 데 필요한 범위에서 남긴다. 판단의 귀속과 회복의 담당자를 함께 특정하고, 확인되지 않은 사실을 근거로 지위를 확정하지 않는다. 지능·자율성·의식의 구별이 실제 회복 수단 없이 선언에 그치거나, 새로운 지위의 인정이 당사자의 반박과 구제를 대체하는 수단으로 쓰이면 이 편의 명제는 폐기한다. 그때 남는 것은 공존이 아니라 복종의 질서다.
제9편시나리오는 예측이 아니라 제도 선택의 분기 조건이다
제도 선택을 갈라 놓는 미래 시나리오
미래 시나리오는 사건 발생 빈도의 예측이 아니라 어떤 전제가 달라질 때 어떤 제도 설계를 유지하거나 버려야 하는지 가리는 분기 조건으로 쓰인다. 여섯 가지 무력화 경로와 행위 유형을 구별해 시나리오마다 실패 조건을 함께 명시해야 하며, 전제와 실패 조건 없이 결론만 제시하는 배치는 판단 근거에서 제외한다.
9.1제도 선택의 분기 조건으로서의 시나리오
미래 시나리오를 쓰는 목적은 다가올 사건의 날짜를 맞히는 것이 아니다. 어떤 조건이 달라지면 어떤 제도 설계가 더는 유지되지 않는지 미리 적어 두는 일이다. 중심 명제는 시나리오를 빈도의 예측이 아니라, 전제의 변경에 따라 결론이 어떻게 갈리는지 보여 주는 분기 조건으로 쓰는 것이다. 그러면 제도 선택의 근거를 희망이나 공포가 아니라 명시된 가정에 둘 수 있다. 이 물음이 해결되지 않으면 설계의 성패는 확인할 수 없는 전망에 걸리고, 전망이 틀렸을 때 무엇을 고쳐야 하는지 알 수 없게 된다. 합성 상황을 실제 사건이나 실험 결과로 표시하지 않는 것이 이 편의 전제다.
9.2여섯 가지 무력화 경로와 원인 구별
이 권이 검토하는 무력화의 제도적 경로는 여섯이다. 기록의 생성·선별·해석이 같은 체계에 의존하면 사실에 관한 독립된 반박이 약해지고, 주장 생성 속도와 심리 자원의 격차는 실질적 청문을 줄이며, 추천의 높은 성능과 인간의 과도한 의존은 권한을 부여하고 회수하는 판단을 흐린다. 공급자가 자료·도구·업데이트를 지배하면 독립된 심리가 흔들리고, 비가역적 행위와 빠른 자원 이동은 집행과 회복을 무력화하며, 모델과 판결의 반복 학습은 공개된 법의 변경과 오류 수정을 우회한다. 이 목록은 현재 사법 전체에서 확인된 사건이 아니라, 조건을 밝혀 검토할 경로다. 악의적 행위자의 악용, 자율 시스템의 통제 실패, 편리한 도구에 대한 평범한 제도적 의존을 구별하는 것도 같은 이유다. 세 경로는 다른 근거와 다른 대응을 요구한다.
9.3반론: 합성 시나리오의 한계와 적용 제한
가장 강한 반론은 합성 시나리오에 부여할 무게에 관한 것이다. 실제 사건 없이 구성한 상황으로는 현실의 제도 선택을 정할 수 없고, 시나리오는 늘 작성자의 공포나 희망을 반영한다는 것이다. 이 반론을 받아들여 이 편은 시나리오의 외부 적용 범위를 제한한다. 전제를 바꿨을 때 결론을 유지할 수 있는지만 비교하며, 시간·금액·능력의 수치를 추가하지 않는다. 논리적 가능성을 현실의 발생 빈도나 실증적 실패율로 바꾸지 않는다. 「International AI Safety Report 2026」과 METR의 자료는 발전을 관측할 출발점으로만 놓고, 기술 과업의 추세를 법정에서의 정확성이나 ASI의 도래일로 읽지 않는다. ASI 출현 시점에 대한 단일 예측은 이 권에서 하지 않는다.
9.4실패 조건의 명시와 채택 불가 배치
답은 시나리오마다 실패 조건을 함께 적는 것이다. 어떤 전제가 무너지면 그 분기에서 선택한 제도를 유지할 수 없는지, 반대로 어떤 조건이 갖추어지면 축소 없이 검토를 이어갈 수 있는지 대조한다. 같은 원천의 설명을 독립 증거로 집계하는 배치, 자동 분류로 본안의 기회를 잃고도 다툴 수 없는 배치, 인간의 승인 표시만 남고 변경 능력은 없는 배치는 어느 분기에서도 채택하지 않는다. 시나리오의 분기가 실제 사건의 기록과 충돌할 때에는 구성한 사례를 고수하는 대신 분기를 고치고, 실패 조건이 비어 있으면 그 시나리오는 판단의 근거로 쓰지 않는다. 분기 조건을 적지 않은 채 결론만 제시하는 순간, 시나리오는 예언으로 돌아간다.
제10편통제 수단이 사라진 경계는 법률 선언으로 메우지 않는다
법으로 해결할 수 없는 경계와 준비
실제 통제 수단과 협력 유인이 모두 소멸한 경계 상황은 법률 선언만으로 해결할 수 없으며, 이 한계를 솔직하게 인정해야 경계 이전의 제도를 엄밀히 비교할 수 있다. 개입 수단이 남아 있는 동안 카테콘적 유예로 검증과 회복 능력을 키우고, 적법한 개입 경로와 기술·규범 권한의 분리를 사전 제한 조건으로 두어야 한다.
10.1통제 수단 소멸 경계와 법률의 한계
이 권의 가장 중요한 한계는 다음과 같다. 실제 통제 수단과 협력 유인이 소멸한 상황은 법만으로 해결했다고 선언할 수 없다. 중심 명제는 그 경계를 솔직하게 인정하는 것이 경계 이전의 분산·회복·협력 조건을 비교하는 준비가 된다는 것이다. 이 물음이 해결되지 않으면 법률가가 통제할 수 없는 세계의 안전을 약속하게 되고, 약속이 지켜지지 않았을 때 손실을 입는 쪽은 그 약속을 믿고 권한을 넘긴 당사자다. 법률 제도만으로 통제 불능을 해소했다는 주장은 이 권에서 하지 않는다.
10.2시간 확보와 적응을 위한 카테콘 기능
카테콘은 이 경계에서 시간을 만드는 장치로 다룬다. 이 총서에서 카테콘은 되돌리기 어려운 침해에 앞서 숙고·이의제기·중지·회복의 시간을 확보하고, 그 시간에 적응 능력과 정당한 재개 조건을 만드는 공적 기능이다. 이는 저자의 규범적 재구성이다. 성서의 억제 모티프(「2 Thessalonians 2:6-7」)가 이 제도를 이미 정당화한다고 주장하지 않으며, 특정 정치신학자의 읽지 않은 문장을 근거로 쓰지 않는다. 억제권을 행사하는 자에게도 이유, 심사, 변경, 종료의 규칙이 적용된다. 중지를 검토할 권한과 중지를 끝낼 권한을 함께 설계하되, 둘의 위험 문턱을 반드시 같게 만들지는 않는다. 유예로 확보한 시간을 무엇에 쓸지도 논증의 일부다. 독립 검증, 대체 수단, 피해 회복, 공공 전문성, 당사자의 반박 능력이 자라지 않으면 단지 시간을 소비한 것이다.
10.3반론: 패배주의 비판과 기술 해결론
가장 강한 반론은 두 갈래다. 하나는 경계를 미리 인정하는 것이 자만한 패배주의라는 것이고, 다른 하나는 기술이 결국 그 경계까지 해결할 것이므로 법률 설계가 앞서 포기할 필요는 없다는 것이다. 첫 번째 반론에 답하자면, 경계의 인정은 대응의 포기가 아니라 대응 범위의 표시다. 이 권의 최강 반론은 힘의 격차가 극단적으로 커지면 초지능이나 그 소유자가 이 질서를 따를 이유와 강제를 모두 벗어날 수 있다는 것이다. 이에 대한 응답은 실제 통제 수단과 협력 유인이 소멸한 시나리오에서는 법률 설계만으로 구제를 보장하지 않는다는 한계를 두는 것이다. 두 번째 반론에 답하자면, 기술이 해결할지는 확인되지 않은 사실이다. 확인되지 않은 전망을 전제로 지금의 권한을 확대하는 것은 검증되지 않은 약속을 집행력으로 바꾸는 선택이다.
10.4사전 제한 설계와 권한 이전 중지
답은 사전 제한의 설계와 후속 준비를 함께 두는 것이다. 비가역적 행위와 빠른 자원 이동에 대비해 배치 전에 적법한 개입 경로와 복구 재원을 요구하고, 모델 변경이 공개 절차 없이 법적 기준을 바꾸지 않도록 기술 갱신과 규범 변경의 권한을 분리한다. 개입 수단이 남아 있는 동안 단일 체계로의 권한 집중을 막고, 통제 불능 위험이 확인될 때에는 권한의 이전을 즉시 멈추거나 보류한다. 실제 통제 수단이 소멸한 상황을 법으로 해결했다고 선언하는 순간 이 편의 명제는 폐기된다. 남는 과제는 분산된 통로, 회복 가능한 자원, 협력의 유인이 견디는 범위를 비교하는 일이다. 그 범위 안에서 제도를 고르는 일이 이 총서가 할 수 있는 최대치다.
다룬 공식 문서 2 Thessalonians 2:6–7, ESV ↗
제11편탈퇴는 장래 참여를 끝내되 기존 구제는 남긴다
공진화 헌정 모델의 개정·탈퇴·복구
공동 체계에서의 탈퇴와 개정은 장래 참여 권한의 종료와 참여 중 행위에 관한 기존 구제 책임을 분리해 설계해야 탈퇴의 자유와 구제의 연속성을 함께 지킬 수 있다. 필요한 자료와 기능을 독립적으로 이관하고 목적에 맞게 접근권과 종료 조건을 한정하되, 이관이 실패하면 전면 재가입 강제 대신 대체 보완 경로와 판단 책임을 드러내야 한다.
11.1장래 참여 종료와 기존 구제의 분리
기관이 공동 체계에서 떠나거나 개정이 이루어질 때 생기는 문제는 이중적이다. 탈퇴의 자유를 위해 기존 사건의 구제를 지우면 당사자가 잃고, 구제를 위해 일반 참여를 영구히 강제하면 탈퇴가 사실상 불가능해진다. 중심 명제는 장래 참여 권한과 참여 중 행위에 관한 구제를 구별하고, 필요한 기능의 전환·접근·책임·종료 조건을 한정하여 탈퇴와 구제의 연속성을 함께 설계한다는 것이다. 이 물음이 해결되지 않으면 협력이 끝나는 순간 이의제기의 통로가 함께 끊기고, 남는 비용은 재처리의 기회를 잃는 당사자가 부담한다. 이 설계는 장래의 협력 약정을 정할 때의 제안이지 현행 탈퇴권의 내용을 확정한 것이 아니다.
11.2전환 의무 대상의 시기·행위별 한정
무력화의 경로는 양극단에 있다. 즉시 모두 종료하면 탈퇴 기관이 보유한 자료와 연결 기능이 끊겨 판단을 다투려는 당사자의 통로가 사라진다. 반대로 관련 사건이 하나라도 남아 있는 동안 모든 업무와 비용을 유지하라고 하면 탈퇴는 끝없이 미뤄진다. 따라서 전환 의무의 대상을 한정해야 한다. 탈퇴 시점에 접수된 사건 목록만 남기면 이후에 발견된 참여 중 행위의 문제가 빠지고, 그 기관과 관련된 모든 미래 사건을 포함하면 잔여 의무의 경계가 사라진다. 어떤 시기의 어떤 행위에 관하여 어떤 자료와 기능이 필요한지를 기준으로 정하는 것이 이 편의 제안이다. 접수 시점만으로 검토 기회를 없애지 않는다는 뜻이며, 나중에 제기되는 청구의 실체적 효력을 자동으로 인정하자는 뜻이 아니다. 실제 권리 행사 기간과 청구 범위는 해당 규범에서 확인해야 하며, 운영 목록에서 제외되었다는 이유만으로 권리가 소멸했다고 표현하지 않는다.
11.3반론: 잔여 의무의 영구화와 기능 이관
가장 강한 반론은 과거 행위에 관한 청구가 계속 생길 수 있다면, 잔여 의무를 두는 순간 탈퇴는 사실상 불가능해진다는 것이다. 이 반론에서 옳은 점은 일반 참여와 모든 분쟁의 종결을 묶으면 종료의 경계가 사라진다는 것이다. 답은 필요한 기능을 독립적으로 이관하고 제한된 잔여 업무의 종료 조건을 정하여 구성원 지위와 구제 책임을 분리하는 것이다. 누가 비용을 부담하고 업무를 인수할지 밝히며, 단순한 자료 전송이 아니라 수신 기관의 독립적 기능 수행과 책임 경로 마련을 종료 조건으로 확인해야 한다. 탈퇴 뒤의 접근권도 목적에 맞추어 한정한다. 자료를 보관하는 주체와 요청을 판단하는 주체, 실제로 내용을 볼 수 있는 주체를 나누고, 잔여 업무의 필요를 넘어서는 접근은 탈퇴 전 권한이 있었다는 사실만으로 계속 정당화하지 않는다. 구제의 연속성은 탈퇴 기관의 일반 권한을 그대로 보존하는 논거가 아니다. 운영자가 기술 설정만 바꾸어 탈퇴 조건을 늘릴 수 없게 하고, 변경의 근거와 대상, 의견을 제시할 경로와 적용 시점을 따로 검토하는 것도 같은 이유다. 운영 능력이 규범 개정의 권위로 조용히 바뀌는 것을 막아야 한다.
11.4전환 실패 시의 대체 복구와 폐기 기준
전환이 실패하면 복구의 목표는 당사자가 필요한 기능을 다시 이용할 수 있게 하는 것이다. 탈퇴 기관의 전면 재가입만을 유일한 수단으로 삼으면 잔여 업무가 구성원 지위를 사실상 강제하는 통로가 된다. 다른 기관의 보완, 제한된 설명 협력, 이관의 수정을 검토하되, 어떤 대안도 실제로 수행할 수 없다면 그 공백과 판단 책임을 드러낸다. 기존의 독립 기능이 구제를 충분히 보전하거나 제안한 전환이 일반 참여의 영구 강제로 작동하면 추가 의무의 설계를 철회하거나 축소한다. 인수 기관이 필요한 기능을 수행할 수 없으면 이관의 완료를 선언하지 않고 대체 경로와 부담을 다시 검토한다. 대한민국과 EU의 기관에 이미 같은 탈퇴 규칙이 있다는 주장은 확인되지 않은 사실이며, 문헌 풀에서 각 제도의 탈퇴·개정 원문을 찾아 주장별 근거를 관할별로 대응시키는 작업이 선행되어야 한다. 탈퇴의 자유와 구제의 연속성을 함께 지키지 못하면 이 편의 설계는 폐기한다.
제12편희망은 당사자의 능력과 그 지속 조건으로 측정된다
희망을 지속 가능한 권리와 제도로 만드는 조건
사법의 미래에 관한 희망은 낙관적 선언이 아니라 당사자가 얻는 능력과 권한 정당화·독립 반박·실제 개입·피해 회복·공개 자기수정의 다섯 기능이 지속되는 조건으로 측정된다. 구체적 위기에서의 담당자·수단·배분 설계와 AI 거부권이 함께 보장될 때에만 제안이 후보로 남으며, 복종이나 무제한 억제로 변질되면 그 설계를 버려야 한다.
12.1당사자 능력과 지속 조건으로서의 희망
이 총서가 희망이라는 말을 쓰는 방식은 선언이 아니라 조건의 명시다. 중심 가설은 사법의 미래를 인간이 초지능보다 더 많이 안다는 전제 없이도 설계할 수 있다는 것이다. 다만 권한의 정당화, 독립된 반박, 실제 개입, 피해 회복, 공개된 자기수정이 함께 작동해야 한다. 이 편의 중심 명제는 그 가설을 당사자의 능력과 지속 조건으로 옮기는 것이다. 희망의 내용은 당사자가 얻는 능력이며, 그 능력이 권리와 제도로 굳는 조건은 다섯 기능이 실제로 작동하는지에 따라 측정된다. 이 물음이 해결되지 않으면 희망은 미래의 선의를 기대하는 문장이 되고, 그 약속을 믿고 권한을 넘긴 당사자만 남는다. 희망의 지속 여부는 낙관적 결론의 반복이 아니라 이러한 조건에 달려 있다.
12.2구제에 도달하는 다섯 기능의 의미
다섯 기능의 의미는 다음과 같다. 권한의 정당화란 누구나 그 권한의 근거와 범위를 물을 수 있다는 것이고, 독립된 반박이란 같은 원천의 설명을 거치지 않고 사실에 맞설 수 있다는 것이다. 실제 개입이란 명령이 존재하는 데 그치지 않고, 그 명령이 도달할 통제자와 실행 수단이 있다는 뜻이다. 피해 회복이란 잘못이 고쳐진 뒤에도 현실의 손실이 남으면 그 잔여 손실을 별도의 구제 문제로 기록한다는 뜻이다. 공개된 자기수정이란 모델 변경이 공개 절차 없이 법적 기준을 바꾸지 않는다는 것이다. 이 다섯을 「대한민국헌법」 제27조·제103조나 「유럽 평의회 인공지능 기본협약」이 직접 보장한다는 것은 확인되지 않은 사실이며, 앞으로 관할별 원문을 대조해 확인할 과제다. 어느 한 기능이 빠지면 나머지 넷의 성능은 구제에 도달하지 못한다.
12.3반론: 극단적 힘의 격차와 실증 한계
가장 강한 반론은 초지능과의 힘의 격차가 극단화되면 어떤 조건 설계도 결국 기술에 대한 신뢰 선언이나 약자의 복종으로 귀결된다는 것이다. 실제 측정이 아직 수행되지 않은 설계 조건만으로는 집행력을 보장할 수 없다는 점에서 이 한계를 인정한다. 숙의 지원 연구(Tessler 등)의 참가자 선호도 재판의 정당성 효과를 입증한 결과로 쓰지 않는다. 그 가능성을 사법에 가져오는 연결 논증 자체가 연구 대상이며, 연구의 존재를 제도의 근거로 옮기지 않는다. 「International AI Safety Report 2026」과 METR의 자료도 같은 기준으로 다룬다. 발전의 관측은 출발점일 뿐, 사법에서의 효과나 ASI의 도래일로 바꾸지 않는다.
12.4희망의 성립·탈락 조건과 거부권 보장
답은 희망을 성립 조건과 탈락 조건으로 옮겨 적는 것이다. 구체적인 위기 시나리오에서 이의·개입·회복·재개의 담당자와 수단을 제시하고 기술 이익의 배분까지 설명할 때에만 이 권의 제안은 후보로 남는다. 복종을 공존으로, 무제한 억제를 안전으로, 검증되지 않은 약속을 집행력으로 바꾸면 최종 설계를 채택하지 않는다. 카테콘의 유예가 독립 검증과 대체 수단, 피해 회복, 공공 전문성, 당사자의 반박 능력으로 이어지지 않으면 그 시간은 소비된 것이다. AI를 이용하지 않는 선택과 AI의 판단에 반대하는 권리가 같은 설계 안에 남아 있을 때, 희망은 당사자의 능력이라는 내용을 지킨다. 그 조건이 무너지면 희망이라는 말을 지속 가능한 권리와 제도의 이름으로 쓰지 않는다.
다룬 공식 문서 대한민국헌법 제27조 ↗ · 대한민국헌법 제103조 ↗ · Council of Europe Framework Convention on AI: official overview ↗ · International AI Safety Report 2026 ↗