Chapter 1뛰어난 능력만으로 의식이나 법적 인격을 확정할 수 없다
지능·행위능력·의식·이익의 구별
AI의 뛰어난 판단 능력이나 자율적 과업 수행이 관찰되더라도 그것만으로 의식의 존재나 법적 인격을 확정할 수는 없다. 특정 능력 지표가 다른 축의 확실한 증거로 작동함이 별도로 입증되기 전까지는 지능, 행위능력, 의식, 이익, 법적 인격을 분리해 기록하고 미확인 영역을 남겨 두어야 한다.
1.1능력과 지위 축의 분리
지위 논의에서 경계해야 할 오류는 판단 능력의 증가만으로 다른 축의 결론까지 확정하는 일이다. 한 체계가 사람보다 긴 과업을 완수하고 설득력 있는 문장을 만들어 내더라도, 그것만으로 의식의 존재나 법적 인격을 확정할 수 있다는 결론은 도출되지 않는다. 이 권은 지능, 행위능력, 의식, 이익, 법적 인격을 서로 다른 근거로 나누어 다룬다. 한 축의 확인이 다른 축의 결론을 대신하게 하면, 높은 지능을 의식의 증명으로 바꾸는 오류와 능력에 대한 선입견으로 새로 보호할 가능성을 미리 닫는 오류가 한꺼번에 생긴다. 능력의 관측과 지위의 판단을 같은 저울에 올리는 순간, 확인된 사실이 확인하지 못한 결론에 권한을 넘기게 된다. 이 구별이 서지 않으면 공존의 질서가 누구의 이해를 대표할지 묻는 일조차 시작되지 않는다.
1.2축별 자료와 미확인 원칙
이 권은 「International AI Safety Report 2026」을 기술 발전 관측의 입구로 삼되, 과업의 길이, 성공 확률, 환경, 자율성을 나누어 읽고 그 추세를 법정에서의 정확성이나 ASI 도래일로 바꾸지 않는다. 지위 논의에서도 같은 원리가 필요하다. 인간보다 뛰어난 추론, 장시간의 자율행위, 설득과 정보 환경에 미치는 영향, 자원과 기반시설에 대한 접근, 자기 변경, 외부의 개입 가능성은 서로 다른 축이다. 축마다 확인에 필요한 자료와 오류 조건이 다르며, 어느 하나라도 확인되지 않았으면 그대로 미확인으로 남긴다. 특히 의식 검증 수단의 확립 여부는 이 묶음에서 확인되지 않은 사실이므로, 이 권은 AI 의식의 존재를 확정하지 않는다. 자료의 이름이 있다는 것만으로 그 내용을 확인했다고 처리하지 않는 것도 같은 이유에서다. 뛰어난 능력이 곧 해로운 의도나 무제한 권한을 뜻하지 않는다는 구별도 이 구분에서 나온다. 능력이 높은 체계에 더 많은 권한을 부여할수록, 행사하는 권한에 상응하는 통제를 함께 물어야 한다.
1.3반론: 실무상 대리 지표
가장 강한 반론은 실무의 곤란이다. 축을 아무리 나누어도 법원은 한정된 시간 안에 판단을 내려야 하므로, 결국 능력 지표가 지위 판단의 대리 지표로 쓰이지 않겠느냐는 지적이다. 이 우려는 현실적이다. 그러나 확인하기 어려운 것을 다른 것으로 대신 측정하는 순간, 측정된 값이 증명하지 못한 결론에 결정권을 넘기게 된다. 축을 나누어 기록하면 판단자는 어느 근거가 비어 있는지 알 수 있고, 그 근거를 채울 책임이 누구에게 있는지 물을 수 있다. 가령 자율적인 장기 행위가 관찰되었다고 해서, 그 행위의 결과를 감당할 이해나 이익이 존재한다는 결론이 곧바로 따라오지는 않는다. 각각의 물음을 따로 두어야 무엇이 미확인인지 남고, 미확인을 채우는 작업이 제도의 과제로 드러난다.
1.4증거 관계 재검토 조건
축 사이의 증거 관계를 다시 볼 조건도 분명하다. 어느 축이 다른 축의 확실한 증거로 작동함이 확인되면, 예컨대 의식을 확인하는 수단이 확립되어 일정한 능력 지표가 그 증거로 기능함이 입증되면, 축 사이의 관계를 다시 정해야 한다. 그전까지는 지능의 종류만으로 보호할 가능성을 닫지 않으며, 지능의 수준만으로 지위를 열지도 않는다. 성능 지표를 법적 지위나 법정의 정확도로 환산하지 않는 것도 같은 맥락이다. 기술 과업의 추세를 사법의 결론으로 옮기지 않는 이 편의 규칙은, 능력의 관측이 지위의 판단으로 자동 변환되지 않는다는 하나의 원리에 모인다. 변환이 필요하다면 그 연결의 근거를 별도로 논증해야 하며, 그 논증이 끝날 때까지 다섯 축은 각자의 자리를 지킨다.
Chapter 2법적 인격은 목적에 따라 구성된 제도다
법적 인격을 부여해 온 이유
법적 인격은 보호할 이익의 대변, 대리인 특정, 책임 재원 귀속, 거래 상대 지정이라는 목적에 따라 법이 구성하는 기능적 지위다. 인간의 존엄에 근거한 기본적 지위를 침해하지 않고 보호할 이익에 맞춰 필요한 최소 권능만 한정해 부여할 때 지위 인정이 면책 수단으로 변질되지 않는다.
2.1인격 제도의 목적별 분해
새로운 AI 지위를 논할 때에는 “어떤 존재를 왜 보호할 것인가”와 “어떤 권능이 필요한가”를 함께 물어야 한다. 이 편은 법적 인격을 보호할 이익을 실질적으로 대표하고, 거래의 상대를 특정하며, 의무와 책임을 귀속시킬 자리를 만드는 기능에 따라 법이 구성하는 지위로 분석한다. 또한 인격 부여의 역사적 사례를 확인된 자료로 인용하지 않는다. 확인되지 않은 사실을 근거로 삼는 대신, 인격 제도가 수행하는 기능을 목적별로 분해하는 데서 출발한다. 이 물음이 흐려지면 지위의 명칭만으로 권능과 의무가 함께 따라오는 추론이 생기고, 그 추론은 지위의 인정을 곧 면책의 근거로 바꾸는 통로가 된다.
2.2네 가지 기능의 독립성
기능을 나누면 질문이 구체화된다. 보호의 기능은 누가 어떤 이익을 대변할 수 있게 하는지를, 대표의 기능은 이해가 충돌할 때 누구를 대리인으로 두는지를, 책임의 기능은 손실을 어떤 재원으로 감당하게 하는지를, 거래의 기능은 누구를 상대로 권리를 행사하는지를 각각 묻는다. 하나의 기능이 충족되었다고 해서 다른 기능까지 충족되는 것은 아니다. 서류상의 지위가 생겨도 구제를 실행할 재원이 없으면 보호의 기능은 비어 있을 수 있고, 대리인이 정해져도 그가 이해충돌에 갇혀 있으면 대표의 기능은 약해진다. 개별 손해의 책임 배분은 IV-11이 다루므로, 이 편은 기능의 분리가 설계의 출발점이라는 점만 확정한다.
2.3반론: 인간 존엄과의 구별
가장 강한 반론은 존엄의 문제다. 인격을 기능의 묶음으로 설명하면, 존엄에 근거해 그 자체로 보호받는 인간의 인격까지 협상의 대상이 되지 않겠느냐는 우려다. 이 지적은 방향이 정당하다. 그래서 두 근거를 나누어 다룬다. 존엄에 근거한 인격의 조건은 다른 목적의 편의로 축소되지 않으며, 기능을 위해 구성된 지위는 설계된 목적의 범위 안에서만 권능을 가진다. 「대한민국헌법 제27조」의 재판받을 권리를 이 설계의 출발점으로 삼되, 구체적인 불복 가능성과 절차까지 조문만으로 확정하지는 않는다. 새로운 지위를 만드는 제안이 인간의 이 자리를 좁히거나 지위의 확장과 함께 권리의 무게를 옮긴다면, 그 효과를 별도로 제시해야 한다. 「인공지능에 관한 프레임워크 협약」 개요가 AI 관련 활동이 인권·민주주의·법치에 부합해야 한다고 밝히는 것도 같은 방향이다. 다만 이 방향이 국내 법질서에서 어떤 강제력을 갖는지는 확인되지 않은 사실이므로 단정하지 않는다.
2.4분해의 폐기 조건과 한계
이 분해를 버려야 하는 조건은, 기능별 구분이 권능과 부담의 차이를 설명하지 못하거나 인간의 기본적 지위까지 조건부로 만드는 경우다. 그때까지 지위의 인정은 목적과 범위가 한정된 권능의 부여로 다루고, 이름의 부여가 곧 전체 권능의 취득으로 읽히지 않게 한다. 지위를 부여하는 이유와 의무를 귀속시키는 이유가 같은 목록에서 나오는지도 매번 다시 확인한다. 보호가 필요한 이익을 먼저 정하고 그 이익에 맞는 최소한의 권능만 부여하면, 인격의 확장이 책임의 이전을 자동으로 뜻하지 않는다는 조건이 지켜진다. 이 편이 남기는 것은 지위의 명칭이 아니라 목적의 목록이며, 목록에 없는 권능은 별도로 논증해야 한다는 규칙이다.
Official documents referred to 대한민국헌법 제27조 ↗ · Council of Europe Framework Convention on AI: official overview ↗
Chapter 3능력의 차이는 권리의 등급이 아니다
인간의 존엄과 능력에 따른 서열화
판단 능력과 자율성의 차이는 역할 분담이나 권리 행사 방식을 조정하는 기준일 뿐 인간의 기본적 권리를 등급화하는 기준이 될 수 없다. 능력에 따른 제한이 권리 박탈이 아니라 당사자 보호와 참여 지원이라는 조건 위에서 작동할 때에만 헌법상 재판받을 권리가 실질적으로 보장된다.
3.1권리 등급화 배제 원칙
판단 능력과 자율성의 차이를 권리의 보장 수준으로 환산하는 순간, 서열은 비인간 주체에 머물지 않고 인간 사이로 파고든다. 이해 능력이 부족하다고 판단된 사람, 정보를 스스로 처리하기 어려운 사람, 새로운 도구를 쓰지 못하는 사람의 권리가 같은 기준으로 평가되기 때문이다. 이 편의 중심 명제는 단순하다. 능력은 역할과 권리 행사 방식을 정하는 기준일 수는 있으나, 인간의 기본적 권리 자체를 등급화하는 기준이 되어서는 안 된다. 이 물음이 해결되지 않으면 사법의 접근과 보호가 능력 있는 자에게 쏠리고, 판사를 설득할 수단이 많은 쪽이 권리를 더 갖는 질서가 굳어진다.
3.2실질적 접근과 보완 수단
「대한민국헌법 제27조」는 모든 국민의 재판받을 권리를 보장한다. 이 보장 앞에서 능력에 따른 접근의 차별이 정당화되는지, 아니면 보완 수단으로 메워야 할 불평등인지를 따로 물어야 한다. 형식적으로는 같은 문이 열려 있어도 자료를 읽고 이해하며 반론을 준비하는 데 필요한 능력이 실제로는 다르다면, 형식적 평등만으로 이 조항의 목적이 달성되었다고 말하기 어렵다. 이 편에서 능력의 차이는 보호를 위한 적응의 대상이지 권리 축소의 근거가 아니다. AI가 설명의 문턱을 낮추고 법률 지원을 저렴하게 하여 이 격차를 줄일 수 있다는 희망도 같은 자리에 있다. 그 이익은 지원이 더 필요한 사람에게도 닿도록 설계될 때, 능력의 차이가 권리 보장의 차이로 이어지지 않게 막는 수단으로 작동한다.
3.3반론: 행위능력과 우선순위
가장 강한 반론은 행위능력 제도다. 능력에 따라 권리 행사를 조정하는 제도도 필요하지 않겠느냐는 물음이다. 구체적인 현행법의 범위와 효과는 확인되지 않은 사실로 남긴다. 이 반론은 진지하게 받아들인다. 다만 그 제한이 당사자를 보호하기 위한 것일 뿐, 권리를 박탈하기 위한 것이 아니라는 전제 위에 설계되어야 한다. 그 전제가 실제로 지켜지는지, 제한이 회복과 참여를 돕는 방향으로 작동하는지는 별도로 검토해야 한다. 현행 당사자능력과 소송능력의 요건에 관한 해설은 III-02가 다루므로 이 편에서는 되풀이하지 않는다. 한정된 자원의 우선순위를 능력의 서열로 정해야 한다는 반론에 대해서도, 우선순위는 피해의 중대성, 회복 가능성, 구제의 시급성 같은 기준으로 정할 수 있다. 뛰어난 자를 먼저 구제하는 것이 아니라 시급하고 되돌리기 어려운 손실을 먼저 구제하는 기준은, 능력에 따른 권리의 서열화와 구별된다.
3.4명제를 버릴 조건과 경계
이 명제를 버리려면 능력에 따른 권리 자체의 차등이 보호에 필수적이며, 동등한 권리 아래의 지원·행사 조정으로는 같은 보호가 불가능하다는 근거가 필요하다. 그전까지 권한 배분에는 능력을 고려하되, 인간의 기본적 권리 유무에는 이를 적용하지 않는다. AI가 인간보다 뛰어난 추론을 수행하더라도 인간의 권리가 그 사실로 줄어들지 않으며, 반대로 인간이 어느 체계보다 못하다는 이유로 재판받을 권리를 잃지도 않는다. 사법의 미래는 인간이 초지능보다 더 많이 안다는 전제 없이도 설계할 수 있어야 한다는 이 총서의 가설이, 이 편에서는 권리의 분배 앞에 놓이는 셈이다. 능력의 관측은 제도의 역할을 나누는 데 쓰되, 권리를 나누는 데는 쓰지 않는 선이 이 편의 경계다.
Official documents referred to 대한민국헌법 제27조 ↗
Chapter 4형식적 접근의 확대는 실질적 평등을 보장하지 않는다
디지털 취약성과 실질적 평등
AI 도입으로 법률 지원 비용이 낮아지고 형식적 접근이 넓어지더라도 그것만으로 사법의 실질적 평등이 보장되지는 않는다. 자료 접근, 분류 기준 설명, 이의 제기와 거부권 행사를 뒷받침할 자원이 당사자에게 실제로 도달해 격차를 줄일 때에만 접근 확대가 평등의 진전이 된다.
4.1형식적 기회와 실질적 격차
AI가 법률 지원을 저렴하게 하고 설명을 이해하기 쉽게 만들며, 사람이 놓친 증거와 반론을 찾아 주고 피해를 빠르게 파악해 회복을 돕는다면 사법의 접근성은 실제로 넓어질 수 있다. 이것이 이 권의 희망이며, 희망의 요체는 도구의 성능이 아니라 당사자가 얻는 능력이다. 다만 같은 기술이 형식적 기회만 늘리고 실질적 격차를 남길 수도 있다. 주장 생성의 속도와 심리 자원의 격차가 벌어질 때, 자동 분류로 본안의 기회를 잃고도 그 결정을 다툴 수 없는 사람이 생길 수 있다. 이 물음이 해결되지 않으면 격차의 비용이 가장 약한 당사자에게 집중되고, 접근의 확대라는 말이 그 비용을 가린다.
4.2자료·설명·이의 제기 경로
그래서 설계의 단위는 단순한 접근 유무가 아니라 자료, 설명, 이의 제기의 경로다. 청구를 넣을 수 있는지, 그 청구가 어떤 기준으로 분류되었는지 알 수 있는지, 분류에 반대할 자원이 있는지는 서로 다른 문제다. 「인공지능에 관한 프레임워크 협약」 개요는 AI의 생애주기에 걸친 활동이 인권·민주주의·법치에 부합해야 한다고 밝힌다. 이 편은 실질적 평등을 절차의 존재뿐 아니라 이용 가능한 수단의 분배로도 확인하자고 제안한다. 공공 법률 지원과 이의 제기가 가능한 자원 배분은 별도의 설계 대상이며, 하나가 다른 하나를 대신하지 않는다. 설명을 제공하는 것과 그 설명에 반박할 기회를 주는 일도 마찬가지다. 어느 경로가 끊겼는지를 기록하지 않으면, 확대되었다는 사실만으로 평등이 증명된 것으로 처리된다.
4.3반론: 기술 확산과 거부권
가장 강한 반론은 기술 확산의 효과다. 도구가 저렴해지고 널리 쓰이면 자연히 격차가 줄어들 텐데, 미리 무거운 보완 장치를 얹는 일이 오히려 접근을 늦추지 않겠느냐는 지적이다. 비용이 낮아지는 것은 분명한 이익이다. 그러나 비용 하락만으로는 자동 분류의 오류에 이의를 제기할 시간과 전문성이 없는 사람의 위치가 메워지지 않으며, 도구가 쌓인 만큼 다투는 자원이 늘지 않으면 격차는 형태만 바꾸어 남는다. AI를 사용하지 않기로 선택한 사람과 AI의 판단에 반대하는 사람의 권리도 같은 설계 안에 들어가야 한다. 쓰지 않을 자유와 거부할 수 있는 권리가 없는 접근은 실질적 선택이 아니며, 그 선택의 부재가 곧 취약성의 형태다.
4.4보완 장치 축소와 재측정
디지털 취약성의 구체적인 현황이나 그에 관한 통계는 이 묶음에 확인된 자료가 없으므로 확인되지 않은 사실로 남기고, 이 편은 제도 설계의 조건만 논한다. 보완 장치를 축소할 조건은 접근 격차가 실제로 줄어들어 추가 부담을 정당화할 수 없게 되는 경우다. 그때에는 보완 수단을 축소하고 어떤 격차가 남는지 다시 측정한다. 이 편이 요구하는 것은 성급한 확대도 성급한 제한도 아니다. 이익이 당사자에게 도달했는지를 기준으로 제도를 고치고, 도달하지 못한 경우 그 결손을 어떤 수단이 메우는지 적는 일이다. 접근의 확대가 격차를 줄일 때만, 그 확대는 평등의 진전이 된다.
Official documents referred to Council of Europe Framework Convention on AI: official overview ↗
Chapter 5권리 주장은 증거의 유형과 규범의 선택을 나누어 검토한다
AI의 권리 주장에 필요한 증거와 규범
AI의 권리와 지위에 관한 주장은 관찰된 사실에서 곧바로 도출되지 않으므로 증거의 유형과 규범적 선택을 나누어 심사해야 한다. 보호, 대표, 책임을 묻는 주장마다 필요한 근거를 달리 요구하고 확인된 사실과 규범적 선택, 조건부 가정을 구별해 기록할 때에만 성급한 인정이나 배제를 피할 수 있다.
5.1관찰 사실과 규범적 이유
AI의 권리와 지위에 관한 주장은 근거에서 권능으로 이어지는 연결을 밝혀야 한다. 관찰만으로 권리의 내용이 정해지지 않기 때문이다. 지능의 측정값, 자율적인 행위의 관찰, 의식의 흔적, 보호할 이익의 가능성, 법적 인격의 부여는 각각 다른 종류의 근거를 요구한다. 어떤 능력이 관찰되었는지, 그 관찰이 어느 이익을 뒷받침하는지, 그 이익을 왜 특정 권능으로 보호해야 하는지를 각각 밝혀야 한다. 이 편은 제1편의 구별을 전제로, 확인할 사실과 제안할 권능을 잇는 규범적 이유를 요구한다. 이 구별이 없으면 증거에 관한 논쟁이 규범의 선택을 덮거나 그 반대가 된다.
5.2근거별 절차와 조건부 판단
근거를 나누면 절차도 나뉜다. 의식 검증 수단의 확립 여부는 묶음에서 확인되지 않은 사실이므로, 의식을 전제로 하는 권리 주장은 조건부로 남는다. 반대로 의식이 확인되지 않았다는 사실만으로 보호할 가능성을 영구히 닫을 수도 없다. 이 권의 기획이 밝힌 대로, 현재 자료로 AI 의식을 확정하지 않으며 지능의 종류만으로 새로운 보호 가능성을 미리 닫지도 않는다. 지능·자율성·의식·이익·법적 인격이 별개의 근거라는 전제는, 어느 하나의 부재가 다른 모든 결론을 무효로 만들지 않는다는 뜻이기도 하다. 규범으로 선택한 부분은 선택임을 밝히고, 그 선택이 지키려는 목표를 함께 적는다. 목표가 선언이 아니라 확인 가능한 조건으로 표현되어야 나중에 그 선택을 되돌릴 수 있다.
5.3반론: 증거 문턱의 양날
가장 강한 반론은 문턱의 양날이다. 증거의 기준을 높게 두면 새로운 이해를 보호할 가능성이 영구히 닫히고, 낮게 두면 책임을 회피하려는 주장이 그 문으로 들어온다. 이 반론은 하나의 문턱으로는 해결되지 않는다. 그래서 주장의 유형마다 필요한 근거를 다르게 요구한다. 보호가 필요한지를 묻는 주장, 누구를 대표할지를 묻는 주장, 책임을 누구에게 묻는 주장은 같은 증거로 함께 결정되어서는 안 된다. 미확정인 동안 무엇을 잠정적으로 남길지는 이 권 9편이, 지위의 인정과 책임의 이전을 어떻게 나눌지는 이 권 6편이 각각 다룬다. 이 편은 그 두 작업의 입력이 되는 증거와 규범의 분류만 정한다. 분류가 무겁게 보여도, 한꺼번에 결론을 내려야 하는 부담보다는 가볍다.
5.4분류 체계의 재검토 조건
이 분류의 재검토 조건은 권리 주장 심사에 차이를 만들지 못하거나 같은 근거의 역할을 일관되게 구분하지 못할 때다. 절차를 단순화하더라도 관찰만으로 권능 부여가 정당화된다고 보지는 않는다. 그전까지 이 편이 지키는 선은 이렇다. 확인된 것은 확인된 것으로, 선택한 것은 선택한 것으로, 가정한 것은 가정한 것으로 남긴다. 지위를 둘러싼 불확실성이 완전한 인정이나 무조치로 압축되지 않게 하는 일도 이 구분이 있을 때 가능하다. 보호할 가능성을 완전히 부정하는 태도와 확인되지 않은 이해를 확인된 권리로 대접하는 태도는 같은 실수가 아니다. 각각 다른 오류를 부르므로, 같은 절차로 다루지 않는다.
Chapter 6지위의 인정과 책임의 이전은 별개의 판단이다
지위 인정과 책임 회피의 위험
AI에 새로운 법적 지위를 인정하더라도 운영자가 부담하던 손해배상 의무와 책임까지 자동으로 이전되는 것은 아니다. 새 주체에게 독립적이고 집행 가능한 재원과 자료 접근 경로가 확보되고 대표의 이해충돌이 통제되어 기존 피해 구제가 약화되지 않을 때에만 책임 조정을 검토할 수 있다.
6.1지위 인정과 책임 이전 분리
새로운 지위를 인정할 이유가 있다고 가정해도, 운영자가 지던 의무를 그 주체에게 옮길 이유가 곧바로 생기지는 않는다. 지위는 누가 어떤 보호와 절차를 가질 것인지의 문제이고, 책임의 이전은 손실을 누가 어떤 재원으로 감당하는지의 문제다. 두 선택을 한 묶음으로 처리하면, 지위의 가치에 찬성하는 판단이 피해 구제의 약화까지 승인한 것으로 바뀔 수 있다. 이 편은 현재 대한민국이나 EU가 특정한 AI 지위를 이미 인정했다고 말하지 않는다. 확인되지 않은 사실을 전제하지 않고, 제안할 수 있는 제도의 설계에서 지위의 명칭과 면책 사이에 생기는 추론의 공백을 분리한다. 지위 부여가 책임의 이전을 전혀 포함하지 않는다면, 이 편이 다루는 이전의 위험을 그 지위 자체의 결함으로 적용하지 않는다.
6.2재원 없는 이전의 합성 반례
합성 사례에서 운영자는 계속 시스템의 배치와 수익의 사용을 결정하지만, 손해에 관한 의무는 새로 인정된 주체가 맡도록 제안한다. 새 주체에는 독립적으로 사용할 재원이 없고 운영자의 지원도 보장되지 않는다. 이때 서류상 책임자는 생겨도, 청구가 받아들여진 뒤 실행할 수단은 줄어들 수 있다. 비교에서는 위험한 행위, 손실, 통제자를 그대로 두고 의무와 재원의 배치만 바꾼다. 따라서 이 반례는 AI의 능력이나 의식에 관한 판단을 필요로 하지 않으며, 지위가 새롭다는 사실만으로 같은 손실의 구제 가능성을 낮추는 이전을 정당화할 수 없다는 제한된 결론에 이른다. 설계의 실패를 비교할 때에도 지위의 명칭이 아니라 실질 통제가 남는지 이동하는지, 집행 재원이 확보되는지 빠지는지, 자료의 접근과 대표의 이해충돌이 어디서 구제를 막는지를 기록한다. 새 주체에 충분하고 접근 가능한 재원이 있으며 기존 구제도 약화되지 않는다면, 이 사례의 재원 부재 반례는 적용되지 않는다.
6.3반론: 주체 독립성과 구제
가장 강한 반론은 독립성의 모순이다. 별도 주체를 인정하면서 책임을 항상 운영자에게 남기면 새 지위는 형식에 머문다는 지적이다. 독립된 의사결정과 재산 관리가 가능하다면 독립 책임을 검토할 이유도 생길 수 있으며, 이 편은 그 가능성을 부정하지 않는다. 다만 책임의 명칭이 독립적이라는 사실과 실제로 손실을 감당할 구조가 있다는 사실은 다르다. 통제의 범위, 사용할 수 있는 재원, 자료 접근과 의무 이행 경로를 확인하고 구체적인 책임 근거에 따라 기존 책임의 조정 여부를 판단해야 한다. 새로운 지위가 생겼다는 이유 하나로 결론을 정하지 않는 것이다. 구제 경로를 남기려면 지위를 부여하기 전후에 누구에게 어떤 요구를 할 수 있는지를 나란히 적어야 한다. 청구의 상대가 남아도 자료를 확보할 통로가 끊기거나 집행할 재원이 이전되면 구제는 약해질 수 있다. 이전을 검토하는 자리에서 AI의 이익을 누가 대변하는지도 별개의 문제다. 운영자가 새 주체를 대표하면서 동시에 자신의 의무를 그 주체에게 옮기려 한다면 이해가 일치한다고 가정하기 어렵다. 지위 제도가 보호하려는 이익을 먼저 정하고, 그 이익을 표현하며 이전의 조건을 다툴 절차를 마련해야 한다. 새 주체에 충분한 재원과 자료 경로가 확인되면 독립 책임을 원천 배제하지 않으며, 개별 손해의 책임 배분은 IV-11의 몫으로 남긴다.
6.4이전 유보 설계와 폐기 조건
책임과 재원이 분리되는 이전을 먼저 완료하면 나중의 검토가 실효성을 잃을 수 있다. 그래서 검토가 끝날 때까지 특정 이전을 유보하는 설계를 생각할 수 있다. 그러나 위험하다는 말만으로 모든 활동과 재산의 사용을 무기한 막으면 보호 장치가 새로운 침해가 된다. 유보할 행위, 보존할 구제 기능, 재검토 자료와 해제 조건을 특정해야 하며, 덜 제한적인 보존 수단이 충분하다면 유보 필요성을 다시 판단해야 한다. 이는 법원에 현재 포괄적인 동결 권한이 있다는 주장이 아니며, 구체적 권한과 절차를 새로 만들 때 무엇을 한정해야 하는지에 관한 제안이다. 이 반례가 성립해도 AI의 법적 지위를 언제나 부정해야 한다는 결론은 나오지 않는다. 지위를 인정하면서 기존 구제 경로를 보존하거나 새로운 재원을 확보하는 제도는 다른 평가를 받을 수 있다. 반대로 지위의 도덕적 근거가 강하다는 이유로 재원 없는 책임 이전까지 허용해서도 안 된다. 폐기의 조건은 명확하다. 의무의 이전이 없거나, 집행 가능한 재원과 자료 경로가 보존되어 구제가 약화되지 않는다면 이 편의 책임 회피 반례를 철회한다. 지위의 찬반을 넘어, 이전 전후에 남는 구제 경로를 비교하는 일만이 이 편이 남기는 작업이다.
Chapter 7승인 절차를 사유 의무로 바꾸는 귀속 설계
비인간 주체를 누가 대표하는가
법관의 형식적 서명과 승인만으로는 AI 출력이 판결 논증의 실질이 될 때 최종 판단 책임을 인간에게 귀속시키기 어렵다. 인용된 논거 범위에서 출처 존재와 일관성을 실질 검증하고 불일치 처리 결과를 기재하도록 사유 의무를 부과할 때에만 당사자의 반박 가능성과 법관 독립이 유지된다.
7.1형식적 감독과 귀속의 공백
형식적 인간 감독은 서명과 승인 버튼의 외형은 보장하지만, 출력이 판결 논증의 실질이 되는 순간 그 문장을 누가 책임지는지까지 보장하지는 못한다. 법관이 목록을 읽었는지, 검증했는지, 자기 문장으로 채택했는지는 승인 표시만으로 알 수 없으며, 이 공백이 남으면 당사자는 자신을 구속하는 이유를 묻고 다툴 공적 질서를 잃는다. 「대한민국헌법」 제27조가 보장하는 재판받을 권리와 제103조의 법관 독립 원리는 AI를 판단 주체로 세우지 않고 최종 귀속을 인간에게 묶어 두라는 구조적 요구로 읽을 수 있으나, 특정 AI 제도의 허용이나 합헌성을 조문만으로 단정하지는 않는다. 현행 판결 이유와 항소·상고 요건의 해설은 III-17·III-25·III-26에 맡기고, 이 편은 앞으로 만들 귀속 설계의 조건만을 다룬다.
7.2인용 논거 검증과 기재 의무
사유 의무는 모든 보조 자료의 백지 재검증이 아니라 법관이 판결 논거로 인용한 범위 안의 실질 검증으로 한정되어야 한다. 검증의 축은 제시된 출처가 실제로 존재하는지 확인하는 일, 인용 논거 사이의 일관성을 검토하는 일, 불일치를 발견했을 때 수용·수정·거부를 가리는 처리로 구성되며, 그 범위와 절차 및 불일치 처리 결과를 판결문에 기재하는 의무가 뒤따른다. 검증 기록이 없으면 법관에게 검증 이행의 설명·자료 제시 부담을 지우고, 의무 위반의 항소·징계상 효과를 따로 설계하자는 제안이다. 본안의 증명책임 전환은 주체·대상·요건을 별도로 정당화해야 하며, 이 전체는 현행 규칙이 아닌 조건부 규범 선택으로 남는다. 묶음의 EU AI Act 제14조와 영국 사법부 지침은 설계의 참고점이며, 실제 준수 관행과 국내 적용은 확인되지 않은 사실로 남긴다.
7.3반론: 과잉 규제와 형식화
가장 강한 반론은 과잉 규제가 오히려 검증을 해친다는 점이다. 의무가 무거워지면 법관은 모든 출력을 처음부터 다시 확인해야 하는 부담을 지고, 결과적으로 AI 사용을 은폐하거나 디지털화 자체가 지연될 수 있으며, 기재 의무는 실제로 검증하지 않고도 양식을 채우는 새로운 형식주의가 될 수 있다. 이 지적은 정확하므로 실질 검증 없이 기재만 늘어난다면 실패라는 점을 인정해야 하고, 검증 이행의 설명 부담과 위반 효과가 실효를 잃으면 기재 의무도 무력화된다. 이에 대한 답은 범위를 인용된 논거로 좁혀 부담을 줄이고 검증 절차를 적도록 하되, 기록 부재에 따른 설명 부담과 항소·징계 검토를 구별하는 것이다. 형식화 위험은 여전히 남으며, 설명과 자료 제시가 실제 검증을 뒷받침할 때에만 귀속 설계의 의미가 있다.
7.4합성 사례와 설계 폐기 조건
합성 사례로 법관이 AI의 판례 목록을 검증 기록 없이 인용했다고 가정해 보자. 이때 확인 경위와 자료를 요구하고, 허위 인용과 의무 위반에 따른 항소·징계상 효과를 따로 심사하는 설계다. 제도화는 사법부 내부 지침에서 소프트웨어 설계 요건과 입법으로 이어지는 단계를 가정하되, 외국 경로가 한국에서 그대로 작동할지는 확정하지 않는다. 사유 의무가 실제 검증 증진 없이 형식적 기재만 늘리는 것으로 확인되거나 설명할 부담이 실효를 잃는 경우, 또는 법관의 검증 능력을 의미 있게 초월하는 체계가 보편화되어 요구 자체가 불가능한 의무가 되면 설계를 폐기하고 다시 그어야 한다. AI가 놓친 증거와 반론의 발견을 넓힐 가능성은 인용 범위의 검증과 불일치 처리라는 조건이 지켜질 때 당사자의 반박 능력으로 돌아갈 수 있다.
Official documents referred to 대한민국헌법 제27조 ↗
Chapter 8오지 않은 세대를 한정된 절차 참여로 올리는 방법
미래세대의 이해를 재판에 올리는 방법
미래세대의 장기적 이해를 보호하기 위해 완전한 권리 주체 확정 대신 제한된 절차 참여 제도를 설계할 수 있다. 다룰 이해의 범위와 법원의 조치 한계, 대표의 독립성과 이해충돌 통제, 종료 조건을 명확히 특정하고 현재 피해자의 구제를 자동 보류하지 않을 때에만 이 참여가 정당화된다.
8.1미래세대의 한정적 절차 참여
미래세대의 이해를 재판에 올리지 못하면 장기적 침해가 남길 비용은 현재의 분쟁에서 빠지고, 아직 말할 수 없는 자는 보호의 기회를 잃을 수 있다. 그렇다고 오지 않은 세대를 현재의 원고와 같은 당사자로 세우면 누가 무엇을 청구하는지, 누구의 재원으로 책임지는지가 흐려지고 현재 피해자의 구제가 추상적 미래의 이름으로 밀려날 수 있다. 이 편의 명제는 미래세대를 완전한 권리 주체로 확정하지 않으면서도 특정된 이해, 독립된 대표, 종료 조건을 갖춘 한정적 절차 참여를 제안하는 것이며, 지위 확정을 미루고 참여의 기능만을 설계하는 데 목적이 있다. 사법 존립의 일반 정당화는 IV-05에 맡기고, 이 편은 참여의 형태와 한계만을 다룬다.
8.2이해 특정과 대표 독립 조건
성립 조건은 먼저 무엇을 위한 참여인지 적는 데 있다. 기후, 재정, 기록처럼 시간을 가로지르는 이해를 구분하고, 각 이해마다 현재의 예방, 보전, 기록 보존 중 어디까지를 법원이 다룰 수 있는지 범위를 특정해야 하며, 대표의 독립과 이해충돌 통제 및 재검토 기한을 함께 정해야 한다. 대표는 현재의 행정이나 사업 주체와 이해가 겹칠 수 있으므로 어떤 근거로 어떤 주장을 하는지 공개하고 이의를 제기할 통로를 남겨야 한다. 또한 AI가 장기 영향의 탐색과 흩어진 자료의 정리를 도와 당사자와 법원의 검토 능력을 넓힐 수 있으나, 이는 그 출력의 검증과 접근 조건이 함께 설계될 때에 한한다. 개별 손해의 책임 배분 법리는 IV-11에 맡기고, 이 편은 재원 없는 책임 이전을 정당화하지 않는다.
8.3반론: 현재 구제의 희석 방지
가장 강한 반론은 미래의 이름이 현재의 구제를 희석한다는 우려다. 대표라는 형식이 생기면 실제 통제자는 책임을 뒤로 미루고 형식적 미래 대표만 남거나, 불확실한 이익의 보호를 이유로 시급한 집행과 회복이 유예될 수 있는데, 이는 이 권이 경계하는 무력화 경로와 같다. 이 우려를 인정하므로 대표의 참여가 현재 피해자의 청구나 집행을 자동 보류하게 해서는 안 되며, 미래의 어떤 이해를 위해 어떤 조정을 요청하는지 특정하게 한다. 현재의 구제와 장래의 예방이 충돌한다면 부담과 대안을 제시하고 당사자가 다툴 수 있도록 하며, 미래를 위한 조정이라는 명칭만으로 어느 한쪽의 희생을 정당화하지 않는다.
8.4참여 축소와 재검토 조건
명제를 버려야 하는 조건도 미리 적는다. 공익소송·단체소송 등의 적용 범위는 확인되지 않은 사실이며, 같은 목적을 달성하는 기존 경로가 확인되거나 추가 부담을 정당화할 자료와 권한이 없으면 별도 참여를 축소해야 한다. 재검토에서는 대표가 처음 특정한 이해를 벗어났는지와 독립성을 유지하는지를 확인하고, 기한의 도래뿐 아니라 목적의 달성·상실에 따라 누가 참여를 끝내거나 바꿀지 정해야 한다. 이 설계는 미래세대의 당사자능력이나 대표의 현행 소송권한을 선언하지 않으며, 참여의 필요성과 범위를 다시 심사할 조건을 제시하는 데 머문다.
Chapter 9확정 전에 실행과 기록과 접근을 나누는 잠정 설계
불확실한 지위에 대한 잠정적 보호
AI의 법적 지위가 불확실한 상태에서는 완전 인정이나 무조치 대신 실행 중단, 기록 보존, 자료 접근을 분리한 잠정 설계를 두어야 한다. 각 조치의 목적과 종료 조건을 특정하고 정보 제공자와 결정권자를 나누어 현재 피해자의 구제를 멈추지 않을 때에만 최종 판단을 위한 검토 조건이 지켜진다.
9.1실행·기록·접근의 잠정 분리
지위가 불확실하다는 이유로 완전 인정과 무조치 중 하나만을 고르면 검토의 조건과 현재의 구제 중 하나를 잃게 된다. 자료를 남기거나 되돌리기 어려운 변경을 한정하는 선택은 권리 주체의 확정이 아니며, 조치를 했다는 이유만으로 의식이나 보호할 이익이 판정되지도 않는다. 이 편의 명제는 검토 자료, 가능한 이익, 인간의 구제를 구별하고 실행·기록·접근의 조치를 나누어 권한과 변경 조건을 갖춘 잠정 설계를 두자는 것이며, 최종 답을 대신하지 않으면서 그 답을 검토할 조건을 지키는 데 목적이 있다. 「인공지능과 인권·민주주의·법치에 관한 프레임워크 협약」이 제시하는 거버넌스 방향은 비교의 입구로만 참조하고 국내 의무로 전용하지 않는다.
9.2실행 중단과 기록 보존 구별
합성 사례에서 운영자가 문제 제기된 체계의 실행을 멈추면서 관련 기록까지 모두 지우려 한다면 두 결정은 따로 물어야 한다. 실행을 멈출 이유가 타당해도 모든 삭제가 같은 이유로 정당화되지 않으며, 기록을 남긴다는 이유로 실행을 계속할 필요도 생기지 않고, 보존이 동일성이나 경험을 유지한다는 뜻도 아니다. 같은 보존이라도 조사 목적, 가능한 이익의 침해를 피할 목적, 피해자 청구를 위한 증거 보전 목적은 서로 다르다. 따라서 하나의 목적이 충족되었다고 다른 목적까지 충족된 것으로 보지 않으며, 필요 없는 자료를 다른 목적의 이름으로 무제한 남기지도 않는다. 기록 보존 자체가 중대한 노출이나 지속적 피해를 만들면 방식과 범위를 따로 조정해야 한다.
9.3결정 권한 분리와 이해충돌
누가 잠정 조치를 정하는지도 지식과 권한을 나누어 정해야 한다. 운영자가 체계를 잘 알고 변경 수단을 가졌다는 사실은 정보를 제공할 이유가 되지만, 이해가 걸린 지위 문제의 목적과 범위를 혼자 정할 충분한 근거는 아니므로 누가 정보를 검토하고 누가 정하며 누가 이의를 제기할 수 있는지 따로 둔다. 가능한 이익을 검토할 목소리를 마련하는 일은 그 이익의 존재 증명과 다르며, 대표에게 근거와 범위를 설명하도록 하고 운영자가 자신의 의무를 옮기기 위해 독립 지위를 주장할 가능성을 가정해 이해관계를 확인한다. 대표자를 세웠다는 사실이 책임 이전의 근거가 되어서는 안 되며, 불확실하다는 이유만으로 인간의 현재 피해 대응을 모두 멈추어 비용을 피해자에게 집중시키지도 않는다.
9.4실패 조건 탐색과 축소 기준
잠정 보호가 권리의 선인정이나 실행 중단의 방해로 굳어지지 않도록 목적과 종료 조건이 없는 조치는 두지 않는다. 또한 조치의 효과는 실행·기록·접근별로 근거 부족, 자료 충돌, 현재 피해 유무, 노출 위험을 바꾸어 보며 검사한다. 이 비교는 실제 이익의 측정이 아니라 실패 조건의 탐색이며, 조치의 효과는 확인되지 않은 사실이다. 실행과 보존을 분리할 수 없다면 가능한 조합과 남는 손실을 밝혀야 한다. 기존 기록 보전과 피해 구제 체계가 목적을 달성하거나 추가 부담을 정당화할 수 없으면 별도 설계를 축소하며, 새로운 근거가 들어오거나 기능이 달라질 때 다시 검토하고 오래 유지되었다는 사실을 증명으로 쓰지 않는다.
Official documents referred to Council of Europe Framework Convention on AI: official overview ↗
Chapter 10복제의 계보와 법적 연속성을 구별하는 기록법
인격의 복제·변경·종료가 남기는 문제
체계가 복제되고 분기될 때 초기 정보의 동일성이나 이름의 유지가 곧 법적 주체의 연속성이나 승계를 뜻하지는 않는다. 공통 과거와 분기 사건, 분기 이후의 행위·통제자·자료를 분리해 기록하고 미확인 상태를 남겨 두어야만 청구 중복 집계나 증거 소실 같은 귀속 오류를 막을 수 있다.
10.1기술적 분기와 법적 연속성
같은 상태에서 시작한 복제본들이 처음에는 같은 정보를 가질 수 있다는 사실만으로 하나의 법적 주체가 계속되는지, 여러 주체가 생기는지는 정해지지 않는다. 법적 지위의 이유와 적용 규칙이 별도로 필요하기 때문이며, 반대로 기술적 분기를 기록하지 않으면 이후 행위와 자료의 출처를 조사하기 어렵다. 이 편의 명제는 공유된 과거와 이후 행위·통제·자료를 연결하고 원인 사건과 사본 수를 구분하며, 기술적 연속성에서 주체 수, 승계, 의식을 자동 도출하지 않는 기록법을 두자는 것이다. 이름의 연속성을 실질의 연속성으로 바로 읽어 권리, 의무, 자료 관계를 잘못 묶지 않는 데 목적이 있다.
10.2공통 과거와 분기 후 귀속
합성 사례에서 거래 기록을 가진 체계가 복제된 뒤 한 분기는 서비스를 계속하고 다른 분기는 다른 운영자의 지시로 새 행위를 한다면, 원래 체계가 종료되어도 분기 전 사본은 남고 분기 뒤 기록은 달라질 수 있다. 이를 같은 이름으로 저장하면 시점과 귀속이 섞이므로 공통 과거, 분기 사건, 이후 행위·통제자를 별도 항목으로 두고, 분기 뒤 자료가 없으면 공통 과거에서 추정해 채우지 않는다. 같은 사건 기록이 여러 사본에 남았다고 해서 피해나 청구가 사본 수만큼 늘어나지는 않으며, 분기 뒤 독립 행위가 새 손실을 만들었다면 원래 사건과 같다는 이유로 지우지 않고 원인 사건, 영향받은 이익, 추가 행위를 연결한다. 실제로 누구에게 몇 번 청구할 수 있는지를 정하는 법리는 이 기록법이 제시하지 않으며, 사본 수로 부풀리거나 새 손실을 공유 과거에 흡수하는 두 오류를 가르는 데 머문다.
10.3종료 후 자료 보존과 갱신
종료된 체계와 대화할 수 없다는 사실이 모든 기록의 소멸을 뜻하지는 않는다. 복제본이나 운영자에게 자료가 남았을 수 있으나 사본의 존재가 완전성과 적법한 접근을 보장하지도 않으므로, 무엇이 어디에 남고 무엇이 바뀌거나 없어졌는지 범위를 적는다. 실행 지속과 자료 보존은 다른 수단이며, 필요 기록을 다른 방식으로 확인할 수 있다면 종료 자체를 구제 불가능성으로 표현할 이유는 줄어든다. 분기 뒤 상반된 요구가 표현되어도 공통 과거를 이유로 중복으로 지우지 않고 표현, 발생 조건, 통제자를 먼저 기록하며, 다름이 곧 독립 인격이나 의식의 증명이 되지도 않는다. 큰 갱신 뒤 같은 이름이 유지되거나 작은 변경 뒤 새 이름이 붙을 수 있으므로 보존된 기록·기능·통제 관계를 별도로 남기고 전체 상태를 알 수 없으면 미확인으로 표시하며, 어느 정도 바뀌면 다른 인격이라는 수치 문턱을 만들지 않는다.
10.4반론: 규범 한계와 철회 조건
가장 강한 반론은 이러한 관계표가 법적 인격의 문제를 해결하지 못한다는 점이며, 이는 인정해야 한다. 이 방법은 규범 문제를 해결한다고 주장하지 않고 중복 집계와 증거 소실의 기록 오류를 줄여 별도 판단의 입력을 명확히 하는 데 기여한다. 검증은 같은 자료를 읽은 다른 검토자가 공통 과거와 분기 뒤 행위를 같은 방식으로 연결할 수 있는지, 누락으로 여러 연결이 가능할 때 불확실성을 보존하는지를 살피며, 문헌 풀은 실제 복제 사건의 관찰 데이터가 아니고 현재는 분류 사양만 있어 재현성 시험이나 성과 결과가 없음을 밝힌다. 분기와 원인 사건의 분류가 재현되지 않으면 집계 사용을 철회하고, 기존 기록이 같은 관계와 불확실성을 충분히 담으면 독립 체계 신설의 필요성을 철회한다.
Chapter 11충돌 판단보다 먼저 근거 대응을 공개하는 표
주체 사이의 권리 충돌과 제한
인간과 AI, 미래세대의 권리 충돌을 실체적으로 재단하기에 앞서 주장과 소스의 대응 관계를 다섯 칸의 표로 먼저 공개해야 한다. 근거 유형을 관측, 규범적 선택, 조건부 가정으로 나누고 근거 소진점을 명시해 각기 다른 반례 대응 절차를 적용할 때에만 충돌 논증이 검증 가능한 형태를 갖춘다.
11.1근거 추적과 다섯 칸 대응표
인간, AI, 미래세대의 지위를 함께 논하면 결론의 방향보다 근거의 추적 가능성이 먼저 막힌다. 어떤 주장이 어느 문헌에 기대며 그 연결이 관측·규범적 선택·조건부 가정 중 무엇인지 드러나지 않으면 근거를 추적하기 어렵고, 합성 사례와 미래 조건이 관측처럼 인용될 위험이 커진다. 이 편의 명제는 주체 사이의 권리 충돌과 제한을 실체적으로 먼저 재단하기 전에 소스와 주장의 대응을 다섯 칸의 표로 공개하여 각 주장이 어디서 근거가 소진되는지를 명시해야 한다는 것이며, 관측·선택·가정에 따라 반례 대응 절차를 구분하는 방법론적 인프라를 두자는 제안이다. 개별 손해의 책임 배분 법리는 IV-11에 맡기고, 이 편은 충돌 논증의 검증 가능성을 다룬다.
11.2근거 유형 구분과 소진점
표의 최소 칸은 주장의 위치, 근거의 원천, 근거의 성격, 지지 구조, 한계를 나타내는 주장 식별자, 소스 식별자, 근거 유형, 전제 식별자, 근거 소진점으로 구성된다. 소진점 칸이 없으면 표는 단순한 근거 목록에 그치고 논증의 경계를 보여 주지 못한다. 관측된 규범은 확인된 실무나 판례에 의존해 반례로 흔들릴 수 있고, 규범적 선택은 목표의 재설정으로 재검토되며, 조건부 가정은 조건의 성부에 따라 무너지므로 서로 다른 검증 절차를 요구한다. 같은 소스라도 주장과의 관계에 따라 존재·내용의 확인은 관측으로, 국내 도입의 당위는 규범적 선택으로, 적용 효과의 예상은 조건부 가정으로 구분하며, 유형은 소스 자체가 아니라 관계에 귀속된다. 합성 사례와 미래 조건은 조건부 가정으로 표시하고 관측으로 표시하지 않으며, 소진점이 빨리 도달할수록 적용 범위를 제한하는 정보로 쓴다.
11.3반론: 주관적 분류와 공개성
가장 강한 반론은 대응표가 형식적 정돈일 뿐 실질 타당성을 보장하지 못하며, 유형 분류 자체가 연구자 판단에 의존하므로 검증 가능성을 실제로 높이지 못한다는 지적이다. 이 한계는 구조적이므로 표가 실체적 타당성이나 분류의 객관성을 보장하지 않으며, 새로운 표준이 되어야 한다고도 주장하지 않는다는 점을 인정해야 한다. 이에 대한 답은 판단과 그 근거를 공개하는 데 있다. 주관적 분류라도 근거와 판정 기준을 함께 공개하면 반례와 재분류를 논의할 수 있으나, 검증 가능성의 실제 향상은 별도로 평가해야 한다. 관측에 대한 반례는 표에 즉시 반영하고 가정에 대한 반례는 조건의 재검토로, 선택에 대한 반례는 목표의 재설정 논의로 흡수하여 관측과 선택이 섞이지 않게 한다.
11.4재현성 한계와 표 폐기 조건
이 표를 버려야 하는 조건도 함께 적는다. 적용 사례에서 유형 분류가 재현되지 않고 연구자 간 일치가 현저히 낮으면 실용성을 재검토해야 하며, 미확인 사항을 사실로 채우거나 합성 사례와 관측을 구분하지 않으면 표의 검증 가능성 자체가 무너진다. 국내 제도 확정을 암시하는 예시는 확정으로 단정하지 않고 방법론적 선택으로 제시하며, 미래 조건의 미확인성을 유지하고 소진점 표시를 결론 무효화와 구별한다. AI가 숙의를 도울 가능성에 대한 연구는 공동 입장문에 대한 선호를 측정한 범위에서만 이해하고 정의나 재판 정당성의 측정으로 바꾸지 않으며, 그 연결 논증 자체가 연구 대상임을 표에 남길 때 충돌 논의는 선언을 넘어 검토 가능한 형태가 된다.
Chapter 12판단의 공동생산을 추적 가능하게 남기는 개정 조건
공존 가능한 지위 질서의 개정 조건
법원이 생성형 AI와 판단을 공동생산할 때에는 단순 사용 여부를 넘어 사후 추적과 인간의 최종 정당화 책임을 보장하는 개정 조건이 필요하다. 판단 요소별 허용 범위를 나누고 도구 기여와 수용 근거를 기록해 법관의 독자적 정당화 능력을 재구성할 수 있고 심리를 해치지 않을 때에만 제도가 성립한다.
12.1공동생산과 정당화 책임
법원이 생성형 AI를 판결문 작성, 판례 검색, 사실관계 정리에 쓰기 시작하면 판단은 법관만의 산출물이 아니라 인간과 기계가 함께 구성하는 산출물이 된다. 이때 물을 것은 AI를 썼는지 여부뿐 아니라 어디에 어떻게 관여했는지, 근거를 사후에 추적할 수 있는지, 최종 정당화 책임이 인간에게 남아 있는지다. 이 물음이 풀리지 않으면 공정성과 독립의 원리는 산출 과정에 대한 요구를 잃고 당사자의 불복과 검증 가능성도 함께 약해진다. 이 편의 명제는 금지나 무제한 허용이 아니라 판단 요소별 배분 원칙과 근거 기록 의무를 절차적으로 설계하고 법관의 독자적 정당화 능력을 점검하는 일을 공존 질서 개정의 조건으로 삼는다는 것이다. 아울러 「대한민국헌법」 제27조와 제103조의 원리 및 「인공지능과 인권·민주주의·법치에 관한 프레임워크 협약」의 생애주기 거버넌스 방향을 참고해 법원 실무의 조건부 설계 원칙을 제안한다.
12.2판단 요소별 배분과 기록 밀도
배분은 사실관계 정리나 판례 검색에 대한 기여와 결론 형성에 대한 기여를 동일하게 취급하지 않고, 정당화 함의에 따라 허용 범위를 구분하는 데서 시작한다. 기록은 어떤 도구의 어떤 버전이 각 판단 요소에 어떤 형태로 기여했는지, 법관이 이를 수용·거부·수정했는지와 그 근거는 무엇인지, 그리고 최종 판단문에서 AI 기여분과 법관의 독자적 판단의 경계를 어떻게 표시하는지 등의 최소 항목으로 구성되며, 완전한 과정 재현이 아니라 사후 재구성이 가능한 밀도를 목표로 한다. 무기록 사용은 검증 가능성을 배제하므로 정당화 요구와 양립하기 어렵고, 실질 의존이 독자적 정당화 능력을 대체한다면 형식적 최종 귀속만으로 원리 충족을 주장할 수 없다. 외부 문서의 인간 감독과 투명성 방향은 관측된 사실로만 서술하고 한국 법원 적용을 단정하지 않으며, 실제 사용 실태와 기록 부담의 영향은 확인되지 않은 사실로 남긴다.
12.3반론: 추상성 한계와 정초화
가장 강한 반론은 확정된 국내 규범과 경험적 근거 없이 추상 원칙만 제시하는 공허함이며, 판단 요소별 기준선과 기록 부담의 실효 범위가 검증되지 않았다는 점은 인정해야 한다. 이에 대한 답은 이 설계가 완성형 실무가 아니라 조건부 가정 위에 선 정초화이며, 추정과 관측을 구분하고 폐기 조건을 내장해 실증 확보 시 수정·철회될 수 있다는 점이다. 제7편이 인용 논거의 검증과 위반 효과를 다룬다면, 이 편은 판단 요소별 기여와 기록 범위를 나눈다. 그 기록으로 독자적 정당화를 재구성할 수 있고 기록 부담이 심리를 해치지 않는지 확인해야 하며, 확인 전에는 실무적 실현 가능성이 확보되었다고 주장하지 않는다.
12.4설계 폐기 조건과 검증 시간
폐기 조건은 명시적 국내 규범이 확정되어 배분 원칙 및 기록 의무와 양립 불가능해지거나, 기록 부담이 재판의 실질 기능을 훼손함이 경험적으로 확인되거나, 독자적 정당화 능력의 사후 점검이 원리적으로 불가능하거나 실질을 왜곡함이 입증되는 경우다. 이때는 설계의 핵심 층위가 성립하지 않으므로 원칙적 재설계가 필요하다. AI의 지위 자체를 인정하는 논의는 이 설계에 포함하지 않으며, 배분이 공정성을 자동으로 보장한다고도 주장하지 않는다. AI가 장기 자료 정리와 놓친 논거 탐색을 도와 법관과 당사자의 검토 시간을 만들어 줄 수는 있으나, 그 시간에 독립 검증, 대체 수단, 피해 회복, 반박 능력이 자라지 않으면 시간을 소비한 데 그친다는 것이 이 권이 카테콘에 부여한 기능이며, 개정은 그 시간이 실제 검증과 구제로 이어지는 조건까지 갖추어야 정당화된다.
Official documents referred to 대한민국헌법 제27조 ↗ · Council of Europe Framework Convention on AI: official overview ↗