요약
AI의 높은 정확도는 판단을 맡길 좋은 이유일 뿐 타인을 구속할 권한 자체를 자동으로 부여하지 않는다. 구속 권한이 정당화되려면 수여 범위의 기록과 당사자의 반박 지위 보장, 중지 효과를 갖춘 다툼 통로와 집행·회복 책임의 식별이 함께 결합되어야 한다.
2.1인식적 우월성과 구속 권한의 간격
AI가 더 나은 결론을 내릴 수 있는 경우에도 그 능력만으로 타인을 구속할 권한이 자동으로 생기는가. 이 편의 답은 그렇지 않다는 것이다. 성능은 공적 판단을 맡길 강한 이유이나, 타인을 구속하는 권한은 정당화 가능한 수여와 당사자의 지위, 실효적인 다툼과 강제력의 책임을 함께 요구한다. 사적 조언자가 옳다는 이유로 상대방의 재산을 직접 이전할 수 없다는 가상 사례는 채택과 강제의 간격을 드러낸다. 결론이 맞더라도 누가 어떤 범위의 권한을 부여했으며 당사자가 어떤 지위로 응답할 수 있는지는 여전히 물어야 한다. 이 물음이 해결되지 않으면 인식적 우월성이 곧 지배 권한이라는 도약이 정당화 없이 통과되고, 자원이 없는 당사자부터 더 저렴하다는 이유로 다툴 기회 없이 구속된다. AI는 저렴한 법률 지원과 반론의 발견을 통해 구제받을 능력을 넓힐 수 있으나, 그 이익이 수여와 다툼의 조건과 함께 설계될 때만 공적 구제가 된다.
2.2권한 정당화를 위한 네 가지 조건
이 명제가 성립하는 조건은 네 가지로 나뉜다. 첫째, 권한의 수여가 식별 가능해야 하며 누가 무엇을 위해 어느 범위에서 맡겼는지가 기록되어야 한다. 「대한민국헌법 제27조」가 보장하는 재판청구권과 「대한민국헌법 제103조」가 정하는 독립 심판은 국내 논의의 출발점이 되는 규범이다. 그러나 두 조문을 제시한 것만으로 모든 자동 판단의 금지나 모든 인간 승인 방식의 허용이 증명되는 것은 아니다. 둘째, 당사자는 분류의 대상이 아니라 근거와 권한의 범위를 확인하고 이의를 제출하며 이유 있는 응답을 받을 지위를 갖는다. 셋째, 다툼은 버튼의 존재가 아니라 검토자와 근거, 기한과 중지 효과의 연결을 통해 실효성을 얻는다. 넷째, 누구의 결정으로 집행이 시작되고 누가 권한 초과를 심사하며 누가 잘못된 강제의 결과를 회복하는지 식별할 수 있어야 한다. 바꿀 능력이 없는 인간에게 책임자라는 이름만 붙이는 방식은 책임이 아니다.
2.3반론: 인간 관여의 비용 전가
가장 강한 반론은 정당성을 명목으로 인간의 관여를 보존하면 더 정확하고 저렴한 권리구제를 막아, 자원이 가장 부족한 당사자에게 비용을 전가한다는 것이다. 이 반론에는 받아들여야 할 부분이 있다. 정당성의 요구에도 비용이 따르며, 불필요한 인간 관여를 없애는 자동화는 권리 보장을 개선할 수 있다. 응답의 요지는 보존 대상이 인간 조직이 아니라 수여와 지위, 다툼과 책임의 실효적 기능이라는 점이다. 그 기능을 같거나 더 잘 보장하면서 구제를 개선하는 자동 대안은 기존 법원의 형식보다 우선할 이유가 있다. 그 기능을 제거해야만 얻는 속도는 효율이 아니라 가치 충돌로 드러내어 별도로 정당화해야 한다. 자동화를 막는 측에도 그 제한이 어떤 지위를 보전하며 덜 부담스러운 대안은 왜 부족한지 설명할 책임이 있다.
2.4조건부 결론과 권한 위임의 한계
이 편의 결론은 조건부이다. 결과 외의 지위에 독립된 정당화 가치가 없다는 반론이 성립하면, 충분조건을 부정하는 규범적 근거를 다시 써야 한다. 대안이 모든 기준을 더 잘 충족하면 인간 조직을 우선하는 선택은 폐기된다. 실효적 다툼과 회복이 불가능하면 해당 강제권 위임 제안은 폐기된다. 「국제 AI 안전 보고서」 등의 수치와 읽은 범위는 계산표와 근거대장에 고정하고 발행 이후 능력은 확인되지 않은 사실로 두며, 기술 실측은 제IV-01권에 맡긴 채 이 장은 권한의 추가 조건을 요구하는 추론을 명료화하는 데 기여한다.