요약
공동 판단 실패의 책임을 귀속하기 위한 인간 감독 요건은 선언이 아니라 개입 시점, 정보 근거, 기각 권한의 독립성, 기록 가능성이라는 네 가지 관찰 가능한 항목으로 분해해 판정해야 한다. 각 항목의 수집 방법과 충족 기준을 사전에 공개된 규약으로 정해 타인이 동일한 로그로 같은 판정을 재현할 수 있어야 한다.
9.1인간 감독의 네 가지 관찰 항목
인간 감독이라는 요건은 선언만으로 충족되지 않는다. 이 편은 공동 판단 실패의 최종 책임을 귀속하기 위한 전제로서 감독을 네 가지 관찰 가능한 항목으로 분해해야 한다는 명제를 따른다. 개입 시점과 정보 근거, 기각 권한의 독립성과 기록 가능성으로 나누지 않으면 조문상 요건의 충족 여부를 실증적으로 판단할 수 없다는 것이다. 유럽연합의 감독 원칙인 「EU AI Act 제14조」와 영국 사법부 지침인 「Position Statement on the Judicial Use of AI」는 인간 감독을 요구하지만, 무엇을 관찰해야 충족으로 볼 것인지에 관한 공통 측정 규약은 없다. 조문에 요구가 적혀 있다는 사실과 실제로 충족되었다는 판단은 다른 문제다. 감독자가 어떤 정보를 보았는지, 언제 개입했는지, 제안을 스스로 기각할 수 있었는지가 관찰되지 않으면 요건 충족은 검증 불가능한 상태로 남는다.
9.2항목별 수집 방법과 사전 판정 규약
방법의 내용은 각 항목의 기록과 판정 규약이다. 개입 시점은 시스템 제안에 대한 사람의 대응 시각으로, 정보 근거는 열람한 입력과 출력 목록으로 수집한다. 기각 권한의 독립성은 제안을 거부할 수 있었다는 절차적 가능성으로, 기록 가능성은 사후 재현 가능한 로그로 각각 수집하고, 충족과 미충족의 판정 기준을 사전에 정한다. 규약은 공개되어 타인이 같은 기록으로 같은 판정에 도달할 수 있어야 한다. 성능 지표는 감독 판단으로 환산하지 않는다. 모델의 정확률이나 재현율은 출력을 기술할 뿐, 사람의 역할을 묻는 감독 요건과는 대상이 다르다. 따라서 전자의 수치를 후자의 판단으로 바꾸는 추론에는 단절이 있다. 사고 서술 텍스트는 참고 증거로 남기되 유일한 증거로 삼지 않는다. 출력된 설명이 내부 판단에 항상 대응하지 않을 수 있다는 제한된 관측을 조건부로 쓰기 때문이며, 특정 모델군 전체로 일반화하지 않는다.
9.3반론: 개념 축소 우려와 조정 가능성
가장 강한 반론은 네 항목으로의 분해가 임의적이며, 원래 법령의 적절한 감독 개념을 축소하거나 왜곡할 수 있다는 것이다. 네 항목이 조문의 유일하거나 배타적인 해석이라는 주장은 하지 않으며, 조문 자체의 문헌 해석은 범위 밖이라는 점을 인정한다. 답은 해석 대체가 아니라 실증적 재구성이다. 축소 가능성에 대응해 항목을 조정할 수 있는 조건을 명시하며, 조정 가능성 자체가 재현 가능성 요건과 맞물린다. 합성 사례는 규약의 내부 정합성을 시험하는 도구로 쓰되 실제 사건으로 취급하지 않는다. 미래의 완전 자율 조건은 관측과 구별된 가정으로 남겨, 별도 재설계 없이 다루지 않는다.
9.4관찰·재현 불가능 시 폐기 조건
이 방법론은 네 항목 중 하나라도 원리적으로 관찰할 수 없음이 밝혀지거나, 판정 기준의 사전 문서화와 재현이 불가능함이 확인되면 폐기되어야 한다. 분해와 판정 절차가 확립되어도 헌법적 정당성이 곧 증명되는 것은 아니다. 대한민국 헌법 제27조와 제103조의 언급은 규범적 배경에 그치며, 구체 해석과 판례 동향은 확인되지 않은 사실이므로 실정법 결론을 내리지 않는다. 현행 책임 요건과 개편 대안의 실체 논의는 제11권(IV-11)에 맡기며, 이 편은 측정 규약의 설계와 적용 절차에 한정한다.