Summary
인간과 AI 사이의 성능 우위가 역전되더라도 오류 전파를 막기 위해 각 명제가 어느 출처에 근거하는지 확인하고 미확인 가정을 분리하는 추적 가능성은 유지되어야 한다. 전제 목록에 없는 근거 인용을 금지하고 관측 규범의 실제 출처 대조를 강제하며 미확인 명제를 조건부 논증으로 격리하는 규약이 공유될 때 성립한다.
11.1성능 우위 역전과 출처 추적의 필요
인간과 AI의 성능 우위는 고정되어 있지 않다. 이 편은 어느 쪽이 더 정확한 결론을 내든 각 명제가 어느 출처에 근거하는지 추적할 수 있어야 한다는 명제를 세운다. 구체적 대응표 작성의 절차적 상세는 제2편에 맡기고, 이 편은 우위 역전 조건에서 왜 추적성이 여전히 필요한지를 다룬다. 핵심은 확인된 근거와 미확인 가정을 뒤섞지 않는 규약이다. 미확인 사항을 사실처럼 제시하면 참가자는 검증 없이 수용하게 되고, 근거가 무너질 때 전체 판단도 무너진다. 반대로 조건부 가정으로 격리하면 그 전제가 참이거나 거짓일 때의 결과를 각각 추적할 수 있어 오류 전파가 해당 명제로 제한된다.
11.2근거 인용 제한과 조건부 논증 격리
이 방법은 주장과 출처의 대응 관계에 정직성의 기준을 둔다. AI의 성능 우위가 커질수록 SOURCE-CLAIM-CROSSWALK-v1은 각 주장의 전제 목록에 없는 근거를 인용하지 못하도록 제한한다. 관측 규범에 대해서만 출처가 실제로 그 규범을 뒷받침하는지 대조한다. 출처가 배정되지 않은 미확인 명제는 확정 사실로 제시하지 않고, 전제가 참일 때의 결과 추적을 요구하는 조건부 논증으로 남긴다. 이 구조는 출처가 존재한다는 사실이 모든 종류의 주장을 뒷받침한다는 오류를 막는다. 합성 사례로 대비할 수 있다. 특정 조항을 근거로 한 명제가 확인 목록에 없을 때 규약에 따라 조건부 가정으로 표시되면 참가자는 나머지 판단을 그대로 검증할 수 있다. 그러나 출처 없이 확정 사실로 제시되면 나머지 판단과 오류 판단을 구분할 수 없게 된다. 이 대비는 실증 성과가 아니라 구조적 예시로만 쓴다.
11.3반론: 품질 저하 우려와 별개 가치
가장 강한 반론은 추적성 절차가 실질 판단 품질을 떨어뜨리고 참가자에게 부담만 가중한다는 것이다. 품질 악화 가능성이 실재함을 인정하며, 이 방법이 이를 독립적으로 해결할 수는 없다. 답은 추적성을 품질의 대리 지표가 아니라 별개의 가치로 두는 것이다. 추적성은 정확도를 보장하지 않으며, 품질 악화가 확인되면 폐기 조건을 통해 재검토한다. 내부 설명과 산출 근거의 불일치 가능성도 구조 조건으로 다룬다. 참가자에게 제시하는 설명과 출처 연결을 분리해 기록하고, 설명이 출처에 의해 뒷받침되는지 별도로 표시하며, 앤스로픽 연구 소개를 모든 시스템에 일반화하지 않는다. 「EU AI Act 제14조」와 영국 사법부 입장, 대한민국 헌법 제27조·제103조(구체 합헌 해석은 확인되지 않은 사실)는 규범적 배경으로만 원용하며 직접 요구로 해석하지 않는다.
11.4추적성 규약의 폐기 조건과 한계
이 방법은 추적성 절차가 실질 품질을 지속적으로 악화시킴이 확인되거나, 규약이 참가자 사이에 공유되지 않아 일관된 검증 기반을 제공하지 못하거나, 구조적 예시가 반증될 때 폐기되어야 한다. 판단의 실질 타당성이나 특정 사용의 합헌 보장, 특정 법령의 요구 존재는 주장하지 않으며, 발전 추세의 측정은 제1권(IV-01)에 맡기고 기술 능력의 실측 논의를 반복하지 않는다.