Summary
예외가 생략된 요약이 반복 인용되고 재학습되어 판례처럼 굳어지는 오류의 권위화를 막기 위해, 파생 경로와 요약의 지위를 기록하고 단순 반복을 독립 근거로 집계하지 말아야 한다. 이는 원문에서 파생된 경로를 추적하고 관측·보존·해석 체계를 분리하며 원문 정정이 파생 문서와 후속 인용으로 이어지는지 점검할 때 성립한다.
4.1파생 경로 기록과 반복 권위화 차단
요약은 빠뜨림에서 시작한다. 예외 문단이 빠진 요약이 여러 문서에 복사되고 그 문서가 다시 학습에 들어가면 같은 생략이 점점 일반적인 규칙처럼 보인다. 문서 수의 증가는 독립된 근거가 늘었다는 뜻이 아니지만 화면에서는 그렇게 보인다. 이 편의 중심 명제는 파생 경로와 요약의 지위를 남기고 반복을 독립 근거로 세지 말라는 것이다. 오류가 권위로 재생산되는 경로는 한 번의 실수에서 그치지 않고 출처 표시의 실패를 통해 자란다. 이 물음이 해결되지 않으면 선택된 가치와 오류가 법의 필연성처럼 굳어지고 당사자는 굳어진 전제를 반박할 문헌을 찾지 못한다.
4.2원문 추적과 관측·해석 체계의 분리
성립 조건은 추적과 시험의 분리다. 원문에서 파생된 경로가 기록되어 같은 출처를 공유하는 반복을 확인할 수 있어야 한다. 기록의 관측과 보존, 해석 경로를 같은 체계에 묶지 않고 분리하여 한 번의 요약 오류가 검증 기준까지 오염시키지 않게 해야 한다. 원문에서 오류가 발견되어 정정되었을 때 그 수정이 파생 요약과 후속 인용 문서로 이어지는지도 함께 점검한다. 파생 경로와 원문 대조가 작동할 때에만 반복 인용의 독립성 검증은 의미를 갖는다. 국제 AI 안전 보고서를 읽을 때 이 기획이 능력과 배치 조건을 나누어 보듯, 파생 오류도 생성 능력과 재사용 조건을 나누어 보아야 한다. 순환의 규모를 과장하지 않고 조건부 경로를 조건부로 서술해야 한다. 실제 순환이 얼마나 발생하는지에 대한 측정은 확인되지 않은 사실로 남긴다.
4.3반론: 출처 관리의 비용과 지연
최강 반론은 모든 파생 표시와 재검사가 속도를 늦추고 비용을 늘려 결국 구제를 어렵게 한다는 것이다. 현장에서는 완벽한 출처 관리보다 빠른 정정이 낫다는 주장이다. 답은 전부 아니면 전무라는 선택이 아니라 용도 제한이다. 파생 경로가 남지 않으면 원문을 아무리 빠르게 고쳐도 이미 퍼져 나간 요약본과 후속 학습자료의 오류는 찾아내 고칠 수 없다. 따라서 모든 문서를 같은 길이로 보존하는 대신 원문과의 연결 고리를 남기고, 연결이 끊긴 요약은 규범 적용의 근거로 쓰지 못하게 제한한다. 인공지능이 빠른 피해 파악을 돕는다는 희망도 출처가 남을 때에만 신뢰할 수 있다.
4.4오류 권위화 차단 명제의 기각 조건
서로 독립된 원문 근거가 확인되면 반복이라는 이유만으로 같은 출처의 파생물로 취급하지 않는다. 이것이 이 명제를 버려야 할 조건이다. 관측과 보존, 해석 경로가 이미 분리되어 원문의 정정이 파생 문서와 후속 사용에 곧바로 반영된다면 별도 제한은 축소한다. 반대로 같은 원천에서 파생된 설명을 독립된 복수의 증거로 집계하고 있음이 드러나면 그 제시는 권위가 아니라 기각 대상으로 취급한다. 원문 정정이 후속 사용으로 이어지는 경로와 권위의 표시를 분리하는 한, 오류의 권위화는 차단될 수 있다.