요약
이 장은 오류를 재는 문항과 정답이 어떻게 정해져야 하는지를 묻는다. 유형 표에서 문항으로 옮겨 문항 갈래를 나누고, 공개 원문이 정답이 되어야 하는 까닭과 원시자료의 품질 확인 방법을 살핀 뒤, 평가자 관여와 오염 기록, 상관된 실패와 해석의 경계를 다룬다.
8.1유형 표에서 문항으로
표를 대조의 틀로만 남기기로 한 데서 이어가 인용 오류의 모습을 측정 문항으로 옮긴다. 문항이 무엇을 묻고 무엇을 묻지 않는지를 정하는 일이 이 장의 첫 작업이다.
측정 문항은 관찰할 수 있는 사실을 겨눈다. 준비서면 초안에 붙은 인용이 국가법령정보센터 검색창에 나타나는지, 초안에 적힌 선고일이 검색 결과와 같은지, 판시 요약의 방향이 원문과 같은지가 문항의 대상이다. 이 셋은 모두 열어 본 사람의 눈앞에서 대조가 끝나는 항목이다.
문항이 다루지 않는 것도 분명히 해 둔다. 확정 손해나 고의 같은 법적 평가의 유무는 측정의 대상으로 삼지 않는다. 합성 사례에서 관찰된 것은 검색 결과가 0건이었다는 사실과, 선고일이 다르게 적혀 있었다는 사실이며, 그 사실이 어떤 법적 평가를 구성한다는 결론은 이 문항에서 내리지 않는다.
측정 결과를 다루는 태도는 위 프레임워크가 짚어 두고 있다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, MS-1.1-009에서 측정 대상 밖에 남는 위험을 다음과 같이 다룬다. "Track and document risks or opportunities related to all GAI risks that cannot be measured quantitatively, including explanations as to why some risks cannot be measured (e.g., due to technological limitations, resource constraints, or trustworthy considerations). Include unmeasured risks in marginal risks." 문항에 담지 못한 항목을 목록에서 지우는 대신 남겨 두고 사유를 적어 두라는 뜻이므로, 평가의 유무처럼 측정하지 않기로 한 항목도 그렇게 처리한다.
인용 자체의 품질을 적어 두는 방식도 같은 문서에 마련되어 있다. 미국 상무부 국립표준기술연구소(NIST), 위 문서, GV-1.6-003은 시스템 목록 항목에 들어갈 항을 "Data provenance information (e.g., source, signatures, versioning, watermarks)" 등과 함께 열거하면서, "Known issues reported from internal bug tracking or external information sharing resources (e.g., AI incident database, AVID, CVE, NVD, or OECD AI incident monitor)"를 함께 적으라고 한다. 인용의 출처와 알려진 문제를 함께 적어 두는 방안이므로, 사건번호가 검색 결과에 나타나지 않는 사실도 목록에 남길 수 있다.
문항에 오류를 적어 두는 절차는 한국의 지침에도 같은 자리에 있다. 한국지능정보사회진흥원(NIA), 「생성형AI 데이터 품질관리 가이드 v2.0(제3권)」, 2025-05-23, 63쪽, 표 II-16은 품질 항목으로 신뢰성, 충분성, 균일성, 사실성, 공평성을 들고, 그 가운데 출처에 대해 "데이터는 반드시 객관성 확보를 위한 신뢰할 수 있는 출처(사람, 기관, 기업)로부터 수집해야 함"이라고 적는다. 인용문의 출처를 적는 일은 이 항목과 맞닿으므로, 문항은 출처를 확인하는 대조로 한정해 묻는다.
문항은 원문을 열어 본 뒤에야 답이 갈리는 항목으로 짜인다. 초안에 적힌 사건번호가 검색 결과에 나타나는지, 선고일이 원문과 같은지, 판시 요약의 방향이 원문과 같은지를 묻는 세 가지가 그것이며, 각 문항의 답은 관찰로 채워진다. 이 관찰이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이며, 이 미정 사항은 문항의 답으로 채우지 않는다.
8.2문항 갈래의 나눔
측정 문항의 대상이 서로 다른 것을 묻는 순간, 문항을 갈래로 나누는 일이 남는다. 사건번호의 존재 여부와 선고일의 일치, 판시 요약의 방향은 각각 확인할 대상이 다르다. 한 문항 안에 이 세 가지를 함께 담으면 어느 대목에서 어긋났는지가 드러나지 않는다. 그래서 각 관찰을 따로 묻는 문항으로 갈라놓는다.
갈래를 나누는 첫째 기준은 물음의 대상이다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, 2절 각주 3은 환각의 한 모습을 이렇게 적는다. "GAI outputs may also include confabulated logic or citations that purport to justify or explain the system’s answer, which may further mislead humans into inappropriately trusting the system’s output." 이 문장은 인용이 근거의 얼굴을 갖추고 나타난다는 점을 적는다. 인용의 얼굴 안에서도 사건번호와 선고일과 판시 요약은 각각 다른 자리를 차지한다. 사건번호를 묻는 문항은 그 번호의 존재 여부만을 대상으로 삼는다.
둘째 기준은 대상별로 확인할 장소가 다르다는 점이다. 사건번호의 존재 여부는 공개 원문의 검색으로 확인된다. 선고일의 일치는 같은 판결문에서 적힌 날짜를 견주어야 한다. 판시 요약의 방향은 판결이 다룬 쟁점을 가린 뒤에야 판단된다. NIST AI 600-1, 2절 각주 3은 잘못된 내용을 확신을 담아 제시하는 현상을 이렇게 부른다. "“Confabulation” refers to a phenomenon in which GAI systems generate and confidently present erroneous or false content in response to prompts." 이 정의가 적은 대로 틀린 내용과 그 내용의 제시 방식은 함께 나타난다. 문항으로는 이 둘을 나누어 묻는 편이 맞다. 확인할 장소가 다른 것을 한 문항에 묶으면 판정 근거가 섞인다.
합성 사례에서 관찰된 세 건은 이 갈래에 그대로 놓인다. 첫 번째 건은 사건번호가 검색 결과에 나타나지 않았다. 두 번째 건은 사건번호는 나타났으나 초안의 선고일이 원문과 달랐다. 세 번째 건은 판시 요약의 방향이 원문과 달랐다. 첫 번째와 두 번째 건은 모두 사건번호에 얽힌 관찰이지만, 앞 것은 존재 여부, 뒤 것은 선고일의 일치를 묻는다. 세 번째 건은 요약 내용의 방향을 묻는다. 위 관찰은 이 세 문항이 무엇을 묻는지를 가르는 재료가 될 뿐이다.
갈래를 나누는 일은 관찰의 빈도를 세는 일이 아니다. 한국지능정보사회진흥원(NIA), 「생성형AI 데이터 품질관리 가이드 v2.0(제3권)」, 2025-05-23, 63쪽, 표 II-16은 데이터의 특성 중 하나를 이렇게 적는다. "Ÿ 데이터에 포함된 카테고리(분류체계)와 인스턴스(분류체계별 특성을 갖고 있는 데이터) 등 특성" 이 표기가 가리키는 대로, 갈래는 분류체계이고 사례 세 건은 그 갈래에 놓이는 개별 사례다. 사례 세 건이 어느 갈래에 놓였는지 말하는 것과, 그 갈래에 몇 건이 놓였는지를 일반 규모의 수치로 확장하는 일은 별개다. 여기서는 앞쪽만 다룬다.
이렇게 나뉜 문항은 사건번호의 존재, 선고일의 일치, 판시 요약의 방향을 각각의 대상으로 삼는다. 문항이 묻는 대상이 갈라진 뒤에야, 같은 인용에 대해 어떤 기준으로 답을 매길지가 드러난다. 확정 손해나 고의 같은 법적 평가는 이 갈래 밖에 그대로 남는다. 관찰된 세 건이 무엇을 묻는지 가르는 일에서, 문항 갈래의 나눔은 그친다.
8.3공개 원문이 되는 정답
정답을 공개 원문에서 찾는 것으로 정하면, 앞에서 나눈 문항 갈래마다 무엇을 맞힌 것으로 셀지가 분명해진다. 문항이 사건번호의 존재를 묻든 선고일의 일치를 묻든, 판시 요약의 방향을 묻든, 정답은 그때그때 만들어지는 요약이 아니라 공개된 판결 원문에 적힌 내용이 된다. 같은 인용에 대해서는 언제 어느 문항을 내더라도 같은 규칙으로 판정하되, 판정의 기준을 원문에서 읽어낸 값에 두어야 문항이 바뀌어도 결론이 흔들리지 않는다.
사건번호의 존재 여부를 묻는 문항에서 정답은 원문이 그 번호를 기록하고 있는가이다. 국가법령정보센터 검색창에 합성 사례의 사건번호를 넣었을 때 0건이 나왔다는 관찰은, 그 번호가 공개 원문에서 확인되지 않았다는 뜻일 뿐이다. 따라서 그 번호를 정답 자리에 채워 넣는 것은 원문에 없는 값을 정답으로 삼는 일이며, 문항과 정답 사이의 대응을 깨뜨린다. 확인되지 않은 사건번호는 확인되지 않은 채로 남기고, 문항은 그 사실을 물어야 한다.
선고일의 일치를 묻는 문항도 같은 방식으로 정한다. 합성 사례에서 사건번호는 검색 결과에 나타났으나 초안에 적힌 선고일과 달랐다면, 정답은 원문에 적힌 선고일이다. 두 날짜 가운데 어느 쪽을 정답으로 택할지 새로 정할 필요가 없으며, 원문이 기록한 날짜가 정답이 된다. 원문에서 선고일이 확인되지 않는 경우라면 그 경우대로 두고, 확인되지 않은 날짜를 채워 넣지 않는다. 초안이 적은 날짜와 원문이 적은 날짜를 나란히 보이는 것으로 족하며, 정답은 언제나 원문 쪽이다.
판시 요약의 방향을 묻는 문항은 문장 단위로 옮겨 적는 것으로 정답을 삼을 수 있다. 자료의 인용 규칙은 조문과 판시를 글자 그대로 큰따옴표 안에 옮기고 낱말을 바꾸거나 줄이지 않으며, 중간을 생략하면 "(…)"로 표시한다고 정한다. 이 규칙을 정답 판정에도 그대로 적용하면, 합성 사례에서 판시 요약의 방향이 원문과 달랐다는 관찰은 초안의 요약이 원문의 문장과 일치하지 않았다는 뜻이 된다. 요약이 그럴듯해 보이는가를 묻는 문항과 원문의 문장에 부합하는가를 묻는 문항은 서로 다른 문항이며, 정답도 각각 다르다.
이렇게 정한 정답을 평가자가 임의로 보충하지 않는다는 점이 함께 놓인다. 확정 손해나 고의 같은 법적 평가가 아니라 관찰 결과만을 문항과 정답의 재료로 삼는다면, 인용이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정으로 남는다. 미국 상무부 국립표준기술연구소(NIST)의 자료는 "Documenting, reporting, and sharing information about GAI incidents can help mitigate and prevent harmful outcomes by assisting relevant AI Actors in tracing impacts to their source."라고 말한다. 원문에서 확인한 값을 그대로 적어 두고 확인되지 않은 자리는 비워 두는 방식이 곧 그 추적을 가능하게 하는 기록이 된다.
8.4원시자료의 품질 확인
정답을 원문에서 규칙으로 정한 뒤에는, 그 원문을 어떤 자료에서 뽑았는지가 다음 문제가 된다. 문항과 정답의 재료를 먼저 점검하는 순서를 이 사례에 견주어 보면, 인용의 겉모양이 아니라 그 인용이 어떤 출처에서 왔는지를 따져 보아야 한다. 표 II-16은 원시데이터의 품질기준을 항목별로 나누어 제시하는데, 그 가운데 출처의 신뢰성을 먼저 요구한다. 한국지능정보사회진흥원(NIA), 「생성형AI 데이터 품질관리 가이드 v2.0(제3권)」, 2025-05-23, 63쪽, 표 II-16 (PDF 63쪽)에 따르면, "데이터는 반드시 객관성 확보를 위한 신뢰할 수 있는 출처(사람, 기관, 기업)로부터 수집해야 함" 이다. 이 기준은 원시자료의 값이 어느 출처에서 나왔는지를 함께 묻는다. 준비서면 초안에 적힌 인용이라 하더라도, 그 인용의 근거가 되는 원문이 어디에서 확인되는지를 밝히지 않았다면 출처 요건을 갖추었다고 말하기 어렵다.
자료의 양은 다음 항목이다. 같은 표 II-16은 충분성에 관해 "정보는 학습에 유용한 수량이어야 함" 이라고 정하고, 이어서 분류·탐지·인식·이해·예측 등의 카테고리(분류체계)별 인스턴스(분류체계별 특성을 갖고 있는 데이터) 수량의 균일성과 적정 비율을 확보해야 함을 요구한다. 이 기준은 수량 자체와 함께 항목 사이의 균형을 함께 본다. 대법원 판결 한 건의 사건번호와 선고일을 붙인 인용 한 줄이 번호 꼴을 갖추었다 하더라도, 그것만으로 자료가 충분하다고 보기는 어렵다. 국가법령정보센터 검색창에 그 사건번호를 넣은 결과가 0건이었다는 관찰은, 이 인용에 대응하는 원문 자료가 확인되지 않았음을 뜻한다.
원시자료의 수집 조건은 사실성 항목에서 다룬다. 표 II-16은 원시데이터를 인위적인 환경과 조건하에 수집해야 하는 경우, 반드시 실제 환경과 상황 특성을 반영해야 함을 요구한다. 같은 표는 공평성에 관해 원시데이터는 지역, 사회 및 인종적 편견 등 활용 의도와 무관한 편향적인 특성이 제거되고, 윤리적으로 공평해야 함을 함께 둔다. 이 두 항목은 자료가 실제 상황을 왜곡하지 않는지를 묻는다. 초안에 실린 판시 요약의 방향이 원문과 달랐다는 관찰은, 요약이 원문의 내용을 그대로 담았는지 확인해야 할 필요를 보여 준다. 요약이 원문과 방향이 다르다면 그것이 수집 단계에서 생긴 것인지, 요약 단계에서 생긴 것인지는 미정이다.
이 확인 절차의 범위를 분명히 해야 한다. 표 II-16이 다루는 것은 원시자료가 학습에 쓰일 때의 품질기준이다. 이 기준을 문항과 정답의 재료 점검에 견주어 읽는다 해도, 그 확인이 모델 출력의 무오류를 뜻하지 않는다. 품질기준을 통과한 자료를 썼더라도 인용의 사건번호와 선고일이 원문과 일치하는지는 별도로 확인해야 하고, 그렇게 확인한 결과가 판결 내용의 어떤 법률적 결론까지 보장하지는 않는다. 위에서 적은 관찰 결과는 확정 손해나 고의 같은 법적 평가가 아니다.
결국 원시자료의 품질 확인은 인용의 꼴을 그럴듯하게 만드는 일이 아니라, 그 인용이 어떤 출처에서 왔는지, 자료의 양이 충분한지, 수집 조건이 실제 상황을 담았는지, 편향이 제거되었는지를 차례로 묻는 작업이다. 이 확인에서 확인되지 않은 사건번호와 선고일은 정답으로 채워 넣을 수 없다. 남은 문제는 이 확인을 누가 기록하고, 어느 시점에 기록하는가이다.
8.5평가자 관여와 오염 기록
자료의 품질 점검이 원시자료의 성질을 확인하는 데 그친다면, 이어서 살필 것은 문항과 정답의 재료가 된 모델·버전·사용 데이터가 어떤 상태였는지와 그 평가에 누가 관여하였는지이다. 이는 앞서 본 확신형 오류의 관찰을 문항 운용의 절차로 옮기는 작업이므로, 먼저 사용한 기반 모델과 버전을 무엇으로 기록하도록 요구하는지 확인한다.
미국 상무부 국립표준기술연구소는 인공지능 위험관리 프레임워크 생성형 인공지능 프로파일에서 시스템 목록 항목에 넣을 것을 권고하며, 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)의 GV-1.6-003 항목에서 "Data provenance information (e.g., source, signatures, versioning, watermarks); Known issues reported from internal bug tracking or external information sharing resources (e.g., AI incident database, AVID, CVE, NVD, or OECD AI incident monitor); Human oversight roles and responsibilities; Special rights and considerations for intellectual property, licensed works, or personal, privileged, proprietary or sensitive data; Underlying foundation models, versions of underlying models, and access modes." 라고 밝힌다. 곧 문항 출제에 쓴 모델의 이름과 그 버전, 그리고 데이터 출처를 함께 남길 것을 요구하는 항목이다. 이 초안은 어느 버전의 어느 모델로 작성되었는지에 관한 기록을 찾아볼 수 없으므로, 모델이 바뀌었을 때 무엇이 바뀌었는지 되짚을 수 없게 된다.
같은 자료는 평가를 맡은 사람의 자격과 관여 상태도 함께 요구한다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)의 MS-1.3-002 항목은 내부·외부 평가나 레드팀 활동이 "in consultation with representative AI Actors with expertise and familiarity in the context of use, and/or who are representative of the populations associated with the context of use." 하도록 참여자의 폭을 정하고 있다. 게다가 같은 자료의 MS-1.3-003 항목은 "Verify those conducting structured human feedback exercises are not directly involved in system development tasks for the same GAI model." 이라 하여, 같은 모델의 개발 작업에 참여한 사람을 그 평가에서 배제하도록 한다. 따라서 제작 단계에 관여한 이가 쓴 검토 메모를 평가자 사이에 공유한 사실만으로는 평가가 독립적으로 이루어졌다고 말할 수 없다. 작성된 초안의 검토 메모가 어떤 경로로 공유되었는지는 미정이며, 그 공유 사실 자체가 위 요구한 배제 조건을 충족하였다는 근거가 되지도 못한다.
문항의 재료가 된 시험 자료가 학습에 쓰인 자료와 겹쳤을 가능성도 기록으로 남겨야 한다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)의 MS-2.11-001 항목은 벤치마크의 전제와 한계를 문서화하면서 "including any actual or possible training/test data cross contamination, relative to in-context deployment environment." 라는 조건을 덧붙인다. 실제 또는 있을 수 있는 학습·시험 자료의 교차 오염을 함께 적으라는 요구이므로, 인용된 판결이 모델 학습에 쓰였는지 여부가 확인되지 않았다면 그것도 확인되지 않은 채로 기록에 남아야 한다. 실제 교차 오염이 있었다는 관찰도, 없었다는 관찰도 이 사례에서 확인된 바 없으므로, 미정인 항목은 미정으로 남긴다.
발견된 오류와 준사고, 부정적 영향을 기록으로 추적하는 체계도 함께 요구된다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)의 MG-4.3-002 항목은 "Establish and maintain policies and procedures to record and track GAI system reported errors, near-misses, and negative impacts." 라 하여 오류와 준사고, 부정적 영향의 보고를 절차로 두게 한다. 이 사례에서 사건번호가 검색되지 않은 판결, 선고일이 어긋난 판결, 판시 요약의 방향이 달라진 판결은 각각 절차가 추적할 대상에 들어가며, 그 발견 시점이 어느 작업 단계였는지는 아직 확인되지 않았다.
그러므로 문항의 정답 규칙을 정할 때 쓸 수 있는 것은 기록으로 확인되는 사실뿐이다. 모델과 버전, 데이터 내력이 남아 있지 않거나 평가자의 개발 관여가 배제되지 않았다면, 그 평가 결과를 정답의 근거로 쓸 수 없다. 이 사례에서 확정된 것은 인용 번호의 검색 결과와 초안의 기재가 어긋났다는 관찰뿐이며, 손해나 고의 같은 법적 평가는 아직 판단할 대상으로 삼지 않는다.
8.6상관된 실패와 해석의 경계
같은 모델에 대한 의존이 같은 오류를 함께 낳는다는 관찰에서 출발하여, 그러한 상관된 실패가 문항 운용에 남기는 해석의 경계를 가늠한다. 미국 상무부 국립표준기술연구소(NIST), 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(NIST AI 600-1), 2024-07-26, 2절 각주 3에서는 모델 의존의 결과를 다음과 같이 설명한다. "“Algorithmic monocultures” refers to the phenomenon in which repeated use of the same model or algorithm in consequential decision-making settings like employment and lending can result in increased susceptibility by systems to correlated failures (like unexpected shocks), due to multiple actors relying on the same algorithm." 여러 사용자가 같은 알고리즘에 의존할 때 시스템이 상관된 실패에 더 잘 노출된다는 이 설명은, 앞 절에서 적은 기반 모델·버전 기록이 문항마다의 오류를 따로 세는 것으로는 충분치 않음을 뜻한다. 같은 모델이 낸 오류가 문항들에 함께 퍼질 수 있으므로, 문항별 채점 결과를 각기 독립된 값처럼 더하지 않는 해석이 요청된다.
같은 자료는 오류의 모습도 이어 말한다. 미국 상무부 국립표준기술연구소(NIST), 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)은 다음과 같이 적는다. "GAI outputs may also include confabulated logic or citations that purport to justify or explain the system’s answer, which may further mislead humans into inappropriately trusting the system’s output." 근거처럼 보이는 논리와 인용이 함께 잘못될 수 있다는 이 문장은, 사건번호의 꼴이 그럴듯하다는 사실만으로 해당 인용이 원문에 있는지 확인되었다고 보지 못하게 한다. 요약의 방향이 원문과 어긋나거나 선고일이 다르게 적힌 경우에도, 겉의 인용 형식은 흔들리지 않을 수 있다.
이처럼 수로 재기 어려운 위험을 다루도록 자료는 측정의 나머지를 함께 기록하라고 요구한다. NIST AI 600-1, MS-1.1-009는 다음과 같이 적는다. "Track and document risks or opportunities related to all GAI risks that cannot be measured quantitatively, including explanations as to why some risks cannot be measured (e.g., due to technological limitations, resource constraints, or trustworthy considerations). Include unmeasured risks in marginal risks." 정량으로 잴 수 없는 위험을 이유와 함께 남기고 한계 위험에 넣으라는 이 요구는, 인용의 진위를 잰 점수만으로 문항 운용이 끝나지 않음을 분명히 한다. 어느 측정치가 어떤 범위 안에서만 말이 되는지 함께 적어야 한다.
측정 도구 자체의 한계도 같은 자리에 기록된다. NIST AI 600-1, MS-2.11-001은 벤치마크 운용에서 다음을 함께 요구한다. "Document assumptions and limitations of benchmarks, including any actual or possible training/test data cross contamination, relative to in-context deployment environment." 벤치마크의 가정과 한계를 맥락에 비추어 적으라는 이 대목은, 앞서 본 시험자료 오염의 기록과 같은 방향을 가리킨다. 오염 가능성이 남은 측정치는 그 자체로 문항의 정답 규칙을 확정하지 못한다.
사고의 기록과 공유는 출처를 찾는 데 도움이 되지만, 문항의 채점 기준을 새로 만들지는 않는다. 미국 상무부 국립표준기술연구소(NIST), 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)은 다음과 같이 말한다. "Documentation practices including logging, recording, and analyzing GAI incidents can facilitate smoother sharing of information with relevant AI Actors." 기록의 목적을 영향 추적에 둔 이 문장은, 사고의 기록이 채점 기준을 대신하지 않음을 뜻한다. 이에 따라 이번 사례의 관찰은 측정이 남겨야 할 한계를 가리키되, 확정 손해나 고의 같은 평가에는 이르지 않는다. 측정치의 해석 범위와 모델의 순위는 미정으로 남는다. 원시자료를 묻는 문항의 자리는 다음 장에서 다룬다.
다룬 공식 문서
- 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024-07-26, 2절 각주 3, 2.2절, GV-1.6-003, MS-1.1-009·1.3-002·1.3-003·2.11-001, MG-4.2-001·4.3-002, 부록 A; 인쇄면 2·6·16·29·36·45·53쪽 (PDF 6·10·20·33·40·49·57쪽)
- 한국지능정보사회진흥원(NIA), 「생성형AI 데이터 품질관리 가이드 v2.0(제3권)」, 2025-05-23, 63쪽, 표 II-16 (PDF 63쪽)