요약
이름이 다른 모델을 세웠다고 독립 검토가 성립하는지를 묻고, 역할이 만드는 구분과 외부 전문가의 관여, 개발팀과의 구별을 차례로 살핀다. 같은 자료에서 같은 판단이 나오는 경우를 함께 다루면서 모델 이름 차이만으로 평가 독립성이 입증되지 않는 까닭을 검토한다. 독립성을 보이는 기록의 꼴을 정리하며, 메모의 공유 방식과 순서는 다음 장에 맡긴다.
6.1이름이 다른 모델
독립성의 조건을 출처의 구분에 두고 나면, 다음으로 물어야 할 것은 모델의 이름이 그 구분의 근거가 되는지이다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0))은 평가 참여자의 자격을 다음과 같이 적는다. "MEASURE 1.3: Internal experts who did not serve as front-line developers for the system and/or independent assessors are in- volved in regular assessments and updates. Domain experts, users, AI actors external to the team that developed or deployed the AI system, and affected communities are consulted in support of assessments as necessary per organizational risk tolerance." 이 문안은 평가자에게 이름상의 차이가 아니라 개발 관여의 부재를 요구한다. 초안 모델 A와 상위 모델 B가 다른 이름을 쓴다 해도, 이 문안이 말하는 자격이 충족되었다는 근거는 되지 않는다.
이름이 다른 두 모델 사이의 검토가 무엇을 놓치게 하는지를 물을 때는, 같은 문서가 적은 독립 검토의 효과를 함께 읽어야 한다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0))은 검토 방식에 관해 이렇게 설명한다. "Processes for independent review can improve the effectiveness of testing and can mitigate internal biases and potential conflicts of inter- est." 이 설명은 독립 검토가 내부 편향과 이해 상충을 완화하는 수단임을 말한다. 편집자가 A가 쓴 장을 B에게 넘긴 일에서, 두 모델이 같은 학습 자료로 배웠다는 사실은 이 완화 기능이 작동했는지 의문으로 남긴다.
이름의 차이가 자동으로 관여의 부재를 보여주지 않는 까닭은, 문서가 평가의 참가자 범위를 어떻게 그리는지 보면 드러난다. 같은 MEASURE 1.3의 문안은 평가에 "Domain experts, users, AI actors external to the team that developed or deployed the AI system, and affected communities are consulted in support of assessments as necessary per organizational risk tolerance." 를 요청한다. 이 구절은 평가의 상대로 팀 바깥의 참여자를 상정한다. 따라서 이름만으로 팀 바깥에 섰는지를 판단할 수 없으며, B가 같은 회사 계열 안에 있었다는 점은 이 구절과 어긋난다.
한편 한국지능정보사회진흥원(NIA)의 「AI 데이터 품질관리 가이드 v3.5(제1권)」은 품질 점검의 인력을 이렇게 꾸린다. "품질관리 수행조직(구축공정별 실무 담당자, AI모델 설계자, 외부 품질전문가 등)을 구성하여 품질점검 진행" 이는 점검 조직에 여러 역할을 함께 두도록 한 것이다. 여기서 이름이 다른 모델 두 대를 놓는 일과, 그 가이드가 적은 외부 품질전문가를 두는 일은 서로 같은 일이 아니다. B가 남긴 "문제없음" 메모는 역할의 구분으로 기록되지 않았다.
객관성은 앞의 가이드가 따로 강조하는 조항이다. 가이드는 이어 이렇게 쓴다. "객관성 확보를 위해 외부품질기관에 병행 처리하여 품질점검 진행" 이 문장은 객관성을 외부품질기관의 병행 처리에서 찾는다. 자동 대조 절차가 초안 인용의 조항 번호 자료의 실제 조항과 다르다는 사실을 확인한 데까지 나아간 점은, 이름이 다른 두 모델 사이의 검토만으로는 드러나지 않았던 지점을 밝힌 것이다. 다만 두 모델이 왜 같은 지점에서 같은 판단을 냈는지와 그 인용 오류가 최종 결과에 어떤 영향을 미쳤는지는 미정이다. 이름의 차이가 독립 검토의 근거가 되지 못하는 한, 평가 독립성의 입증은 남은 과제로 남는다.
6.2역할이 만드는 구분
이름의 차이만으로는 평가자의 독립성을 보증하지 못한다는 문제를 마쳤으므로, 이제 이 사례에서 누가 검토에 관여했는지를 역할의 측면에서 살펴야 한다. 편집자는 모델 A가 쓴 장을 같은 회사 계열의 상위 모델 B에게 검토를 맡겼고, 두 모델 모두 구축공정을 수행하는 실무 자리에 놓여 있었다. 이들이 각각 어떤 역할을 맡았는지가 검토의 성격을 가른다.
구축공정의 역할 구분을 위해, 「AI 데이터 품질관리 가이드」는 수행조직의 구성을 다음과 같이 정한다. "l 품질 이슈 해결방안 - 품질관리 수행조직(구축공정별 실무 담당자, AI모델 설계자, 외부 품질전문가 등)을 구성하여 품질점검 진행". 이 문안은 실무 담당자와 설계자를 서로 다른 역할로 놓는다. 모델 A가 초안을 작성한 자리와 모델 B가 그 초안을 검토한 자리는 이 구분 안에서 각각의 실무 역할에 대응하며, 같은 이름을 가진 모델일지라도 맡은 일이 달라지는 까닭이 여기에 있다.
그러나 역할이 갈라졌다는 사실만으로 객관성이 확보되지는 않는다. 가이드는 이어서 객관성 확보의 수단을 따로 둔다. "객관성 확보를 위해 외부품질기관에 병행 처리하여 품질점검 진행". 이 문장에 따르면 객관성은 수행조직 바깥의 병행 점검에서 나온다. 같은 학습 자료로 배운 두 모델이 수행조직 안에서 주고받은 검토는 이 요건을 채우지 못하며, 외부 품질전문가가 별도의 자리로 마련되어야 한다는 점이 이 사례에서 분명해진다.
검토 결과를 모으고 확인하는 일에도 역할이 배정되어 있다. "품질검사 관련 총괄책임자, 실무책임자 주도하에 품질점검 수시 확인 및 검사". 모델 B가 남긴 "문제없음" 메모와 통과 도장은 실무 책임자의 확인을 대신할 수 없다. 총괄책임자와 실무책임자가 점검을 수시로 확인하고 검사하는 절차가 별도로 작동해야 하며, 그 절차의 유무는 미정으로 남는다.
마지막으로 최종 결과의 귀속이 정해진다. 한국지능정보사회진흥원(NIA), 「AI 데이터 품질관리 가이드 v3.5(제1권)」, 2025-05-23, 44쪽, 품질 이슈 해결방안 (PDF 46쪽)은 최종 결과의 보고와 반영에 대해 "활용(AI-Hub를 통해 개방)을 수행하는 인공지능 학습용 데이터의 품질을 담당하는 조직을 통한 최종 결과 보고 및 반영 등" 이라고 정한다. 조항 번호가 어긋난 원문 인용 한 곳이 최종 결과에 어떤 영향을 주었는지는 아직 밝혀지지 않았다. 다만 최종 결과의 보고와 반영이 품질 담당 조직을 거치도록 되어 있으므로, 두 모델 사이에서 오간 메모와 도장은 그 경로 안에서 확인을 요하는 자료가 될 뿐이다. 역할의 구분은 곧 책임의 경로를 만드는 일이며, 같은 이름의 모델이 서로를 검사한 자리는 이 경로 안에서 다시 확인을 받아야 한다.
6.3외부 전문가의 관여
역할을 나누어 둔 데 이어, 그 역할을 맡긴 사람이 밖에서 왔다는 사실만으로 검증이 되는지가 문제다. 이 물음에 답하려면 외부 품질전문가가 어느 자리에서 무엇을 하는지를 먼저 살펴야 한다.
한국지능정보사회진흥원(NIA), 「AI 데이터 품질관리 가이드 v3.5(제1권)」, 2025-05-23, 44쪽, 품질 이슈 해결방안에서는 품질 이슈를 다루는 조직의 구성부터 적는다. 구축공정별 실무 담당자와 AI모델 설계자가 함께하는 자리에 외부 품질전문가를 둔다고 하면서, "품질관리 수행조직(구축공정별 실무 담당자, AI모델 설계자, 외부 품질전문가 등)을 구성하여 품질점검 진행"이라고 하였다. 외부 품질전문가는 별도의 조직이 아니라 품질점검을 수행하는 조직 안에 참여하는 자리임을 뚜렷하게 보인다.
그 자리에 앉는다는 사실만으로는 객관성이 저절로 생기지 않는다. 같은 문건은 객관성 확보를 위한 수단을 따로 적는다. "객관성 확보를 위해 외부품질기관에 병행 처리하여 품질점검 진행"이라고 적은 대목이 그것이다. 품질점검을 한쪽만 맡기지 않고 외부품질기관에 병행하도록 한 점이, 외부의 관여가 무엇을 겨냥하는지를 가르친다. 이는 기관의 참여가 객관성을 이루는 모습의 하나를 보여줄 뿐이다. 출판사 편집자가 상위 모델에게 검토를 맡긴 장면에서, 두 모델이 같은 학습 자료로 배운 사실이 알려져 있을 뿐 어느 기관이 병행 처리했는지는 미정이다.
확인과 반영의 절차도 함께 적혀 있다. 한국지능정보사회진흥원(NIA), 「AI 데이터 품질관리 가이드 v3.5(제1권)」, 2025-05-23, 44쪽, 품질 이슈 해결방안 (PDF 46쪽)은 "품질검사 관련 총괄책임자, 실무책임자 주도하에 품질점검 수시 확인 및 검사"라고 하면서, 확인의 주체를 총괄책임자와 실무책임자로 특정하였다. 확인이 한 번에 그치지 않고 수시로 이어진다는 점에서, 외부 전문가의 참여는 그 확인 아래 놓이는 것으로 읽힌다. "문제없음"이라는 메모와 통과 도장만 남은 검토가 어느 단계에서 수시 확인을 거쳤는지는 미정이다.
그 뒤 결과가 어떻게 남는지도 이 문건이 밝힌다. 외부 품질전문가가 참여하는 조직이 담당하는 데이터의 품질에 관해, "활용(AI-Hub를 통해 개방)을 수행하는 인공지능 학습용 데이터의 품질을 담당하는 조직을 통한 최종 결과 보고 및 반영 등"이라고 적었다. 검토자의 말이 보고를 거쳐 최종 결과에 반영되는 경로가 함께 쓰여 있음을 뜻한다. 다만 메모의 내용이 최종 결과에 어떤 크기로 반영되었는지는 미정이다.
이상의 인용이 보여주는 것은, 외부 전문가의 관여가 조직 구성과 병행 절차와 확인과 보고의 단계를 갖출 때 비로소 외부 검증의 모습을 갖춘다는 점이다. 초안을 쓴 모델과 같은 학습 자료로 배운 상위 모델에게 검토를 맡긴 사정은, 누가 어떤 역할을 맡았는지에 대한 관찰일 뿐이다. 외부 독립 검증이 성립한다는 근거를 이름의 차이에서 찾을 수는 없다. 조항 번호가 자료의 실제 조항과 다르다고 확인된 인용 한 곳이 최종 결과에 어떤 영향을 주었는지도 미정으로 남는다.
6.4개발팀과의 구별
외부 검증이 성립하려면 그 검토자의 지위와 근거가 무엇이었는지가 뒤따라야 하므로, 이 사례에서는 계열이 같은 상위 모델에게 맡긴 검토가 개발팀 안의 다른 구성원이 수행한 것과 어떤 점에서 다른지부터 묻는다. 이 질문에 답하려면 자료가 개발을 맡은 이들에게 요구한 요건의 문안을 그대로 읽어야 한다.
먼저 측정에 참여할 이의 자격에 관한 조항을 인용한다. NIST AI 100-1 (AI RMF 1.0)의 MEASURE 1.3은 그 참여자의 범위를 아래와 같이 정하고 있다. "Internal experts who did not serve as front-line developers for the system and/or independent assessors are in- volved in regular assessments and updates. Domain experts, users, AI actors external to the team that developed or deployed the AI system, and affected communities are consulted in support of assessments as necessary per organizational risk tolerance." 이 조항은 참여자의 결격 사유를 참여자가 앞줄 개발자(front-line developer)였다는 점에서 찾고 있다. 같은 회사 계열의 상위 모델이라는 이름표는 이 요건의 충족 여부를 스스로 입증하지 못하며, 오히려 실제 담당 경력이 무엇이었는지가 별도로 확인되어야 한다.
다음으로 개발 책임과 검토 책임의 분리를 뒷받침할 절차의 기록 요건을 보아야 한다. 이 프레임워크는 MEASURE 1.2에서 관리의 실효성을 "Appropriateness of AI metrics and effectiveness of existing controls are regularly assessed and updated, including reports of errors and potential impacts on affected communities."라는 문안으로 요구하고 있다. 이 문안은 개발책임자에게 관리 관행의 갱신을 요구할 뿐, 그 갱신을 위임받은 이가 외부 검증자의 지위를 얻는다고 정하지 않는다. 결국 이 사례에서 통과 도장의 효력은 도장이 아니라, 검토자 선정과 검토 이력의 기록에 달렸다.
또한 검증 결과를 최종 판단에 반영하는 방식에도 차이가 생긴다. 이 프레임워크의 MAP 2.2는 기록의 역할을 "Documentation provides sufficient information to assist relevant AI actors when making decisions and taking subsequent actions."로 못 박고 있다. 개발을 맡지 않은 검토자가 남긴 검토 결과가 최종 판단에 작용하려면, 그 기록이 판단과 이후 조치를 뒷받침할 만큼 충분해야 한다는 뜻이다. 이 문장에 따르면 이름을 바꿔 붙이는 일이 아니라 기록의 충분성이 요구의 중심에 서 있다.
그러므로 이 사례에서 두 모델이 같은 계열이라고 해서 개발팀 검토와 구별되는 독립 검증이 성립한다고 단정할 수 없다. 결격 사유의 유무, 실제 기록, 결과 반영 방식이 각각 확인되어야 하며, 세 가지 모두 미정으로 남는다. 확인되지 않은 지위를 이름으로 대체하는 순간 개발팀과의 구별이라는 요구 자체가 빛을 잃는다.
앞서 외부 품질전문가의 관여와 최종 반영 방식을 다루며 이름만으로 외부 독립 검증이 성립하지 않음을 밝힌 데에서 나아가, 개발팀과의 구별 역시 관여자의 명칭이 아니라 참여 요건, 기록, 반영 방식이 무엇을 요구하는지를 기준으로 판단한다. NIST AI RMF는 앞줄 개발자가 아닌 내부 전문가 또는 독립 평가자의 참여를 요구하고, 기록의 충분성을 판단의 근거로 삼는다. 다만 이 요구들은 자발적 위험관리 프레임워크의 문안이며, 그 자체로 법적 의무나 책임의 요건으로 확장되지 않는다. 따라서 이 사례에서 검토 메모의 지위는 미정으로 남는다.
6.5같은 자료, 같은 판단
같은 학습 자료가 같은 판단을 낳았다는 관찰에서 그 판단이 검토 절차에서 얼마만큼 설명되는지를 살핀다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0)), 2023-01-26, MAP 2.2, 5.3절, MEASURE 1.1~1.3·2.1·2.3·2.5, MANAGE 4.1~4.3; 인쇄면 26·28·29·33쪽 (PDF 31·33·34·38쪽) MAP 2.2는 지식의 한계를 어떻게 적을지를 다음과 같이 정한다. "Information about the AI system’s knowledge limits and how system output may be utilized and overseen by humans is documented. Documentation provides sufficient information to assist relevant AI actors when making decisions and taking subsequent actions." 두 모델이 같은 자료로 배웠다는 사실 자체가 지식의 한계를 적은 문서를 대신하지 않으므로, 그 한계는 문서로 옮겨져야 이 자리에서 읽힐 수 있다.
어디까지를 측정 대상으로 삼았는지의 기록 역시 같은 방향을 가리킨다. 동 자료 MEASURE 1.1은 "Approaches and metrics for measurement of AI risks enumerated during the MAP function are selected for imple- mentation starting with the most significant AI risks. The risks or trustworthiness characteristics that will not, or cannot, be measured are properly documented." 라고 정한다. 한 장 안의 인용을 대조하는 자동 절차가 무엇을 재고 무엇을 넘겼는지 적어 두어야, 두 모델이 남긴 판단이 어느 범위 안에 놓이는지 이 사례에서 헤아릴 수 있다. 그러한 기록이 미정인 지금, 두 판단이 왜 겹쳤는지의 까닭은 미정으로 남는다.
검토가 누구의 손을 거쳤는지도 마찬가지로 기록을 요구한다. 동 자료 MEASURE 1.3은 "Internal experts who did not serve as front-line developers for the system and/or independent assessors are in- volved in regular assessments and updates. Domain experts, users, AI actors external to the team that developed or deployed the AI system, and affected communities are consulted in support of assessments as necessary per organizational risk tolerance." 라고 밝힌다. 같은 회사 계열의 상위 모델 B가 초안 모델 A가 쓴 장을 맡았다는 사실만으로는, 이 항목이 말하는 이가 검토에 참여했는지가 가려지지 않는다. 이 절차가 요구하는 구성이 갖추어졌는지는 미정이다.
절차가 남긴 쪽지의 영향도 기록으로만 드러난다. 동 자료 MEASURE 1.2는 "Appropriateness of AI metrics and effectiveness of existing controls are regularly assessed and updated, including reports of errors and potential impacts on affected communities." 라고 정하고, 동 자료 MANAGE 4.3은 "Incidents and errors are communicated to relevant AI actors, including affected communities. Processes for track- ing, responding to, and recovering from incidents and errors are followed and documented." 라고 정한다. "문제없음"이라는 메모와 통과 도장이 다음 검토에 무엇을 남겼는지, 조항 번호가 다른 인용이 이 두 항목이 말하는 오류로 취급되었는지는 이 사례에 적히지 않았다. 이 점 역시 미정이다.
두 모델의 이름이 바뀌어도 확인할 수 있는 것은 학습 자료가 같았다는 사실과 두 지점에서 남긴 판단이 같았다는 사실뿐이다. 같은 자료에서 나온 두 판단이 왜 같았는지, 그 판단이 어떤 기록에 비추어 설명되는지는 미정이며, 확정 손해나 고의 같은 법적 평가는 이 관찰만으로 이루어지지 않는다.
6.6독립성을 보이는 기록
같은 자료에서 배운 두 모델이 같은 판단을 남겼다는 까닭을 자료가 밝히지 못하므로, 이번에는 검토 자체가 구별되었음을 뒷받침하는 기록이 무엇인지를 따진다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0)), 2023-01-26, 5.3절은 검토의 분리를 이렇게 권한다. "Processes for independent review can improve the effectiveness of testing and can mitigate internal biases and potential conflicts of inter- est." 이 문장은 검토가 구별되면 시험의 효과가 높아지고 내부 편향과 이해상충의 가능성도 낮아진다고 적고 있다. 편집자가 초안 모델 A가 쓴 장을 같은 회사 계열의 상위 모델 B에게 넘긴 일은, 이름이 다르다는 사실만으로는 이 문장이 말하는 구별이 갖추어졌다고 보여주지 않는다.
검토자가 구별되었음을 남길 기록의 요건도 함께 정해져 있다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0)), 2023-01-26, MEASURE 1.3은 검토 주체를 이렇게 적는다. "Internal experts who did not serve as front-line developers for the system and/or independent assessors are in- volved in regular assessments and updates. Domain experts, users, AI actors external to the team that developed or deployed the AI system, and affected communities are consulted in support of assessments as necessary per organizational risk tolerance." 첫 문장은 시스템의 일선 개발자로 일하지 않은 내부 전문가나 독립 평가자가 정기 평가와 갱신에 참여할 것을 요구한다. 이 사례에서 B가 A의 초안을 검토한 구실만으로는 B가 일선 개발자에 해당하지 않았다는 기록이 남지 않았으므로, 이 요구를 충족한 자료는 아직 없다.
검토에서 무엇을 측정하고 무엇을 측정하지 않았는지도 기록으로 남겨야 한다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0)), 2023-01-26, MAP 2.2와 MEASURE 1.1은 각각 이렇게 적는다. "Information about the AI system’s knowledge limits and how system output may be utilized and overseen by humans is documented. Documentation provides sufficient information to assist relevant AI actors when making decisions and taking subsequent actions." "Approaches and metrics for measurement of AI risks enumerated during the MAP function are selected for imple- mentation starting with the most significant AI risks. The risks or trustworthiness characteristics that will not, or cannot, be measured are properly documented." 앞의 문장은 지식의 한계와 사람의 감독 방식을 문서로 남기라고 하고, 뒤의 문장은 측정되지 아니한 위험과 신뢰성 요소를 적절히 기록하라고 한다. 이 사례에서 두 모델이 같은 학습 자료로 배웠다는 사실과 미측정 범위는 그 자체로 기록 항목에 해당하나, 그것만으로 검토가 구별되었다는 뜻은 되지 않는다.
검토 대상인 초안과 시험 도구의 내역을 남기는 요구도 같은 방향에서 읽힌다. 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0)), 2023-01-26, MEASURE 2.1은 이렇게 적는다. "Test sets, metrics, and details about the tools used during TEVV are documented." 이 사례에서 자동 대조 절차가 사용한 시험 집합과 지표, 도구의 내역이 기록에 남았는지는 미정이다. 나아가 한국지능정보사회진흥원(NIA), 「AI 데이터 품질관리 가이드 v3.5(제1권)」, 2025-05-23, 44쪽, 품질 이슈 해결방안은 검토 조직과 외부 병행 점검을 이렇게 적는다. "l 품질 이슈 해결방안 - 품질관리 수행조직(구축공정별 실무 담당자, AI모델 설계자, 외부 품질전문가 등)을 구성하여 품질점검 진행 - 객관성 확보를 위해 외부품질기관에 병행 처리하여 품질점검 진행" 앞의 권고가 검토 주체의 분리와 기록을 요구한다면, 이 지침은 점검 조직의 구성과 외부 기관의 병행 처리로 객관성을 확보하라고 적는다. 이 사례에서 외부 품질전문가나 외부품질기관이 점검에 참여했는지는 자료가 적고 있지 않다.
따라서 검토 메모에 담긴 "문제없음"이라는 문장과 통과 도장은 검토가 수행되었다는 사실만 보여줄 뿐, 검토가 구별된 자료를 대신하지 못한다. 이 사례에서 두 모델이 같은 지점에서 같은 판단을 내린 까닭, 검토 메모가 초안 작성과 다음 검토에 준 영향, 인용의 조항 번호 오류가 최종 결과에 미친 영향은 모두 미정으로 남는다. 관찰된 사실만으로 확정 손해나 고의 같은 법적 평가가 성립한다고 보기는 어렵다.
다룬 공식 문서
- 미국 상무부 국립표준기술연구소(NIST), Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1 (AI RMF 1.0)), 2023-01-26, MAP 2.2, 5.3절, MEASURE 1.1~1.3·2.1·2.3·2.5, MANAGE 4.1~4.3; 인쇄면 26·28·29·33쪽 (PDF 31·33·34·38쪽)
- 한국지능정보사회진흥원(NIA), 「AI 데이터 품질관리 가이드 v3.5(제1권)」, 2025-05-23, 44쪽, 품질 이슈 해결방안 (PDF 46쪽)