요약
이 장은 실제로 존재하지 않는 판결이나 조문이 인용으로 나오는 모습이 어떤 것인지를 묻는다. 형식과 존재의 간격과 예시 번호의 자격을 놓고 없는 인용을 찾는 순서와 허구 인용의 세 범위를 살핀 뒤, 법률 오인과 사실 오류를 구별하고 원문 대조의 경계를 밝힌다.
3.1형식과 존재의 간격
확인 가능한 사실과 미정으로 남길 것을 가른 뒤에는, 그 확인의 방식 자체를 되짚어야 한다. 서면에 적힌 사건번호가 그럴듯하게 보인다는 것과 그 번호가 실제로 존재하는 것이 다르다는 점을, 사법정보공개포털의 알림에서 읽는다. 대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황은 그 현황을 이렇게 적는다. "▣ 생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습하여 임의 의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있음". 이 설명은 사건번호의 완결된 꼴과 그 번호의 실재를 서로 다른 것으로 다룬다. 초안에 붙은 번호와 선고일이 정확한 형식을 갖추더라도, 그 형식 그 자체로 판결이 존재한다고 읽을 수는 없다.
형식의 완결성에서 실재를 단정할 수 없다면, 그 형식이 만들어지는 방식을 살피는 편이 낫다. 사건번호는 패턴에서 조합된 것으로 소개되며, 그 조합이 실제 사건의 등록 결과와 같은 것인지는 위 알림이 다루지 않는다. 이 사례에서 초안에 실린 번호는 국가법령정보센터 검색창에 넣었을 때 0건으로 나타났다. 이 결과는 번호의 꼴이 틀렸다는 뜻이 아니라, 그 번호가 공개된 자료에서 확인되지 않았다는 뜻으로 읽는다. 존재하지 않음의 확인과 형식의 결함은 서로 다른 판단이며, 앞의 것을 뒤의 것으로 곧바로 옮길 수 없다.
형식이 그럴듯할수록 확인의 부담은 사용자에게 놓인다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III절, 인쇄면 5~6쪽 (PDF 6~7쪽)은 그 부담을 이렇게 적는다. "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon. Information provided by AI tools may be inaccurate, incomplete, misleading or out of date. Even if it purports to represent the law of Engl and and Wales, it may not do so. This includes cited source material which might also be hallucinated." 이 지침은 도구가 준 자료를 믿기 전에 확인할 것을 요구하며, 인용된 원문 자료까지 잘못된 경우를 포함한다. 초안의 인용이 형식을 갖추었더라도 그 형식을 신뢰의 근거로 삼을 수 없으며, 원문에서 대조하는 일이 남는다.
같은 지침이 말하는 환각의 양상은 세 가지로 적힌다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), 같은 문서, III절, 인쇄면 5쪽 (PDF 6쪽)은 그 양상을 이렇게 적는다. "AI tools may “hallucinate”, which includes the following: • make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist, • provide incorrect or misleading information regarding the law or how it might apply, and • make factual errors." 이 목록은 존재하지 않는 사건과 인용을 지어내는 일과, 법을 잘못 전하는 일과, 사실을 틀리는 일을 함께 다룬다. 사건번호 검색 결과 0건이 이 가운데 어느 것에 해당하는지에 대해서는 이 관찰만으로 결론을 낼 수 없다.
존재의 확인이 되지 않은 인용과 확인된 번호의 기록이 어긋나는 인용은 서로 다른 상태에 있다. 하나는 공개된 자료에서 드러나지 않았고, 다른 하나는 사건번호는 나타났으나 초안에 적힌 선고일과 달랐다. 후자의 경우 번호의 실재는 확인되지만 그 인용의 날짜는 아직 맞지 않다. 전자를 고의로 만든 허위로, 후자를 가벼운 오류로 곧바로 나눌 근거는 위 자료에 없다. 알림과 지침은 형식과 실재의 간격을 말할 뿐, 그 간격이 생긴 이유나 작성자의 태도를 판단하지 않는다. 그 판단이 미정으로 남는 한, 이 사례의 기록은 확인된 사실과 확인되지 않은 사실을 나란히 둔다.
3.2예시 번호의 자격
형식의 완결성만으로 존재를 단정할 수 없다는 점에 이어, 생성형 AI가 만들어 내는 번호 가운데는 실제 사건을 가리키지 않는 예시가 끼어 있다. 대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황은 그 현황을 이렇게 적었다. "▣ 생성형 AI는 '2023다12345'와 같은 사건번호의 패턴을 학습하여 임의 의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있음". 이 문장은 ‘2023다12345’를 사건번호의 패턴을 설명하기 위해 든 예시로 제시한다.
따라서 ‘2023다12345’는 판례를 특정하는 인용이 아니라, 조합된 번호가 어떻게 생겼는지를 보이려는 예시일 뿐이다. 예시 번호를 판례 근거로 옮겨 적는 순간, 그 번호는 출처를 대신하지 못한 채 목록에 남는다. 준비서면 초안에 붙은 번호와 선고일이 모두 채워져 있어도, 그 꼴이 예시에서 비롯한 것이라면 근거의 자격을 얻지 못한다.
같은 알림이 짚은 경향은, ‘그럴듯해 보일 경우’ 존재를 의심하지 않는다는 점이다. 요약의 방향이 그럴듯하고 번호 꼴이 완결되어 있더라도, 원문을 열어 본 사실이 확인되지 않은 이상 인용은 미정으로 남는다. 이 관찰은 확정 손해나 고의 같은 법적 평가를 뜻하지 않는다.
이 사례에서 초안에 적힌 ‘2023다12345’는 검색 결과 0건으로 확인되었고, 이는 예시 번호가 실제 사건으로 대응하지 않는다는 관찰과 맞아떨어진다. 다만 그 번호가 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지는 미정이다. 예시 번호를 현실 사건의 번호로 취급하지 않는 것이, 확인 없는 인용을 다루는 첫걸음이다.
3.3없는 인용을 찾는 순서
예시 번호의 자격을 가른 뒤에 남는 것은, 초안에 적힌 인용 하나하나를 무엇에 대조해 보아야 하는지이다. 확인의 첫걸음은 인용에 붙은 번호와 날짜를 공식 검색 수단에 넣고, 그 결과가 무엇을 내놓는지 적어 두는 일이다.
대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황(PDF 1쪽)은 그 문제가 생기는 모습을 이렇게 적었다. "▣ 생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습하여 임의의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있음". 이 설명은 왜 번호 꼴이 멀쩡한 인용을 그대로 받아 적어서는 안 되는지를 가른다. 검색 결과가 0건으로 나온다는 관찰은, 인용에 쓰인 번호가 실제 사건을 가리키지 않는다는 뜻으로 읽힌다.
다음으로는 초안에 적힌 선고일과 판시 요약을 각각 확인한다. 번호가 검색 결과에 나타났으나 선고일이 다르다면, 인용이 어느 사건을 겨냥했는지와 그 사건에 붙은 날짜가 어긋난다. 판시 요약의 방향이 원문과 다르다면, 요약이 원문이 말하는 범위를 넘어서거나 빠뜨린다. 이 두 가지 모두 인용이 그럴듯하게 보여도 그 근거가 흔들린다는 뜻이다.
이 확인을 왜 먼저 해야 하는지는 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III절이 분명히 적는다. "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon." 이 지침은 AI가 준 자료를 그대로 쓰기 전에 정확성을 먼저 확인하라고 요구한다. 따라서 준비서면의 인용을 검색 수단에 넣는 일은 근거를 적기 전에 거쳐야 하는 절차이다.
확인 결과가 없다는 것은 무엇을 뜻할까. 그것은 인용된 번호가 공식 자료에서 찾아지지 않는다는 관찰이고, 인용된 판결이 허구일 가능성이 있다는 뜻이다. 같은 지침의 III절은 AI가 "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist" 할 수 있다고 적는다. 없는 번호를 붙인 인용은 이 지침이 말하는 지어낸 사건이나 인용에 가깝다.
한편 확인 결과가 없다는 관찰은, 확정된 손해나 고의 같은 법적 평가를 뜻하지 않는다. 어느 작업 단계에서 그 인용이 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 V절에서 "Judicial office holders are personally responsible for material which is produced in their name. Judges must always read the underlying documents." 라고 적는다. 이 지침은 원문을 직접 읽는 책임을 강조할 뿐, 확인 결과가 없다는 사실만으로 어떤 책임의 성립을 정하지 않는다.
따라서 없는 인용을 찾는 순서는 번호 검색에서 선고일 대조, 판시 요약 대조로 이어진다. 확인 결과가 없다는 관찰은 그 인용이 공식 자료에서 뒷받침되지 않는다는 뜻이고, 인용에 붙은 번호와 날짜와 요약이 서로 어긋나면 그 인용은 근거로 쓰기 어렵다는 뜻이다. 공식 검색 수단의 결과를 하나의 기준으로 삼아 인용을 옮겨 적는 일은 피해야 한다.
3.4허구 인용의 세 범위
검색 결과 0건이 난 인용 번호를 두고 확인 절차를 거친 뒤에, 이번에는 그 인용이 어떤 모습으로 만들어졌는지를 자료가 적은 범위 안에서 나누어 살필 차례이다. 영국 법원·심판소 사법부의 「Artificial Intelligence (AI), Guidance for Judicial Office Holders」(2025-10-31)는 환각이 어떤 모습을 띠는지 항목으로 적고 있다. 지침은 우선 AI가 낼 수 있는 결과의 성격부터 이렇게 적는다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 "Information provided by AI tools may be inaccurate, incomplete, misleading or out of date. Even if it purports to represent the law of Engl and and Wales, it may not do so. This includes cited source material which might also be hallucinated." 라고 적는다. 요컨대 환각의 대상은 결론 서술에 그치지 않고 인용된 출처 자료까지 미친다.
환각의 첫 항목은 이 자리에서 특히 걸러 보아야 할 대상을 적는다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist" 라고 적었다. 사건과 인용과 인용문을 만들어 내는 것, 그리고 존재하지 않는 법령·조문·법률 원문을 가리키는 것이 한 항목 안에 함께 놓여 있다. 준비서면 초안에 붙은 인용에서 사건번호와 선고일의 꼴이 완벽했는데 국가법령정보센터 검색 결과가 0건이었다면, 지침의 이 항목에서 말하는 허구 사건과 인용의 모습에 대응하는 관찰이라고만 둘 수 있다. 확정된 손해나 작성자의 의도는 이 항목에서 읽히지 않는다.
둘째 항목은 판례가 아닌 영역, 곧 법과 적용에 관한 오류를 적는다. 지침은 "provide incorrect or misleading information regarding the law or how it might apply" 라고만 적고, 그 오류가 인용에서 시작되었는지 요약에서 시작되었는지는 나누어 적지 않았다. 초안에서 사건번호는 검색 결과에 나타났는데 선고일이 달랐던 인용은, 번호의 허구 여부와는 다른 문제에 걸린다. 지침이 이 항목에서 다루는 범위가 어느 쪽인지는 이 사례만으로 정해지지 않는다. 인용 번호의 대조 결과와 요약 내용의 대조 결과를 같은 놓임으로 섞지 않아야 하는 이유가 여기에 있다.
셋째 항목은 앞의 둘과 나란히 놓인다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 "make factual errors" 라고 적었다. 이 짧은 항목은 인용의 유무를 묻는 절차 밖의 문제를 남겨 둔다. 요약의 방향이 원문과 달랐던 인용을 어느 항목에 넣을지, 인용 번호가 살아 있고 날짜만 달랐던 인용을 어느 항목에 넣을지는 항목 표지만으로 정해지지 않는다. 지침이 이 셋을 함께 두고 환각이라 부른 것은 세 범위가 서로 겹칠 수 있다는 뜻으로 읽되, 어느 항목에 해당한다는 판단이 곧 이 사례의 의무 위반이나 손해를 의미하는 것은 아니다. 법률 오인과 사실 오류는 이 셋과 별개의 항목이 아니라 함께 적힌 범위에 남아 있다.
3.5법률 오인과 사실 오류
허구 인용의 모습을 세 범주로 나눈 뒤에도 남는 물음이 있다. 지침은 환각의 범위를 사례로만 열거하는 것이 아니라, 그 사례가 법과 사실 가운데 어느 쪽에 닿는지도 함께 적었다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 AI 도구가 환각을 일으키는 모습의 하나로 "provide incorrect or misleading information regarding the law or how it might apply, and" 를 든다. 이 사례에서 대법원 판결의 사건번호와 선고일을 붙여 적은 인용은 법령 내용의 왜곡이 아니라 근거가 되는 판례의 식별 자체를 지어낸 경우에 해당한다.
법에 관한 오류의 나머지 모습도 같은 문서에서 확인된다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 또 다른 환각의 모습으로 "make factual errors." 를 적었다. 사실의 오류란 법의 내용을 잘못 말한 것이 아니라, 법을 적용할 대상이 되는 사실을 잘못 말한 경우를 가리킨다. 이 구분을 이 사례에 옮기면, 사건번호가 검색 결과에 나타나지 않은 인용과 사건번호는 있으나 선고일이 초안에 적힌 것과 다른 인용은 서로 다른 자리에 놓인다. 전자는 판례의 존재를 지어낸 것이고, 후자는 그 판례에 관한 세부 사실을 잘못 옮긴 것이다.
세 번째 인용은 다시 다른 양상을 보인다. 판시 요약의 방향이 원문과 다르다는 관찰은, 판례가 실재하고 사건번호도 맞는데 그 내용을 잘못 전달한 경우이다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)이 인용의 오류를 다룬 문장, "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist," 는 존재하지 않는 근거를 만들어 내는 모습을 가리킨다. 판시 요약의 방향이 원문과 다른 경우는 이 문장의 앞부분에 놓이지 않는다. 오히려 이는 판례의 내용에 관한 전달 오류이며, 지침이 함께 적은 법과 사실에 관한 오류의 자리 어느 한쪽에 가까운지 미정으로 남는다.
한편 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 AI 도구가 환각을 일으킬 수 있는 모습 가운데 처음에 "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist," 를 놓았다. 이 사례의 첫 번째 인용은 사건번호와 선고일까지 갖춘 형태여서 겉으로 보기에는 실재하는 판례처럼 보였다. 지침이 함께 경계한 것은 바로 이 점이다. 같은 문서는 "Even if it purports to represent the law of Engl and and Wales, it may not do so. This includes cited source material which might also be hallucinated." 라고 적었다. 인용된 근거가 그럴듯하게 제시되었더라도 그 자체로 신뢰할 만한 것은 아니라는 뜻이다.
이 구분을 책임의 확정이나 처벌 기준으로 옮길 수는 없다. 위 관찰 결과는 확정 손해나 고의 같은 법적 평가가 아니다. 또한 이 인용들이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 지침은 오류의 모습을 나열할 뿐, 그 오류를 어떤 책임의 근거로 삼는다는 말은 하지 않는다. 법률 오인과 사실 오류의 자리를 인용 오류와 함께 구분해 두는 것은, 확인 절차가 무엇을 목표로 해야 하는지를 가르기 위한 것이다.
3.6원문 대조의 경계
조문 지침의 구분을 이렇게 둔 뒤에도 남는 질문이 있다. 인용이 권위 있는 원문과 맞는지 여부는 어느 기준으로 가늠하며, 그 확인을 무엇으로 삼을 것인가. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 책임과 정확성 항목에서 "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon."라고 적는다. 이는 확인이 사용에 선행함을 밝히는 요구이며, 앞서 읽은 오류의 구분과 같은 대상인 인용의 정확성을 겨눈다.
같은 지침은 정확성 확인이 무엇에 맞추어 이루어져야 하는지도 적는다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)의 법적 조사 항목은 "They may be useful as a way to be reminded of material you would recognise as correct, although final material should always be checked against maintained authoritative legal sources."라고 밝힌다. 이 문장은 확인의 기준을 AI 도구의 출력 자체에 두지 않고, 유지되는 권위 있는 법률 원문에 둔다. 대조할 대상이 따로 정해져 있기에, 확인은 출력의 모양이 아니라 원문과의 대조로 완성된다.
그 지침은 직접 읽는 일까지 함께 요구한다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)의 책임 항목은 "Judges must always read the underlying documents. AI tools may assist, but they cannot replace direct judicial engagement with evidence."라고 적는다. 원문 대조는 출력의 낱말을 표면에서 맞추는 작업이 아니라, 근거 문서를 읽고 그 내용에 접하는 일이다. AI 도구가 이 자리를 보조할 수는 있어도 대신할 수는 없음이 분명해진다.
대조의 상대가 없는 인용이라면 직접 읽는 일은 앞에서 달리 말해진다. 대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황 (PDF 1쪽)은 그 현황에서 생성형 AI가 ‘2023다12345’와 같은 사건번호의 패턴을 학습하여 임의 의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있다고 적는다. 번호가 지어진 것이라면 사건번호로 원문을 찾는 일이 먼저이며, 찾은 뒤에야 대조가 시작된다.
확인의 결과가 무엇을 가리키는지도 이 문장들이 함께 정해 준다. 지침이 확인을 사용 이전에 요구한 것은 그 요구를 지키지 않았을 때의 법적 귀결을 따로 적은 것은 아니며, 사건번호가 조회되지 않았다는 사실은 인용의 출처를 가리는 징표일 뿐이다. 그러므로 조회 결과 그 사건번호가 나타나지 않았음에도 그 인용이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지를 함께 적지 않은 초안만으로는 미정으로 남는다.
정리하면, 앞서 둔 오류의 구분은 원문 대조라는 확인 절차 위에서만 자리를 잡는다. 대조할 원문이 있으면 직접 읽어 내용을 맞추고, 원문으로 대조할 대상이 없으면 그 사실을 먼저 확인하며, 확인 결과 그 뒤의 작성 경위까지 미정으로 남는다. 이 관찰은 확정 손해나 고의 같은 법적 평가가 아니다.
다룬 공식 문서
- 대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황 (PDF 1쪽)
- 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)