Summary
이 장은 법률 문서의 인용을 측정 가능한 대상으로 삼을 수 있는 까닭을 묻는다. 인용의 대조 가능성과 꼴의 완결, 실재의 분리를 차례로 살피고, 원문 직접 읽기의 요구와 확인 의무, 오류 판정의 두 축을 거쳐 측정의 경계를 밝힌다.
2.1인용의 대조 가능성
원문 대조로만 확인된다는 결론을 받아, 이제 인용을 대조에 붙일 수 있는 대상으로 삼는다는 점을 따져 본다. 인용이 공개된 원문과 견주어 사실처럼 가늠할 수 있어야, 그 붙일 수 있음이 무엇을 뜻하는지가 분명해진다.
이 점은 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III절, 인쇄면 5쪽 (PDF 6쪽)이 대조 절차를 요구하는 대목에서 바로 확인된다. 지침은 인용된 출처까지도 지어낸 것일 수 있다고 경고하면서 "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon"라고 못 박는다. AI가 만들어낸 문장이든 기존 판례를 옮긴 것이든, 쓰거나 의지하기 전에 정확성을 확인해야 한다는 요구는 인용에 그대로 미친다. 같은 지침은 인용의 환각 양상을 "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist"로 적는다. 지어낸 사건·인용·인용문을 만드는 일이 인용 환각의 첫째 모습으로 꼽힌다.
지어낸 사건이나 인용이 지칭하는 원문은 공개된 판례집이나 법령에서 열어 볼 수 있다. 대조가 가능하다는 것은 그러한 공개 원문을 상대로 그 인용이 실제로 그 문장과 번호를 담고 있는지 견줄 수 있다는 뜻이다. 지침이 정확성 확인을 사용이나 의지에 앞둔 필수 단계로 놓는 까닭도 여기에 있다. 확인되지 않은 인용을 근거로 삼는 순간, 서면의 사실 관계는 대조 없이 넘어간다.
대조의 손길까지 지침은 특정한다. 같은 지침 V절, 인쇄면 6쪽 (PDF 7쪽)은 "Judges must always read the underlying documents. AI tools may assist, but they cannot replace direct judicial engagement with evidence"라고 선언한다. 근거 문서를 직접 읽는 일은 도구가 대신할 수 없다는 말이다. AI가 표시한 인용 요약이나 사건번호만으로 원문을 읽은 셈 칠 수 없다는 뜻이 된다.
같은 V절, 인쇄면 7쪽 (PDF 8쪽)은 대조할 원문의 성질까지 분명히 한다. 지침은 "AI tools are a poor way of conducting research to find new information you cannot verify independently"라 하면서도, 독립적으로 확인할 수 있는 자료를 환기하는 데에는 쓸모가 있을 수 있다고 본다. 다만 그 경우에도 "final material should always be checked against maintained authoritative legal sources"라는 단서가 붙는다. 최종 산출물은 항상 유지되는 권위 있는 법적 출처와 대조해 확인되어야 한다는 말이다.
이 사례에서 준비서면 초안의 인용은 사건번호와 선고일까지 갖추었으나, 그 하나는 국가법령정보센터 검색 결과 0건이었다. 인용의 꼴이 갖추어진 것은 원문과 대조되었음을 뜻하지 않는다. 대조 가능성은 대조 자체의 실시와 결과를 미리 보증하지 않는다. 인용이 어느 작업 단계에서 만들어졌고, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정으로 남는다. 지침이 요구하는 바는 그러한 경위의 채움이 아니라 대조의 실시다.
결국 법률 문서의 인용은 공개 원문에 대조해 사실처럼 가늠할 수 있는 대상이다. 대조로 확인되지 않은 인용은 서면의 근거가 아니라 확인을 요하는 표시로 남는다. 지침의 요구를 인용의 성격에 옮겨 보면, 인용의 진실 여부는 꼴이 아니라 대조 결과에서 판가름난다.
2.2꼴의 완결과 실재의 분리
대조 가능성에 이어, 번호와 날짜가 그럴듯하게 갖추어진 인용이 곧 실재하는 판결을 가리키는 것은 아닌지 물어야 한다. 사례에서 AI가 붙인 사건번호의 꼴은 완결되어 있었고 판시 요약도 모양을 갖추고 있었다. 그러나 국가법령정보센터 검색창에 그 번호를 넣었을 때 돌아온 결과는 0건이었다.
사법부 지침은 인용을 포함한 출처 자료까지 지어낼 수 있음을 경고한다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary)의 Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 인용에 관해 "This includes cited source material which might also be hallucinated"라고 밝힌다. 이 문장은 사건번호와 선고일의 형식이 흠없이 보여도 그 인용이 실제로 존재하는 판결을 가리키는지는 별도로 확인해야 한다는 뜻을 뒷받침한다. 같은 지침은 구체적으로 "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist"를 환각의 한 양상으로 든다. 사건번호 꼴의 완결은 이 양상을 가려내지 못한다.
사례의 다른 인용은 검색 결과에 번호가 나타났으나 초안에 적힌 선고일과 달랐다. 영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court)은 R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7~8·81, PDF 3·21쪽(인쇄 쪽수 표기 없음)에서 공개된 원문이 무엇을 말하는지 조사하는 책임을 변호사에게 두었다. 그 문단 7은 "have a professional duty therefore to check the accuracy of such research by reference to authoritative sources, before using it in the course of their professional work"라고 밝힌다. 번호가 검색에 걸리더라도 선고일 같은 세부가 원문과 맞는지는 대조로 확인해야 한다는 점이 이 인용에서 드러난다.
또 하나의 인용은 판시 요약의 방향이 원문과 달랐다. 같은 문단 81에서 고등법원은 "A lawyer is not entitled to rely on their lay client for the accuracy of citations of authority or quotations that are contained in documents put before the court by the lawyer"라고 선을 그었다. 사건번호와 날짜가 맞아도 요약이 원문의 방향을 벗어나면 그 인용은 쓸 수 없다는 점이 이 인용의 뜻이다. 앞서 지침은 "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon"라고 요구한다. 확인의 대상은 인용의 꼴만이 아니라 그 인용이 담은 내용 전체이다.
다만 검색 0건이라는 관찰만으로 확정 손해나 고의 같은 법적 평가를 내릴 수는 없다. 관찰은 인용의 실재가 확인되지 않았다는 사실에 머무른다. 사례에서 그 인용이 어느 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 고등법원은 문단 81에서 "We are satisfied that Mr Hussain did not realise the true position"과 같은 사실 인정을 자료로 삼을 수 있으나, 이 사례의 작성 경위는 그와 별개로 미정으로 남는다. 그러므로 꼴의 완결을 실재의 증거로 삼는 것도, 검색 0건을 법적 평가로 곧바로 바꾸는 것도 이 사례에서 허용되지 않는다.
2.3원문 직접 읽기의 요구
검색 결과 0건을 실재의 결여로 읽되 법적 평가로 서두르지 않은 태도에서, 다음 물음은 인용을 무엇으로 확인하는가이다. 꼴의 완결과 검색 일치를 넘어서는 기준이 요구되는 까닭은, 이 사례의 초안이 사건번호와 선고일을 함께 적으면서도 그 출처에 대한 설명이 미정으로 남아 있기 때문이다. 여기서 확인의 근거를 찾는 작업은 인용의 실재를 다루는 문제를 마주한다.
영국 법원·심판소 사법부(Courts and Tribunals Judiciary)의 지침은 인용을 포함한 정보를 사용하기 전에 확인을 요구하면서 그 범위를 분명히 밝힌다. 그 III절은 "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon" 라고 선언한다. 이 문장은 확인이 사용이나 의존에 선행할 것을 요구하며, 이 사례에서 초안의 인용이 근거로 쓰이기 전에 검증 절차가 거쳐졌는지가 관건이 된다.
같은 지침 III절은 확인이 필요한 이유를 정보의 성격에서 찾는다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)의 III절은 "Information provided by AI tools may be inaccurate, incomplete, misleading or out of date" 라고 경고한다. 이 경고는 정확성 이외의 결함까지 함께 다룬다. 따라서 초안의 판시 요약이 원문과 방향이 달랐다는 관찰은, 오류의 한 갈래로서 이 경고 아래 놓인다.
III절은 이어서 "This includes cited source material which might also be hallucinated" 라고 덧붙인다. 인용된 원문이 환각의 대상이 될 수 있음을 명시한 이 단서가 핵심이다. 사건번호와 선고일이 붙은 인용이라도 그 출처 자체가 지어낸 것일 수 있으므로, 인용의 형식적 완결은 확인을 대신하지 못한다.
확인의 방법으로 지침 V절은 원문의 직접 읽기를 요구한다. "Judges must always read the underlying documents. AI tools may assist, but they cannot replace direct judicial engagement with evidence" 라는 문장이 법관에게 직접 읽기를 요구하는 근거이다. 이 사례에서 작성자가 판결 원문을 열어 보았는지 미정인 점이 확인 절차의 결손으로 남는 까닭이다.
V절은 법적 조사에 관한 구체적 지침도 덧붙인다. "AI tools are a poor way of conducting research to find new information you cannot verify independently" 라는 경고가 독립적 확인이 어려운 정보 탐색에서 AI의 한계를 가리킨다. 같은 문장에 이어 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)의 V절은 "They may be useful as a way to be reminded of material you would recognise as correct, although final material should always be checked against maintained authoritative legal sources" 라고 단서를 붙인다. 이 단서는 유지되는 권위 있는 법률 원문과의 대조를 최종 확인의 절차로 요구한다.
따라서 이 지침이 세우는 기준은 인용을 확인하는 절차이다. 사건번호의 꼴이 완결되어 있는지, 검색 결과가 몇 건인지에 앞서, 권위 있는 법률 원문을 직접 읽고 대조했는지가 측정의 준거가 된다. 이 사례의 인용들이 어느 작업 단계에서 만들어졌는지가 미정으로 남아 있듯, 그 인용이 이 기준을 통과했는지도 미정이다.
2.4확인 의무와 결론의 구별
판례가 확인 의무를 요구하는 데 그치지 않고, 그 의무와 별개로 법정모욕 절차의 기준을 따로 두는 대목이 문제된다. 영국 고등법원 왕좌부 합의법정(R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06)은 우선 이 의무의 성격을 다음과 같이 밝힌다. "This duty rests on lawyers who use artificial intelligence to conduct research themselves or rely on the work of others who have done so. This is no different from the responsibility of a lawyer who relies on the work of a trainee solicitor or a pupil barrister for example, or on information obtained from an internet search." 이는 인용을 옮긴 사람이 자신이 만들었든 남에게서 받았든 결과의 정확성을 감당한다는 뜻이다.
확인 의무가 어떤 내용인지도 같은 판결이 밝힌다. 같은 판결 문단 81에서 법원은 이렇게 말한다. "As to Mr Hussain, and Primus Solicitors, there was a lamentable failure to comply with the basic requirement to check the accuracy of material that is put before the court. A lawyer is not entitled to rely on their lay client for the accuracy of citations of authority or quotations that are contained in documents put before the court by the lawyer. It is the lawyer’s professional responsibility to ensure the accuracy of such material." 의뢰인이나 서면의 출처에 대한 신뢰가 변호사의 확인을 대신하지 못한다는 점이 분명하다. 사건번호와 선고일이 붙은 판결 인용이 검색에서 드러나지 않을 때, 출처에 대한 신뢰만으로 넘겨둘 자료가 아니다.
다만 이 의무를 지켰는지와 법정에서 어떤 법적 조치를 받는지는 다르게 흐른다. 절차의 개시 기준에 관해 같은 판결 문단 81은 이렇게 말한다. "If this had been a deliberate attempt to mislead the court, it was always going to fail. The threshold for the initiation of contempt proceedi ngs is, accordingly, not met." 인용의 허위가 드러났다고 곧바로 의무 위반이 절차로 이어지지 않으며, 의무를 지키지 않았다는 판단과 법정모욕 절차의 기준은 따로 살핀다. 따라서 인용을 확인하지 않은 사실만으로 확정 손해나 고의 같은 결론을 세울 사안이 아니다.
절차가 열리지 않았다 해서 확인 의무가 무너지는 것도 아니다. 판례는 다음과 같이 이어간다. "We are satisfied that Mr Hussain did not realise the true position. It is striking that one of the fake authorities that was cited to Dias J was a decision that was attributed to Dias J." 그러면서 판례가 밝힌 조치는 다음과 같다. "Mr Hussain has referred himself to the Solicitors Regulation Authority. We will also make a referral." 이는 규제기관의 회부로, 영국의 절차 안에서 일어난 조치다.
준비서면 초안에 붙은 판례 인용에 사건번호와 선고일이 남아 있어도, 검색 결과가 비어 있거나 선고일이 다르거나 판시 요약이 원문과 어긋나면 확인 절차의 쟁점이 남는다. 다만 인용이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 영국 판례가 밝힌 확인 의무와 규제기관 회부를, 이 사례를 한국의 제재나 책임으로 바로 이어 도출할 수는 없다. 확인 의무가 무엇을 요구하는지와 그 미이행이 어떤 결론으로 가는지의 구별은 여기서 분명히 남는다.
2.5오류 판정의 두 축
확인 의무와 결론의 구별이 마무리된 뒤에 남는 질문은, 오류를 무엇에 견주어 판정하는가이다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III절, 인쇄면 5쪽(PDF 6쪽)은 AI가 빠지는 오류를 벌거름(hallucinate)의 세 유형으로 나눈다. 그 가운데 두 유형이 서로 다른 축을 가리킨다. 즉, "provide incorrect or misleading information regarding the law or how it might apply"와 "make factual errors"가 바로 그것이다.
앞의 축은 법에 관한 것이다. AI가 법을 그르쳐 말하거나 법의 적용을 그르쳐 말하는 경우가 이에 해당한다. 지침은 이를 법률 오류로 분류하며, 같은 목록의 첫 항목인 "make up fictitious cases, citations or quotes, or refer to legislation, articles or legal texts that do not exist"와 함께 놓고 읽힌다. 이 사례에서 초안이 붙인 사건번호가 검색 결과로 확인되지 않은 경우, 그것은 존재하지 않는 판결을 지어낸 것에 가까운 유형이다.
뒤의 축은 사실에 관한 것이다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 이 축을 "make factual errors"라고 표시한다. 사실의 범위에 무엇을 넣을지는 지침이 따로 밝히지 않았다. 따라서 이 축의 안쪽 경계는 이 글에서 미정으로 남는다. 다만 법의 내용과 법의 적용에 관한 오류와는 구별되는 축으로서만 다룬다.
지침은 판결이 인용한 출처 자료까지 벌거름의 대상이 될 수 있음을 밝힌다. "This includes cited source material which might also be hallucinated"라는 문장이 그것이다. 이 사례에서 초안의 인용이 원문과 어긋난 것은 이 범위에 놓이며, 원문을 열어 보지 않았는지는 미정으로 남는다.
두 축은 판정의 기준을 요구한다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)은 III절에서 "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon"이라 하여, 정확성 확인이 사용에 앞서야 할 선행 절차임을 분명히 한다. 확인이란 결국 원문 대조를 뜻하며, 사건번호와 선고일이 원문과 일치하는지, 판시 요약의 방향이 원문과 맞는지를 보는 일이다. 이 사례에서 사건번호 검색 결과가 0건이었고 선고일이 달랐고 판시 요약의 방향이 어긋났다는 관찰은, 바로 그 대조에서 나온 사실이다.
지침은 나아가 AI를 스스로 검증할 수 없는 새 정보를 찾는 수단으로 부적합하게 여긴다. 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)의 "AI tools are a poor way of conducting research to find new information you cannot verify independently"라는 문장이 그 이유를 짧게 담는다. 대신 지침은 이미 옳다고 알아볼 재료를 되새기는 용도로는 쓸모가 있다고 본다. 다만 같은 자료의 "final material should always be checked against maintained authoritative legal sources"라는 단서가 붙는다. 결국 최종 문건은 권위 있는 법령 원전에 견주어 확인되어야 한다는 뜻이며, 이 사례의 인용 오류는 그 확인이 생략된 결과로만 읽힌다.
이 사례에서 관찰된 것은 인용의 번호와 선고일과 판시 요약의 방향이 원문과 어긋났다는 사실이다. 이 관찰은 어느 작업 단계에서 인용이 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지에 대해서는 답을 주지 않는다. 지침이 제시하는 오류 판정의 두 축은 원문과의 대조라는 기준 위에 서며, 확정 손해나 고의 같은 법적 평가는 이 관찰들 위에 세워지지 않는다.
2.6측정의 경계와 넘길 것
원문 대조로 법률 오인과 사실 오류를 갈라 놓아도, 어떤 항목이 확인되고 어떤 항목이 남는지 따로 정리하지 않으면 관찰은 그대로 넘어가지 않는다. 여기에서 확인 가능한 사실의 범위를 적고, 그 밖의 물음은 미정으로 남겨 둔다.
원문이 존재하는지를 확인하는 일과 그 원문의 내용을 읽는 일은 첫 관문에서 이미 구별된다. 지침이 확인을 먼저 요구한 이유를 보면, 영국 법원·심판소 사법부, Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III절에서 "The accuracy of any information you have been provided by an AI tool must be checked before it is used or relied upon."라고 선언한다. 이 사례에서 사건번호로 검색한 결과가 0건이라는 점은 이 첫 관문을 통과하지 못한 것으로 기록된다. 그러한 판결이 실제로 있었는지는 이 관찰만으로 정해지지 않는다.
반대로 사건번호가 검색 결과에 나타났어도 확인은 거기서 끝나지 않는다. 같은 지침 V절이 읽어야 할 대상을 지정한 까닭을 밝히기 위해, "Judges must always read the underlying documents. AI tools may assist, but they cannot replace direct judicial engagement with evidence."라는 문장을 옮긴다. 판시 요약의 방향이 원문과 달랐다는 두 번째 관찰은 이 요구가 충족되지 않았음을 뜻한다. 초안 작성자가 원문을 열어 보았는지는 미정이다.
그러나 확인의 실패를 곧바로 의도로 읽는 것은 이 관찰의 바깥에 있다. 왕좌부 합의법정은 R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 81에서 판단의 바탕을 밝히며 "It is the lawyer’s professional responsibility to ensure the accuracy of such material."라고 선언하고, 같은 문단에서 "We are satisfied that Mr Hussain did not realise the true position."이라고 적었다. 여기서는 정확성의 책임과 실제 인식이 각각 다루어진다. 확정 손해나 고의에 관한 평가는 이 관찰들 위에 세워지지 않으며, 그 판단은 아직 이 자리에 오지 않았다.
따라서 현재 확인된 것은 세 가지이다. 첫째, 인용된 판결 하나의 사건번호가 검색 결과에 나타나지 않았다. 둘째, 다른 판결 하나의 선고일이 초안의 기재와 달랐다. 셋째, 또 다른 판결 하나의 판시 요약이 원문과 방향을 달리했다. 각 인용이 어느 작업 단계에서 만들어졌는지, 그리고 의뢰인에게 어떤 설명이 있었는지는 미정으로 남는다. 없는 판결의 유형은 이 확인된 범위 다음에 다루어질 문제이다.
Official documents referred to
- 영국 법원·심판소 사법부(Courts and Tribunals Judiciary), Artificial Intelligence (AI), Guidance for Judicial Office Holders, 2025-10-31, III·V절 및 4절, 인쇄면 5~7쪽 (PDF 6~8쪽)
- 영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court), R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7~8·81, PDF 3·21쪽(인쇄 쪽수 표기 없음)