서면으로만 받습니다: 이메일과 전자소송

KST법률 자문이 아닌 일반 정보

법률 AI의 환각: 인용 오류의 유형과 측정 · 제45권 · 제11장 · 초판

영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court), R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7~8·81, PDF 3·21쪽(인쇄 쪽수 표기 없음)

번호가 검색되지 않는다는 관찰은 오류와 미확인 가운데 무엇으로 기록되어야 하는가?

분량
약 1,800단어 · 8분
기준일
2026-10-11
이 장의 목차
  1. 요약
  2. 11.1형식적 그럴듯함과 존재
  3. 11.2검색 결과 없는 사건번호
  4. 11.3실재하지 않는 인용의 지적
  5. 11.4확인 의무와 개별 결론
  6. 11.5오류와 미확인의 기록
  7. 다룬 공식 문서

합성 사례 이 장의 당사자와 사실관계는 이 권의 합성 사례에서 왔습니다. 실제 사건이 아닙니다.

요약

이 장은 사건번호가 검색되지 않는다는 관찰을 오류로 기록할지 미확인으로 기록할지를 묻는다. 형식적 그럴듯함과 존재를 놓고 검색 결과가 없는 사건번호의 뜻과 실재하지 않는 인용의 지적 방법을 살핀 뒤, 확인 의무와 개별 결론의 구별, 오류와 미확인의 기록을 다룬다.

11.1형식적 그럴듯함과 존재

검색 결과가 없다는 판단을 내리기에 앞서, 그 번호가 무엇을 근거로 만들어졌는지부터 물어야 한다. 대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황(PDF 1쪽)은 생성형 AI의 번호 생성 방식을 다음과 같이 밝힌다. "▣ 생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습하여 임의 의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있음" 이 보도자료는 형식을 갖춘 번호와 실제 존재하는 사건을 분리하여 설명한다.

이 관찰은 번호의 꼴이 완벽해 보여도 그 번호가 가리키는 사건이 실재한다는 뜻은 되지 못함을 가르친다. 준비서면 초안에 적힌 사건번호는 사건번호의 문법에 맞추어 쓰였고, 인용의 번호 꼴은 완벽했다. 그러나 국가법령정보센터 검색창에 그 사건번호를 넣은 결과는 0건이었다. 형식적 그럴듯함과 존재는 여기서 서로 갈라진다.

형식적 그럴듯함은 AI가 번호 패턴을 학습하여 임의의 번호를 조합할 때 자연히 따라오는 성질이다. 대법원 법원행정처의 설명처럼, 그럴듯해 보이는 판결내용 앞에서 일반 사용자는 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있다. 이 경향이 바로 형식에 대한 확인을 존재에 대한 확인으로 오인하게 만든다.

따라서 사건번호가 사건번호의 꼴을 갖추었다는 사실은 그 사건이 존재한다는 증명이 아니며, 그것은 번호 자체가 제공하지 못하는 확인을 따로 요구한다. 준비서면 초안의 사건번호는 형식적 그럴듯함을 갖추었으나 검색 결과는 0건이었고, 그 인용이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 이 보도자료에 등장하는 ‘2023다12345’는 AI가 조합할 수 있는 번호의 예시일 뿐, 이 자리에서 실제 판례 인용으로 쓰지 않는다.

검색 결과가 없다는 관찰이 무엇을 뜻하는지, 그리고 공개 자료의 성격이 그 판단에 어떻게 작용하는지는 아직 결론이 아니다. 이 관찰은 확정 손해나 고의 같은 법적 평가가 아니며, 번호의 형식만으로 존재를 확인할 수 없음을 확인하는 데서 멈춘다.

11.2검색 결과 없는 사건번호

형식적 그럴듯함과 실제 존재를 가른 다음에 남는 물음은, 사건번호를 넣었을 때 검색 결과가 아예 없을 경우 그 사실을 무엇으로 받아들일 것인가이다. 국가법령정보센터 검색창에 그 번호를 넣어 0건이 나왔다는 관찰은 확정적인 판단의 근거가 아니라 한정된 자리에서 확인한 결과에 머무른다.

대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황(PDF 1쪽)은 사건번호의 조합 관계를 이렇게 설명하였다. "▣ 생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습하여 임의 의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해 보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는 경향이 있음". 이 설명에 비추면, 초안에 붙은 번호의 꼴이 완벽하더라도 그 꼴 자체는 존재의 증거가 되지 못한다.

따라서 검색 결과가 없다는 사실은 그 번호의 허위 여부를 가리는 단서이되, 결론을 대신하지 않는다. 공개 검색 서비스가 다루는 범위와 시점이 한정되어 있고, 검색 대상이 되는 자료의 성격도 검색 결과의 뜻을 좌우한다. 이 점은 공개 데이터베이스에 드러난 자료와 그렇지 않은 자료를 가르는 문제와 맞닿아 있다.

검색 결과 없음의 취급 규칙을 여기서 확정하지는 않는다. 검색 서비스의 정확도를 실험한 것도 아니며, 공개되지 않은 판결을 어떻게 다룰 것인지도 정하지 않았다. 관찰은 검색창에 번호를 넣었더니 0건이 나왔다는 범위에 그치고, 그 이상의 사실은 미정으로 남는다.

이 관찰은 확정 손해나 고의 같은 법적 평가가 아니다. 다만 초안의 인용이 사건번호와 선고일까지 붙어 있더라도, 그 인용이 실재하는 판결에 닿아 있는지는 별도로 확인할 문제임을 가리킬 뿐이다. 확인의 방식과 기준은 다음 차례의 논의에서 다루어질 일이다.

11.3실재하지 않는 인용의 지적

검색 결과가 없다는 관찰만으로는 인용의 실재 여부가 정해지지 않는다. 같은 판결문이 그런 인용을 어떻게 다루었는지 살펴보면, 확인되지 않은 근거를 법정에 올린 행위에 어떤 기준이 적용되었는지 드러난다.

영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court), R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7은 인공지능을 쓰는 법률가에게 부과되는 확인 절차를 명시한다. 그 문단은 위험이 있음에도 인공지능을 써서 법률 조사를 하는 이는 그 조사의 정확성을 권위 있는 출처에 대조하여 직무 수행, 이를테면 자문이나 법정에서의 사용에 앞서 확인할 직업적 의무를 진다고 말하며, 권위 있는 출처로는 정부 법령 데이터베이스, 국립기록원 판결 데이터베이스, 잉글랜드·웨일스 법률평의회가 발행하는 공식 판례집, 그리고 신뢰할 만한 법률 출판사의 데이터베이스를 든다. 이 사례에서 초안은 인용의 사건번호와 선고일을 갖추었으나 국가법령정보센터 검색창에는 나타나지 않았다. 확인 절차가 선행되었는지는 미정이다.

영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court), R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7~8·81, PDF 3·21쪽(인쇄 쪽수 표기 없음)에 따르면, 이 의무가 누구에게 놓이는지도 밝혀진다. 문단 8은 "This duty rests on lawyers who use artificial intelligence to conduct research themselves or rely on the work of others who have done so. This is no different from the responsibility of a lawyer who relies on the work of a trainee solicitor or a pupil barrister for example, or on information obtained from an internet search."라고 기술한다. 인용을 붙인 사람이 누구이고 어떤 단계에서 그러한지는 미정이나, 위 문장은 확인 책임이 자료를 다루는 법률가에게 놓임을 가리킨다.

문단 81은 허위 인용으로 보이는 자료를 법정에 올린 사건에서 그 책임의 내용을 구체화한다. 그 문단은 "As to Mr Hussain, and Primus Solicitors, there was a lamentable failure to comply with the basic requirement to check the accuracy of material that is put before the court. A lawyer is not entitled to rely on their lay client for the accuracy of citations of authority or quotations that are contained in documents put before the court by the lawyer. It is the lawyer’s professional responsibility to ensure the accuracy of such material."라고 판시한다. 같은 초안 안에서 선고일이 다른 인용과 판시 요약이 원문과 다른 인용이 함께 발견되었으므로, 위 문장이 말하는 정확성 확인의 대상은 사건번호에 한정되지 않는다.

문단 81은 이어 인용된 자료가 실제 인물의 판결로 잘못 돌려졌던 사실과 함께, 그 잘못을 법정모욕의 관점에서 어떻게 평가했는지를 말한다. 문단 81에 따르면, 법원은 진실한 상황을 파악하지 못한 점을 인정하면서, 법정에 인용된 허위 근거 가운데 하나가 그 판결을 선고한 판사에게 귀속된 결정이었던 점이 주목할 만하다고 보았다. 법원은 그런 식으로 법정을 오도하려 했다면 실패가 불 보듯 뻔했으므로 법정모욕 절차를 개시할 문턱에는 이르지 못하며, 당사자가 자기 스스로 규제기관에 회부를 신청한 만큼 법원도 회부할 것이라고 말했다. 위 사례에서 인용이 어느 작업 단계에서 만들어졌고 작성자가 원문을 열어 보았는지는 미정이며, 관찰된 결과는 확정 손해나 고의 같은 법적 평가에 이르지 않는다. 따라서 이 판결문이 보여준 태도는 인용의 정확성을 확인하지 않은 결과를 규율한 것이지, 검색되지 않는 사건번호에 대한 일반 규칙을 정한 것이 아니다.

11.4확인 의무와 개별 결론

실재하지 않는 인용을 지적한 법정은, 그 지적을 인용 정확성 확인의 의무로 일반화하면서도 개별 사안의 결론은 별도의 기준에 따라 정하였다. 확인 의무와 그 의무를 어긴 사람에 대한 절차적 결론이 같은 문장에서 결정되는 것은 아니며, 이 구별이 이 사례의 핵심이다.

확인 의무의 내용은 먼저 그 판결 7문단에서 확인된다. 인공지능을 법률 조사에 쓰는 사람이 어떤 의무를 지는지 말하면서, 영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court), R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7~8·81, PDF 3·21쪽(인쇄 쪽수 표기 없음)은 그 위험에도 인공지능으로 법률 조사를 하는 사람은 권위 있는 출처에 비추어 조사 결과의 정확성을 확인할 전문적 의무를 지며, 그 출처에는 정부 법령 데이터베이스, 국가기록원의 법원 판결 데이터베이스, 잉글랜드·웨일즈 법조 보고 위원회가 발행하는 공식 법률보고서, 그리고 신뢰할 만한 법률 출판사의 데이터베이스가 포함된다고 하였다. 이 문장은 권위 있는 출처에 비추어 정확성을 확인할 것을 요구하고, 그 출처의 범위까지 열거하고 있다.

의무의 주체에 관하여 그 판결은 8문단에서 "This duty rests on lawyers who use artificial intelligence to conduct research themselves or rely on the work of others who have done so. This is no different from the responsibility of a lawyer who relies on the work of a trainee solicitor or a pupil barrister for example, or on information obtained from an internet search."라고 밝혔다. 남이 한 조사를 그대로 옮겨 쓴 변호사도 같은 책임을 진다는 뜻이며, 이는 검색 결과만 보고 서면을 작성한 경우에도 예외가 아님을 뜻한다.

확인 의무를 구체화하면서 그 판결은 81문단에서 "As to Mr Hussain, and Primus Solicitors, there was a lamentable failure to comply with the basic requirement to check the accuracy of material that is put before the court. A lawyer is not entitled to rely on their lay client for the accuracy of citations of authority or quotations that are contained in documents put before the court by the lawyer. It is the lawyer's professional responsibility to ensure the accuracy of such material."라고 하였다. 의뢰인을 근거로 들 수 없고, 인용과 인용문의 정확성을 보증할 책임이 변호사에게 있다는 점이 분명해졌다.

그러나 그 판결은 같은 81문단에서 절차 개시의 문턱을 별도로 판단하였다. 법원에 제출된 자료 가운데 Dias J의 재판장 앞에 인용된 허위 근거 중 하나가 Dias J의 판결로 잘못 표기된 점이 주목할 만하며, 만약 법정을 기만하려는 의도된 시도였다면 실패할 수밖에 없었을 것이라고 본 뒤, 법정모욕 절차 개시의 문턱에 이르지 못한다고 결론지었다. 확인 의무의 위반 사실과 법정모욕 절차의 개시 요건이 서로 다른 판단 기준임이 드러난다.

같은 문단은 절차적 결론으로 "Mr Hussain has referred himself to the Solicitors Regulation Authority. We will also make a referral."라고 덧붙였다. 법정모욕 절차의 문턱을 넘지 못한 사안이라 하여 다른 회부가 배제되는 것은 아니었다. 이 사례에서 확인 의무는 규제기관 회부의 자리에서 작동하고, 법정모욕 절차 개시의 문턱은 그와 별개의 판단을 요구한다. 준비서면 초안의 인용 번호가 검색 결과에 나타나지 않았다는 관찰이 이 기준 가운데 어느 쪽에 해당하는지는, 확정 손해나 고의에 관한 평가 없이 별도로 기록할 사항이다.

11.5오류와 미확인의 기록

확인 의무와 그 위반에 대한 개별 결론이 나뉜 자리에서도, 초안에 실린 판결 인용의 사건번호가 검색되지 않는다는 사실이 남는다. 이제 묻는 것은 그 사실을 오류와 미확인 가운데 어느 쪽에 적어 두어야 하는지이다. 이를 판단하는 기준을 세우되, 자료가 말하지 않는 내용은 채우지 않는다.

우선 사건번호가 어떻게 만들어지는지를 밝힌 자료를 살핀다. 대법원 법원행정처는 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」(2026-02-19)의 현황 항목에서 생성형 AI의 번호 생성 방식을 다음과 같이 설명한다. "▣ 생성형 AI는 ‘2023다12345’와 같은 사건번호의 패턴을 학습하여 임의\n의 번호를 조합해내며, 일반 사용자는 AI가 제시한 판결내용이 그럴듯해\n보일 경우 해당 사건번호가 실제로 존재하는지 의심하지 않고 인용하는\n경향이 있음". 이 설명은 검색되지 않는 번호의 출처가 조합에 있음을 말하며, 그 번호가 어떤 절차에서 확정된 것인지는 밝히지 않는다.

검색 결과가 무엇을 뜻하는지도 자료의 범위 안에서 가려야 한다. 위 자료는 국가법령정보센터 검색창에 넣었을 때 0건이었다는 관찰을 전제로, 존재 여부를 의심하지 않고 인용하는 경향을 지적한다. 다만 자료는 검색 결과 0건이 곧 번호가 존재하지 않음을 뜻하는지, 검색 범위 밖의 사건이 있을 수 있는지는 말하지 않는다. 그러므로 검색되지 않는다는 사실은 관찰로 기록하고, 오류라는 평가는 그 뒤에 두어야 한다.

오류로 적는 자리를 가르는 데는 영국 고등법원 왕좌부 합의법정의 판결이 기준을 제공한다. 법원은 R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06의 문단 81에서, 법정에 제출된 자료의 정확성 확인 요구를 놓고 다음과 같이 판시하였다. "As to Mr Hussain, and Primus Solicitors, there was a lamentable failure to comply with the basic requirement to check the accuracy of material that is put before the court. A lawyer is not entitled to rely on their lay client for the accuracy of citations of authority or quotations that are contained in documents put before the court by the lawyer. It is the lawyer’s professional responsibility to ensure the accuracy of such material." 이 판시는 판결 인용의 정확성을 담보하는 책임이 변호사에게 있음을 밝힌다. 따라서 초안의 인용이 확인 절차를 거쳤는지가 오류와 미확인의 기록을 가르는 핵심이 된다.

확인이 이루어졌는지는 이 사례에서 밝혀지지 않았다. 인용이 어느 작업 단계에서 만들어졌는지, 작성자가 원문을 열어 보았는지, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 같은 문단에서 법원은 확인 의무의 위반을 지적하면서도, "We are satisfied that Mr Hussain did not realise the true position."이라고 적었다. 이 사례에 그대로 옮기면, 작성자의 인식 상태를 확정하지 못한 채 오류로만 적어 두는 것은 판시의 구분을 넘어서는 기록이 된다.

따라서 검색되지 않는 사건번호는 관찰된 사실과 판단을 나누어 기록하는 것이 된다. 사건번호와 선고일의 불일치, 판시 요약의 방향 차이도 같은 방식으로 남기며, 확정 손해나 고의 같은 법적 평가는 만들지 않는다. 자료가 제공되지 않은 부분은 미정으로 남고, 확인 의무의 존재와 그 위반에 대한 개별 결론은 앞선 기록에 맡긴다.

다룬 공식 문서

  • 대법원 법원행정처, 「사법정보공개포털 ‘허위 사건번호 확인’ 서비스 제공 알림」, 2026-02-19, 1쪽, 2. 현황 (PDF 1쪽)
  • 영국 고등법원 왕좌부 합의법정(High Court, King’s Bench Division, Divisional Court), R (Ayinde) v London Borough of Haringey; Al-Haroun v Qatar National Bank, [2025] EWHC 1383 (Admin), 2025-06-06, 문단 7~8·81, PDF 3·21쪽(인쇄 쪽수 표기 없음)
지금 읽는 곳은 PRO SE입니다
RISCON Labsrisconlabs.com