서면으로만 받습니다: 이메일과 전자소송

KST법률 자문이 아닌 일반 정보

법률 AI의 환각: 인용 오류의 유형과 측정 · 제45권 · 제13장 · 초판

대법원 법원행정처, 「「법관을 위한 AI 가이드북」 발간(보도자료)」, 2026-02-24, 첨부 1쪽, 1) 제작 배경 (PDF 1쪽)

인용 오류가 연구 부정이나 책임 문제와 겹칠 때 무엇을 무엇과 구별해야 하는가?

분량
약 1,900단어 · 8분
자료
조문 1 · 판결 0
기준일
2026-10-11
이 장의 목차
  1. 요약
  2. 13.1출처 명시와 정직한 연구
  3. 13.2원자료·자료·결과의 구별
  4. 13.3위조·변조·표절의 유형
  5. 13.4판단 고려사항과 모델 오류
  6. 13.5투명성 의무와 책임의 구별
  7. 다룬 법령
  8. 다룬 공식 문서

합성 사례 이 장의 당사자와 사실관계는 이 권의 합성 사례에서 왔습니다. 실제 사건이 아닙니다.

요약

이 장은 인용 오류가 연구 부정이나 책임의 문제와 겹칠 때 무엇을 무엇과 구별해야 하는지를 묻는다. 출처 명시와 정직한 연구를 놓고 원자료와 자료와 결과의 구별, 위조와 변조와 표절의 유형을 살핀 뒤, 판단 고려사항과 모델 오류, 투명성 의무와 책임의 구별을 밝힌다.

13.1출처 명시와 정직한 연구

개선 보고를 절차로 묶은 앞선 논의에서 이어져, 이제 인용 오류가 연구의 정직성 문제와 어떻게 맞닿는지를 묻는다. 그 물음에 답하려면 먼저 연구윤리 지침이 무엇을 요구하는지, 그리고 그 요구가 무엇과 구별되어야 하는지를 차례로 읽어야 한다. 교육부, 「연구윤리 확보를 위한 지침」(교육부훈령 제449호) 제5조는 연구자가 지켜야 할 사항으로, 무엇보다 사실에 입각한 연구 태도와 출처 표시를 함께 두고 있다. 연구자의 역할과 책임을 적은 그 조문은 "사실에 기초한 정직하고 투명한 연구의 진행" 을 요구한다. 이 사례에서 초안의 인용이 원문과 어긋났다면, 그 어긋남은 우선 이 정직하고 투명한 진행 요구에 비추어 검토할 대상이 된다. 같은 조는 또 "자신 및 타인의 저작물 활용 시 적절한 방법으로 출처를 밝히는 등 선행 연구자의 업적 인정·존중" 을 함께 요구한다. 판결을 근거로 들 때 사건번호와 선고일을 붙인 인용은, 그 형식이 원문에 부합하는 한 선행 연구자의 업적을 인정하는 방식이라 할 수 있다.

그런데 이 지침이 정직한 연구의 요구와 출처 명시의 요구를 연구자의 의무로만 적어 놓았다고 해서, 그 의무를 어긴 모든 행위가 곧바로 연구부정행위로 되는 것은 아니다. 지침은 연구부정행위의 범위를 따로 규정한다. 그 범위에 드는 행위의 하나로 '표절'을 두면서, "다음 각 목과 같이 일반적 지식이 아닌 타인의 독창적인 아이디어 또는 창작물을 적절한 출처표시 없이 활용함으로써, 제3자에게 자신의 창작물인 것처럼 인식하게 하는 행위" 이라 정의한다. 표절의 정의가 적절한 출처표시의 결여를 요건으로 삼는 점은, 이 사례에서 인용의 표시 방식이 문제되는 까닭을 설명해 준다. 다만 이 사례의 관찰은 인용된 판결의 사건번호나 선고일, 판시 요약이 원문과 달랐다는 것뿐이고, 타인의 독창적인 아이디어나 창작물을 활용했는지는 드러나 있지 않다.

무엇보다 연구부정행위의 성립은 범위 규정만으로 되지 않고 판단 기준을 거쳐야 한다. 그 판단 기준을 적은 지침 제12조는, 연구부정행위를 "다음 각 호의 기준으로 판단한다" 고 전제한 뒤, 첫째로 "연구자가 속한 학문 분야에서 윤리적 또는 법적으로 비난을 받을 만한 행위인지" 를 든다. 같은 조항은 이어서 "해당 행위 당시의 '연구윤리 확보를 위한 지침' 및 해당 행위가 있었던 시점의 보편적인 기준을 고려" 할 것을 요구한다. 그리고 "행위자의 고의, 연구부정행위 결과물의 양과 질, 학계의 관행과 특수성, 연구부정행위를 통해 얻은 이익 등을 종합적으로 고려" 하도록 한다. 고의가 판단 요소 가운데 하나로 열려 있는 점은, 이 사례에서 인용이 어느 작업 단계에서 만들어졌는지나 작성자가 원문을 열어 보았는지가 미정으로 남아 있다는 사실과 함께 생각해야 한다.

결국 확인된 것은 인용의 사건번호와 선고일, 판시 요약이 원문과 어긋났다는 관찰이고, 확정 손해나 고의와 같은 법적 평가가 함께 성립한 것은 아니다. 정직하고 투명한 연구의 진행 요구와 출처 표시의 요구는 인용의 정확성을 연구자의 의무로 부과하지만, 그 의무를 어겼다는 사실 하나만으로 연구부정행위의 성립이 따라 나오지는 않는다. 인용의 형식이 완벽해 보여도 원문과의 대조 없이는 그 정직성이 담보되지 않는다는 점이, 앞서 살펴본 평가의 절차적 요건과 맞닿는다.

13.2원자료·자료·결과의 구별

연구 지침이 정직한 연구와 출처 명시의 의무를 선 자리에서, 이제 무엇이 무엇인지 가르는 문제를 떼어 놓고 살펴본다. 앞 절에서 본 인용 오류들을 가리켜 무엇이라 부를지는, 먼저 자료의 층위를 구별한 뒤에야 논할 수 있다. 이 절에서는 연구 지침이 써 둔 정의를 그대로 읽고, 초안에 실린 판결 인용이 어느 층위에 놓이는지를 가른다.

연구윤리 확보를 위한 지침 제2조는 연구의 재료가 되는 것들을 셋으로 나눈다. 먼저 가공 이전의 것을 원자료로 둔다. 교육부, 연구윤리 확보를 위한 지침(교육부훈령 제449호) 제2조는 "4. \"연구 원자료\"란 연구 목적을 달성하기 위해 연구자가 실험, 관찰, 조사 등을 거쳐 수집한 가공 이전의 자료와 문헌 등을 말한다."고 규정한다. 대법원 판결의 원문은 이 항에서 말하는 문헌에 해당한다. 판결 원문은 그 자체로 가공되지 않은 상태의 근거 자료이다.

그다음으로 가공의 결과물을 둔다. 같은 조는 "5. \"연구자료\"란 연구 원자료를 가공한 자료와 이를 활용한 2차 자료 및 문헌을 말한다."고 규정한다. 판결 원문을 읽어 사건번호와 선고일을 따로 적어 둔 메모나, 판시 사항을 줄여 옮긴 요약문은 원자료를 가공한 자료이다. 판결 원문의 일부를 옮긴 인용문도 문맥을 떼어 놓은 순간 가공된 자료가 된다. 요약과 인용문은 원자료에서 나왔으나, 원자료와 같은 것은 아니다.

마지막으로 도출된 결론을 둔다. 교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호), 2023-07-17, 제2~5조·제11~12조, 쪽수 없음(공식 HTML 조문 번호로 인용) 제2조는 "6. \"연구결과\"란 연구자가 연구 활동을 통해 얻은 연구자료를 활용하여 도출한 체계화된 결론을 말한다."고 규정한다. 교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호), 2023-07-17, 제2~5조·제11~12조, 쪽수 없음(공식 HTML 조문 번호로 인용) 제2조는 "7. \"연구결과물\"이란 연구자가 연구 활동을 통해 최종적으로 얻은 결과를 기술한 보고서·논문·간행물·단행본 등의 학술적 저작물과 지식재산을 말한다."고 하여, 결론이 실린 저작물을 따로 둔다. 준비서면 초안은 이 마지막 층위에 놓인다. 초안에 적힌 판결 인용은 그 초안을 이루는 요소이지, 대법원 판결 원문 자체가 아니다.

이 구별을 합성 사례에 대입하면 초안에 실린 판시 요약과 인용문은 모두 자료 층위에 있고, 그 출처가 되는 판결 원문이 원자료이다. 그런데 사건번호를 검색한 결과 0건이 나온 인용은 원자료가 확인되지 않은 채 자료만 놓여 있는 셈이다. 선고일이 원문과 다른 인용은 가공 과정에서 값이 달라진 자료이고, 판시 요약의 방향이 원문과 다른 인용은 가공된 내용이 원자료와 어긋난 자료이다. 위 관찰은 확정 손해나 고의 같은 법적 평가가 아니며, 어느 작업 단계에서 만들어졌는지나 작성자가 원문을 열어 보았는지는 미정이다.

연구 지침이 이 셋을 따로 둔 것은 책임을 묻는 자리에서도 그대로 이어진다. 같은 지침 제5조는 연구자에게 "3. 사실에 기초한 정직하고 투명한 연구의 진행"과 "6. 자신 및 타인의 저작물 활용 시 적절한 방법으로 출처를 밝히는 등 선행 연구자의 업적 인정·존중"을 요구한다. 출처를 밝히라는 요구는 자료를 원자료에 붙여 두라는 뜻이다. 이 요구를 지키지 않은 인용이 어느 유형의 문제 제기에 닿는지는, 구별해 둔 층위를 바탕으로 따로 논하여야 한다.

13.3위조·변조·표절의 유형

원자료와 자료, 결과를 가르는 구분이 서면, 인용 오류가 어느 유형의 문제 제기에 닿는지는 연구부정행위의 범위를 적은 조문에서 살핀다. 교육부 「연구윤리 확보를 위한 지침」 제11조제1항은 행위의 모양에 따라 유형을 나누어 두므로, 초안에 잘못 실린 사건번호·선고일·판시 요약이 어느 유형의 요건에 닿는지를 묻는 일이 가능해진다. 다만 유형은 행위의 정의에 따라 정해지므로, 오류의 모양만 보고 어느 유형이 확정되었다고 단정할 수는 없다.

그 지침 제11조제1항제1호는 위조를 "존재하지 않는 연구 원자료 또는 연구자료, 연구결과 등을 허위로 만들거나 기록 또는 보고하는 행위"라 정의한다. 따라서 존재하지 않는 판결을 번호와 날짜를 갖춘 근거로 적은 것은 이 정의가 묻는 장면에 겹치고, 그 인용이 어느 작업 단계에서 만들어졌는지는 미정으로 남는다.

같은 항 제2호는 변조를 "연구 재료·장비·과정 등을 인위적으로 조작하거나 연구 원자료 또는 연구자료를 임의로 변형·삭제함으로써 연구 내용 또는 결과를 왜곡하는 행위"라 정의한다. 원문과 다른 방향으로 판시를 요약한 사정은 이 정의가 적은 왜곡의 언급에 겹치지만, 초안의 요약이 원문에서 어떻게 나왔는지 확인되지 않았으므로 변조로 확정되었다고 적지 않는다.

같은 항 제3호는 표절을 "일반적 지식이 아닌 타인의 독창적인 아이디어 또는 창작물을 적절한 출처표시 없이 활용함으로써, 제3자에게 자신의 창작물인 것처럼 인식하게 하는 행위"라 정의하고, 그 "가"목은 "타인의 연구내용 전부 또는 일부를 출처를 표시하지 않고 그대로 활용하는 경우"를 든다. 출처를 표시한 초안이라면 이 정의의 출처표시 요건은 그대로 두고 읽어야 한다.

같은 제12조제1항은 연구부정행위의 판단 기준으로 "행위자의 고의, 연구부정행위 결과물의 양과 질, 학계의 관행과 특수성, 연구부정행위를 통해 얻은 이익 등을 종합적으로 고려"함을 함께 두고, "해당 행위 당시의 ‘연구윤리 확보를 위한 지침’ 및 해당 행위가 있었던 시점의 보편적인 기준"을 함께 살피라 한다. 그러므로 인용의 모양이 어느 유형의 정의에 겹친다 하여 유형이나 책임이 곧 확정되는 것은 아니고, 작성자의 확인 여부나 의뢰인에게 한 설명은 미정으로 남는다. 앞에서 가른 판결 원문과 판시 요약·인용문의 자리를 함께 두어야 위조·변조·표절의 문제 제기가 서로 뒤섞이지 않는다.

13.4판단 고려사항과 모델 오류

행위 유형이 어느 쪽에 놓이는지 가른 뒤에는, 그 행위를 연구부정행위로 볼지가 문제로 남는다. 여기에 쓰이는 기준은 유형의 문구만으로는 다 정해지지 않는다. 그 기준을 「교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호)」 제12조에서 확인할 수 있다. 위조·변조·표절의 유형을 규정한 제11조에 이어 판단 기준을 두고 있기 때문이다. 이 지침은 연구부정행위의 판단에 무엇이 고려되는지를 적어 두었다.

교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호), 2023-07-17, 제2~5조·제11~12조, 쪽수 없음(공식 HTML 조문 번호로 인용)의 제12조제1항은 판단의 첫 기준을 "연구자가 속한 학문 분야에서 윤리적 또는 법적으로 비난을 받을 만한 행위인지"로 들고 있다. 유형이 정해진 행위라 하더라도, 그것이 그 학문 분야에서 비난받을 만한지라는 물음은 따로 본다는 뜻이다. 같은 조항은 이어서 "해당 행위 당시의 ‘연구윤리 확보를 위한 지침’ 및 해당 행위가 있었던 시점의 보편적인 기준을 고려"하도록 하였다. 기준을 놓고 볼 때의 시점이 행위 시라는 점을 분명히 한 것이다.

교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호), 2023-07-17, 제2~5조·제11~12조, 쪽수 없음(공식 HTML 조문 번호로 인용)의 제12조제1항제3호는 판단에 함께 놓이는 사정을 적어 두었다. 그 조항은 "행위자의 고의, 연구부정행위 결과물의 양과 질, 학계의 관행과 특수성, 연구부정행위를 통해 얻은 이익 등을 종합적으로 고려"하도록 규정하였다. 여기에는 고의가 그대로 들어 있으며, 결과물의 양과 질, 해당 학계의 관행과 특수성, 얻은 이익이 함께 놓인다. 유형만으로 결론이 정해지는 것이 아니라 이런 사정을 놓고 종합해서 본다는 점이 드러난다.

이 판단의 틀을 준비서면 초안의 인용 오류에 두어 보면, 오류의 모양은 판단 기준 가운데 한 항목에 해당하는 사정으로만 다뤄진다. 앞서 살펴본 바와 같이 사건번호가 검색되지 않은 인용, 초안의 선고일과 검색 결과가 다른 인용, 판시 요약의 방향이 원문과 다른 인용이 있었다. 이러한 모델 오류 자체로 어느 유형이 확정되지 않았듯이, 오류만으로 행위자의 고의나 비난 가능성도 확정되지 않는다. 오류가 있었다는 관찰과, 제12조가 정한 기준에 따라 연구부정행위로 판단되는지는 서로 다른 차원의 물음이다.

나아가 제11조제1항제7호의 판단에는 또 다른 층이 있다. 교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호), 2023-07-17, 제2~5조·제11~12조, 쪽수 없음(공식 HTML 조문 번호로 인용)의 제12조제2항은 "제11조제1항제7호 에서 정한 ‘그 밖에 각 학문분야에서 통상적으로 용인되는 범위를 심각하게 벗어난 행위’를 판단하고자 할 때에는 대학등 연구자의 소속기관에서 금지되는 행위를 명문으로 정하고 있거나 연구자가 속한 학계에서 부정한 행위라는 인식이 널리 퍼져 있는지 등을 고려하여야 한다"고 규정하였다. 소속기관이 명문으로 금지하는지, 그 학계에 부정하다는 인식이 널리 퍼져 있는지가 이 판단에 들어간다. 준비서면 초안의 인용 오류가 어느 유형에 닿고, 그 오류가 연구부정행위로 판단되는지는 이러한 기준을 거쳐야 한다. 확정 손해나 고의와 같은 법적 평가는 이 판단의 결과로만 서술될 수 있으며, 지금 놓인 사실만으로는 미정이다.

13.5투명성 의무와 책임의 구별

모델 오류가 법적 판단의 근거와 어떻게 다른지를 구별한 데서 나아가, 이 문제를 인공지능 이용의 투명성 확보 의무와 법적 판단의 책임성이라는 두 축으로 나누어 살핀다. 인공지능이 만들어 낸 결과물이 어떤 것에 기반하는지를 밝히는 일과, 그 결과물에 따른 판단의 책임을 누가 지는지는 서로 다른 요청이다.

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조는 결과물의 출처를 이용자에게 밝힐 것을 사업자에게 요구한다. 그 제2항은 "인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다."라고 정한다(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조). 이 규정은 결과물이 어느 것에 기반하는지를 표시하는 데 그치며, 결과물이 옳은지를 보증하는 것은 아니다. 같은 조 제1항은 "인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다."라고 정하여, 이용자가 인공지능을 상대하고 있는지를 알 수 있게 한다(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조).

표시 의무는 인공지능이 만들어 낸 것이 실제와 구분하기 어려운 경우에 더 넓게 작동한다. 같은 조 제3항은 "인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다."라고 정한다(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조). 단서는 창작의 맥락에서 방식을 완화할 뿐, 출처를 밝힐 의무 자체를 없애지는 않는다. 표시의 방법과 예외에 관한 세부 사항은 대통령령에 맡겨져 있으며(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조), 그 내용이 어떠한지는 여기서 밝히지 않은 채로 남는다.

법원은 출처 표시가 곧 판단의 책임을 뜻하지는 않는다고 본다. 대법원 법원행정처, 「「법관을 위한 AI 가이드북」 발간(보도자료)」, 2026-02-24, 첨부 1쪽, 1) 제작 배경은 그 제작 배경에서 "● 다만 AI 기술이 가진 환각현상, 데이터 편향에 따른 왜곡, 개인정보·영업비밀 침해 위험을 인지하고, 법적 판단의 책임성과 공정성 유지라는 특수한 역할을 고려한 맞춤형 가이드가 필요함"라고 설명한다. 이 말은 인공지능이 가진 환각 위험과 법적 판단의 책임성이 나란히 놓여 있음을 보여 준다. 어느 쪽을 인지한다 하여 다른 쪽이 대신 충족되지는 않는다는 뜻이다.

사례로 돌아가 보자. 준비서면에 붙은 판례 인용의 사건번호는 검색 결과에 나타나지 않았고, 다른 인용의 선고일은 초안과 달랐으며, 또 다른 인용의 판시 요약은 원문의 방향과 달랐다. 이 관찰은 인용의 출처가 무엇에 기반하는지가 표시되지 않았음을 말해 준다. 그러나 그 표시가 없었다는 사실만으로 판단의 책임을 확정할 수는 없다. 어느 작업 단계에서 인용이 만들어졌고, 작성자가 원문을 열어 보았으며, 의뢰인에게 어떤 설명이 있었는지는 미정이다. 그 미정의 자리는 표시 의무와 판단의 책임 사이가 서로 갈라지는 지점이다.

다룬 법령

다룬 공식 문서

  • 교육부, 연구윤리 확보를 위한 지침 (교육부훈령 제449호), 2023-07-17, 제2~5조·제11~12조, 쪽수 없음(공식 HTML 조문 번호로 인용)
  • 대법원 법원행정처, 「「법관을 위한 AI 가이드북」 발간(보도자료)」, 2026-02-24, 첨부 1쪽, 1) 제작 배경 (PDF 1쪽)
지금 읽는 곳은 PRO SE입니다
RISCON Labsrisconlabs.com