조작된 판결, 법원 제출 서류에 등장
한국 대법원이 인공지능과 관련된 허위 법률 인용에 관한 판사 대상 첫 설문조사 결과를 발표했다. 민사·가사·행정 사건을 담당하는 판사 가운데 이 질문에 답한 196명, 즉 80.7%가 존재하지 않는 판례를 인용한 사례를 접한 것으로 나타났다. 일부 법원 제출 서류에는 실제 대법원 판결처럼 보이도록 조작된 판결문도 포함돼 있었다.
목차
10월 6일부터 16일까지 실시돼 11월 2일 공개된 이번 조사에는 전국 법원의 판사 360명이 응답했다. 변호사뿐 아니라 직접 소송을 수행하는 당사자도 허위 법률 인용이 담긴 서류를 제출한 것으로 조사됐다.
대법원 행정사무를 담당하는 법원행정처는 민사소송법과 형사소송법 개정 방안을 법무부 등 관계 기관과 협의할 계획이다. 논의에서는 부정확한 서류 제출에 대한 과태료 등 대응 조치의 법적 근거를 다룰 예정이다.
판사들은 조치의 필요성에 강한 지지를 보였다. 91.7%가 제도적 조치가 필요하다고 답했고, 이 가운데 64.8%는 매우 필요하다고 밝혔다. 법원행정처는 허위 인용을 확인하는 데 판사와 상대방 당사자의 시간과 비용이 들고, 국민의 신속한 재판을 받을 권리가 지연될 수 있다고 설명했다.
설문 수치가 보여주는 것
가장 흔한 문제는 존재하지 않는 판결을 인용한 경우였다. 실제 판결을 인용했지만 내용이 바뀌었거나 의미가 왜곡된 사례도 있었다. 판례란 법률을 어떻게 적용해야 하는지 주장하는 근거로 인용하는 앞선 법원의 판결을 뜻한다.
이번 설문에서는 응답자가 허위 인용 유형을 두 개 이상 선택할 수 있었다. 민사·가사·행정 담당 판사의 응답 결과는 다음과 같다.
- 196명(80.7%)이 존재하지 않는 판례 인용을 접했다.
- 159명(65.4%)이 판례에 대한 허위 설명을 접했다.
- 41명(16.9%)이 허위 또는 존재하지 않는 법률·규정을 접했다.
- 10명(4.1%)이 허위 또는 존재하지 않는 학술 논문과 기타 출판물을 접했다.
비율은 각 설문 문항의 응답자 집단을 기준으로 산출했으며, 전체 설문에는 판사 360명이 참여했다. 판사들은 여러 유형의 오류를 보고할 수 있어 항목 간 중복이 있다.
존재하지 않는 판례를 접한 판사는 판례에 대한 허위 설명을 접한 판사보다 37명 많았다. 각각 196명과 159명이었다. 두 결과를 종합하면 확인 작업은 두 단계로 이뤄진다. 인용된 판결을 찾아낸 뒤, 해당 판결이 실제로 주장에 부합하는지 읽고 확인해야 한다.
허위 인용이 나타난 방식
판사들은 대법원 판결문 형식을 모방한 AI 생성 문서가 제출된 사례를 언급했다. 또 다른 서류에는 낯선 법률 주장을 뒷받침하는 근거로 검색해도 찾을 수 없는 대법원 사건번호가 기재돼 있었다.
사건번호는 일반적으로 특정 사건이나 판결을 찾는 데 도움이 된다. 해당 번호로 아무것도 찾을 수 없으면 판사나 상대방 당사자는 주장에 언급된 판결이 무엇인지 파악하기 위해 추가 시간을 들여야 한다.
일부 문서는 실제 판결을 언급하면서 법원이 내린 결정을 바꾸거나 판결의 취지에서 벗어난 방식으로 인용했다. 사건번호만 확인해서는 이런 문제를 해결할 수 없다. 서류에 적힌 주장과 실제 판결을 대조해야 한다.
다른 제출 자료에는 AI 도구와 주고받은 대화 내용이나 소송 전략에 관한 문구가 들어 있었다. 이런 대목은 문서 작성에 AI가 사용됐다는 점을 판사에게 드러냈다.
이번 설문은 AI 환각에 대한 우려를 살폈다. AI 환각은 틀린 정보를 사실인 것처럼 제시하는 현상을 가리킨다. 법원 서류에 조작된 사건이 들어가면 익숙한 법률 문구와 사건번호, 판결문 형식을 갖춘 탓에 그럴듯해 보일 수 있다.
변호사와 소송 당사자 모두 오류 제출
허위 판례나 기타 부정확한 자료를 누가 제출했는지 묻는 질문에 판사 164명(응답자의 69.5%)은 당사자 본인을 꼽았다. 대리인이나 변호인으로 활동한 변호사를 지목한 판사는 136명(57.6%)이었다.
164명이라는 수치는 소송 당사자가 제출한 허위 인용을 접한 판사의 수다. 설문에서 판사들은 재판 절차 중 받아본 부정확한 자료를 설명했다.
판사는 본인이 직접 소송을 수행하는 당사자와 변호사 양쪽에서 허위 인용을 접할 수 있으므로 응답 집단은 서로 겹친다. 이 수치는 그런 경험을 보고한 판사의 수를 나타낸다. 설문은 부실한 서류 제출 건수를 모두 집계하기보다 판사들이 문제에 노출된 정도를 살폈다.
변호사의 관여는 검증 의무 제안에 특히 무게를 더한다. 변호사 대리는 이미 법률 교육을 받은 사람이 의뢰인의 주장과 법원 사이에 놓이는 구조다. 그러나 응답자의 절반이 넘는 판사가 변호사가 제출한 부정확한 자료를 접한 적이 있다고 답했다.
직접 소송을 수행하는 사람은 실무적으로 다른 어려움에 직면한다. 변호사의 도움 없이 주장을 준비하고 상대방의 주장에 대응해야 한다. 법원행정처는 이들이 조작된 판결이나 실제 판결에 대한 오해를 부르는 설명을 찾아내고 반박하기가 특히 어려울 수 있다고 경고했다.
조작된 판례 확인 비용은 누가 부담하나
법원행정처는 허위 인용으로 상대방에게 추가 업무가 전가될 수 있다고 밝혔다. 낯선 판례가 적힌 서류를 받은 쪽은 해당 판례를 검색하고, 인용된 내용을 확인한 뒤 오류를 설명하는 답변을 준비해야 할 수 있다.
따라서 허위 인용은 그것이 적힌 서류 이상의 비용을 발생시킬 수 있다. 변호사를 선임한 당사자는 추가 법률 업무를 부담할 수 있고, 변호사가 없는 사람은 실제 판결로 이어지지 않을 수 있는 인용을 직접 조사하는 데 시간을 써야 한다.
판사도 비슷한 부담을 진다. 판결이 존재하는지, 내용이 바뀌었는지 확인하는 시간은 분쟁을 심리하는 데 추가되는 시간이다. 법원행정처는 이러한 추가 업무가 재판 절차를 늦추고 사법 접근을 지연시킬 수 있다고 지적했다.
허위 인용이 권위 있는 대법원 판결처럼 보일 때 우려는 더욱 구체적이다. 겉으로 드러난 권위 때문에 상대방은 꼼꼼히 확인할 수밖에 없고, 법원은 그 판결에 근거한 법률 주장을 심리하기 전에 인용 문제부터 해결해야 한다.
4개 조치에 과반 지지
판사들은 여러 대응 방안을 지지했으며, 가장 많은 지지를 얻은 방안들의 지지율은 비슷했다. 과태료 부과의 법적 근거 마련은 판사 215명(61.4%)의 지지를 받았다. 인용한 판례와 기타 자료를 확인할 의무에는 214명(61.1%)이 찬성했다.
AI 사용 사실을 공개하도록 하는 방안은 판사 212명(60.6%)의 지지를 받았다. 징계 회부를 포함한 변호사 제재에는 194명(55.4%)이 찬성했다.
과태료 부과의 법적 근거 마련과 AI 사용 공개에 대한 지지자 수 차이는 단 3명이었다. 각각 215명과 212명이었다. 비슷한 수치는 응답자들이 한 가지 대응책에 집중하기보다 여러 방식으로 문제를 다루는 데 찬성했음을 보여준다.
각 제안은 법원 서류의 작성·제출 과정에서 서로 다른 단계에 대응한다. 검증 의무는 법률 자료를 확인하도록 하고, 공개 의무는 AI 사용 사실을 법원에 알리도록 한다. 과태료는 제안된 법적 틀에 따라 금전적 책임을 부과하며, 징계 회부는 변호사의 행위를 관련 전문직 징계 절차에 넘기는 조치다.
반복적인 허위 인용은 징계 회부를 검토할 수 있는 행위로 꼽혔다. 법원행정처의 제안은 서류의 정확성에 대한 책임과 부정확한 자료가 법원에 제출됐을 때의 제재를 함께 다룬다.
법 개정과 온라인 안내 추진
법원행정처는 법무부를 비롯한 관계 기관과 민사소송법 및 형사소송법 개정안을 협의하고, 국회에 의견을 제출할 계획이다. 개정안은 과태료와 같은 조치의 법적 근거를 마련하는 내용을 담게 된다.
법원행정처가 밝힌 추진 일정은 다음과 같다.
- 10월 6~16일: 전국 법원 판사들이 설문에 참여했다.
- 11월 2일: 설문 결과가 공개됐다.
- 향후 계획: 관계 기관과 협의하고 법 개정에 대한 법원행정처 의견을 국회에 제출한다.
협의 일정이나 법안 표결, 과태료 도입 시점은 제시되지 않았다. 과태료 액수와 부과 세부 요건도 발표된 계획에서는 아직 정해지지 않았다.
법원행정처는 전자소송 웹사이트에 AI 사용 관련 안내를 게시하는 방안도 검토하고 있다. 변호사와 소송 당사자가 법원 업무를 처리하는 곳에 안내를 마련해 AI를 활용해 작성한 자료의 정확성을 확인하도록 돕겠다는 취지다.
설문 결과가 보여주는 안내의 실질적 우선 과제는 판결의 존재 여부와 의미를 모두 확인하는 것이다. 실제 사건번호는 판결을 찾는 데 도움이 되고, 판결문을 읽어야 법원이 실제로 무엇을 판단했는지 알 수 있다. 판사들이 접한 사례는 두 가지 확인이 모두 필요한 이유를 보여준다.
핵심 내용
- AI 관련 허위 인용을 다룬 대법원 첫 설문에는 판사 360명이 응답했다.
- 질문에 답한 민사·가사·행정 담당 판사의 80.7%가 존재하지 않는 판례 인용을 접했다.
- 판사들은 조작된 대법원 판결, 검색되지 않는 사건번호, 내용이 바뀐 판결, 서류에 남아 있는 AI 대화 문구 등을 언급했다.
- 허위 자료는 소송 당사자와 당사자를 대리하는 변호사 모두가 제출했다.
- 응답자의 91.7%가 제도적 조치를 지지했으며, 과태료·검증 의무·사용 공개·변호사 제재에도 과반이 찬성했다.
- 법원행정처는 소송 절차법 개정을 위한 협의를 추진하고 전자소송 웹사이트에 관련 안내를 게시하는 방안을 검토하고 있다.
