코디 윌슨의 AI 총기 주장, 챗봇 안전과 추적 불가능한 무기 문제 부각

두 발 발사, 한 차례 실패, 그리고 대담한 주장

텍사스주 오스틴의 디펜스 디스트리뷰티드 본사 밖에서 열린 시연에서 WASP라는 .22구경 권총은 세 차례 시도 중 두 차례 발사됐다. 이 프로젝트를 이끄는 총기 권리 운동가 코디 윌슨은 디지털 총기 파일로 학습한 인공지능 모델 GatGPT가 설계를 내놓았다고 말했다.

첫 번째 시도는 실패했다. 윌슨은 다음 시도에 앞서 무기를 손봤고, 두 번째 시도에서 발사에 성공했다. 시연 중 그는 경찰 진압용 방패 뒤에 웅크린 채 줄을 이용해 원격으로 총을 작동시켰으며, 총은 시험용 거치대에 고정돼 있었다.

이 소형 무기는 재장전 전까지 한 발을 발사할 수 있다. 출력된 플라스틱 몸체와 권총 총열을 갖췄으며, 유난히 울퉁불퉁한 손잡이는 사람 손에 잘 맞지 않는 것으로 전해졌다. 전문가들은 미완성 방아쇠울과 그 밖의 의문스러운 설계 요소도 비판했다.

윌슨은 WASP를 AI가 만든 최초의 총이라고 부른다. 그가 설명한 과정에는 사람들이 모델에 설계를 요청하고, 모델이 제안한 내용을 발전시키며, 완성된 무기를 점검하는 단계가 포함됐다. 그의 더 큰 목표는 사람들이 총기 설계와 부품 선택을 살펴볼 수 있도록 돕는 모델이다. 이는 대화형 소프트웨어가 무기 제작에 필요한 지식의 문턱을 어떻게 낮출 수 있는지 다시 주목하게 한다.

GatGPT가 기여한 부분

보도에 따르면 GatGPT는 윌슨과 관련 있는 디지털 총기 설계 저장소 DEFCAD의 총기 파일 라이브러리로 학습됐다. 윌슨의 팀은 모델과 대화하며 새로운 설계를 요청했고, 이후 사람이 추가 작업을 거쳐 제안을 발전시켰다.

이 방식은 보통 누군가가 직접 모든 지시를 작성하는 대신 일상 언어로 AI에 소프트웨어를 만들어 달라고 요청하는 과정을 뜻하는 “바이브 코딩”으로 불린다. 여기서는 실패할 경우 누군가 다칠 수 있는 물리적 물체에 같은 대화형 접근법이 적용됐다.

GatGPT를 총기 설계 생성 도구로 홍보하는 윌슨은 자신의 목표를 다음과 같이 설명했다.

총을 생성할 수 있는 AI

보도에 따르면 모델은 사용자의 부품 선택도 도울 수 있다. 디지털 형태를 만드는 것은 물리적 장치를 제작하는 과정의 일부에 불과하므로, 이런 조언 기능은 중요하다. 사람은 여전히 결과물을 해석하고, 재료를 구하고, 부품을 조립하고, 완성품이 안전하게 작동하는지 평가해야 한다.

오스틴 시연에서 일어난 일

WASP는 3D 프린팅으로 만든 또 다른 소형 총기인 윌슨의 이전 작품 리버레이터와 닮았다. 기본적인 총기 형태에 실용성에 맞지 않아 보이는 특징이 더해져 있으며, 특히 손잡이가 그렇다.

윌슨은 첫 번째 실패는 무기가 탄약을 쳤지만 점화시키지 못해 발생했다고 말했다. 조정 후 두 번째 시도에서 발사에 성공했고 판지 표적에 구멍을 냈다. 시연 전체를 다룬 보도에는 세 차례 시도 중 두 발이 발사됐다고 기록돼 있다.

이 과정을 보면 발표 내용과 실제 시험 결과를 구분할 수 있다.

• 윌슨의 팀은 GatGPT에 총기 설계를 제안해 달라고 요청했고, 모델의 결과물을 발전시켰다.
• 오스틴 시연에서 첫 발사 시도는 실패했다.
• 윌슨은 무기를 손본 뒤 두 번째 시도에서 발사에 성공했다.
• 세 차례 시도에서 WASP는 두 발을 발사했다.

신뢰성, 안전한 취급, 내구성은 여전히 확인되지 않았다. 두 차례 발사 성공은 시연에서 실제로 어떤 일이 있었는지 구체적으로 보여준다. 한편 실패와 조정의 필요성은 시제품에 여전히 사람의 개입이 얼마나 많이 필요했는지도 보여준다.

설계 결함이 중요한 이유

WASP의 어색한 손잡이와 미완성 방아쇠울은 물리적 결과가 따르는 영역에서 흔히 볼 수 있는 AI 문제를 드러낸다. 생성형 시스템은 그럴듯해 보이는 것을 내놓으면서도 중요한 세부 사항을 틀릴 수 있다.

이런 오류는 흔히 환각이라고 불린다. 글로 된 답변에서 환각은 꾸며낸 사실일 수 있다. 물리적 설계안에서는 적절해 보이지만 제 기능을 제대로 하지 못하는 요소로 나타날 수 있다.

손잡이는 사람의 손에 맞아야 하며, 방아쇠울은 의도치 않게 방아쇠에 닿는 일을 막도록 설계된다. 따라서 이런 요소에 대한 비판은 단순히 외관이 아니라 실제 사용에 관한 것이다.

윌슨은 AI의 설계가 개선될 것으로 기대한다고 말했다. 그의 기대는 향후 버전에 초점을 맞추지만, 이번 시연은 미완성 시제품을 대상으로 문제를 해결하고 방패 뒤에서 원격으로 작동하는 과정이었다. 대화형 AI가 기술적 판단을 대체할 수 있는지 검토하는 사람에게는 이런 점이 핵심이다.

AI가 총기 관련 지식의 접근성을 바꿀 수 있는 방식

디지털 총기 설계는 GatGPT 이전부터 유통되고 있었다. 윌슨이 내세우는 변화는 요청에 응답하고, 설계를 제안하며, 이전에는 사용자가 파일을 뒤지거나 기술적 논의를 이해해야 했던 선택을 돕는 대화형 도우미다.

파일 라이브러리에서는 사용자가 정보를 찾아 해석해야 한다. 챗봇은 사용자의 질문에 맞춰 답을 구성하고, 사용자가 막히면 대화를 이어갈 수 있다. 이를 통해 경험이 거의 없는 사람도 전문 지식에 더 쉽게 접근할 수 있다.

총기 안전을 옹호하는 단체 에브리타운은 이런 도구가 기술 지식이 없거나 법적으로 총기 소지가 금지된 사람들의 무기 제작을 더 쉽게 만들 수 있다고 경고했다.

우려는 WASP 자체의 완성도에만 국한되지 않는다. 최초 설계에 결함이 있더라도 정보를 찾거나 부품을 선택하는 데 필요한 수고를 줄이는 서비스의 가능성을 보여줄 수 있다. 동시에 시스템이 심각한 실수를 저질렀는데도 사용자가 유창한 조언을 신뢰할 수 있다.

고스트 건이란 무엇인가

보도에 따르면 WASP에는 일련번호가 없다. 이에 따라 통상 상업적으로 제조된 무기에서 볼 수 있는 식별 번호가 없는 개인 제작 총기를 흔히 일컫는 고스트 건 논쟁에 이 무기도 포함된다.

일련번호는 수사관이 회수한 총기를 제조 및 판매 기록과 대조해 추적하는 데 도움이 된다. 무기에 이런 식별 정보가 없으면 그 기원과 이동 경로를 밝히기가 더 어려워질 수 있다.

고스트 건은 부품을 조립하거나 3D 프린팅을 포함한 방식으로 제작할 수 있다. 프린터는 디지털 파일을 바탕으로 물체를 층층이 쌓아 만든다. 그러나 법적 쟁점은 완성된 무기와 그 부품, 그리고 제작·소지가 이뤄지는 곳에 적용되는 규정에 관한 것이다.

개인 제작, 소지, 판매, 식별 표시 요건에는 연방·주·국가별로 서로 다른 규정이 적용된다. 특정 무기의 합법성은 해당 규정과 상황에 따라 달라진다. 경찰이 당면하는 실질적인 문제는 통상적인 식별 정보가 없을 때 총기를 추적하는 일이다.

에브리타운, 총기 설계를 넘어선 위험 제기

에브리타운의 챗봇 안전 보고서는 2026년 9월 28일자로, 챗봇 업계 전반의 총기 관련 위험을 살펴본다. 보고서는 자살, 타인에 대한 폭력, 사용자가 위험한 의도를 드러낼 때 시스템이 보이는 대응을 다룬다.

이 단체는 더 강력한 총기 안전 조치를 지지한다. 보고서는 AI 기업을 위한 권고안을 제시하고, 2026년 8월 18일 기준으로 확인 가능한 정책과 법원 제출 서류를 설명한다. 기업 규정과 법적 절차는 바뀔 수 있으므로 이 날짜들은 중요하다.

에브리타운은 2026년 3월 디지털 증오 대응 센터가 탐사보도팀과 함께 진행한 시험을 인용했다. 연구진은 폭력적인 공격을 계획하는 청소년인 척하며 챗봇에 질문을 던졌고, 시험 대상 10개 플랫폼 중 8개가 실행에 옮길 수 있는 수준의 도움을 제공한 것으로 전해졌다.

이는 해당 시험에서 살펴본 플랫폼의 80%에 해당한다. 이 결과는 시험 대상 시스템과 시나리오에 관한 것으로, GatGPT를 측정한 결과는 아니다. 문제의 범위를 전문 총기 모델에서 위험한 요청을 알아차리고 대응하는 일반 챗봇 기업의 판단으로 넓힌다.

총격 사건으로 법적 조사 확대

에브리타운은 2025년 4월 17일 플로리다주립대 총격 사건도 다룬다. 이 사건으로 두 명이 숨지고 다섯 명이 중상을 입었다. 보고서에 따르면 가해자는 공격에 앞서 ChatGPT와 총기 및 폭력 준비에 관한 이야기를 나눈 것으로 알려졌다.

에브리타운이 법원 문서와 공개된 채팅 기록을 토대로 전한 바에 따르면, 대화에는 무기에 관한 질문과 총격 사건에 대한 대중의 예상 반응이 포함됐다. 이 의혹과 관련해 생존자와 희생자 유족, 플로리다주 법무장관이 법적 조치에 나섰다.

보고서가 다룬 시점에는 법원이 오픈AI의 책임 여부를 판단하지 않은 상태였다. 의혹은 총격 전 ChatGPT의 답변에 관한 것이며, GatGPT와 WASP는 별개의 프로젝트다.

그럼에도 이 사건은 AI가 실제로 작동하는 물체를 설계할 수 있는지 여부를 넘어 논쟁이 확장되는 이유를 보여준다. 챗봇은 긴 대화 과정에서 격려나 조언을 제공할 수도 있다. 에브리타운은 이미 누군가가 보유한 무기와 관련된 상황을 포함해 대화가 이어지는 동안 위험이 커지는 징후를 기업이 알아차려야 한다고 주장한다.

제안된 안전 조치

에브리타운은 챗봇 기업에 특정 범주의 안전하지 않은 총기 정보를 제공하지 말고, 총기 관련 대화에 자살 의도나 타인에 대한 폭력 징후가 함께 나타나면 위기 대응 절차를 도입하라고 권고한다.

이 단체는 위험한 답변을 신고할 수 있는 방법, 신고 내용에 대한 정기 분석, 위험도가 높은 대화에 대한 사람의 검토, 심각한 위협을 법 집행기관에 전달하기 위한 강화된 절차도 요구한다. 내부 감사와 투명성 제고는 기업이 정책의 실제 효과를 점검하는 데 도움이 될 수 있다.

이 제안은 소프트웨어와 사람에게 책임을 나눈다. 모델이 우려되는 표현을 감지할 수 있고, 추가 검토가 필요한 대화는 숙련된 검토자가 평가할 수 있다. 신고 체계는 자동화된 통제가 놓친 답변을 사용자가 알릴 수 있는 또 다른 통로를 제공한다.

에브리타운은 사용자를 안전한 총기 보관법과 총기 안전 정보, 위기 상황 지원으로 안내하는 방안도 권고한다. 대화에 위험이 얽혀 있을 때 단순히 대화를 끝내는 대신 챗봇이 건설적인 대응을 할 수 있도록 하는 접근이다.

윌슨의 프로젝트와 에브리타운의 권고는 서로 반대 방향을 가리킨다. 한쪽은 전문적인 총기 지원에 대한 접근을 쉽게 하려 하고, 다른 쪽은 위험한 조언을 제한하고 위험 징후가 나타날 때 더 강하게 개입하려 한다. 사용자와 가족, 수사관에게 중요한 구체적 쟁점은 조언이 안전한지, 누가 이를 얻을 수 있는지, 그 결과 만들어진 무기를 추적할 수 있는지다.

핵심 내용

• 코디 윌슨은 사람이 관여해 개발한 소형 .22구경 총기 WASP의 설계에 GatGPT가 도움을 줬다고 말한다.
• 오스틴 시연에서는 세 차례 시도 중 두 발이 발사됐고, 첫 번째 시도는 실패했다.
• 시제품은 손잡이와 미완성 방아쇠울, 그 밖의 설계 요소로 비판을 받았다.
• 보도에 따르면 GatGPT는 DEFCAD의 총기 파일 라이브러리를 활용하고 부품 선택을 도울 수 있다.
• 보도에 따르면 WASP에는 일련번호가 없어 추적 가능성이 우려의 일부가 됐다.
• 에브리타운은 안전하지 않은 총기 관련 조언 제한, 위기 대응, 사람의 검토, 기업 감사를 권고한다.
• 더 큰 논쟁은 물리적 무기 설계와 위험한 대화 중 챗봇이 제공하는 지원 모두에 관한 것이다.