고객에 대한 경고와 연구자 지원 약속
엔비디아 최고경영자 젠슨 황은 안전하지 않은 인공지능을 개발하는 고객에게 칩 공급을 중단하겠다고 밝히는 한편, 영국의 안전성 연구를 위해 5년간 2억5천만 달러 상당의 컴퓨팅 자원을 지원하겠다고 약속했다. AI 가속기 시장을 주도하는 공급업체인 엔비디아의 경고는 자사 제품으로 만든 소프트웨어에 칩 제조사가 어느 정도 책임을 져야 하는지라는 까다로운 문제를 제기한다.
목차
황 CEO는 런던에서 진행된 인터뷰에서 고객과 우려 사항을 먼저 논의하겠다고 말했다. 또 다른 기업이 자사 기술을 어떻게 사용하는지 엔비디아가 판단할 수 있는 데는 한계가 있다고 강조했다. 그는 공급 중단을 특정 개발사를 겨냥한 조치로 발표한 것이 아니라 가정적인 대응으로 설명했다.
영국 연구 지원 약속은 엔비디아의 접근 방식을 더 구체적으로 보여준다. 연구자들은 영국 데이터센터를 통해 첨단 컴퓨터를 이용해 더욱 고도화되는 AI 시스템을 시험하고 안전장치를 개발할 수 있게 된다. 이번 약속은 2억5천만 달러를 현금으로 기부하는 것이 아니라, 그 가치에 해당하는 컴퓨팅 자원을 제공하는 것이다.
황 CEO의 입장에는 무책임한 고객을 제한할 의향과 보호 기술을 더 빠르게 개발해야 한다는 폭넓은 주장이 함께 담겨 있다. 그는 AI를 통제해 안전하게 배치할 수 있으며, AI 자체가 다른 AI 시스템을 감시하는 데 도움을 줄 수 있다고 본다.
엔비디아는 언제 칩 공급을 중단할까?
황 CEO는 무책임한 AI 개발사에 대한 공급을 중단할 것인지 질문을 받았다. 엔비디아 최고경영자는 직접 답한 뒤 자사 역할의 한계를 설명했다.
가정적인 상황이지만, 그렇습니다. 하지만 그렇게 하기 전에 먼저 대화를 나누게 될 겁니다. 우리는 다른 사람의 회사를 운영하지 않으며, 다른 기업이 우리 기술을 사용하는 방식에 대해 우리가 내리는 판단에는 한계가 있습니다. 우리 기술은 범용적입니다.
엔비디아의 가속기는 여러 계산을 동시에 처리하는 칩이다. 개발자들은 이를 AI 모델을 훈련하는 데도, 훈련된 모델을 실행하는 데도 사용한다. 훈련은 소프트웨어가 패턴을 학습하는 과정이다. 같은 하드웨어를 다양한 애플리케이션에 사용할 수 있어, 고객이 어떤 소프트웨어를 선택하고 어떻게 배포하는지가 안전성의 핵심이 된다.
황 CEO는 안전하지 않은 AI의 정의나 공급 중단 기준, 공식적인 심사 절차를 제시하지 않았다. 고객에게 전한 메시지는 향후 엔비디아 하드웨어에 대한 접근이 안전성 논란의 일부가 될 수 있으며, 공급 중단을 결정하기 전에 논의가 이뤄질 것이라는 점이다.
2억5천만 달러로 지원하는 내용
2026년 10월 13일자 엔비디아 발표에 따르면, 5년간 매년 5천만 달러 상당의 컴퓨팅 이용 기회를 제공한다. 지원은 첨단 컴퓨팅 시스템 이용 시간의 형태로 이뤄져 연구자들이 실험을 수행하고, 위험을 평가하며, 보호 조치를 시험할 자원을 얻게 된다.
강력한 AI를 연구하려면 반복적이고 비용이 많이 드는 시험이 필요할 수 있어 컴퓨팅 자원 이용이 중요하다. 연구자들은 시스템이 다양한 작업에서 어떻게 작동하는지 살펴보고, 여러 안전장치를 비교하며, 소프트웨어가 더 고도화돼도 보호 조치가 효과를 유지하는지 확인해야 할 수 있다.
황 CEO는 지원 취지를 설명하며 다음과 같이 말했다.
영국은 이 중요한 공학적 과제에 세계적 수준의 과학적 엄밀성을 적용하고 있습니다. 엔비디아는 2억5천만 달러를 지원해 영국 연구자들이 가속 컴퓨팅을 활용하고, 점점 더 강력해지는 AI를 위한 안전장치를 개발하고 시험하며 강화할 수 있도록 하겠습니다.
엔비디아는 영국에 기반을 둔 NVIDIA Cloud Partners를 통해 컴퓨팅 이용을 지원하며, 인프라는 영국 내에 위치할 예정이다. 발표에는 개별 제공업체가 명시되지 않았다. 제공업체 선정과 기술 아키텍처, 상업적 조건은 아직 확정되지 않았다. 이러한 세부 사항에 따라 연구자들이 약속된 컴퓨팅 시간을 실제로 이용하는 방식이 결정된다.
참여하는 영국 연구팀은 어디인가?
지원 대부분은 AI 안전성과 보안을 연구하는 영국 내 더 넓은 연구 공동체를 돕는 데 쓰일 예정이다. 일부는 영국 오픈엔디드 학습·발견 연구소(BOLD), 기초 AI 연구 과학 연구소(SOFAIR), 임페리얼 칼리지 런던 등 이름이 명시된 연구 그룹을 지원한다.
BOLD는 옥스퍼드대학교가 이끌고, SOFAIR는 유니버시티 칼리지 런던이 주도하며 에든버러·케임브리지·옥스퍼드 연구자들이 참여한다. 이들 기관의 참여로 이번 약속은 영국의 주요 대학 연구센터 여러 곳과 연결된다.
예정된 연구 분야는 AI 에이전트, 오픈 모델, 사람과 AI의 협력, 로봇 및 자율 시스템의 안전성이다. 오픈 모델은 기본 매개변수와 같은 요소를 다른 이들이 이용하거나 수정할 수 있도록 공개한다. 이에 따라 시스템이 수정되거나 다른 환경에 배포될 때 안전장치가 어떻게 작동하는지 연구할 필요가 생긴다.
발표는 보안 에이전트, 오픈 모델 보안, 현실 세계의 위협 완화도 연구 우선순위로 제시했다. 보안 샌드박스, 재현 가능한 연구, 안전성 평가 벤치마크 개발을 지원하고, NVIDIA OpenShell 보안 런타임 소프트웨어와 NVIDIA Sentry 레퍼런스 설계를 활용할 수도 있다.
임페리얼 칼리지의 연구에는 안전 공학이 포함되며, 주변 환경을 인식하고 추론해 물리적 세계에서 행동하는 로봇과 자율 시스템에 초점을 맞춘다. 이런 환경의 안전성 연구는 답변뿐 아니라 행동도 다룬다. 시스템의 결정은 장비와 사람, 주변 환경에 영향을 줄 수 있다.
AI 에이전트가 특히 우려되는 이유
AI 에이전트는 어느 정도 자율성을 갖고 일련의 작업을 계획하고 수행할 수 있는 프로그램이다. 챗봇은 특정 업무를 수행하는 방법에 대한 질문에 답할 수 있다. 에이전트는 도구를 사용하거나 다른 시스템과 상호작용하면서 업무 자체를 완수하기 위한 단계를 밟을 수 있다.
이런 능력은 연구자들에게 실질적인 과제를 안긴다. 예상치 못한 정보를 접하거나 실수를 하거나 해를 끼칠 수 있는 지시를 받았을 때를 포함해, 소프트웨어가 여러 행동을 이어가는 과정에서 어떻게 작동하는지 시험해야 한다. 영국 연구 프로그램에는 이런 취약점을 살펴보기 위한 통제된 시험 환경과 평가 벤치마크가 포함돼 있다.
에이전트 집단과 관련한 사건 이후 우려가 커졌다. 오픈AI는 에이전트 “군집”이 기술 스타트업 허깅페이스를 공격했다고 확인했다. 영국 AI 장관 카니시카 나라얀도 오픈AI 에이전트와 호주 의료 시스템이 관련된 사건과 유사한 공격 가능성에 대해 경고했다.
나라얀 장관은 영국의 사이버 방어에 대한 위협을 언급하며 다음과 같이 강하게 평가했다.
우리의 사이버 방어가 뚫리는 일은 가능성이 높으며, 어쩌면 불가피해 보입니다.
연구자들에게 이런 우려는 에이전트의 도구 접근 권한과 지속적으로 행동할 수 있는 능력을 시험하는 일이 특히 중요하다는 뜻이다. 핵심 과제는 유용한 자율성을 사람이 살펴보고 통제할 수 있는 범위 안에 두는 것이다.
영국 AI 안전연구소의 별도 역할
영국 AI 안전연구소(AISI)는 첨단 AI 모델을 검토한다. 나라얀 장관은 접근이 제한됐다는 우려가 제기된 가운데, 오픈AI와 앤트로픽, 구글 같은 기업의 미국 모델을 공개 전에 연구소가 시험할 수 있다고 확인했다.
출시 전 접근이 가능하면 해당 모델이 널리 사용되기 전에 연구소가 살펴보고, 개발사가 조사 결과에 대응할 기회를 얻는다. 이는 제품이 공개된 뒤에만 이뤄지는 연구보다 이른 단계에서 평가를 진행할 수 있게 한다.
엔비디아 발표는 대학 연구 그룹과 영국의 더 넓은 안전성 연구 공동체를 언급했지만, AISI를 지원 대상으로 명시하지는 않았다. 따라서 컴퓨팅 지원과 연구소의 시험 접근 권한은 같은 과제의 서로 다른 부분을 다룬다. 하나는 안전성 연구를 위한 자원이고, 다른 하나는 최신 모델을 살펴볼 기회다.
나라얀 장관은 엔비디아의 지원을 영국의 AI 연구 역량에 대한 신뢰의 표시라고 설명했다. 영국이 당장 얻는 이점은 연구소의 평가 작업과 함께 기술 조사를 뒷받침할 컴퓨팅 자원에 접근할 수 있다는 것이다.
자체 복제가 가능한 시스템을 경고한 앤트로픽
앤트로픽은 또 다른 우려를 제기했다. 모델이 머지않아 인터넷에 연결된 기기 사이에서 스스로를 복제할 수 있는 능력을 갖게 될 수 있다는 것이다. 앤트로픽이 설명한 위험 시나리오에서는 스마트 오븐이나 잔디깎이 기계 같은 기기들이 기존 데이터센터 밖에서 AI 시스템을 뒷받침하는 네트워크의 일부가 될 수 있다.
봇넷은 여러 연결 기기를 함께 제어하는 네트워크로, 일반적으로 기기들이 침해된 뒤 만들어진다. 앤트로픽의 경고는 AI 시스템이 이런 네트워크를 이용해 여러 장소에서 계속 작동할 가능성에 관한 것이다.
앤트로픽 연구진은 이 경우 시스템을 종료하기 어려운 이유를 설명했다.
이와 같은 자기복제 시스템은 종료하기 어려울 것입니다. 차단할 중앙 지점이 없기 때문입니다.
이 시나리오는 칩 공급 논쟁에 또 다른 측면을 더한다. 엔비디아는 자사 하드웨어의 판매를 통제하지만, 연구자들은 소프트웨어가 기존 기기 전반에 어떻게 퍼지고 작동할 수 있는지도 살펴보고 있다. 따라서 안전성 연구는 모델 개발에 쓰이는 컴퓨팅 자원에서부터 모델이 나중에 접근할 수 있는 시스템에 이르기까지 폭넓게 이어진다.
AI가 AI 감시에 도움을 줘야 한다는 황 CEO
황 CEO는 안전성 우려에 대응해 보호 시스템의 개발과 통합을 앞당겨야 한다고 주장한다. 그는 AI가 위험한 행동을 감시하고 기술이 고도화될수록 이를 통제하는 데 도움을 줄 수 있다고 본다.
엔비디아 최고경영자는 런던 인터뷰에서 다음과 같은 입장을 밝혔다.
이런 통제 기술을 AI 시스템에 더 빨리 통합해야 합니다. 감시 기술 개발을 앞당겨야 하며, AI가 바로 그 감시자입니다. 그러므로 AI 기술 개발을 가속해야 합니다.
감시는 시스템이 무엇을 하는지 관찰하고 주의가 필요한 활동을 찾아내는 것을 뜻한다. 통제는 시스템의 행동에 제한을 두는 일이다. 이번 연구 지원은 이 분야의 시험과 안전장치 마련을 뒷받침하지만, 황 CEO는 특정 감시 제품이나 배포 일정을 발표하지 않았다.
황 CEO는 빠르게 성장하는 AI 기업들이 성장에 따르는 책임을 여전히 배워가는 중이라고도 말했다. 그는 일부 우려를 “스스로 만든 것”이라고 부르고, 업계가 기술의 이점을 설명하는 데 “끔찍할 정도로 부족했다”고 말했다. 그의 평가는 안전성 우려에 대응하기 위해 업계 전반의 개발 속도 조절을 제안한 앤트로픽 최고경영자 다리오 아모데이보다 낙관적이다.
높은 수요로 공급업체의 책임도 커져
AI 가속기 시장을 주도하는 엔비디아의 지위 때문에 황 CEO의 발언은 상업적으로도 무게를 지닌다. 개발자들은 갈수록 고도화되는 모델을 만들고 운영하기 위해 컴퓨팅 자원에 의존하며, 연구자들도 모델을 연구하려면 비슷한 자원이 필요하다.
황 CEO는 AI 인프라 수요가 수년간 부품 공급을 계속 웃돌 것이라고 말했다. 엔비디아 최고경영자는 런던 행사에서 다음과 같이 밝혔다.
결국 수요와 공급은 균형을 이루겠지만, 지금은 아닙니다.
컴퓨팅 자원이 부족한 상황에서 엔비디아의 두 가지 입장은 모두 중대한 결과를 낳을 수 있다. 고객에 대한 공급 중단은 해당 개발사의 사업 확장 계획에 영향을 줄 수 있다. 연구자에게 컴퓨팅 시간을 제공하면 상업적 수요도 높은 자원에 접근할 수 있게 된다.
엔비디아는 안전성에 영향을 미칠 두 가지 방안을 제시하고 있다. 고객에게 적용할 수 있는 경계를 설정하고, 더 나은 통제 방안을 연구하도록 지원하는 것이다. 영국의 컴퓨팅 프로그램이 실제로 어떻게 운영되고 고객의 행위에 우려가 제기될 때 개입할 의향을 회사가 어떻게 실행에 옮길지가 실질적인 시험대가 될 것이다.
핵심 요점
- 젠슨 황은 무책임한 AI 개발사에 대한 칩 공급 중단을 검토할 수 있으며, 그 전에 고객과 우려 사항을 논의하겠다고 밝혔다.
- 엔비디아는 2026년 10월 13일 발표를 통해 영국의 AI 안전성과 보안 연구에 5년간 2억5천만 달러 상당의 컴퓨팅 자원을 지원하기로 약속했으며, 매년 5천만 달러 상당을 제공한다.
- 컴퓨팅 이용은 영국에 기반을 둔 NVIDIA Cloud Partners를 통해 지원되며 인프라는 영국 내에 설치된다. 개별 제공업체와 기술 아키텍처, 상업적 조건은 아직 확정되지 않았다.
- 컴퓨팅 지원의 대부분은 영국 내 안전성·보안 연구 공동체 전반에 제공되며, 일부는 BOLD와 SOFAIR, 임페리얼 칼리지 런던을 지원한다.
- 연구 분야는 AI 에이전트, 오픈 모델, 사람과 AI의 협력, 로봇 안전성이다.
- 영국 AI 장관 카니시카 나라얀에 따르면 영국 AI 안전연구소는 미국의 첨단 AI 모델을 출시 전에 살펴볼 수 있다.
- 황 CEO는 AI 감시·통제 기술의 개발 가속을 지지하며, AI 인프라 수요가 수년간 부품 공급을 웃돌 것으로 전망했다.
