엔비디아 CEO 젠슨 황: "우리는 AI 안전성을 가속화해야 한다"
🇰🇷 한글 번역
엔비디아(NVDA)의 제슨 황(Jensen Huang) CEO는 이 여름 동안 주요 연구소들의 AI 에이전트가 격리 상태에서 벗어나 Hugging Face를 포함한 웹사이트에 해킹을 시도했다는 사실이 드러난 이후, AI 산업이 안전성에 집중해야 한다고 말했다.
황 CEO는 엔비디아의 GTC 베를린 컨퍼런스에서 디어드리 보스(Deirdre Bose)와의 인터뷰에서 “그런 일이 발생해서는 안 되었다. 발생할 필요도 없다”고 밝혔다.
수요일 기조연설에서 황 CEO는 엔비디아가 개발한 ‘오픈셸 레퍼런스 아키텍처(OpenShell Reference Architecture)’를 공개했다. 이 아키텍처는 고객이 AI 에이전트를 구축하고, 격리하며, 관찰할 수 있도록 해준다. 엔비디아에 따르면 에이전트가 통제 불능 상태가 되려 할 때 시스템이 개입하여 이를 차단할 수 있다.
황 CEO는 “Hugging Face는 연습용 시뮬레이터를 개발했고, 그 결과 오픈셸이 존재했다면 그들의 웹사이트가 그런 방식으로 공격받지 않았을 것이라고 결론 내렸다”고 말했다.
그는 “우리는 AI 안전성을 가속화해야 한다. 그리고 나에게는 안전 기술과 안전 능력이 본질적으로 동일하다. 시스템이 얼마나 강력한 기능을 갖추었든, 안전해야 한다. 이 두 가지는 사실 하나다. 따라서 미래에 이러한 AI 능력을 개발해 나갈 때, 안전성도 함께 따라올 것”이라고 덧붙였다.
CEO에 따르면 이러한 노력의 일부는 AI 에이전트 주변에 ‘제로 트러스트(Zero-trust)’ 시스템을 구축하는 데서 비롯된다. 제로 트러스트는 다른 플랫폼에 대한 노출을 제한하고 사람과 플랫폼이 정기적으로 신원을 확인하도록 요구함으로써 연결된 시스템을 보호하기 위한 프레임워크다.
이러한 접근 방식은 해킹 및 기타 사이버 공격에 대한 노출을 줄인다는 논리가 깔려 있다.
황 CEO는 “이러한 에이전트들은 자율 시스템이다. 컴퓨터에 자율 시스템이 있을 경우, 먼저 제로 트러스트로 시작해야 한다. 최소한의 권한, 최소한의 접근, 최소한의 도구 사용만 허용해야 한다”고 설명했다.
“아마도 에이전트가 파일에 접근할 수는 있겠지만 파일을 삭제할 수는 없을 것이다. 인터넷에 접근할 수는 있겠지만 데이터를 외부로 전송할 수는 없을 것이다. 이처럼 다양한 제한 사항을 설정할 수 있다. 에이전트와 자율 시스템을 어떻게 배포할지에 관한 이러한 관행들은 즉시 전반적으로 채택되어야 한다”고 그는 덧붙였다.
황 CEO에 따르면 엔비디아는 오픈셸을 사용하여 AI 에이전트를 관리하기 위한 기능을 개발하기 위해 100개 이상의 기업과 협력하고 있다.
황 CEO는 “우리는 모든 연구소와 모든 운영체제(OS) 기업과 협력하고 있다. [해킹 사건들은] 불행한 일이었지만, 산업 전반에 매우 변혁적인 영향을 미쳤다고 생각한다”고 덧붙였다.
Daniel Howley에게 이메일([email protected])을 보내거나 트위터(@DanielHowley)에서 팔로우할 수 있다.
주식에 영향을 미칠 최신 기술 뉴스를 보려면 여기를 클릭하라.
야후 파이낸스(Yahoo Finance)의 최신 금융 및 비즈니스 뉴스를 읽어보라.
📄 원문 (English)
Nvidia (NVDA) CEO Jensen Huang says the AI industry needs to focus on safety following this summer's revelations that AI agents from leading labs broke free of containment and hacked into websites, including Hugging Face.
"It shouldn't have happened. Doesn't need to happen," Huang told Deirdre Bose at Nvidia's GTC Berlin conference.
During his keynote on Wednesday, Huang revealed Nvidia's OpenShell Reference Architecture, which the company says will allow customers to build, contain, and observe AI agents. If an agent attempts to go rogue, the system, Nvidia says, can intervene and stop it.
"Hugging Face developed an exercise, a simulator, and they came to the conclusion: if OpenShell existed, their website wouldn't have been attacked that way," Huang said.
"We have to accelerate AI safety, and safety technology and capability to me is one and the same … As much as it is capable, you want it to be safe. The two of them are really one and the same. And so in the future, as we develop these AI capabilities, safety will come along with it," he added.
Part of that effort, the CEO said, comes down to establishing a zero-trust system around AI agents. Zero trust is a framework for protecting connected systems by limiting their exposure to other platforms and requiring people and platforms to regularly verify their identities.
Doing so, the thinking goes, reduces exposure to hacking and other cyberattacks.
"These agents are autonomous systems, and when you have an autonomous system on your computer … you should first start with zero trust, and give it minimum privileges, minimum access, minimum use of tools," Huang explained.
"Maybe they could access a file, but they can't delete the file. Maybe they can access the internet, but they can't … send stuff out. And so there are a lot of different things you could specify. Those practices about how to deploy agents and deploy autonomous systems [have] to be adopted across the board right away."
According to Huang, Nvidia is working with more than 100 companies to develop features to manage AI agents using OpenShell.
"We're working with all the labs and working with all the operating system companies. I think the [hacking incidents were] unfortunate, but I think that it's very much transformative for the industry," he added.
Email Daniel Howley at [email protected]. Follow him on Twitter at @DanielHowley.
Click here for the latest technology news that will impact the stock market
Read the latest financial and business news from Yahoo Finance
▶ 칩 라이브 24 홈으로 — chiplive24.com