엔비디아 황 CEO, 무책임한 AI 고객에게는 칩 판매 안 해
🇰🇷 한글 번역
엔비디아(Nvidia Corp.)의 제너슨 황(Jensen Huang) 최고경영자(CEO)는 안전하지 않은 AI 소프트웨어를 개발 중인 고객에게는 칩을 판매하지 않겠다고 밝혔다. 그는 런던에서 블룸버그의 에밀리 창(Emily Chang)과 함께 AI 안전성과 산업의 성장에 대해 광범위하게 논의했다.
당신은 유럽 전역을 돌며 주권적 AI(sovereign AI)라는 개념을 홍보하고 있다. 미국산 칩을 기반으로 구축된다면 그것은 여전히 주권적이라고 할 수 있는가?
그렇다. 주권이란 기본적으로 자신의 경험을 통제할 수 있어야 한다는 것을 의미한다. 그리고 AI의 경우, 이는 자신의 데이터를 통제한다는 것을 의미한다. 당신의 데이터, 당신의 삶의 경험, 당신의 회사 경험, 당신의 국가의 문화와 가치, 그리고 당신의 사람들의 제도적 지식. 더 많은 데이터, 더 많은 경험, 더 많은 지능을 생성하는 피드백 고리(flywheel)는 당신에게 속한다.
음.
컴퓨터는 단지 하나의 도구에 불과하다. 이것이 첫 번째 요소다. 두 번째로, 주권이란 아무도 당신에게 서비스 제공을 거부할 수 없다는 것을 의미한다. AI는 인프라와 같다. 그것은 전기와 같고, 인터넷과 같고, 물과 같다. 그것들은 사회와 기업에게 필수적인 자원이며 필수적인 인프라다. 서비스 제공 거부를 절대 허용해서는 안 된다. 따라서 당신은 그것을 통제해야 한다. 그것이 주권이다.
주권이란 당신이 자신의 운명을 결정할 수 있는 능력을 가진다는 것을 의미한다. 당신은 팀워크가 필요할 수도 있고, 협력이나 파트너십, 그리고 다른 사람으로부터의 지원이 필요할 수도 있다. 하지만 어쨌든 당신은 주체성(agency)을 가져야 한다.
올해 지금까지 미국에서는 100개 이상의 데이터 센터 프로젝트가 차단되거나 지연되었다. 유럽에서도 반발이 있다. AI 기업들의 IPO(기업공개)가 지연되거나 취소되고 있다. 우리는 AI 붐의 균열을 보고 있는 것인가? 그리고 당신이 모든 책임을 지게 될 것인가?
AI의 능력은 우리가 그것이 무엇을 할 수 있는지 알게 된 이상, 결코 이전으로 돌아가지 않을 것이다. 따라서 나는 많은 면에서 이것이 근본적이며, 단기적인 과제와는 무관하다고 생각한다. 이제 단기적인 과제들은 어찌 보면 스스로가 초래한 것이다. 우리는 산업으로서, 사람들이 구축한 이 기술을
음.
분명히 엔지니어링된 이 기술을 어떻게 연관시키는지에 대해 매우糟糕한(형편없는) 일을 하고 있다고 생각한다. 우리가 그것을 어떻게 작동하는지 충분히 알고 있으며, 매일 더 좋게 만들 수 있다는 것을 우리는 분명히 알고 있다. 그리고 우리가 그것을 구축하고 있으므로, 안전하고 책임감 있게 발전시킬 모든 가능성을 가지고 있다. 따라서 나는 많은 면에서 산업의 서사가 정말 통제 불능 상태에 있으며, 중단되어야 한다고 생각한다. 하지만 그것은 산업이 성장하는 과정일 뿐이다. 당신은 아마 인터넷의 좋은 옛날 시절을 기억할 것이다. 그 산업도 성장했다. 그리고 우리의 산업도 많은 젊은 회사들이 성장통을 겪고 있다고 생각한다. 물론 그들은 놀라울 정도로 빠르게 성장하고 있으며, 나는 이에 대해 매우 자랑스럽게 생각한다. 그들은 놀라운 엔지니어들이며 정말로 뛰어난 컴퓨터 과학자들이다. 회사를 구축하는 데 따르는 책임과 책임감이 있는데, 나는 그들이 그 책임감을 점차 받아들이고 성장하고 있다고 생각한다.
당신은 앤트로픽(Anthropic)과 오픈AI(OpenAI)의 주요 투자자다. 이들은 당신의 주요 고객 중 두 곳이기도 하다. 프론티어 랩스(Frontier Labs, 최첨단 AI 연구소)들이 기업공개(IPO)를 할 때 어떤 일이 벌어지는가? 얼마나 많은 것이 걸려 있으며, 그들은 무엇을 증명해야 하는가?
제가 말씀드리고 싶은 것은, 그들의 성공을 보게 되어 기쁘다는 것입니다. 우선, 이들은 역사상 가장 빠르게 성장한 두 기술 기업입니다. 그들의 매출은 실제이며, 그 매출에서 발생하는 이익도 실제입니다. 지난 6개월 동안 AI는 전환기를 겪었습니다. 이전에는 수익성이 없고 유용하지 않으며 매우 호기심 어린 존재였지만, 잠재력은 매우 컸습니다. 이제 우리는 이를 실제 업무에 사용하고 있습니다. 그것은 생산적이고 수익성이 있으며, 그들에게 막대한 이익을 창출하고 있습니다. 따라서 토큰이 이제 수익성이 있고 토큰 수요가 매우 놀라울 정도로 크기 때문에, 그들은 더 많은 컴퓨팅 파워를 원합니다. 컴퓨팅 파워는 더 많은 토큰, 더 많은 이익으로 이어지기 때문입니다. 이 파동(플라이휠)은 그들에게 매우 큰 이점이 될 것입니다. 따라서 그들의 IPO는 물론 그들의 여정에서 또 다른 하루에 불과하다고 생각합니다. 하지만 그들에게는 매우 중요한 날입니다. 그들은 많은 자금을 조달할 것이며, 그 자금을 성장 동력으로 활용할 수 있을 것입니다. 그래서 이 두 연구소를 말씀드린 것입니다. 이제 우리는 이 두 기관을 빙산의 일각으로 보고 있는 것입니다. 그들은 말하자면 가장 눈에 띄기 때문입니다. 하지만 AI 산업을 살펴보면, 그것은 광범위하고 매우 깊습니다.
또한 그것은 매우 비쌉니다. 투자자들이 AI가 실제로 얼마나 비용이 드는지 볼 때, 그들은 행복할까요, 아니면 숫자가 맞지 않는다고 결정할까요?
AI의 비용, 즉 토큰의 비용은 매년 30~40배 감소하고 있습니다. 따라서 토큰의 비용은 감소하고 있습니다. 지능의 비용 또한 감소하고 있습니다. 따라서 고객에게 돌아가는 혜택은 기하급수적으로 증가하고 있습니다.
그럼에도 불구하고 AI는 매우 인기가 없으며 사람들은 두려워합니다. 샘 알트먼, 다리오 아마데, 일론 머스크 모두 우리는 속도를 늦춰야 한다고 말합니다. 당신은 일관되게 낙관론을 펴셨습니다. 그들은 보지 못하는 것을 당신은 무엇을 보십니까? 그리고 그들이 어떻게 그렇게 잘못될 수 있습니까?
우선, 안전이 최우선입니다. 우리가 모두 희망하고 믿는 놀라운 잠재력과 낙관적인 미래를 실현하기 위해서는, 우리는 기술을 안전하고 책임감 있게 개발해야 합니다. 이 기술이 어떻게 발전할지에 대해 우리가 주체성을 가지고 있다고 믿습니다. 우리는 오픈 소스(오픈셸)의 개발을 가속화해야 합니다. 우리는 이 통제 기술을 AI 시스템에 통합하는 것을 가속화해야 합니다. 우리는 모니터링 기술과 AI를 모니터링하는 AI의 개발을 가속화해야 합니다. 따라서 우리는 AI 기술을 가속화해야 합니다. 따라서 저는 AI 능력과 AI 안전을 마치 두 개의 다른 대화인 것처럼 분리하는 것은 오류라고 생각합니다. 그것은 사실 mistake(실수)입니다. 그것은 하나의 대화입니다.
만약 한 연구소가 너무 위험한 일을 하고 있어서, 당신이 그것이 너무 위험하다고 느낀다면, 엔비디아는 그들에게 판매를 중단하겠습니까?
그것은 가설적인 질문이지만, 물론 그렇습니다. 네, 네, 그것은 가설적이지만 물론 그렇습니다. 하지만 그렇게 하기 전에, 우리는 대화를 나눌 것입니다. 그리고 우리는 다른 회사의 사업을 운영하지 않습니다. 또한 우리 기술의 다른 회사들의 사용에 대해 우리가 적용하는 판단의 한계가 있습니다. 우리 기술은 범용적입니다. 따라서 다른 사람들의 회사들, 예를 들어 기관이나 국가들에 우리의 가치를 강요하는 것은 실제로 매우 제한된 영역을 벗어난 것입니다. 하지만 만약 우리가 우리 기술의 적용이 사람들에게 해를 끼친다는 것을 확실히 안다면, 물론 (판매를 중단할 것입니다).
📄 원문 (English)
Nvidia Corp. Chief Executive Officer Jensen Huang says his company would stop selling chips to a customer that was developing unsafe AI software. He talks extensively about AI safety and how the industry is growing with Bloomberg's Emily Chang in London.
You're traveling across Europe promoting this idea of sovereign AI. Is it still sovereign if it's built on American chips?
Yes. Uh sovereignty basically means that you have to control your own experience. and in the case of AI, that means control your own data. Your data, your life experience, your, you know, company experience, your your country's culture, values, um, the institutional knowledge uh of your people. uh the flywheel of creating more data, more experience, more intelligence. That belongs to you.
Mhm.
And uh the computer is is just an instrument. And so that's one. The second is is sovereignty means that nobody could deny you service. You know, like AI is like infrastructure. It's like electricity, it's like the internet internet, it's like water. And and uh those are critical resources and critical infrastructure for your society and your companies. You can't, you can't ever have a denial of service. and so you have to control that. That's sovereignty.
Um, sovereignty means that that you have the ability to determine your own your own destiny. And you might, you might need teamwork, you might need collaboration, you might part partnership and support from other people, but at some, you know, you have you have agency.
More than 100 data center projects have been blocked or delayed in the US just so far this year. There's pushback in Europe too. You have AI IPOs getting delayed, getting scrapped. Are we seeing cracks in the AI boom? And could you be left holding the bag?
The capabilities of AI, now that we know what it can do, that's never going to go back. So I think I think a lot many ways, it's fundamental and it's um uh irrespective of of um uh near term near-term challenges. Now the near-term challenges are somehow also self self-imposed. I think we're, you know, as a as an industry, we do we're doing a horrible job um associating uh this technology, which is built by people,
Mhm.
it's engineered obviously. Uh we obviously know enough about how it works to make it better every day. And um uh because we're building it, we have every possibility to to advance it safely and responsibly. And so I think in a lot of ways, uh the narrative of the industry is is really out of control, it ought to be stopped. Um, uh but that's that's just a an an industry growing up. You know, and I you probably remember the good old days of the internet and um, uh the industry grew up. And I think that our industry is is uh many of the young companies um are going through their growing pains and and uh they're growing of course incredibly fast, which I'm I'm very proud of and um they're just incredible engineers and really bright, bright computer scientists. Um there there's a there's an accountability, responsibility uh that goes along with building companies that I think they was they're just growing into.
You're a major investor in Anthropic and OpenAI. These are two of your major customers as well. What happens when the frontier labs go public? How much is at stake and what do they need to prove?
What I would say is that that um uh I'm delighted to see their success. I mean, first of all, these are the two fastest growing technology companies in history. Their revenues are real. And their profits generated from their revenues are real. This last year, this last six months, um AI went through a transition. It used to be unprofitable, unuseful, very curious, very, you know, great potential. And now we're using it in real work. It's productive, it's profitable, it's generating enormous profits for them. And so because the tokens are now profitable, and because the token demand is so incredible, it's the reason why they want more compute because the compute translates to more tokens, to more profits, and that flywheel for them is going to be great. And so I think I think their their uh IPO is just, you know, of course, another day in their journey. And it's a very important day for them. And um they will raise a lot of money and um they they can apply that money to to uh fueling their growth. And so, so I I think that's the two labs. Now, we're just looking at the tip of the iceberg with the two of them because they're the most most, if you will, um visible, but if you look at the AI industry, it's broad and it's extremely deep.
It's also extremely expensive. I mean, when the when investors see what AI really costs, are they going to be happy or, you know, are they going to decide the numbers don't add up?
The cost of AI, the cost of a token is reducing by 30 40 times per year. And so, I think that the the cost of tokens is decreasing. The cost of intelligence is also decreasing. And so the benefits to the customers are actually going up exponentially.
That said, AI is deeply unpopular and people are scared. Sam Altman, Dario Amade, Elon Musk all say we should slow down. You have been very consistent in your optimism. What do you see that they don't? And how can they be so wrong?
Uh, first of all, safety is is paramount and we if in order for us to to realize the incredible potentials and the and the optimistic future that that we all hope for and and believe in, um we have to develop the technology safely and responsibly. I believe we have agency in how this technology advances. We should accelerate the development of open shell. We should accelerate the the integration of this containment technology into AI systems. We should accelerate the development of monitoring technologies and AIs that monitor AIs. So we should accelerate AI technology. And so I I think that there's a fallacy, I think it's it's it's in fact a mistake to separate AI capability and AI safety as if it's two conversations. It's one conversation.
If one of the labs was doing something that was too dangerous, that you felt was too dangerous, would Nvidia stop selling to them?
It's a hypothetical, but of course. Yeah. Yeah, it's a hypothetical, but of course. But before you do so, you you would have have a conversation and you know, we don't run other people's companies. And and um uh there's a limit to to the judgment by which we apply uh to uh other company's use of our technology. Our technology is a general purpose. And so imposing our values on some other people's companies and and well let's for example, institutions or countries. Uh that's really largely out of bounds, but if we if we know for certain that an applic- that an application of our technology is bringing harm to people, of course.
▶ 칩 라이브 24 홈으로 — chiplive24.com