엔비디아, AI 안전 문제를 '인프라 기회'로 전환
🇰🇷 한글 번역
비즈니스 인사이더의 오늘 편집장 겸 앵커인 댄 데프란체스코는 셰우드 뉴스의 시장 책임자 루카와, 저자 로렌 시먼스, 퓨처럼의 수석 시장 전략가 샤이 볼루어가 참석한 가운데 인공지능(AI) 안전성에 대한 우려가 커지는 가운데 대화를 나눴다.
백악관은 AI 전담 책임자(AI czar)가 임명됐다고 발표했다. 음, AI 안전성에 대한 우려부터 잠재적 종말론까지 고려할 사항이 산더미다. 하지만 나는 더 포괄적인 질문부터 시작하고 싶다. 이 질문을 패널 전체에게 열어두고 싶다.
이것이 해결 가능한 문제인가? 이것은 가능한 시험인가, 아니면 어리석은 시도인가? 이 기술이 매우 빠르게 발전하는 만큼, 이를 개발하는 사람들은 어떻게 안전 장치를 구축해야 하는지, 어떻게 이를 풀어나가야 하는지 알지 못하는 것처럼 보인다. 미국 정부는 이를 어떻게 해결해 나갈 것인가?
음, 만약 이것이 해결 가능한 문제라면, 현재 이 일을 맡게 된 사람들은 아마도 가장 적합한 사람들이 아닐 것이다. 나는 이 문제를 해결하기에 가장 적합한 사람들이 누구인지 생각할 때, 불행히도 그들은 아마도 그 기술을 개발하거나, 우리가 모두 죽을 확률이 10%라는 사실을 외치는 바로 그 사람들일 것이다.
그래서 나는 이것이 해결책에 도달하는 데 있어 다소 걸림돌이 된다고 생각한다. 그리고 내가 이전에 야후에 있을 때, 캐일럽 실버가 한 말을 기억한다. 그는 우리가 자동차에 안전벨트를 장착하기 전에는 사망자가 발생하지 않았다고, 음주 운전 법안을 제정하기 전에는 사망자가 발생하지 않았다고 말했다. 따라서 그것은 아마도
어느 시점 이후에는 가장 효과적인 억제 수단이, "일이 잘못되면 얼마나 강력하게 처벌할 것이다"라고 경고하는 것이 될 것임을 의미한다. 하지만 나는 그 일이 먼저 잘못되어야만 그 경고가 의미가 있을 것이라고 생각한다.
맞다. 로렌, 너는 어떻게 생각해?
나는 기술은 항상 정부보다 훨씬 빠르게 발전한다고 생각한다. 그리고 제이(백악관 AI 담당자)가 120일이라는 이진법적 규칙을 도입하는 것을 보면, 120일이 지난 후엔 어떻게 될까? 120일이 지나도 어떤 것이 강제 집행될 것이라는 보장은 없으며, 규제나 감독이 이루어질 것이라는 의미도 아니다. 그렇다면 정말로 이 120일은 무엇을 의미하는가? 그리고 우리는 AI에 대한 규제가 어느 정도 필요하지만, 우리는 또한 AI가 정부가 할 수 있는 어떤 것보다 훨씬 빠르게 발전한다는 사실도 알고 있다.
저널리스트로서 기한을 설정하는 핵심은, 만약 기한을 지키지 못해도 괜찮도록 기한을 약간 느슨하고 모호하게 만드는 것이다. 샤이, 너의 의견을 듣고 싶다. AI 전담 책임자 임명과 앞으로의 과제에 대해 너의 견해는 무엇인가?
들어라, AI 원칙은 이미 Nvidia가 개입했다. Nvidia는 문제를 실제 인프라 기회로 전환하려는 기업들의 완벽한 예시다. 그리고 지난 주에 그것을 목격했다. 오픈_shell(Open Shell)은 에이전트 주변에 이러한 소프트웨어 경계를 만들 것이고, 센추리(Century)는 블루필드 4(Bluefield 4) 위에서 실행될 것이다. 하지만 어쨌든, 제슨(옌센 황)은 이것이 문제가 될 것이라는 것을 알고 있으며, 단순히 다른 사람들이 이러한 안전 장치를 만들기를 기다리는 대신, 우리는 다른 사람들을 위한 기회를 만들 것이라고 말한다. 그리고 그것이 바로 사이버 보안 기업들이 계속 우상향하는 이유다. 하지만 네가 말했듯이, 우리는 내러티브가 AI 구축을 늦추는 데 고정되지 않도록 해야 한다. 단지 안전을 확보하는 것뿐이다.
더욱 안전해지고 진전이 계속되도록 하는 것이다. 젠슨이 적절한 시기에 개입했다고 생각한다. 실제로 이러한 시스템과 자율 시스템을 공격하려는 사람들이 외부 위협으로 대두되기 전에 안전 장치를 마련하는 것이 필수적이다. 이러한 자율 시스템은 점점 더 고도화되고 있다. 따라서 지금 당장은 금융이나 의료 시스템 등 어떤 시스템이든 갑자기 침해당하고, 우리가 5년이나 10년 뒤로 후퇴해야 하는 상황을 피하기 위해 선제적으로 조치를 취하는 것이 정말로 중요하다.
📄 원문 (English)
Business Insider Today executive editor and anchor Dan DeFrancesco chats with Sherwood News head of markets Luke Kawa, author Lauren Simmons, and Futurum chief market strategist Shay Boloor about the growing concerns surrounding AI safety.
The White House announced that there's an AI czar. Um, a lot on their plate from, you know, concerns about AI safety to potential Doomsday. But I want to start with an even broader question. Happy to open it up to the group.
Is this even a solvable problem? Is this a possible test? Is this a fool's errand? Because this tech moves so quickly, the people who are building it don't seem to know how to unpack, how to, you know, build safety guard rails. How is the US government going to figure it out?
I mean, I think if it was a solvable problem, the kind of current people who are being put in charge of it, they might not be the best place to do so. Like I when I when I think of people who would be very well placed to solve this, unfortunately, they're probably the same ones who are either developing the technology or screaming about the fact that, you know, there's a 10% chance it's going to kill us all.
So I I think that uh, you know, is a is a bit of a a hangup here in terms of getting to a solution. And I remember last time I was here at Yahoo, it was Caleb Silver who said, you know, we didn't really put seat belts in cars until there were deaths. We didn't get, you know, drunk driving laws until there were deaths. So it it probably
means the best deterrent after a certain point of time is, hey, here's how badly we're going to punish you if things go wrong. But I think, you know, that would need the things going wrong part to to happen first.
Right. Lauren, what do you think?
I think technology always moves way faster than government, and I think Jay coming in and making this binary rule of 120 days. What happens after the 120 days? The 120 days that doesn't mean that anything will be enforced, that doesn't mean that a regulation will be an oversight. So, really what what is the 120 days? And do we need regulation over AI to a capacity, but we also know that AI always just moves a lot faster than what government could ever do.
As a journalist, key to setting deadlines is make them a little bit loose and ambiguous so that if you don't hit them, you know, it's fine. Shy, I want to bring you in. What's your what's your take on the AI are and and the task ahead?
Listen, the AI principal already stepped in, Nvidia. Nvidia is a perfect example of a company trying to turn the problem into uh an actual infrastructure opportunity. And you saw that last week. Open shell is going to create this kind of software boundary around the agent while Century is going to run on Bluefield 4. But regardless, you're seeing that, all right,
Jensen knows this is going to become an issue and rather than just waiting for someone else to create these guard rails, we're going to create the opportunity for everyone else and that's why you're seeing cyber security companies just continue to go up to the right. But yeah, like you guys mentioned, I mean, we have to make sure the narrative doesn't stick on slowing the AI build out, just making sure
it becomes more secure and letting the progress continue. I think that Jensen stepped in at the right time. You have to make sure you have some guard rails before it becomes real external threats for someone actually trying to attack these systems and these autonomous systems are getting more advanced. So like I think it's really important right now to do it before uh whatever financial healthcare system all of a sudden gets violated and now we have to go back five or 10 years.
▶ 칩 라이브 24 홈으로 — chiplive24.com