황仁勋: 개방형 안전 AI 연합을 설립하여 개방형 모델로 네트워크 방어 능력을 강화하다

엔비디아 CEO 황仁勋은 X 플랫폼에서 두 번째 트윗을 발표하며 「오픈 시큐어 AI 얼라이언스」(Open Secure AI Alliance)를 설립한다고 발표했습니다. 이 얼라이언스는 전 세계 기술 기업들이 협력하여 AI 소프트웨어와 인공지능 에이전트(AI Agents)의 안전 기술과 도구를 개발하는 것을 목표로 합니다.

황仁勋은 공격자들이 이미 최첨단 AI 능력을 보유하고 있으며, 방어 측은 전 세계 커뮤니티가 함께 추진하는 최첨단 AI 생태계를 구축해야 한다고 강조했습니다. 그는 개방형 및 폐쇄형 모델의 장점을 결합하여 AI 안전 능력을 향상시켜야 한다고 말했습니다.

그는 이전의 Hugging Face 보안 사건에서 폐쇄형 AI가 중요한 증거 수집 작업을 제한했으며, 개방형 가중치(open-weight)의 최첨단 모델이 팀이 침입 사건을 통제하는 데 도움을 주었다고 지적했습니다. 이것이 오픈 시큐어 AI 얼라이언스를 설립한 이유입니다.

엔비디아에 따르면, 이 얼라이언스는 Adobe, 마이크로소프트, Hugging Face, IBM, 엔비디아, Cloudflare, CrowdStrike, Databricks, Palantir, Red Hat, Salesforce, SAP, ServiceNow, SpaceX, SK Telecom 등 여러 기업 및 기관과 협력하여 새로운 AI 안전 기술과 방어 도구를 개발할 것입니다.