안전

펑크보그 통신에 따르면, 영국 정부는 인공지능 생물안전 실험실 건설에 1억 파운드(약 1.34억 달러)를 투자한다고 발표했으며, OpenAI, Anthropic 및 Google DeepMind의 지원을 받았습니다. 영국 정부의 성명에 따르면, 이 실험실은 인공지능을 활용하여 생물 위협을 감지하고 모니터링할 것입니다.위의 자금 외에도, OpenAI와 Anthropic은 최대 2억 파운드의 인공지능 모델 사용 한도를 제공할 것입니다. 실험실은 또한 Google DeepMind 및 생명 과학 회사인 Basecamp Research와 협력할 것이며, 영국 정부는 병원체 대응 조치를 개발하기 위해 추가로 6500만 파운드를 배정할 것입니다.공고에는 인공지능 안전 연구소에 1.2억 파운드를 추가로 지원하는 내용도 포함되어 있으며, 이 기관은 최첨단 인공지능 모델을 정기적으로 평가하는 책임을 집니다. 또한 인공지능 경제 연구소 설립을 위해 2300만 파운드를 추가로 지원하여 인공지능이 경제에 미치는 영향을 분석할 것입니다.

제로 지식 증명 기반 시설 Succinct이 SP1에서 하나의 보안 취약점을 수정했습니다. 이 취약점은 무효 증명이 유효한 것으로 판단될 수 있습니다.The Defiant의 보도에 따르면, 결함은 6.0에서 6.8.0 버전의 원주율 Rust 검증 경로에 존재하며, Solidity 검증기를 통해 실행되는 체인 상 Groth16 및 Plonk 검증은 영향을 받지 않습니다.

디지털 자산에 따르면, 보안 플랫폼 OpenSourceMalware는 10월 21일 방송에서 북한 관련 해커 조직이 Contagious Interview라는 기법을 사용하여 암호화 산업 채용을 미끼로 삼아 LinkedIn을 통해 구직자와 연락하고, 그들을 초대하여 개인 코드 저장소에 방문하게 하며 개발 작업에 필요한 소프트웨어 패키지를 설치하도록 유도했다고 밝혔습니다.공격자는 저장소에 .npmrc 구성 파일을 설정하여 npm이 공용 레지스트리가 아닌 지정된 외부 소프트웨어 패키지 저장소에서 의존성을 다운로드하도록 하여 설치 과정에서 악성 코드를 실행할 수 있으며, 공개 보안 스캔에서 발견될 확률을 낮출 수 있습니다. OpenSourceMalware의 공동 창립자 폴 맥카티는 최근 공격자들이 이러한 기법을 사용하는 것을 관찰했다고 말했습니다. 현재 구체적인 피해자 수, 영향을 받은 기업 또는 디지털 자산 손실 금액은 공개되지 않았습니다.

기술주 매도세가 심화됨에 따라 투자자들은 안전 자산을 찾기 위해 채권 시장으로 돌아서고 있습니다. 미국 국채와 인공지능 관련 주식 간의 "역관계"를 측정하는 지표가 1년 전 수준으로 회복되었습니다. 노무라 홀딩스의 전략가는 시장이 인공지능 열풍의 "리셋"을 기반으로 미국에서 "성장 공포"가 발생할 가능성을 재평가하고 있다고 말했습니다.

자오창펑은 글을 통해 어떤 암호화 지갑도 절대적으로 안전할 수 없으며, 완전히 결함이 없는 소프트웨어나 100% 안전한 기술도 존재하지 않는다고 밝혔습니다.그는 모든 행동에는 위험이 따르며, 행동을 취하지 않는 것도 마찬가지로 위험이 있다고 지적했습니다. 과정 중에는 문제, 좌절 및 해결해야 할 난제가 발생할 수 있습니다. 자오창펑은 사용자에게 최신 상황을 신속하게 파악하고, 위험 관리를 잘 하며, 문제를 적극적으로 해결할 것을 권장했습니다.

암호화폐 지갑 백업 회사 Vault12가 미국 증권 거래 위원회(SEC)에 의견서를 제출하여 SEC가 제안한 토큰 안전지대 프레임워크가 중앙화 거래소의 상장 우려를 충분히 해소하지 못했다고 지적했습니다. 거래 플랫폼은 여전히 SEC가 향후 토큰의 법적 지위를 소급적으로 도전할 수 있다는 우려를 가지고 있습니다.Vault12는 2018년에 미래 토큰 프로토콜을 통해 38명의 투자자로부터 1,745만 달러를 모집했으며, 발행한 Vault Guardian Token(VGT)은 현재까지 어떤 중앙화 거래소에도 상장되지 않았습니다. 이 프로젝트는 백서에 명시된 모든 약속을 이행하거나 공식적으로 포기했지만, 이전에 접촉한 거래소는 여전히 SEC가 향후 VGT가 원래 투자 계약의 구속을 받지 않을 것임을 확인해 줄 것을 요구하고 있습니다. 미국 SEC는 올해 8월에 발표한 '암호 자산 규정' 제안이 토큰 자금 조달에 대한 면제를 제공하고, 자격을 갖춘 프로젝트가 안전지대 메커니즘을 통해 토큰과 원래 투자 계약의 연관성을 종료할 수 있도록 허용할 것을 제안했습니다. Vault12는 60일의 이의 제기 기간을 추가할 것을 제안하며, SEC가 이 기간 내에 이의를 제기하지 않을 경우, 자격을 갖춘 신고는 해당 기관에 대해 최종 효력을 발생해야 한다고 밝혔습니다. 단, 사기 또는 중대한 허위 진술 등의 경우는 제외됩니다.

Anthropic은 최근 미국 국회의원들에게 AI 안전 법안 초안을 제출했으며, 미국 AI 안전 진영의 의문을 받았습니다. 초안은 정부가 위험한 모델을 긴급히 중단할 수 있는 높은 기준을 설정하고 있으며, 위험은 생물 무기, 사이버 공격 또는 AI 통제 불능 등의 상황을 포함해야 하며, 50명 이상의 사망 또는 중상을 초래하거나 10억 달러 이상의 손실을 초래할 수 있습니다; 일부 조항은 주 정부의 규제 권한을 제한할 수도 있습니다.AI 안전 조직 Encode AI 전략 책임자 Nathan Calvin은 이후 Anthropic의 지난 1년간의 결정을 정리했습니다. 올해 2월, 회사는 원래 엄격한 안전 정책을 수정했습니다: 과거에는 안전 조치가 모델 능력에 미치지 못할 경우 훈련이나 출시를 중단하겠다고 약속했으나, 새로운 정책은 회사가 더 높은 위험 단계에서 독자적으로 연구 개발을 중단할 것을 요구하지 않으며, 그 이유는 경쟁자가 이를 기회로 삼아 추월할 수 있기 때문입니다. 동시에 회사는 막대한 계산 능력을 투자하고 칩 팀을 구성했으며, Claude에게 더 많은 AI 연구 개발 임무를 맡겼습니다.10월 21일, Anthropic CEO Dario Amodei는 X에서 장문의 글로 반박했습니다. 그는 회사가 몇 가지 실수를 저질렀음을 인정했지만, 최첨단 AI 능력을 추구하는 것이 안전 임무를 위반하지 않았다고 주장하며, 회사는 기술의 최전선에 머물러야만 산업의 안전 기준을 높일 수 있는 능력을 갖출 수 있다고 말했습니다. 그는 회사가 상업적 대가를 치른 아홉 가지 안전 결정을 열거했으며, 여기에는 Mythos급 모델의 공개를 몇 달 동안 제한한 것과 생물학 관련 요청을 엄격히 제한한 것이 포함됩니다. 회사가 10월 19일 업데이트한 안전 로드맵에 따르면, 기존 정책은 위험한 모델 배포에 주로 초점을 맞추고 있으며, 향후 연구 개발 속도를 직접 제한해야 할 필요성이 있을 수 있으며, 2027년 1월 15일 이전에 관련 정책 방안을 제시하거나 제시하지 않은 이유를 설명할 계획입니다.

디지털 은행 Revolut가 X 플랫폼에 게시한 글에서 현재 서비스 중단을 겪고 있으며, 여러 서비스에 영향을 미치고 있다고 밝혔습니다. 회사는 모든 고객의 자금과 데이터가 안전하다고 확인했습니다.Revolut는 당일 오전 문제를 발견한 이후 팀이 계속해서 수리를 진행하고 있으며, 영향을 받은 사용자와 불편을 끼친 점에 대해 사과한다고 전했습니다.

OpenAI 최고 경영자 오트만은 지난주 직원들에게 안전하게 슈퍼 AI를 개발하기 위한 세 가지 방안을 소개했습니다. 첫 번째는 국제 원자력 기구와 유사한 글로벌 규제 조직을 설립하여 고급 모델을 검사하고 안전 조치를 감사하는 것입니다. 소식통에 따르면, 오트만은 이 경로를 선호한다고 합니다.두 번째는 유럽 입자 물리학 연구소를 본따서 주요 AI 연구소들이 하나의 조직으로 통합되거나 통합 기관을 통해 공동 연구를 진행하는 것입니다. 세 번째는 가장 극단적인 방안으로, 그가 "엘리저 방안"이라고 부르는 것입니다: 한 AI 회사가 먼저 재귀적 자기 개선을 실현하고, 압도적인 경제력을 바탕으로 컴퓨팅 파워를 통제하여 다른 개발자들이 따라잡지 못하게 하는 것입니다. 오트만은 이 구상을 "다른 모든 회사의 GPU를 녹여버리는 것"이라고 설명하며, 이 방안이 매우 나쁘다고 언급했습니다. 이는 가능성을 설명하기 위한 극단적인 예일 뿐입니다."GPU를 녹여버리는" 구상은 AI 안전 연구자 엘리저 유드코우스키에서 비롯되었습니다. 그는 2021년에 사고 실험을 제안하며 슈퍼 AI가 스스로 복제할 수 있는 나노 기계를 만들어 전 세계의 GPU를 녹여버리는 것을 제안했습니다. 그는 이것이 개입의 강도를 설명하기 위한 극단적인 사례일 뿐, 실행을 주장하는 방안이 아니라고 밝혔습니다. OpenAI는 2023년에 "AI 버전 국제 원자력 기구" 설립을 제안했으며, Google DeepMind의 책임자인 하사비스도 "AI 버전 CERN" 설립을 주장한 바 있습니다. 현재 OpenAI, Google, Anthropic은 올해 말이나 내년 초에 공동 안전 기준 조직을 설립할 계획이지만, 모델 안전 테스트 책임의 귀속에 대해서는 이견이 있습니다. 오트만은 AI 개발에 속도 제한을 설정하기를 희망하며, OpenAI가 현재 경쟁 우위를 경쟁자에게 양보할 수 없다고 밝혔습니다.

블록체인 보안 기관 Salus의 모니터링에 따르면, Aztec Connect 공격자는 10월 19일 30건의 거래를 통해 Tornado Cash에 1,255.8 ETH(약 301만 달러)를 입금했습니다. 배치는 12건의 100 ETH, 5건의 10 ETH, 5건의 1 ETH 및 8건의 0.1 ETH로 구성되어 있습니다.공격자는 6월 14일에 더 이상 사용되지 않는 Aztec Connect 계약의 결제 검증 취약점을 이용하여 약 219만 달러의 자산을 탈취했으며, 여기에는 908.987 ETH와 DAI, wstETH 및 Yearn 금고 토큰이 포함됩니다. 자금이 약 4개월 동안 보유된 후, 공격자는 10월 19일 금고 토큰을 상환하여 토큰 자산을 다른 346.767 ETH로 교환했습니다. 현재 도난당한 6종의 ERC-20 토큰 잔액은 모두 0이 되었습니다.

10월 15일, Anthropic은 비영리 조직 METR의 한 팀에 직원과 유사한 접근 권한을 제공하기 시작했다고 발표했습니다. 이는 모델과 안전 관행을 평가하기 위한 것입니다. 회사는 지난달 독립적인 제3자 평가를 강화하겠다고 약속했으며, 백악관의 '슈퍼 인텔리전스 협약'에 서명했습니다. 이 협약에는 독립 외부 감사자 또는 평가자와 협력하겠다는 약속이 포함되어 있습니다. 지난 1년 동안, Anthropic은 METR과 협력하여 여러 개의 위험 보고서를 검토했으며, METR은 그 위험 평가 결과를 발표할 것입니다.Anthropic은 6명의 METR 직원에게 회사 하드웨어, 사무 공간, 그리고 자체 위험 평가 팀과 대략 동등한 내부 도구 및 시스템 접근 권한을 제공했습니다. 고객 데이터, 변호사와 고객의 특권 정보, 모델 아키텍처 정보 등 몇 가지 명확한 범주를 제외하고, 직원들은 정렬 위험 작업을 수행하는 동료를 대하듯 정보를 공유하도록 권장받고 있습니다. METR은 위험 수준, 사건 또는 관행에 대한 분석을 발표할 수 있으며, Anthropic은 발표를 거부할 수 없지만, 미리 정의된 좁은 범주의 정보를 삭제해 달라고 요청할 수 있습니다. METR은 삭제 상황을 공개할 수 있으며, 삭제된 내용을 유출하지 않는 범위 내에서 삭제가 합리적이라고 생각하는지 설명할 수 있습니다. 이 arrangement은 실행 가능한 계약 하에 작업하는 소규모 팀에만 국한되며, 다른 METR 직원들은 해당 팀과의 작업이 분리되어 있습니다.Anthropic은 동시에 SecureBio, Accenture와 협력하여 평가를 진행하고 있으며, Hugging Face를 포함한 다른 조직과 초기 논의를 진행하고 있습니다. SecureBio는 2026년 8월 위험 보고서의 화학 및 생물 무기 장을 검토하고 있으며, 이전 위험 보고서에 대한 파일럿 검토를 완료하고 발표했습니다.

칩 회사 엔비디아의 CEO 황인훈은 CNBC에 회사가 중국 인공지능 회사와 협력하여 관련 위험을 모니터링해야 한다고 말했다. 그는 런던에서 수요일 저녁에 열린 언론 브리핑에서 양측이 서로 협력하여 안전하게 기술 발전을 추진해야 한다고 말했다. 황인훈은 인공지능이 잠재적인 위험을 가지고 있다고 언급하며, 자신이 중국의 많은 연구자들과 지속적인 대화를 유지하고 있다고 밝혔다.황인훈은 중국 인공지능 회사와 협력하는 방법은 대화이며, 대화를 강화해야 한다고 말했다. 그는 미국이 그렇게 해야 하며, 자신도 영국이 같은 방식으로 행동해야 한다고 주장했다. 페이지에 따르면, OpenAI CEO 샘 올트먼과 앤트로픽 CEO 다리오 아모데이는 규제를 강화해야 한다고 주장했으며, 황인훈은 이 입장에 반대하는 두드러진 목소리가 되었다. 최근 몇 달 동안 OpenAI와 앤트로픽을 포함한 연구자들은 기술 발전을 늦추고 인류의 생존 위험에 대해 경고할 것을 촉구했다.페이지는 또한 미국 재무장관 스콧 베센트가 9월에 중국의 관련 관료 허리펑과 미중 인공지능 대화에 대해 논의했으며, 내용에는 국가 안보 수준의 사건 소통 채널이 포함되었다고 언급했다. 중국 측은 시진핑이 중미 간 인공지능에서 경쟁이 있을 수 있지만, 협력의 공간이 더 클 수 있다고 지적했으며, 양측이 위험과 이익에 대해 의견을 교환하고 남용을 방지하기 위해 함께 노력할 수 있다고 밝혔다. 황인훈은 영국이 지적 자본을 바탕으로 관련 대화의 소집자가 될 조건이 있다고 말했다. 문서에 연결된 시장 정보에 따르면, 엔비디아 주가는 3.95달러 하락하여 하락률은 1.78%에 달했다.

The Defiant에 따르면, Safe는 이더리움, Gnosis 체인 및 Arbitrum에서 Safenet Aegis 보안 네트워크를 출시했다고 발표했습니다. 이는 Safenet의 첫 번째 비용 발생 및 생산 환경을 위한 버전으로, 이전에 SafeDAO는 SEP 56 제안을 통해 자금 및 시작을 승인했습니다. 이 네트워크는 거래 검사와 거래 승인을 분리하여 Safe 다중 서명 지갑과 같은 스마트 계정에 거래 보안 검증을 제공합니다.Safenet은 세 가지 역할로 구성됩니다: Sentinel은 거래를 검사하고 USDC 채권을 스테이킹하여 USDC로 계산된 검사 수수료를 받을 수 있습니다; Validator는 SAFE를 스테이킹하여 증명 계층을 보장하고 SAFE 보상을 받을 수 있습니다; Delegator는 SAFE를 Validator에 위임하고 스테이킹 보상에 참여할 수 있습니다. Safenet Guard는 체인에서 증명 결과를 실행하며, 관련 프로토콜 매개변수는 SafeDAO가 관리합니다.현재 Sentinel 집합에는 OpenCover, IntentGuard, BlockSec 및 Candide가 포함되어 있으며, Validator 집합에는 Gnosis, Greenfield, Core Contributors 및 Safe Labs가 포함되어 있습니다. Safenet은 이후 거래 검사를 Safe Wallet에 통합하여 거래 검토 단계에서 검사 결과를 표시하고, Safe 스마트 계정을 기반으로 구축된 다른 지갑의 접속을 지원할 예정입니다.

Vitalik은 X 플랫폼에서 @zksync의 Airbender 팀이 이 이정표를 달성한 것을 축하한다고 발표했습니다. 그는 zkEVM의 속도 경쟁이 결정적인 승리를 거두었으며, 최우선 과제는 안전성으로 전환해야 한다고 생각합니다.Vitalik은 이것이 수학적 정당성과 이더리움 규격의 동등성, 증명자 비용과 블록 Gas 총량 비율의 경직된 상한선, 그리고 증명 시스템 자체의 안전성을 공식적으로 검증해야 함을 의미한다고 밝혔습니다.

엔비디아 CEO 황인훈은 회사가 안전하지 않은 인공지능을 개발하는 고객과의 협력을 중단할 것이라고 밝혔습니다.

합성 달러 프로토콜 Ethena의 창립자이자 CEO인 Guy Young은 지난 48시간 동안 사용자가 대형 투자자 지갑이 토큰을 전송하는 것을 주목했다고 밝혔습니다. 그는 관련 전송이 보안 예방 조치에 해당하며 최근 하드웨어 지갑에 대한 우려와 관련이 있다고 확인했으며, 토큰이 전송된 후 판매된 것이 아님을 강조했습니다.Guy Young은 X에서 위와 같은 설명을 하며 대형 지갑의 체인 상 움직임에 대한 커뮤니티의 관심에 응답했습니다. 그는 관련 작업이 보안 고려에 따라 취해진 예방 조치이며, 투자자가 보유한 토큰을 매도하고 있다는 것을 의미하지 않는다고 강조했습니다.

엔비디아는 향후 5년 동안 2억 5천만 달러를 투자하여 영국의 에이전시 보안 및 안전 연구를 촉진할 것이라고 약속했습니다. 회사는 매년 영국 에이전시 보안 연구에 5천만 달러의 컴퓨팅 자원 지원을 제공할 것이라고 밝혔습니다.

10월 14일, 금십 데이터 보도에 따르면, AI 회사 Anthropic은 워싱턴에 위치한 연방 항소 법원에 9월 25일에 내려진 판결을 재심리해 줄 것을 요청했다. 해당 판결은 트럼프 정부가 Anthropic을 미국 국가 안전에 위협이 되는 공급망 위험 기업으로 간주한 결정을 유지했다.Anthropic은 판사가 법률을 잘못 해석했다고 주장하며, 국방부가 사전 판단 절차 없이 조치를 취할 수 있도록 허용했다고 말했다. 회사는 또한 인공지능 안전 문제에 대한 의견을 발표한 것에 대한 보복으로 이 판단이 내려졌다는 명확한 증거가 있다고 주장했다.