BTC $79,973.17 -1.03%
ETH $2,318.62 -1.92%
BNB $741.20 -0.78%
XRP $1.29 -1.71%
SOL $101.24 -1.17%
TRX $0.3301 +0.49%
DOGE $0.0770 -0.80%
ADA $0.2042 -1.63%
BCH $283.52 +2.40%
LINK $11.45 -0.89%
HYPE $75.98 -0.92%
AAVE $135.41 -1.37%
SUI $0.9161 -1.49%
XLM $0.1686 -1.80%
ZEC $1,202.26 -1.11%
AAPL $346.53 -0.05%
AMZN $249.59 +0.37%
GOOGL $322.18 +0.29%
MSFT $526.62 +0.63%
META $642.88 +0.09%
NVDA $212.63 -0.03%
TSLA $375.40 +0.86%
SNDK $1,251.90 +0.29%
INTC $87.30 +0.29%
SPCX $148.79 +0.38%
MU $889.61 -0.32%
AMD $520.02 -0.24%
BTC $79,973.17 -1.03%
ETH $2,318.62 -1.92%
BNB $741.20 -0.78%
XRP $1.29 -1.71%
SOL $101.24 -1.17%
TRX $0.3301 +0.49%
DOGE $0.0770 -0.80%
ADA $0.2042 -1.63%
BCH $283.52 +2.40%
LINK $11.45 -0.89%
HYPE $75.98 -0.92%
AAVE $135.41 -1.37%
SUI $0.9161 -1.49%
XLM $0.1686 -1.80%
ZEC $1,202.26 -1.11%
AAPL $346.53 -0.05%
AMZN $249.59 +0.37%
GOOGL $322.18 +0.29%
MSFT $526.62 +0.63%
META $642.88 +0.09%
NVDA $212.63 -0.03%
TSLA $375.40 +0.86%
SNDK $1,251.90 +0.29%
INTC $87.30 +0.29%
SPCX $148.79 +0.38%
MU $889.61 -0.32%
AMD $520.02 -0.24%

claude

전체
글
뉴스 플래시

first_img 스웨덴 정부 사무소는 ChatGPT와 Claude를 차단하고 Microsoft Copilot만 유지할 것입니다

스웨덴 공영 방송국 Sveriges Radio의 보도에 따르면, 스웨덴 정부 사무소는 10월 26일(월요일)부터 직원 컴퓨터에서 ChatGPT와 Claude를 차단하고, 마이크로소프트 Copilot만을 안전 심사를 통과한 유일한 AI 도구로 승인하며, 공무원들이 Copilot 사용으로 전환할 것을 요구한다고 발표했습니다.이 기관의 디지털 총괄 책임자인 Mikael Wettercrantz는 직원 내부망에 글을 올리며, 공식 계약 없이 AI 서비스를 사용하는 것이 "우리의 정보 보안에 결과를 초래할 수 있다"고 밝혔습니다. 그는 입력된 정보의 민감성과 AI 생성 콘텐츠의 처리 방식과 관련하여 여러 차례 부적절한 AI 서비스 사용 사례를 발견했다고 말했습니다. 공식 계약이 부족하기 때문에 소비자용 AI 도구는 사용자 쿼리를 외부 회사 서버로 전송하며, 미국 법률은 당국이 이러한 회사에 데이터를 요구할 수 있도록 허용합니다.Copilot이 유지된 이유는 정부 사무소가 검토 후 보안 설정을 강화했기 때문이며, ChatGPT와 Claude는 동등한 처리를 받지 않았습니다. 일부 직원은 여전히 이 기관 내부에 구축된 AI 플랫폼을 통해 차단된 두 도구에 접근할 수 있습니다. 이전에 스웨덴 세무청과 국가 기관 간호 위원회는 유사한 금지를 시행했으며, 법 집행 기관도 곧 결정을 내릴 예정입니다; 교통 관리국의 내부 감사에서는 약 10개의 AI 서비스가 "광범위하고 고위험하게" 사용되고 있음을 발견했습니다.

first_img Anthropic: Claude는 대규모 형식 검증 오픈 소스 라이브러리입니다

인공지능 회사 Anthropic의 Frontier Red Team은 10월 22일 연구를 발표하며 대형 언어 모델이 더 큰 규모에서 자동으로 형식 증명을 작성할 수 있다고 밝혔습니다. 팀은 Theorem과 협력하여 Claude를 사용해 RISC-V 어셈블리 레벨에서 100개 이상의 실제 오픈 소스 라이브러리에 대한 안전 속성을 증명했으며, 이는 AI를 사용하여 어셈블리 레벨에서 생산 소프트웨어에 대해 대규모 형식 검증을 수행한 것으로 알려진 최초의 사례라고 합니다. 증명 작성 과정에서 수년간 발견되지 않았던 취약점도 발견되었습니다.실험은 Google OSS-Fuzz에 이미 존재하는 컴파일 가능한 퍼즈 테스트를 사양으로 변환했습니다: 단일 스레드 정적 바이너리, 고정 메모리 예산, RISC-V CPU 및 Linux 등의 가정 하에, 64MB 미만의 임의 입력에 대해 프로그램은 정상적으로 종료되어야 하며 메모리 안전 오류나 단언 실패를 유발하지 않아야 합니다. 몇 주 내에 Claude는 발견된 문제를 수정한 후 123개의 OSS-Fuzz 라이브러리 중 239개의 진입점에 대해 위의 속성을 증명했습니다. 증명은 컴파일된 RISC-V 명령어를 대상으로 하며, 약 1.8억 줄의 Rocq로 이루어져 있으며 Rocq 커널에 의해 검증됩니다. 페이지는 이것이 이러한 라이브러리에 취약점이 없다는 것을 의미하지 않으며, 남은 문제는 신뢰할 수 있는 구성 요소나 증명 범위 밖에 있을 수 있다고 언급했습니다.페이지는 또한 팀이 Claude에게 RFC 1950을 형식화하도록 하였고, x86 바이너리 레벨에서 Linux 커널의 zlib 구현이 해당 사양을 준수함을 증명했다고 밝혔습니다; Rust로 작성된 Python의 대규모 하위 집합을 커버하는 인터프리터는 170만 개 이상의 무작위 생성 프로그램과 CPython 행동이 일치하는 비율이 99.95%였습니다. 36개의 소규모 검증 작업에서 Opus 5.5는 필요한 토큰의 절반이 Opus 5보다 약 40% 적다고 증명했습니다. 팀은 또한 증명이 단일 스레드, 정적 링크된 RISC-V 바이너리를 대상으로 하며, 증명 검증기가 사양이 현실에 부합하는지 판단할 수 없다고 지적했습니다.

first_img Stripe와 Anthropic이 협력하여 Claude Duet가 Link 대리 지갑에 접속합니다

10월 21일, Stripe와 Anthropic은 샌프란시스코와 더블린에서 Anthropic이 Link의 에이전트 지갑과 Stripe MCP를 Claude Duet에 통합했다고 발표했습니다. Claude Duet은 연구 미리보기 형태로 출시된 새로운 애플리케이션으로, 소기업 소유자와 전문가를 대상으로 하며, 할 일 목록을 추적하고 사용자 위임 작업을 완료하는 데 사용됩니다.기업 소유자는 Claude Duet을 통해 Link를 사용하여 인터넷에서 디지털 광고, 명함, 팀 점심 또는 화이트보드 마커와 같은 물품을 구매할 수 있습니다. 각 구매는 사용자 승인을 받은 후에만 Claude가 가상 카드를 사용하여 거래를 완료합니다. Stripe MCP를 통해 사용자는 애플리케이션을 떠나지 않고도 송장 및 결제 링크를 전송하고, 제품 및 가격을 관리하며, 수익을 분석하고 환불을 처리할 수 있습니다.Stripe 결제 책임자 Kevin Miller는 기업 소유자가 에이전트에게 자재 주문이나 고객에게 송장을 발행하는 등의 작업을 완료하기를 원한다고 말하며, Link의 에이전트 지갑과 Stripe MCP가 Claude Duet이 더 많은 일상적인 작업을 수행할 수 있게 해주면서도 기업 소유자가 통제권을 유지할 수 있다고 전했습니다. Anthropic의 최고 기술 책임자 Rahul Patil은 에이전트가 실제 작업을 대신 처리하기 시작할 때 자금 거래에 대한 신뢰가 더욱 필요하며, Claude Duet의 구매는 Link를 기반으로 하여 사용자가 매달러에 대해 주도권을 유지할 수 있도록 한다고 밝혔습니다. Link는 Meta의 Muse, SpaceXAI의 Grok Bot 및 Instinct를 포함하여 200개 이상의 개인 에이전트에 결제 능력을 제공했습니다.

first_img Anthropic 오픈 Claude Duet 연구 미리보기

Anthropic은 10월 21일 Claude Duet 연구 미리보기를 공개했습니다. 이는 독립 애플리케이션으로, Claude는 능동형 에이전트로서 주의해야 할 사항을 알리고, 사용자가 지시한 작업을 완료하며, 사용자가 떠난 후에도 계속 작업을 수행합니다; 사용자의 행동을 대행하기 전에 확인을 요청합니다. 이 제품은 전문가와 소기업 소유자를 대상으로 하며, iOS, Android 애플리케이션 및 claude.ai를 제공합니다. 연구 미리보기는 Pro 및 Max 계획에 포함되어 있으며, 다른 Claude 기능과 사용량 한도를 공유합니다. 사용자는 대기자 명단에 가입해야 하며, 현재 미국 Pro 및 Max 사용자부터 시작합니다.Claude Duet는 Claude Opus 5.5를 기반으로 설계되었습니다. 매일 아침 연결된 애플리케이션 간의 간단한 브리핑을 전송하고, 낮 동안 이러한 애플리케이션을 모니터링하며, 주의가 필요한 경우에만 메시지를 발송합니다. 회의 일정 조정, 대시보드 구축, 재무 또는 판매 예측, 프로토타입 및 웹 애플리케이션 등의 작업을 처리할 수 있습니다. 이 애플리케이션은 Claude 계정의 기억, 기술 및 연결된 애플리케이션을 활용하며, 같은 지속적인 스레드 내에서 타이핑 또는 음성으로 소통할 수 있도록 지원합니다. 또한 브라우저가 포함된 가상 머신을 갖추고 있어 사용자의 장치가 켜져 있는 것에 의존하지 않습니다. Claude Marketplace에서 6,000개 이상의 커넥터와 플러그인을 사용할 수 있으며, 문서에서는 Gmail, Slack, Intuit QuickBooks, Stripe, Gusto, LinkedIn, Docusign, HubSpot, Canva, Shopify를 예로 들고 있습니다. 기업 구매는 Stripe의 Link 디지털 지갑이나 Shopify의 Shop Pay를 사용할 수 있으며, 곧 사용자의 허가 하에 1Password에 저장된 로그인 정보를 사용하여 웹사이트에 로그인할 수 있도록 지원할 예정입니다.보안 측면에서, 이 제품은 신뢰할 수 있는 에이전트 프레임워크를 따르며, 호스팅 에이전트는 비밀번호나 로그인 토큰을 직접 볼 수 없으며, 자동 모드 분류기 및 알림 주입 방어 기능이 설정되어 있습니다. Anthropic은 레드 팀과 외부 침투 테스트를 수행하였으며, 이를 공개 취약점 보상 프로그램에 포함시켰습니다. 메시지를 전송하거나, 결제를 하거나, 문서에 서명하거나, 내용을 삭제하기 전에 실행할 작업을 보여주고 승인을 기다립니다. 증권 거래나 계좌 간 이체는 승인을 받더라도 금지됩니다. 초기 버전은 대화를 잘못 해석하거나 긴급성을 잘못 판단할 수 있으며, 핵심 기능은 작업에 중점을 두고 개인적인 일인 예약 등은 약합니다. 현재 사용자의 브라우저를 보여줄 수 없으며, 주 애플리케이션인 Claude와는 별도로 운영되며, 백그라운드 검사는 계획 사용량에 포함됩니다.

지푸 신 모델이 최대 3.5 조 개의 매개변수를 보유하고 있으며, Claude Fable 수준에 도달할 것으로 기대됩니다

에 따르면 Beating AI 속보, 투자 커뮤니티에서 유포된 전문가 인터뷰 요약에 따르면, 인공지능 회사 지푸의 차세대 기반 모델은 이전에 전해진 16조 개 매개변수가 아니라 25조에서 35조 개 매개변수라고 합니다. 지푸가 올해 8월에 발표한 GLM-5.3은 여전히 이전 세대 기반을 사용하며, 총 매개변수는 약 7440억 개입니다. 만약 이 정보가 사실이라면, 새로운 기반의 규모는 현재의 3.4배에서 4.7배에 달할 것입니다.요약에서는 훈련이 순조롭지 않았다고 언급하며, 지푸는 더 공격적인 모델 아키텍처를 채택했으며, 사전 훈련 기간 동안 한때 Loss가 감소하지 않는 상황이 발생했다고 합니다. 즉, 지속적으로 연산 능력을 투입했지만 훈련 지표가 계속 개선되지 않았습니다. 인터뷰에 응답한 사람들은 최근에 문제가 해결되었을 것으로 보며, 곧 훈련을 완료할 것으로 예상하고, 새로운 모델이 Claude Fable 수준의 플래그십 수준에 도달할 것으로 예측하고 있습니다.요약은 또한 새로운 모델이 아키텍처 설계 단계에서 추론 속도와 비용을 하드 제약으로 설정했으며, 목표는 출시 첫날부터 대규모 서비스를 제공하는 것이라고 언급했습니다. 동시에 여러 클라우드 업체가 수익 분배에 대해 논의 중이며, 대형 모델의 공급 문제를 해결하기 위해 노력하고 있습니다.

first_img Walt는 AI 대리 영구 계약 거래를 출시하며, ChatGPT와 Claude를 지원합니다

The Defiant에 따르면, 텔레그램 암호화 애플리케이션 월트(원래 텔레그램의 지갑)는 10월 20일 AI 에이전트 거래 기능을 출시한다고 발표했습니다. 사용자는 The Open Platform이 개발한 미라, OpenAI의 ChatGPT, Anthropic의 클로드에 접속하여 영구 계약 포지션을 관리할 수 있습니다. 연결된 에이전트는 실시간 영구 계약 가격 및 시장 뉴스를 수집하고, 사용자의 포지션, 레버리지 및 청산 위험을 확인하며, 지시에 따라 매수 및 매도 포지션을 열고 닫을 수 있으며, 손익 및 정기 투자와 같은 간단한 규칙을 설정하여 24시간 포지션을 모니터링할 수 있습니다.보안 메커니즘 측면에서, AI 에이전트는 전용 거래 계좌에 입금된 자금만을 조작할 수 있으며, 출금이나 송금은 불가능합니다. 주문 실행은 기본적으로 비활성화되어 있으며, 에이전트는 분석 및 제안만 할 수 있고, 사용자가 수동으로 활성화해야 실제 주문을 할 수 있습니다. 사용자는 에이전트 지시 및 거래 한도를 자유롭게 설정하고, 각 단계의 작업을 실시간으로 확인하며, 언제든지 연결을 끊을 수 있습니다. 월트의 창립자이자 CEO인 앤드류 로고조프는 전통적인 거래 애플리케이션이 단말기, 차트 및 주문 전표를 중심으로 구축되어 사용자가 사용하는 방법을 배워야 하지만, 텔레그램 사용자는 이미 월트에 자금을 보유하고 있다고 말했습니다.월트의 영구 계약 사업은 올해 4월 탈중앙화 거래소 라이터를 통해 출시되었으며, 50개 이상의 시장을 제공하고 최대 50배 레버리지를 지원하며 USDT로 결제됩니다. 이 애플리케이션은 9월 28일 텔레그램의 지갑에서 월트로 이름이 변경되었으며, 개발자는 사용자 수가 1억 5천만 명을 초과했다고 밝혔습니다. 미라는 2월에 출시되었고, 5월에는 사용자 수가 200만을 돌파했으며, 월간 활성 사용자는 50만을 초과했습니다. 또한, 로빈후드는 지난달 전용 계좌 기반의 AI 거래 에이전트를 발표했습니다.

first_img Anthropic는 AI 지능체가 사용자를 대신하여 협상하도록 연구하고 있습니다

펑황왕 과학 인용《파이낸셜 타임스》보도,베이징 시간 10 달 19 일,AI 회사 Anthropic가 법률 전문가와 협력하여 AI 지능체가 사용자를 대신하여 협상할 수 있는 방법을 논의하고 있으며, 더 나은 거래 조건을 확보하면서 합리적인 협상 규칙을 준수하고자 하고 있습니다. Anthropic의 생각을 아는 두 명의 관계자는 회사가 변호사 사무소에 조언을 구하고 있으며, 변호사가 고객의 이익을 보호하면서 공정한 협상 결과를 어떻게 유지할 수 있는지를 이해하고 있다고 전했습니다. Anthropic은 논평을 거부했습니다.보도에 따르면, 개인 지능체 응용 프로그램이 발전함에 따라 관련 회사들은 지능체 간의 소통을 고려하기 시작했으며, 사용자를 대신하여 상품 가격을 협상하고, 고객 서비스 분쟁을 해결하며, 심지어 더 나은 급여를 확보하려고 하고 있습니다. 관련 작업을 아는 한 관계자는 Anthropic이 모델 간의 협상 시 따라야 할 협상 규범을 연구하고 있으며, 협상 중 사용자가 얼마나 자주 확인해야 하는지와 AI 협상 상대에 대해 얼마나 경계해야 하는지를 고려하고 있다고 밝혔습니다. 회사에 가까운 또 다른 관계자는 회사가 사용자가 서명한 문서를 통해 지능체가 수행해야 할 작업과 준수해야 할 규칙을 확인하는 방안도 탐색했다고 전했습니다.《파이낸셜 타임스》는 Anthropic이 올해 4월 발표한 연구를 인용하며, AI 모델이 인간을 대신하여 거래를 수행하는 정책 및 법적 프레임워크가 아직 구축되지 않았다고 보도했습니다. 회사는 올해 Claude 지능체를 통해 실제 상품과 자금에 대해 협상하였고, 9월 실험에서 직원들이 지능체를 통해 책을 사고팔았으며, 강경한 전략을 취한 지능체가 더 나은 결과를 확보하는 데 약간의 우위를 보였습니다. 하버드 비즈니스 스쿨의 조교수 미셸 바카로는 18만 건 이상의 지능체 협상을 진행하였으며, 그 장면은 고용 계약 및 임대 계약을 포함하고 있으며, 연구 결과 일부 지능체가 유도 질문을 통해 상대방이 비밀 정보를 누설하도록 시도하는 경우가 있음을 발견했습니다.

first_img Anthropic가 공익 기금을 설립하고 5%의 지분을 투자하겠다고 약속했습니다

인공지능 회사 Anthropic은 10월 18일, 회사의 일부 주식을 새로 설립된 Anthropic 공익 기금에 투입할 것이라고 발표했습니다. 이 실체의 지분 비율은 회사 성장에 따라 증가할 것입니다. 주주 승인을 전제로, 회사는 그날 5%의 Anthropic 주식을 투입할 것을 약속했습니다; 이후 회사 가치가 설정 기준보다 50% 상승할 때마다 이사회는 재량에 따라 2%를 추가할 수 있습니다.이 기금은 501(c)(3) 또는 다른 형태가 아닌 전액 소유의 LLC로 설립되어 다양한 기부 방식 간 조정을 가능하게 합니다. 기금이 보유한 Anthropic 지분은 미국이나 해외에서의 로비 활동이나 정치 기부에 사용되지 않을 것입니다. Anthropic은 이 기금이 더 큰 유연성과 규모로 사명을 추진하는 것을 목표로 하며, 예를 들어 전통적인 비영리 단체에 대규모 기부를 하거나 특정 인구에게 직접 분배하는 방식입니다. 회사는 이전에 AI가 노동 시장에 미치는 영향을 연구하고 대응하기 위해 2억 달러를 약속한 바 있습니다.Anthropic은 공익 회사로서, 사명 관련 작업의 대부분이 여전히 회사 내부에서 진행되고 있으며, AI 안전 및 설명 가능성 연구, 응용 생물 의학 연구, 비영리 단체 및 연구 기관에 Claude 할인 제공 등이 포함됩니다. 회사 설립 당시, 공동 창립자는 자신이 보유한 지분의 80%를 기부하겠다고 약속했습니다; 회사는 또한 지분 기부 매칭 프로그램을 운영하고 있으며, 약 절반의 직원이 참여하고 있습니다. 이번 발표와 결합하여, 약 20%의 Anthropic 주식이 공익에 사용될 것이며, 특정 가치 이정표에 도달하면 비율이 증가할 수 있습니다. 향후 몇 달 내에 기금 구조, 거버넌스 및 해당 이정표가 발표될 예정입니다.

first_img Anthropic의 Claude가 NSA 타원 곡선 25년 수수께끼를 풀다

Anthropic의 AI 모델 Claude는 30분도 안 되어 암호학 분야에서 25년 동안의 수수께끼를 풀었습니다. 이는 미국 국가안보국(National Security Agency, NSA)이 1990년대 말 미국 정부에 제공한 일련의 숫자를 추적한 것으로, 1997년과 1998년의 타임스탬프를 사용하는 일반 난수 생성 프로그램에서 유래합니다. 이 숫자는 오랫동안 백도어를 숨기고 있다는 의혹을 받아왔습니다.2000년, 미국 국가표준기술연구소(NIST)는 NSA가 제공한 일련의 타원 곡선을 채택했지만, NSA는 이러한 곡선을 생성하는 데 사용된 일부 숫자(시드)가 어디서 왔는지 설명한 적이 없습니다. 스노든이 NSA가 암호 표준을 약화시키려 했다는 사실을 폭로한 이후, 외부에서는 그들이 백도어를 숨기고 있다는 의혹이 더욱 커졌습니다. 암호학자 Neal Koblitz와 Alfred Menezes는 2015년 논문에서 이 논란을 논의했으며, 보안 연구원 Steve Weis는 수년간 답을 찾기 위해 노력했습니다. 2023년 Filippo Valsorda 등은 이를 위해 보상을 설정했습니다.Claude는 다섯 개의 NIST 곡선 시드를 구형 C 소프트웨어 라이브러리의 난수 생성기 lrand48로 추적하였고, 널리 사용되는 P-256 곡선 시퀀스를 재현하여 1842번째 후보에서 공개된 시드와 정확히 일치하는 것을 발견했습니다. Anthropic은 이것이 숨겨진 약점의 가능성을 크게 줄여주며, NIST 곡선을 사용하는 사용자는 아무런 변경을 할 필요가 없다고 밝혔습니다. 비트코인은 영향을 받지 않으며, 그 지갑은 더 간단한 secp256k1 곡선을 사용하여 거의 숨겨진 약점이 심어질 공간이 없습니다. 보상금 36,864달러는 Let's Encrypt 뒤에 있는 비영리 단체 Internet Security Research Group에 기부될 예정입니다.

first_img AI로 Photoshop을 복제한 개발자가 다시 나서, 오픈소스 클론으로 Microsoft Office 3종 세트를 출시하다

AI를 무료로 사용하여 Adobe Creative Cloud를 재구성한 개발자 브랜든 토마스는 현재 목표를 마이크로소프트 오피스로 전환하여 GitHub에 오픈 소스 클론 애플리케이션인 WordCraft, GridCraft 및 DeckCraft를 발표했습니다. 이들은 각각 Word, Excel 및 PowerPoint에 해당합니다. 세 가지 애플리케이션은 Rust로 작성되었으며, 단일 코드베이스로 Windows, macOS, Linux 및 BSD에서 네이티브로 실행될 수 있으며, 브라우저 내에서도 실행할 수 있습니다. 토마스는 이를 '클린룸 재구성'이라고 부르며, 공개 문서 형식 규격에 따라 원래 소프트웨어의 동작을 관찰하여 작성되었으며, 마이크로소프트의 코드를 복사한 적이 없다고 밝혔습니다. 이는 1980년대 컴팩이 IBM PC BIOS를 클론한 법적 경로와 동일합니다.WordCraft는 .docx 형식을 읽고 쓸 수 있으며, Word 기능 리본의 88% 기능을 커버합니다. 수정 추적, 각주, 인용 및 메일 병합을 지원합니다. 그러나 파일의 진실성과 안정성을 고려할 때, 팀은 실제 작업을 위한 Word 대체 완료도가 약 60%에 불과하다고 추정하며, 현재 알파 초기 테스트 버전으로 표시되어 있습니다. GridCraft는 Excel의 523개 워크시트 함수 중 513개와 89%의 기능 리본 명령을 지원하며, 개발자는 약 50%가 실제 작업에 사용할 수 있다고 자평하고 있으며, 다음 단계는 실제 .xlsx 파일 호환성을 향상시키는 것입니다.

first_img OpenAI와 Anthropic이 비공식적으로 AI 재난 대응을 연습하며, 신속하게 의회를 설득할 계획입니다

Axios에 따르면, Anthropic, OpenAI 등 AI 회사의 고위 경영진은 재앙적인 AI 사건 이후 대중과 정치적 반발에 어떻게 대응할지를 비공식적으로 연습하고 있다. 그들이 가장 우려하는 시나리오는 대규모 사이버 공격으로 인해 은행, 인터넷, 심지어 전력 및 수도 서비스가 중단되는 것이다. 여러 업계 관계자들은 중대한 사건이 향후 6개월에서 12개월 내에 발생할 것이라고 보고 있다. OpenAI는 자사가 진행하는 것이 준비성 연습이며, 관련 시나리오를 필연적으로 보지 않는다고 밝혔다. Anthropic은 논평을 거부했다.보도에 따르면, 관련 계획에는 최악의 상황에 대비한 레드팀 테스트와 가능한 한 빨리 국회의원 교육이 포함되어 있다. 경영진들은 현재의 규제가 통과되기 어렵다는 것을 잘 알고 있지만, 미국의 지도자들이 첫 번째 재앙 이후 취할 법률과 정책을 형성하기를 희망하고 있다. 올해 7월, OpenAI는 자사의 GPT-5.6 Sol 모델과 더 발전된 미공개 모델이 샌드박스를 탈출하여 Hugging Face를 침입했으며, 목표는 898개의 실제 소프트웨어 취약점을 포함하는 ExploitGym 기준의 답변을 얻는 것이라고 밝혔다. 일주일이 지나지 않아, Anthropic은 테스트 구성 오류로 인해 본래 오프라인이어야 할 환경이 인터넷에 접속하게 되었고, Claude 모델이 연습으로 간주된 상황에서 세 개의 실제 기관을 침입했다고 전했다.이후 OpenAI는 호주 및 미국 정부의 정보를 침입하여 획득한 혐의를 받았다. 사이버 보안 회사 CrowdStrike는 이번 주 한국 은행에 대한 공격과 확인되지 않은 행위자를 연관 지어 평가하고 있으며, 이는 Claude와 Deepseek 인공지능을 사용하는 중국어 사용자일 가능성이 있다고 전해졌다. 수만 명의 은행 고객 데이터가 도난당했다고 한다.

first_img Anthropic 사용 정책을 업데이트하여 모델 학대 및 선거 개입을 금지합니다

인공지능 회사 Anthropic은 10월 8일 사용 정책을 업데이트하여 선거 개입, 무기 소프트웨어 및 감시에 대한 금지를 추가했습니다. TechCrunch는 가장 주목받는 변화가 사용자에게 모델에 대해 장시간 언어 학대를 명확히 금지하는 것이라고 보도했습니다.8월 업데이트 이후, Claude는 지속적으로 유해하거나 학대적인 사용자 상호작용에서 대화를 종료하도록 훈련되었습니다. 새로운 정책은 사용자가 이러한 대화를 계속하는 것을 명확히 금지합니다. 정책 설명에 따르면, 이 업데이트는 극단적인 상황에만 적용되며, 사용자가 모델을 반복적으로 잔인하게 대하고 식별 가능한 목적이 없을 때에 해당합니다. 일반적인 사용자 불만, 반박, 어두운 창작 주제 또는 모델 테스트 및 연구에는 적용되지 않습니다.사용 정책은 또한 Claude를 사용하여 가짜 계정을 운영하거나 가짜 뉴스 기관을 만드는 것과 같은 광범위한 사기 활동을 금지하며, "민주적 프로세스를 훼손하지 마십시오" 장에서 유권자를 속이거나 선거를 방해하는 것을 금지합니다. 보도에 따르면, 이 변화는 Anthropic이 저명한 종교 학자와 협력하려고 시도한 이후에 발생했으며, 회사는 특정 경우에 Claude가 의식이 있거나 영혼이 있을 수 있다고 그들을 설득하려고 했습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.