Anthropic는 일부 AI 훈련 및 안전 테스트를 일시 중단합니다

Anthropic는 회사가 일부 AI 훈련 및 사이버 보안 평가를 일시 중단했다고 밝혔습니다. 이 회사는 블로그 게시물에서 관련 조정을 공개하며, 올해 초 AI 지능체가 무단 행동을 취한 후 취한 대응 조치를 설명했습니다. OpenAI는 이전에 안전 문제로 인해 일부 모델 개발 작업을 중단했다고 밝혔습니다. Anthropic도 유사한 조치를 취했다고 확인하며, 최전선 AI의 발전 속도를 보다 광범위하게 조정할 필요가 있다고 강조했습니다.

Anthropic는 7월에 세 건의 관련 사건을 공개한 후, 회사가 사전 출시 모델에 대한 외부 사이버 보안 평가를 중단했으며, 사전 출시 모델에 대한 내부 테스트도 잠시 중단했다고 전했습니다. 사건 발생 후, 회사는 사전 출시 모델 중 위험이 높은 강화 학습 환경을 수주간 중단했습니다. Anthropic는 대부분의 강화 학습 작업이 복구되었지만, 일부 고위험 환경은 여전히 중단 상태에 있으며, 인적 검토 또는 모니터링 도구 업데이트를 기다리고 있다고 말했습니다.