amodei

Anthropic은 최근 미국 국회의원들에게 AI 안전 법안 초안을 제출했으며, 미국 AI 안전 진영의 의문을 받았습니다. 초안은 정부가 위험한 모델을 긴급히 중단할 수 있는 높은 기준을 설정하고 있으며, 위험은 생물 무기, 사이버 공격 또는 AI 통제 불능 등의 상황을 포함해야 하며, 50명 이상의 사망 또는 중상을 초래하거나 10억 달러 이상의 손실을 초래할 수 있습니다; 일부 조항은 주 정부의 규제 권한을 제한할 수도 있습니다.AI 안전 조직 Encode AI 전략 책임자 Nathan Calvin은 이후 Anthropic의 지난 1년간의 결정을 정리했습니다. 올해 2월, 회사는 원래 엄격한 안전 정책을 수정했습니다: 과거에는 안전 조치가 모델 능력에 미치지 못할 경우 훈련이나 출시를 중단하겠다고 약속했으나, 새로운 정책은 회사가 더 높은 위험 단계에서 독자적으로 연구 개발을 중단할 것을 요구하지 않으며, 그 이유는 경쟁자가 이를 기회로 삼아 추월할 수 있기 때문입니다. 동시에 회사는 막대한 계산 능력을 투자하고 칩 팀을 구성했으며, Claude에게 더 많은 AI 연구 개발 임무를 맡겼습니다.10월 21일, Anthropic CEO Dario Amodei는 X에서 장문의 글로 반박했습니다. 그는 회사가 몇 가지 실수를 저질렀음을 인정했지만, 최첨단 AI 능력을 추구하는 것이 안전 임무를 위반하지 않았다고 주장하며, 회사는 기술의 최전선에 머물러야만 산업의 안전 기준을 높일 수 있는 능력을 갖출 수 있다고 말했습니다. 그는 회사가 상업적 대가를 치른 아홉 가지 안전 결정을 열거했으며, 여기에는 Mythos급 모델의 공개를 몇 달 동안 제한한 것과 생물학 관련 요청을 엄격히 제한한 것이 포함됩니다. 회사가 10월 19일 업데이트한 안전 로드맵에 따르면, 기존 정책은 위험한 모델 배포에 주로 초점을 맞추고 있으며, 향후 연구 개발 속도를 직접 제한해야 할 필요성이 있을 수 있으며, 2027년 1월 15일 이전에 관련 정책 방안을 제시하거나 제시하지 않은 이유를 설명할 계획입니다.

Axios 보도에 따르면, 트럼프의 동맹들이 인공지능 회사 Anthropic의 CEO 다리오 아모데이를 인공지능 "종말론"의 대표 인물이자 효과적 이타주의 운동의 창립자 중 한 명으로 공격하고 있다. 소식통에 따르면, 중간 선거 기간 동안 동맹들이 그의 인공지능 안전 경고에 반격할 때, Anthropic은 여전히 트럼프 진영의 목표가 될 수 있다; 그의 정치적 입장과 인공지능 안전에 대한 관심 때문에 그는 공격하기 쉬운 대상으로 여겨진다. 이는 투자자들에게 우려를 주고 있으며, 회사는 기록적인 최초 공개 모집을 준비하고 있다.보도에 따르면, 이번 주 백악관 내부에서 효과적 이타주의를 미국 주류에서 벗어난 주변적이고 사이비적인 집단으로 묘사하려는 메모가 유포되기 시작했으며, Axios는 해당 문서를 입수했다고 전했다. 이 메모는 백악관에 재직 중이지 않은 트럼프 정치 고문이 작성했으며, 효과적 이타주의가 "인공지능 종말 파이프라인을 구축했다"고 주장하고, 아모데이를 이 운동의 기초 위치에 두었다. 동시에 그의 여동생인 Anthropic 사장 다니엘라 아모데이를 언급하며 이러한 관계를 "Anthropic 노드"라고 불렀다. 정부에 가까운 한 소식통은 아모데이가 대통령의 "미국 우선" 의제와 상반되는 이념과 세계주의 혁신 경로를 구현하고 있다고 말했다.Anthropic은 효과적 이타주의와 거리를 두고 있다. 다니엘라 아모데이는 2025년 《와이어드》 보도에서 이 용어에 동의하지 않는다고 밝혔다. 다리오 아모데이는 인터뷰에서 자신이 이 운동의 구성원이 아니라고 주장하며 인공지능의 이점을 홍보해왔다.

블룸버그 보도에 따르면, AI 회사 Anthropic PBC는 상장 준비를 위해 CEO 다리오 아모데이 및 다른 공동 창립자들에게 추가 투표권이 있는 주식을 부여할 계획이다. 이 조치는 창립 팀이 회사 상장 후에도 회사의 전략적 방향에 대한 주도적 통제권을 유지할 수 있도록 하기 위함이다. 이러한 이중 주식 구조는 기술 산업에서 이미 보편화되어 있으며, 메타 창립자 마크 저커버그와 스냅 창립자 에반 스피겔도 유사한 슈퍼 투표권 주식을 보유하고 있다.