amodei

Anthropicは最近、アメリカ合衆国の議員にAI安全法案の草案を提出し、アメリカのAI安全派から疑問を呈されました。草案では、政府が危険なモデルを緊急に停止するための高いハードルが設定されており、リスクは生物兵器、サイバー攻撃、またはAIの制御喪失などの状況に関連し、50人以上の死亡または重傷、または10億ドル以上の損失を引き起こす可能性があるとされています。一部の条項は州政府の規制権限を制限する可能性もあります。AI安全組織Encode AIの戦略責任者Nathan Calvinは、その後、Anthropicの過去1年間の決定を整理しました。今年の2月、同社は元々厳格だった安全ポリシーを修正しました。以前は、安全対策がモデルの能力に追いつかない場合、トレーニングやリリースを一時停止することを約束していましたが、新しいポリシーでは、同社がより高いリスク段階で独自に研究開発を停止することを要求しなくなりました。その理由は、競合他社がその隙を突いて追い越す可能性があるからです。同時期に、同社は巨額の計算能力を投入し、チップチームを結成し、Claudeにより多くのAI研究開発タスクを担わせました。10月21日、AnthropicのCEO Dario AmodeiはX上で長文を発表し、反論しました。彼は同社がいくつかの誤りを犯したことを認めましたが、最先端のAI能力を追求することが安全ミッションに反していないと主張し、同社は上昇競争を追求していると述べました。技術の最前線に留まることで、業界の安全基準を引き上げる能力があるとしています。彼は、同社が商業的な代償を払った九つの安全決定を挙げました。これには、Mythosレベルのモデルのオープンを数ヶ月制限したことや、生物学関連のリクエストを厳しく制限したことが含まれます。同社の10月19日に更新された安全ロードマップによれば、現行のポリシーは主に危険なモデルの展開を対象としており、将来的には研究開発の速度を直接制限する必要があるかもしれません。また、2027年1月15日までに関連する政策案を提出するか、なぜ提出しないのかを説明する計画です。

Axiosが報じたところによると、トランプの盟友たちは人工知能会社AnthropicのCEOダリオ・アモデイを、人工知能の「終末論」の代表者および有効利他主義運動の創始者の一人として攻撃している。関係者によれば、中間選挙の際に盟友たちが彼の人工知能の安全に関する警告に反撃する際、Anthropicはトランプ陣営の標的になる可能性があるという。彼の政治的立場と人工知能の安全への関心から、彼は攻撃されやすい対象と見なされている。これは、同社が記録的な初の公開株式の準備を進めているため、投資家にとって懸念材料となっている。報道によれば、今週ホワイトハウス内部で、有効利他主義をアメリカの主流から外れた辺境のカルト的な集団として描こうとするメモが流布し始めた。Axiosはこの文書を入手したと伝えている。このメモはホワイトハウスに勤務していないトランプの政治顧問によって書かれ、有効利他主義は「人工知能終末のパイプラインを構築した」と述べ、アモデイをその運動の基盤に置き、彼の妹でAnthropicの社長であるダニエラ・アモデイに言及し、これらの関係を「Anthropicノード」と呼んでいる。政府に近い関係者は、アモデイが大統領の「アメリカ第一」の agenda に反するイデオロギーとグローバリズムの革新の道を体現していると述べた。Anthropicは有効利他主義との距離を保ってきた。ダニエラ・アモデイは2025年の『ワイアード』の報道でこの用語に同意しないと述べた。ダリオ・アモデイはインタビューで自分はこの運動のメンバーではないと主張し、人工知能の利点を宣伝している。

ブルームバーグの報道によると、AI企業Anthropic PBCは、上場準備の前にCEOダリオ・アモデイと他の共同創業者に追加の投票権を持つ株式を授与する計画です。この措置は、創業チームが会社の上場後も会社の戦略的方向性に対して主導的なコントロールを維持できるようにすることを目的としています。この二重株式構造はテクノロジー業界では一般的であり、Metaの創業者マーク・ザッカーバーグやSnapの創業者エヴァン・スピーゲルも同様のスーパー投票権株式を保有しています。