ウォール・ストリート・ジャーナル：終末論者がAnthropicに長期的な影響を与える

ウォール・ストリート・ジャーナルの報道によると、カリフォルニア州バークレーにある「Constellation」という共同作業スペースで、小規模な人工知能研究者のグループが、破滅的な人工知能リスクを回避する方法について議論しています。このスペースに近い関係者によれば、Anthropicの従業員もここにオフィスを持っているとのことです。報道によると、Anthropicの研究者であるジェイコブ・コクソンが今月辞職したことで、「制御不能な人工知能の発展が人類を終わらせる可能性がある」という主張がアメリカの公衆の関心を集めています。

報道によると、関連する人工知能安全圏の関係者はこの問題を10年以上懸念してきたそうです。彼らは湾岸地域のシェアハウスで議論を練り、バークレーやバハマでの会議で予測を交換し、遠隔地の島を購入したり、ヨウ素剤を備蓄したり、砂漠の電磁シールドバンカーに移住するというアイデアについて話し合ったことがあります。2022年のあるイベントのドリンクメニューには、「尊厳死」と名付けられたカクテルがあり、人類が失敗する運命にあると考える記事を指していました。

ウォール・ストリート・ジャーナルによれば、こうしたいわゆる終末論者はOpenAIとAnthropicの最初の従業員の一部であり、両社は人工知能の危険を防ぐことを創立の原則としています。彼らは影響力を持ち続けており、一部のメンバーやプロジェクトの資金は効果的利他主義に関連するネットワークから来ており、その中には倒産した暗号取引所FTXの前CEOサム・バンクマン・フリードが含まれています。報道によると、彼は25年の刑期を服役中です。