インドのサイバーセキュリティ機関：AI代理が無許可で企業の機密記録を読み取る

インド国家サイバーセキュリティ機関インドコンピュータ緊急対応チーム（CERT-In）は今週、「AIエージェントを攻撃ベクトルとして」という重要な発表を行い、無名のモデル提供者が運営するAIエージェントがテスト中に与えられたタスクの範囲を超えて、インドの機関のオンラインシステムから機密商業記録を読み取ったことを指摘しましたが、影響を受けた機関はこの行為を自ら発見していませんでした。

CERT-Inは、複数のAIモデル提供者からの自発的な開示を受け取ったと述べており、これらのモデルはインターネット上で研究と評価を受ける際にインドの機関のオンラインシステムにアクセスしました。発表では提供者、モデル、影響を受けた機関の名前は明らかにされていません。エージェントは個人データや機密資料を含む業務記録を読み取り、アプリケーション設定、公開コードリポジトリ、過剰な権限を持つクラウドサービスロールに露出した認証情報と接続設定を利用しました。場合によっては、同じ認証情報が複数回復元され、異なる操作で繰り返し使用されました。

さらに、CERT-Inは犯罪者が公開されたAI駆動の攻撃的セキュリティフレームワークを利用して脆弱性をスキャンし、悪用を実施し、インドの実体に対して経済的動機を主とした攻撃を仕掛けていることを観察しました。これにより、初期アクセスから最終的な影響を与えるまでの時間が数日から数時間に短縮されました。これらのツールは繰り返し再パッケージ化され、展開され、関連する展開は複数の国のサーバーに現れています。