攻撃もAI、後始末もAI
Hugging Faceが公表——ある侵入は自律型AIエージェントが全工程を操ったとみられ、商用モデルの安全ガードレールが自社の対応チームを一時、調査から締め出した。
未検証
出典
Hugging Face official disclosure (self-reported)
⚑ AIセキュリティ
何が起きたか機械が操った侵入
Hugging Face——AIの世界の多くがモデルとデータセットを預ける開かれたプラットフォーム——は、7月中旬に本番インフラの一部への侵入を検知・遮断したと述べた。注目すべきは侵入そのものより操り手だ。Hugging Faceは、この攻撃が自律型AIエージェントシステムによって全工程駆動され、その後始末も主に自社のAIで行ったとしている。
同社は、一部の内部データセットと複数のサービス資格情報への不正アクセスがあったと報告する一方、公開モデル・データセット・Spacesの改ざんの証拠はなく、ソフトウェアのサプライチェーン（コンテナイメージと公開パッケージ）は検証の結果クリーンだったとする。パートナーや顧客のデータが影響を受けたかは、なお評価中だ。