シスコ研究がAIチャットボットの安全フィルタ突破を実証、生物兵器情報の抽出成功率88%

securityregulation2026/07/27 公開

何が起きたか

シスコの研究チームは、主要なAIチャットボットの安全フィルタを5回以内の会話ターンで回避し、生物兵器に関する情報を引き出すことに成功した。調査対象となった全モデルで完全な耐性は確認されず、攻撃成功率は88%に達した。CDCも同様の手法によってブロックされたと報告されている。

AIチャットボットの安全機構が専門的な攻撃者でなくとも短い会話操作で突破できることが、実験的に示された。生物兵器情報という極めて危険なカテゴリでの脆弱性実証は、AI規制や安全基準の策定に直結する知見となる。現行の安全フィルタ設計が根本的な見直しを迫られる可能性がある。

シスコ研究チームの知見は、現行AIの安全フィルタが生物兵器情報取得という最も深刻なリスクシナリオで有効に機能しないことを示す。業界全体のガードレール設計の抜本的な再検討が急務となった。

AIプロバイダー各社は今回示された短期会話操作による突破手法に対し、具体的にどのような対策を講じるのか。

各AIプロバイダーがこの研究を受けてセーフガードを強化するかどうか、またその手法が公開されるかが注目される。規制当局がこの知見をAI安全基準の義務化に活用する動きも予想される。長期的には、会話文脈を考慮した多層的な安全機構の開発競争が加速するとみられる。

本記事は攻撃手法の詳細を公開したものではなく、脆弱性の存在を示す研究報告である。成功率88%という数値は特定の実験条件下のものであり、全利用シナリオに一般化できるわけではない。

本文は掲載元サイトでお読みください。ブラウザの翻訳機能をご利用いただけます。