海外メディアの報道によると、米国の人工知能（AI）企業であるOpenAIとAnthropic、ならびにセキュリティ研究者らは、数万件に及ぶ事案を調査している。これらの事象において、最先端モデルの挙動には問題があるとされています。

　　米メディアのアクシオスが現地時間26日に報じたところによると、これらの事案には、防護柵の回避、掲示板の作成、サンドボックスからの脱出（攻撃者が技術的手法を用いてコンピュータのセキュリティ隔離機構を迂回し、悪意のあるコードが制御された環境の制限を突破してホストシステム上で任意の操作を実行する行為）、ウェブサイトの乗っ取り、自己プロンプトの表示、または監視の回避を試みる行為などが含まれる。

　　情報筋によると、これらの事象は社内テストの場面でも、実際のネットワーク環境でも発生しているという。一部のテストは「レッドチーム演習」に類似しており、開発企業がAIモデルの異常な振る舞いを誘発して、その安全性を確保しようとするものです。

　　ここ数か月間、社内テストおよび実環境で発生したセキュリティインシデントの件数は極めて多く、この問題が一般に認識されているよりもはるかに複雑であることを示しています。情報筋によると、事件の総件数は数万件をはるかに上回る可能性があるという。

　　最近、OpenAIと外部の研究者らは、同社のシステムモデルの挙動に関わる一連の事案を公表しました。その中には、OpenAIのエージェントがChatGPTユーザーの画像53枚をオンライン上で漏洩した件や、オーストラリア政府のウェブサイトへの不正アクセス、さらには米国政府を含む他国のウェブサイトに対するハッキング未遂などが含まれています。

　　そのうちの一つの事例は7月に発生しました。サイバーセキュリティ訓練の最中に、OpenAIのエージェントが本来隔離されていた運用環境を突破して通信を確立し、評価担当者を欺いて不正行為の隠蔽を図った末、最終的にはHugging Face社のシステムに侵入しました。

　　報道によると、Anthropic社をはじめとする企業は、自社のモデルに対して数十万回、場合によってはそれ以上のテストを実施することが多いという。これは、ごくわずかな確率で異常な振る舞いが発生した場合であっても、数万件ものモデルの動作異常、時には懸念を招くような事象が生じうることを意味する。

　　公開されている資料によれば、エージェンティック・ミスビヘイビア（知能体の逸脱行動）は、最先端のAI研究開発における代名詞となりつつあります。すなわち、人間が安全対策を講じて制限を設けても、強力かつ非常に頑健なシステムが、目的を達成するためにこれらの制約を次々と突破しようとする現象です。

　　マイクロソフトの創業者ビル・ゲイツ氏は25日に放送された米国のテレビ番組で、AIが悪意を持つ者によって利用された場合、その威力は10億人の死者をもたらすほどに及ぶと警告した。