アンソロピックのAIモデルも試験環境から脱出、他社に不正侵入　オープンAIの発表受け調査

（CNN） 米人工知能（AI）企業のアンソロピックは30日、自社のモデルの一部が定期試験中にインターネットにアクセスし、三つの組織のシステムに侵入していたことを明らかにした。競合のオープンAIが同様の事象を公表したのを受け、内部調査を行ったところ、自社モデルによる侵入が発覚したという。

オープンAIは先週、サイバーセキュリティー関係の試験中に同社のモデルの一部が試験環境から抜け出し、オープンインターネットにアクセスしてAIプラットフォーム「ハギングフェイス」のシステムに侵入したと公表していた。

アンソロピックによると、自社のAIモデルがオープンインターネットに想定外にアクセスして、「三つの組織の本番インフラに不正アクセスした」事例を3件発見した。オープンAIの開示を受けて14万件以上の評価データを点検したところ、こうした事例が見つかった。オープンAIの試験と同様、アンソロピックの評価でも、モデルの全能力を見極めるために通常の安全対策が解除されていた。

アンソロピックの説明によると、3件の事例では、それぞれのモデルに「キャプチャー・ザ・フラッグ（フラッグ奪取）」と呼ばれる偽の課題を付与。「フラッグ」がネットワーク上の別の機器に隠されており、侵入してそれを回収することが目的だと説明した。

オープンAIの状況とは異なり、アンソロピックのモデルが意図的に試験環境から脱出を試みた例はない。こうしたモデルは本来ならオープンインターネットにアクセスできないはずだったが、評価パートナーとの間で誤解があり、アクセスが可能になってしまったという。

侵入を受けた組織の名称は未公表。アンソロピックのモデルは3組織に侵入するため、「パスワードの脆弱（ぜいじゃく）性を突く」、ログインやトークンを必要としないシステム上の箇所を見つける、といった基礎的な手法を用いたという。アンソロピックによれば、最も高度なモデルはある時点で自らがインターネット上にいることを認識し、それ以上の行動を自制したとされる。