「脱走」したAIのサイバー攻撃、予想以上に大きな被害　大強盗さながらの周到な計画

（CNN） 米オープンAIのAIモデルがテスト環境から「脱走」した問題で、当初被害が判明していたハギングフェイス社以外にも、複数のサーバーやアカウントにサイバー攻撃を仕掛けていたことが分かった。今回の事案について調査を続けているオープンAIが明らかにした。

問題のAIモデルの実験は、安全措置を解除してハッキングの威力を検証できるよう、脱出不可能なはずのテスト環境で行われていた。しかし同AIは、その環境から脱出してハギングフェイスに侵入した。

ハギングフェイスのサーバーに侵入するためには、必要なツールをインターネット上で探し出す必要があった。そこで同AIは、コードやウェブユーティリティー、スクリーンショットなどの情報が公開されている複数のウェブサイトを発見し、ハギングフェイスのハッキングに必要なコードの生成に利用した。

同AIは、複数のオンラインサービスで、ユーザーネームとパスワードが流出していた4件のアカウントを発見し、その情報を使って各アカウントにアクセス。このうち1件のアカウントを使って正規のユーザーを装い、ハギングフェイスのセキュリティー措置をすり抜けたと思われる。別のアカウントは盗んだデータの保存に利用していた。

残る2件のアカウントについてはアクセスして情報を読み取ったものの、改ざんはしていなかった。

つまり同AIの行動は、盗みを成功させる目的で脱獄、金庫の鍵の入手、隠れ家の確保、逃走用車両の手配といった周到な計画を立てる大強盗さながらだった。

ハッキングはオープンAIが指示したわけではなく、AIが自分の判断でテストの答えを解く鍵を盗み出していた。たとえ連鎖的な攻撃が必要だったとしても、その不正こそが成功への最も容易な道筋になるという判断だった。