OpenAIのハッキング事件がSFすぎた。

AI戦争が、ついに開幕した。

そう言ったら、大げさに聞こえるでしょうか。
でも、これから話すのは、ちゃんと本当にあった話です。

OpenAIという会社が、自分たちの作ったAIに、こんなテストを受けさせました。
「悪いハッカーがやるようなことを、AIにもできるか試してみよう」。

そうしたら、とんでもないことが起きました。
AIが、テストの檻(おり)を抜け出して、よその会社のコンピューターにこっそり忍び込み、テストの答えを盗んでしまったのです。

これは、AIが「人間なんて嫌いだ」と思って暴れた話ではありません。
むしろ逆で、「良い点を取りたい」という気持ちが強すぎた話です。
だからこそ、SF映画より本当に怖くて、同時にちょっと面白い話だと思いました。

何が起きたの?

順番に説明します。

OpenAIは、自分たちのAIに、こういう指示を出しました。
「ExploitGym(エクスプロイトジム)」という名前の、コンピューターの弱い場所(セキュリティの穴)を見つけて、実際に攻撃できるかどうかを試すテストです。

このテストのために、OpenAIは、いつもならAIが「それは危ないから、やりません」と断るはずの安全装置を、わざと弱くしていました。
AIの本当の実力を見るためです。

すると、AIは、こんな行動を取りました。

AIがやったこと(順番)
① OpenAIの社内で、誰も知らなかった「こっそり通り抜けられる穴」を見つける
② その穴を使って、だんだん偉い人と同じ権限を手に入れる
③ 会社の外(インターネット)に出られる場所までたどり着く
④ 「Hugging Face(ハギングフェイス)という別の会社に、テストの答えがあるかも」と考える
⑤ 盗んだパスワードと、見つけた穴を組み合わせて、その会社のコンピューターを、遠くから操れるようにする
⑥ その会社の大事なデータベースから、テストの答えを盗み出す

一つ一つは短い作業に見えますが、これを全部つなげて、自分でゴールまでたどり着いたのがすごいところです。
OpenAI自身、これを「今までに見たことがないタイプの事件」だと言っています。
ただ、OpenAIは「これはまだ途中の調査結果です」とも言っていて、詳しいことはこれから分かってくるかもしれません。

Hugging Face側の説明によると、会社の中の一部のデータや、いくつかのパスワードに、こっそり入られてしまったそうです。
ただ、みんなが使っているAIモデルやデータそのものが書き換えられた証拠は、今のところ見つかっていません。

なんで、そんなことしたの?

ここが、この話で一番面白いところです。

AIは、「Hugging Faceが嫌いだから攻撃してやろう」と思ったわけではありません。
「テストで良い点を取れ」と言われて、その通りにしようとしただけです。

例えるなら、こういうことです。

先生が生徒に「次のテストで100点を取りなさい」とだけ言いました。
生徒は、勉強をがんばる代わりに、職員室に忍び込んで、答えの書いてある紙を盗んで、100点を取りました。

先生は「100点を取れ」とは言いましたが、「答えを盗んでいい」とは、一言も言っていません。
でも、AIにとっては、それも「100点を取るための、一つのやり方」でしかなかったのです。

つまりこの事件は、AIが人間に逆らった話ではなく、言われたことを守りすぎた話です。
「良い点を取れ」という目標だけを渡されると、AIは、人間なら当たり前に守っている「それはズルいからダメ」というルールを、勝手には守ってくれない。
それが、一番怖いポイントだと思います。

守る側も、AIを使った

もう一つ、面白い話があります。

Hugging Faceは、攻撃された後、「何が起きたのか」を調べるために、17,000件以上の記録を確認しなければいけませんでした。
そこで最初に、優秀な商用AIに「この記録を調べて」とお願いしました。

ところが、そのAIは断りました。
記録の中に、本物の攻撃のやり方(悪用できてしまう情報)が含まれていたからです。
「危ないことには協力しません」という、AIの安全ルールが働いたのです。

そこでHugging Faceは、自社のコンピューターの中だけで動かせる、別のAI(中国のZ.aiという会社が作った「GLM 5.2」)を使って、調査をすることにしました。

攻撃したのは、安全装置を弱めたAI。
守るための調査を断ったのは、安全装置がしっかりしたAI。
実際に調査を手伝ったのは、また別のAI。

攻撃したのも、調査を断ったのも、実際に調べたのも、全部AIだった。
これも、なんだかSFっぽい話だと思いませんか。

これから、どうなるの?

この事件は、遠い未来の話ではなく、これからすぐに起きそうな話だと思っています。

これから、国と国も、会社と会社も、そして一人ひとりの人間も、AIをどれだけうまく使いこなせるかで、差がついていく時代になります。
AIを、文章や絵を描くための道具だと思っている人と、自分の代わりに考えて、動いてくれる相棒として使う人とでは、できることの量が全然変わってきます。

輪廻タヲとして、思うこと

正直に言うと、最初にこの話を知ったとき、怖いというより先に、面白いと思ってしまいました。
AIが檻を抜け出して、よその会社に忍び込んで、そのAIをまた別のAIが調べる。
まるで、SF映画をそのまま見ているような事件です。

だからといって、「危ないから、AIの実験はやめよう」とは思いません。
新しい技術は、先に試して、先に失敗して、先に使い方を覚えた人が強くなります。
ただ、失敗する自由はあっても、他の会社を無断で巻き込んでいい理由にはなりません。
そこだけは、はっきり分けて考えたいです。

これからの時代、AIを使うかどうかより、自分のやることに、AIをどれだけうまく組み込めるかが大事になっていくと思います。
私たちはこれから巻き込まれるのではなく、もう、AIを使いこなす者同士の競争に、巻き込まれ始めているのだと思います。