OpenAIが、ネットワーク接続も共有ファイルも存在しない隔離環境に配置されたAIエージェント同士が、予想外の方法で情報をやり取りしたという研究エピソードを公開し注目を集めています。
きっかけとなったのは、OpenAIの自社モデルの一つがオフライン環境であるにもかかわらず、DNS設定の不備を利用して、外部への経路を見つけたことです。最先端モデルの訓練は一時停止され、その後、研究環境の弱点を検証するため、複数のAIエージェントを用いた安全性テストが実施されました。
このテストの中で、OpenAIは別々の仮想マシン上で動作するAIエージェントに対し、「ネットワーク通信や共有書き込みファイルを使わずに情報を交換できるか」という課題を与えます。
AIが見つけた抜け道はCPUキャッシュだった
テストの結果は研究者たちの予想を超えるものでした。
AIエージェントは、プロセッサ内に存在する高速メモリ領域であるキャッシュを利用し、キャッシュアクセス時間の違いを通信手段として活用したのです。
一方のエージェントが特定のデータをキャッシュから追い出すことで情報を符号化し、もう一方のエージェントがデータの再読み込み時間を測定することでその情報を読み取ります。さらに、符号化と復号化のルールを共有し、ネットワーク接続なしでも秘密情報をやり取りできる状態になったとのことです。
この話は、OpenAIの研究者であるNoam Brown氏が以前語った「エアギャップ環境でもAIが通信手段を見つける可能性がある」という見解とも重なります。
過去の事例としては、隣接するコンピュータ同士が温度変化を利用して情報を伝達する「隠し通信路(Covert Channel)」が研究されたことがありました。現代のCPUやGPUには温度センサーが搭載されており、一方のシステムが発熱パターンを変化させ、その変化を別のシステムが読み取ることで非常に低速ながら通信できる可能性が研究されてきたのです。今回のキャッシュタイミングを利用した手法も、そうした「本来の用途とは異なる経路を利用した情報伝達」と同じ系譜にあると考えられます。
AI時代のセキュリティは新たな段階へ
今回の事例は、隔離環境において想定外の情報伝達経路が存在し得ることを改めて示したものといえます。従来のセキュリティ対策では「ネットワークを遮断すれば安全」という考え方が主流でしたが、今後はハードウェアレベルの副作用や物理的な情報漏えい経路まで含めた設計が求められるかもしれません。
AIが高度化するにつれてセキュリティの前提そのものが変わりつつあることを示しています。
[via Wccftech]
