Windows 11の新AI機能「Copilotアクション」に潜むリスク

2025年11月25日

［PR］記事内のアフィリエイトリンクから収入を得る場合があります

URLをコピーしました！

Microsoftが、Windows 11にさまざまなAI関連機能追加しているなか、今回、Windows 11 Insider向けに実験的に導入された新機能「Copilotアクション」が注目されています。この機能は、ユーザーが指示したタスクをAIが自動で処理するもので、写真整理やPDFからの情報抽出など便利な用途が考えられる一方、セキュリティ面で大きな懸念が存在すると指摘されています(slashdot)。

Copilotアクションは、Windows 11 Insider Build (26220.7262) に搭載された「Copilot Labs」の機能の一部で、専用ユーザーアカウントを持つ「Agent Workspace」という独立環境で動作し、ユーザーの代わりにアプリを操作し、ファイルにアクセスして作業を進めることができます。

しかし、この機能にはリスクが存在し、クロスプロンプトインジェクション(XPIA) により、悪意あるPDFやUI要素がAIの指示を上書き可能で、「データ流出」や「マルウェアのインストール」が起こり得るとMicrosoft自身が警告しているのです。

Agentic AI has powerful capabilities today—for example, it can complete many complex tasks in response to user prompts, transforming how users interact with their PCs. As these capabilities are introduced, AI models still face functional limitations in terms of how they behave and occasionally may hallucinate and produce unexpected outputs. Additionally, agentic AI applications introduce novel security risks, such as cross-prompt injection (XPIA), where malicious content embedded in UI elements or documents can override agent instructions, leading to unintended actions like data exfiltration or malware installation. We recommend you read through this information and understand the security implications of enabling an agent on your computer.

エージェント型AIは今日、強力な能力を備えています。例えば、ユーザーのプロンプトに応じて多くの複雑なタスクを完了し、PCとのインタラクションのあり方を変革することができます。

こうした機能が導入される一方で、AIモデルには依然として動作上の制約があり、時には「幻覚（ハルシネーション）」を起こして予期しない出力を生成することがあります。

さらに、エージェント型AIアプリケーションは新たなセキュリティリスクをもたらします。代表的なものがクロスプロンプトインジェクション（XPIA）です。これは、UI要素やドキュメントに埋め込まれた悪意あるコンテンツがエージェントの指示を上書きし、データの流出やマルウェアのインストールといった意図しない動作を引き起こす可能性があります。

そのため、コンピューター上でエージェントを有効化する際には、こうしたセキュリティ上の影響を十分に理解することを強く推奨します。

Copilotアクションはデフォルトではオフですが、有効化すると、Documents・Downloads・Desktop・Pictures・Videos・Musicフォルダへの読み書き権限が与えられます。また、Windows Sandboxと違い、セッションをまたいでアクセス権が持続します。