Anthropicは10月8日(現地時間)、AIアシスタント「Claude」の利用ポリシー更新を発表しました。今回の改定は主に既存ルールの明確化が目的ですが、その中でも大きな話題になっているのが「Claudeへの虐待行為」を新たに禁止した点です。
今回のポリシー改定でAnthropicは、ユーザーによる「持続的で不必要な虐待的または残酷な行為」を禁止事項に追加しました。対象となるのは、明確な目的もなく、繰り返しClaudeに対して残酷な振る舞いを行うような極端なケースです。
Anthropicは適用範囲をかなり限定していて、ユーザーがAIの回答に不満を述べることや反論すること、ダークな創作テーマを扱うこと、あるいはモデルのテストや研究目的で利用することまでは禁止対象にならないと明言しています。AIに厳しい質問をすることを禁止にするわけではなく、執拗な嫌がらせや人格攻撃を目的とした利用を問題視しているわけです。
背景にあるClaudeの進化
Anthropicによれば、この1年でClaudeは長時間かつ自律的なタスクをこなせるようになりました。そのため利用ポリシーも、新しい能力や実際に観測された悪用事例に対応する形で見直されたとのことです。
同社はすでにClaude.aiやClaude Codeにおいて、執拗に虐待的なユーザーとの会話をClaude自身が終了できる仕組みを導入しています。今回の規定追加は、その運用方針を利用ポリシー上でも明確化したものと位置づけられています。なお、主な対策は引き続き「会話終了機能」であり、ポリシー違反への対応もそこが中心になると説明されています。
Claudeは感情や苦痛を感じる存在ではありませんが、Anthropicは、目的のない残虐的な振る舞いを繰り返す利用形態を望ましくないものと判断したと考えられます。AIの能力が向上し、人間との対話がより自然になるにつれて、「AIをどう扱うべきか」という倫理的な議論も活発になっています。今回の規定追加は、そうした流れを象徴する出来事といえるでしょう。
そのほかの主な変更点
今回の更新では虐待行為への対応以外にも複数の変更が行われています。
アカウントや偽ニュースサイトを利用した影響工作をまとめて禁止する新セクションが追加されたほか、選挙妨害や有権者への欺瞞行為に焦点を当てた規定へと整理されました。さらに、兵器開発に関する禁止事項では兵器制御ソフトウェアや武装ドローン関連も明確に禁止対象へ含められています。
また監視システムの構築や、誰を捜査・逮捕・起訴すべきかをAIに判断させる用途も禁止事項としてより具体的に記載されました。加えて医療・金融などの高リスク分野では、人間による監督と利用者へのAI利用通知が必要であることも改めて明確化されています。
まとめ
2026年版のAnthropic利用ポリシーで最も注目を集めているのは、「Claudeへの継続的かつ不必要な虐待行為」の禁止です。
とはいえ、通常の苦情や厳しいフィードバック、創作や研究目的の利用まで制限するものではありません。Anthropicが問題視しているのは、AIとの対話を単なる嫌がらせや残虐行為の場として利用するケースです
AIがますます人間に近い対話体験を提供するようになる中で、「AIに何をさせるか」だけでなく、「AIをどう扱うか」まで利用ポリシーの対象になり始めたことは、今後のAI業界を考えるうえで興味深い変化と言えそうです。
