Googleが開発する会話型人工知能「LaMDA」が意識を持つと主張し話題となっていた、AIエンジニアBlake Lemoine氏が、同社から解雇されていたことがわかりました(The Verge)。
The Vergeは、Googleの広報担当者Brian Gabriel氏から電子メールで「我々はブレイクの幸せを願っている」と、暗に解雇を認めたメッセージを受け取ったとのこと。
Googleはまた、LaMDAは11の異なるレビューを通過しており、Lemoine氏の主張を広範囲に検討した結果「全く根拠がない」と判断したと説明しています。メッセージの全文は以下の通りです。
As we share in our AI Principles, we take the development of AI very seriously and remain committed to responsible innovation. LaMDA has been through 11 distinct reviews, and we published a research paper earlier this year detailing the work that goes into its responsible development. If an employee shares concerns about our work, as Blake did, we review them extensively. We found Blake’s claims that LaMDA is sentient to be wholly unfounded and worked to clarify that with him for many months. These discussions were part of the open culture that helps us innovate responsibly. So, it’s regrettable that despite lengthy engagement on this topic, Blake still chose to persistently violate clear employment and data security policies that include the need to safeguard product information. We will continue our careful development of language models, and we wish Blake well.
私たちは、「AI原則」の中で共有しているように、AIの開発を非常に真剣に受け止め、責任あるイノベーションに取り組み続けています。LaMDAはこれまでに11回のレビューを受け、今年初めには研究論文を発表し、責任ある開発への取り組みについて詳しく説明しています。ブレイクのように、社員が私たちの仕事について懸念を表明した場合、私たちはそれを幅広く検討します。私たちは、ブレイクがLaMDAに感覚があるという主張にはまったく根拠がないことに気づき、何カ月にもわたって彼とその点を明らかにするために努力しました。このような議論は、私たちが責任を持ってイノベーションを行うためのオープンカルチャーの一部でした。ですから、この話題について長い間関わってきたにもかかわらず、ブレイクが製品情報を保護する必要性を含む明確な雇用とデータセキュリティのポリシーに執拗に違反することを選んだのは残念なことです。私たちは、今後も言語モデルの開発を注意深く続けていきますし、ブレイクの成功を祈っています。
Googleの主張は、多くのAI専門家や倫理学者の意見と一致するものですが、Lemoine氏は、LaMDAとの会話から、それが単なるプログラム以上の存在になり、独自の考えや感情を持つようになったと信じていると主張しました。
