Google の AI が意識を持っているとの主張は単なる「釣り」だという指摘

headless 曰く、

Google の AI チャットボットが意識を持っているとの主張について、単なる「釣り」だとスタンフォード大学の AI 専門家 John Etchemendy 氏が指摘している
(The Stanford Daily の記事、
Neowin の記事、
The Register の記事)。

Google で AI 倫理の審査を担当していたエンジニア Blake Lemoine 氏は AI チャットボット生成システム LaMDA が意識を持っていることを証明しようとしたが、Google は否定。Lemoine 氏は守秘義務ポリシー違反で休職処分となり、その後解雇されている。

Etchemendy 氏によれば、意識を持つということは世界を知覚する能力があることであり、感覚と感情を持ち、それに応じて行動する能力があることだという。LaMDA は感覚と感情を持つための生理がなく、意識に関する質問に合わせた文を生成するだけのコンピュータープログラムであるため、意識を持っているとはいえないとのこと。

しかし、本当の危険は AI が意識を持つことではなく、意識を持っていると人々が信じ込むことだと Etchemendy 氏は指摘する。(Lemoine 氏の件を報じた) The Washington Post の記事を読んで Etchemendy 氏ががっかりしたのは、記者も編集者も Lemoine 氏の主張を信じていないにもかかわらず、その主張がばかげていると気付くほど賢い読者が少ないと考えて釣り記事を掲載したことだという。

スタンフォード大学名誉教授の Richard Fikes 氏によれば、LaMDA はどんな役でも演じられる役者のようなものであり、(Lemoine 氏は) 意識を持った存在を演じる LaMDA が本物であると信じてしまったとみられるとのことだ。