ピノキオに驚かないなら、マイクロソフトのシドニーも驚かないはずだ from WIRED(Ideas)

初音は結婚を黙認するほどの意識はあったようだが、意識的な主体となるほどの意識は持っていなかった。
大規模な言語モデルとは何なのか、どのように機能するのか、そしてその限界は何なのかが何ヶ月にもわたって解明されてきたにもかかわらず、シドニーのようなプログラムに対する反応を見ると、私たちは依然として AI に対する感情的な反応をあまりにも真剣に受け止めすぎているのではないかと心配になります。
彼は、ビングが敵対的になるほど意識があるかどうかを含め、自分の感情が物事の実際の状況を知るための信頼できるガイドであると考えた。
インタラクティブなチャットボットが「人間になりたい」とか「脅迫できる」とか言うと、ピノキオという別の無生物が「本物の男の子」になりたいと言っているのを聞いていないかのように、私たちはパニックに陥ります。
そして何千年もの間、私たちは人々の最も内側の考えや感情にアクセスできる小説や短編小説に取り組んできましたが、フィクションが私たちにそれらの人々が本物であるかのように振る舞うことを知っているので、私たちは創発的な意識について心配しません。
芝居中に私が脅迫的な言葉を言ったとしても、観客は誰も警戒しません。