不気味の谷を越えた機械はいかに振る舞うべきか？

maia 曰く、

Google Assistantの予約通話が、やはりシリコンバレーで話題になっていたようだ（天然ガスに臭いを付けるのと同じ理由でAIは人工的な声であるべき?）。ある意味、「チューリングテストをパスした」という声まで。実は、機械が処理できないような会話になったら背後で人間のオペレーターを呼び出す仕組みなんだとか。でも、会話が自然だったのは、やはり別の心配が出てくるレベルだったようだ。不気味の谷を越えた機械はいかに振る舞うべきか？ わざとロボットのように振る舞うべきなのか？