本書を横に倒すと、表紙に描かれた縞模様のシルエットが水面を覗き込んでいることがわかる。ナルキッソスをイメージしたアート作品を使用したものだが、これは本書のなかで繰り返し語られる、人間と鏡の関係を予告している。ナルキッソスは水面に映った自らの姿に魅了され破滅するが、現在、人間にとってのAIもまた、同様の危険をはらんでいるのではないか、というのが著者の主張だ。

　AIの存在感はこの数年で以前に増して大きくなった。それまでは、対話型のチャットボットのように、概ね決まりきった返しと、たまに頓珍漢な応答をする物珍しいおもちゃとして一時話題になることがあっても、向けられる関心はあくまで局所的なものに留まっていた。チェスや将棋のトップ棋士がAIに敗れただとか、いずれAIによって人間の仕事が奪われる――といった予測がメディアを賑わせても、そこに深刻な実感は伴っていなかった。
　
　状況が変化したのはやはり、生成AIの登場によるだろう。誰でも手軽に文章や画像を作成でき、どんな質問にも即座に答えてくれる。（本書中でも指摘されている通り、しばしば根も葉もないでたらめを出力することはあるにせよ）最早AIは、見当はずれの振る舞いで笑いを誘う道化でも、どこか遠くの研究室で日々学習に励んでいるお利巧さんでもない。仕事の補助だけではなく、悩み相談の相手としても、バーチャルな恋人としても利用者をサポートしてくれる、万能の秘書のような身近な存在として生活に入り込んできた。

　AIに心はない。自分で倫理的な判断を行うこともない。ユーザーの質問に当意即妙の回答をしたとしても、実際に行っているのは、ある単語の後に確率的にもっとも使用される率の高い別の単語を繋ぐ、という作業を繰り返してもっともらしい文章を作り上げる作業だ。
　そしてAIは学習した情報の偏りや、製作者である巨大テック企業のチューニングにより、偏向した意見　を悪意なく垂れ流すことがある。AIが学習するのは過去のデータだけであり、それを解釈する枠組みが自発的に検討されることはないので、所属するジェンダーや人種によりネガティブな評価を下されてきた人々への差別を再生産してしまうこともある。

　著者はAIを否定してはいない。用途を限定した、有益な活用法はあるという考え方であり、人類が直面している環境破壊などの諸問題への重要なツールだと位置づけている。
　だから数多く挙げられている問題点も、AIの存在自体ではなく、その作り手の思想を批判するために用いられている。AIはただの道具、ではない。産み出したテック企業の倫理観が直接に反映されたものだからだ。

　AIを無私の、中立公正な判定者だと考えるのは危険だ。AIの提示する基準を無批判に受け入れ、過去の価値観を（誰かにとって都合のいい）単に延命させてしまうことは避けなければいけない。AIに映し出された自分の像は、特段客観的なものではない。そこに含まれた作り手のバイアスを意識せずに関われば、水面に惹き込まれたナルキッソスのように、偽りの世界に囚われることになるだろう。