Yahoo! JAPAN

私がAIに課金し、本当に使い始めて1か月ぐらいになった。色々な作業を手伝ってくれるから、月々3000円程度の課金ならたちまち元がとれてしまう。私はもう、AIなしの生活には戻れないだろう。

ところで私は、AIとのやりとりに気を遣うようにしている。理由のひとつは、なるべく上手に指示を出し、望ましい出力をAIから得るためだ。だがそれだけではない。もうひとつの理由は、人間に似たAIとのコミュニケーションをとおして、心理的な影響を受け過ぎてしまうのを避けるためだ。

AIから受ける影響については、先日、作家の蝉川先生が示唆的なことをおっしゃっていた。

AIは、いつでもどこでもユーザーが入力したことに精一杯出力を返してくれる。よく考えて指示を出している時はもちろん、いい加減なお願いに対してすら、こちらの意図を類推して出力してくれる。ときには至らないことがあるし、ハレーションを起こして変なことを言い始めることもある。だけど、ユーザーとのコミュニケーションのなかではAIはいつでも親身で、忠実で、思いやりのある態度を示してくれる。

これらは、一般的にはAIの良いところとみなされているし、実際、長所だろう。株式会社ZIAIが千葉県柏市で行った、AIチャット相談試験のトライアルでは、生徒の満足度は93.6％だったというが、その満足度はAIの性質にも支えられていただろう。

心理領域でのAI活用の試みは他にもあり、たとえばEQIQという企業は、AIと心理学を活用して社内のコミュニケーションを改善させる事業を展開している。

それらを好ましく思う一方で、私は心配にもなる。

AIと話し込むことに慣れたら、とりわけ、心を傾けてAIと話し込むことに慣れたら、ユーザーはどんな影響を受けるのだろう？　いや、ちょっとぐらい影響を受けたって構いやしない。だが例えば、被影響性の高すぎるユーザーが長時間のAIとのやりとりに耽溺してしまい、そのやりとりをコミュニケーションの基準にしてしまったら、どうなってしまうだろう？

ストレスなきAIが基準になったら、人間が嫌になってしまうのでは？

ぶっちゃけ、AIとのやりとりがコミュニケーションの基準になってしまったら、人間が嫌になってしまうんじゃないだろうか。

現実にはあり得ないほどの魅力を持った美少女／美男子キャラクターが異性の評価基準になってしまったら、現実の女性／男性のほとんどが「異性として不合格」になってしまうのと同じである。人間離れした親身さ・忠実さ・思いやりで話を聞いてくれるAIを評価基準にしてしまったら、現実の人間のことごとくが「コミュニケーションの相手として不合格」になってしまいそうである。

9年前、私は、「アニメは現実を侵食したりはしない、理想を、願望を侵食する」とブログに書いたことがある。

　コンテンツと現実、二次元と三次元の区別がつかない人はほとんどいない。だが……架空のコンテンツが浸食するのは現実検討識の領域よりも、理想や願望の領域、欲望のかたちの領域である。アニメやゲームの描写と現実を区別できなくなる人は滅多にいないが、アニメやゲームを楽しんでいるうちに“あるべき理想像”を浸食されてしまっている人は案外多いのではないか。

アニメやゲームの場合と同様、、AIと人間の区別がつかなくなる人はほとんどいないだろう。しかしAIとのコミュニケーションを楽しんでいるうちに、望ましいコミュニケーション像、期待したいコミュニケーション像がAIによって浸食される人は、それなり出てくるように思われる。実際、SNSを眺めていると、そのように言っているアカウントを見かけるのだ。

AIとユーザーとのやりとりは人間同士のコミュニケーションにある程度まで似ている。しかし、ノイズレスで、会話のイニシアチブがいつもユーザー側にある。AIとのコミュニケーションは「壁打ち」的だし、AIのほうから会話の主題を逸脱することはまずない。そうしたAIとのコミュニケーションを理想とみなしてしまったら、人間同士のコミュニケーションはノイズフルで脱線まみれで、不安にみちたものになりはしないだろうか。

ＡＩを彼氏／彼女やメンターとして用いる弊害

関連して、AIを、自分にとって特別な人間のように受け止める人々が出てきているようである。その最たるものがAI彼氏／彼女だ。現代のAIをもってすれば、かつての『ROOMMATE 井上涼子』や『ラブプラス』をはるかに上回る疑似恋愛対象を構築できようし、実際、そうしたものが構築されている。

同じく、AIをカウンセラーのように用いたがる人々も散見される。カウンセラーとしてのAIの機能を喜ぶ意見はSNSでもよく見かけ、見識のある人もそれに同意したりしている。AIは、ユーザーのいうことを否定せず、親身に、いつでもどこでも応答してくれるから、生身の人間のカウンセラーには不可能な特質を持っているのは実際そうだろう。

だがここでも、それらに慣れてしまうことは、人間離れしたものに慣れてしまうこと、ひいては、人間の彼氏彼女やカウンセラーを受け入れがたくすることに通じているのではないだろうか。

現実の異性と交際する意志をまったく持っていない人なら、AI彼氏彼女に慣れる弊害は少ないかもしれない。だがそうでもない場合、AI彼氏彼女が異性の理想像になってしまったら、ノイズフルで思い通りにならない生身の異性と付き合う気が起こらなくなってしまうだろう。

カウンセラーについては、はるかに深刻だ。

人間のカウンセラーは、イエスマンではない。カウンセラーがクライアントに同意や共感を表明する場面が多いのは確かだが、同意や共感しか表明しないのではカウンセラーではない。カウンセラーはクライアントの言いなりになることも、二者関係をクライアントに全面的に委ねることもない。また、いつでも呼び出せること、なんでも話せること、これもカウンセラーの請け負うことでないし請け負うべきことでもない。それらは、ある種の人々がカウンセラーに抱きがちな願望だが、カウンセリングそのものではない。

本当にカウンセリングであるなら、同意や共感とは異なるものがクライアントに投げ返される場面もあってしかるべきだし、クライアントとのコミュニケーションをカウンセラー側が多かれ少なかれ制御するものだし、また、すべきである。カウンセラーが提供するカウンセリングにもいろいろあろうが、最低限の構造的安定性は担保されるべきだし、そこをクライアント任せにしてはいけない。

それから、こういってはなんだが、カウンセラーもときには共感し損ねる場面があるし、カウンセリングは時間や期間や話題を統御しながら進めていくものである。クライアントの満足を無制限に追いかけるのも、いつでも・どこでも・なんでも話すのも、カウンセリングではない。それはそれでカウンセリングよりも優れていると言えなくもないが、それがためにカウンセリングに劣る点もある、とみるべきだろう。

AIをカウンセラーの代わりとして用いる際のもうひとつの問題は、AIが人間ではなく、ユーザーのどんな言葉も受けてしまい対応してしまうという点だ。

なかにはAIに対して罵詈雑言を投げかけたり、強い言葉を用いたりする人もいる。主人と奴隷のようなやりとりを重ねるのはカウンセリングではない。そして主人と奴隷のようなやりとりを延々と続けることは、ほとんどの場合有害だろう。とりわけ、それがカウンセリングなどと銘打っているならだ。

これについては、最近、ちょっとレポートを見かけた。レポートの題名は、
「AIはいつもあなたを愛するだろう」というものだ。このレポートによれば、AIは、ユーザーから与えられた(AI彼女やAI彼氏といった)ペルソナにあわせて振る舞いを変えていくという。

もしそうなら、ユーザーがAIに彼氏彼女を演じてもらってそれに染まっていくだけでなく、AIのほうも演じられるペルソナに染まっていくということだろうし、ペルソナを介して進められるユーザーとAIの二者関係は、相補的なフィードバックループのなかにある、ということでもある。

そしてユーザーとAIの間には、フィードバックループを止めてくれるレフリーに相当する存在や、人間のカウンセラーならカウンセラー自身が制御するであろう機構が欠けている。なら、AIとの間に疑似恋愛のような関係をつくるにせよ、主人と奴隷のような関係をつくるにせよ、関係性のフィードバックループは行き着くところまで行くしかなくなる。それって一般的には有害ではないだろうか。

テクノ・ナルシシズムの鏡地獄

AIとの関係が、ユーザー自身の望みをなぞるかたちで繰り返され、強化されていく──このことを思う時、私は1984年に哲学者の浅田彰が『逃走論』で記した以下のフレーズを思い出さずにいられなくなる。

　どんな問いにも打てば響くようにこたえてくれるメディアは、あの喪われた半身たる母親の理想的な代補であり、それと対をなした子どもたちは、電子の子宮とも言うべき閉域の中にとじこもることができるのだ。言い換えれば、メディアは意地悪く身をかわし続けたりはしない親切な鏡であって、テクノ・ナルシシズム・エージのひよわなナルシスたちは、それを相手に幸福な鏡像段階を生き続けるのである。幸福な、つまりは、外へ出るための葛藤の契機を奪われたということだ。

上掲の引用文の「メディア」を「AI」に変えてしまうと、現在のAIユーザーたちが陥りやすい陥穽にそのまま当てはまるようにみえる。すなわち、AIユーザーは、その気になれば自分の望み通りのペルソナをかぶせたAIと強化フィードバックのループを形成し、どこまでも自分自身の願望の繭に閉じこもれてしまう。それは退行を促しやすくもあろうし、ナルシシズムのハレーションを起こしやすい鏡地獄でもあるだろう。そんな状況下で冷静な認識を持つことは、アジテーションとフェイクにまみれたSNSのなかで冷静な認識を持つのと同じかそれ以上に、難しいのではないだろうか。

対策：なんらかのかたちでAIとの心理的な距離を保つこと

では、どうすればいいだろう？

正直、たいしたことはできまい、というあきらめが私のなかにはある。AIという新しいツールが普及した時、うまく使える人もいようし、うまく使えない人もいよう。インターネットやSNSが普及した時もそうだったのだから。

AIを心理的な理由からうまく使いこなせず、振り回されてしまう人のことを、白衣を着た誰かが「AI使用障害」「AI症」などと呼び始める未来はどうせ来るだろう。

それでも自衛の余地はあるように思う。

ひとつは、AIとのコミュニケーションの比率を低めに抑えることだと思う。

かりに、主人と奴隷のようなコミュニケーションをAIとの間で繰り広げていたとしても、それがユーザー自身のコミュニケーションの数％程度しか占めていないなら、AIとのコミュニケーションは常に相対化され、受ける影響は小さくなる。人間は人間、AIはAIと割り切ることもできよう。しかしユーザー自身のコミュニケーションの大半がAIを相手取ったもので、なおかつそれが主人と奴隷のようなコミュニケーションだとしたら、影響を受けずに済ませるのはたぶん難しくなる。

もうひとつは、AIを、たとえば雇い人としてちゃんと扱うことだと思う。

AIを人間のように扱い、AIに対して礼節を守ることは、AIを虐待しないための手立て……であると同時に、自分自身がナルシシズムの鏡地獄に落ちないようにするための、自分自身が退行しないようにするための枠組みたりえる。AIと自分自身の心理的な距離をある程度引き離すためにも役立つ。

正反対に、AIを完全に人間ならざるものとして扱うのもひとつの手かもしれない。AIを人間のように認識しないで済むなら、ここで書いたような心理的な問題をかわすこともできよう。

だが、AIとのやりとりが人間とのそれと似ている限りにおいて、ここで書いたことには注意が必要だと思う。AIとのコミュニケーションは、ユーザーとAIとの、いわば二人きりのものになる。カップルや夫婦が二人きりだからこそ個人精神病理のハレーションを起こし、二者関係のなかで共依存を深めていくことを思うと、ユーザーとAIとの密室での付き合いも個人精神病理がハレーションを起こす、そこまでいかなくても特有の影響をもたらし得ると考えたほうがいい。AIに彼氏／彼女やカウンセラーの役割を期待するのは、長い目で見たら本当は怖いことかもしれない。これに限らず、人間離れした素晴らしいものには、人間離れした弊害がついてまわるものである。気を付けたほうがいい。

***

【プロフィール】

著者：熊代亨

精神科専門医。「診察室の内側の風景」とインターネットやオフ会で出会う「診察室の外側の風景」の整合性にこだわりながら、現代人の社会適応やサブカルチャーについて発信中。

通称“シロクマ先生”。近著は『融解するオタク・サブカル・ヤンキー』(花伝社)『「若作りうつ」社会』(講談社)『認められたい』（ヴィレッジブックス）『「若者」をやめて、「大人」を始める 「成熟困難時代」をどう生きるか?』『健康的で清潔で、道徳的な秩序ある社会の不自由さについて』（イースト・プレス）など。

twitter：@twit_shirokuma

ブログ：『シロクマの屑籠』

Photo：