【後編】医療と宗教から考えるAI社会。「安心」はノイズを排除する?

HITE研究者

2021.02.16

ありとあらゆる情報から、自分にとっての「安心」を見つける。コロナ禍以降は、それがますますの難題となっている。今後AIが浸透していったとき、人は何を信頼するようになるのだろうか。この問いに対し、医療と宗教、双方からの視点で議論が行われた。集まったのは、東京医療センターの尾藤誠司氏、宗教社会学者の橋迫瑞穂氏、精神科医の小澤いぶき氏だ。

【前編】はこちら

鼎談特別動画はこちらからご覧いただけます。(Vol.1〜3 随時公開)

「将来がわからない」不安のパラドクス

小澤いぶき(児童精神科医)
小澤いぶき(児童精神科医)

尾藤誠司(以下、尾藤):今って、メンタル的に病んでいる患者さんが本当に多いんです。例えばおなかの調子が悪いとか、肩が痛いとか、腰が痛いとか、症状はあるのに原因を特定できないという場合です。大抵の場合はすでに色々な大学病院で行ったさまざまな検査結果と紹介状を持っていらっしゃる。紹介状には「当科の判断としては問題ないので、よろしくお願いします」と書いてある。でも本人はものすごく困っていて、将来への不安で完全に気持ちが参ってしまっているんです。

ほぼ例外なく、そのとき患者さんはふたつのことにがんじがらめになっています。ひとつは自分の調子の悪さの「原因」を追求したいということ。もうひとつは、「将来どうなるかがわからない」という不安です。

そんなとき私は「はい、1年後にあなたは絶対死んでいません」と伝えます。「原因が何かは分からないけれど、何でないかは明確に分かります。絶対にガンではないし、神経難病でもないし、エイズでもない。だから“原因は色々”ということでいいじゃないですか」と。そうすると「やっぱりメンタルから来ているんですかね?」と言うので、「いや、だからメンタルだと言っている時点で何かの原因を無理に特定しようとしているわけですから、色々でいいんです。PM2.5かもしれないし、5Gの電波かもしれないし」と言って(笑)、まずその方をしばっている因果をパチパチと切っていくんです。もうひとつ切るべきは予測モデルです。因果関係と予測モデルがうまく切れると間違いなく良くなります。

小澤いぶき(以下、小澤):すごく面白いですね。これは医療に限らず科学や、あるいはメディアの功罪でもあると思います。生命は本来非常に複雑で因果関係のみでは語れないはずなのに、すべての物事に何かしらの原因があって、それを特定できれば問題をすべて解決できるかのようにメディアが報じ、医療も診断をして原因を突き止めて改善するというモデルを用いてきたので、やはり多くの人が因果関係にしばられたものの考え方になってしまうと思います。

尾藤:HITEのプロジェクトで、情報がもたらす効果とは何かを最初に考察しました。そうしたら「因果関係を明確にして将来を予測する」ということに行き着いたので、これはいかんと。例えばみんなすごく死を恐れていますが、それは因果のモデルと将来予測のモデルが自分の思考の中にインストールされているからだと思います。

小澤:脈々と歴史的にも文化的にも、何世代にもわたってですね。

尾藤誠司(内科医)
尾藤誠司(内科医)

尾藤:また『風の谷のナウシカ』の話になりますが、7巻の終盤でシュワの墓所の主が登場して、ナウシカが彼らの意図を拒むシーンがありますよね。彼女は「生きることは変わることだ。だけどお前は変われない。組み込まれた予定があるだけだ。死を否定しているから」と言います。まさに「予定を生きること」が生を否定しているということをここでは描写しているのです。この「予定を生きる」というモードにホモサピエンスはいつからなっていったのだろうと思います。

小澤:言葉には時間の幅を持たせるという性質がありますよね。過去と未来が言葉で分かるようになった時点で「未来」という概念が生まれます。それが予定を生きることにつながります。

橋迫瑞穂(以下、橋迫):ある意味でパラドックスですよね。母なる未来、つまり何となく居心地が良くて未来に起きることを何もかも分かっているかのような母的なものを人は求めるけれど、実際には存在しないから怖くなってしまうというパラドックスの中にあるのだと思います。

医療と宗教は分かれていない

橋迫瑞穂(宗教社会学者)
橋迫瑞穂(宗教社会学者)

橋迫:スピリチュアリティ関連の書籍を調べていると、カリスマ的人気を誇っているのが大概医者なんですよ。なにかに目覚めちゃった系のものとか本当に多くて(苦笑)。

小澤:精神科の中にも…。

橋迫:精神科はまだいい方で、外科や産婦人科はよく見ますね。しかも著者である医者が宗教を誤解したまま適当に切り取ったものを自説に組み込んでいるのも多くあって、かなり問題だと思っています。一方でそういうトンデモ医者を叩くという人たちもいますが、その人たちも間違った認識に基づいて叩いているケースも多々あります。つまり医療と宗教ってまったく分かれていないんですよね。

尾藤:結論から言いますと、診察室において、医学と宗教は分断どころか完全に統合されていると思います。医学という宗教性の中で患者は医師を信頼するし、その信頼関係の中で安心を与える構造を作ってビジネスを回しています。

実際のところ、糖尿病や高血圧の8割くらいはお金を回すのが目的で診断していて、製薬会社や医療機器メーカーを焼け太りさせる仕組みがあります。それとは別に、2割くらいの医師が「エビデンス」に基づく診断をするという正義感で仕事をしている。どちらも企業が儲かるわけですが、それってもはや宗教ですよね。

小澤エビデンスという正義感

尾藤:そうそう。そうなると、血糖値は調べるけど血圧は放っておこう、みたいなことが許されないんですよ。ぼくは宗教とはあるひとつの集団の中で「事実イコール価値」というモノの見方が成立している状況だと理解しています。橋迫さん、この理解で合っていますか?

橋迫:「事実イコール価値」を設定することは、宗教の役割のひとつだとは言えますね。ただ、宗教のさまざまな仕組みのうちの一部だとお考えください。

尾藤:だとすると、医学における「事実イコール価値」という仕組みを強固にしていけば、それは宗教に近い性質を持つものになると言えそうですね。

小澤:さらに言えば、その仕組みの自覚を医療従事者が持つことが大事なのかもしれません。患者さんは何かしらの不安や彼らにとっての不条理を感じて受診するので、その状況下でその仕組みを濫用することで「事実イコール価値」の構造がさらに強化される可能性もあるかもしれません。

尾藤:「事実イコール価値」はパターナリズムや因果関係、予測モデルとも親和性が高いですよね。ですから、権威を持っている医者が、そこに無自覚な状態で仕事をして、結果ビジネスモデルが回っているというのは非常に危険だと思います。

橋迫:やはり医療と宗教性は分かれていないんですね。AIについてリサーチをすると、医療分野での応用がめざましく進化しています。そこに大きな可能性があるのは確かですが、結局は誰のための安心・安全かを慎重に考察しないと危険なことになりかねません。

先ほどお話ししたように、理解をするために対話を必要とする他者のあり方がAIを前にして消えてしまう可能性もあります。このコロナ禍やさまざまな政治や社会の問題に関してネット上に流布する荒唐無稽な陰謀論を信じる層は以外と多いので、その状況をレコメンドシステムなどのAIがドライブすることで何が起きるのか恐ろしいものがあります。

小澤:陰謀論を信じることは、彼らが感じている何かしらの不安や不条理さ、関心を向けられない気持ちなど、さまざまな要因の上にある選択肢の中から選ばれたことかもしれませんし、それを選ばざるを得なかったのかもしれません。だからこそ「事実イコール価値」を押しつけるシステムとしての医療ではない、「病のとなりにいる存在」としての文化をもった医療のほうに可能性を感じます。それは宗教が果たしてきた役割でもありますし、それとAIが重なることでどのような医療の未来像が生まれていくかを描ける可能性も感じました。

橋迫:すごく腑に落ちます。ピーター・バーガーという宗教社会学者は、宗教は意図的につくれるという話をしていましたが、120パーセント人間がつくれるかと言えばそうではないと思います。やはり宗教は生死もふくめて人間の手に負えない物事にどのように対峙するかを示す側面が強いですから。それは人間の倫理でいうところの正義とは異なる場合もあります。それと同じ役割をAIが果たすとは思えません。とはいえ確かに重なる部分もあります。その重なる部分をどう捉えるかを考えた時、一番関わりが深いのが人間の生死なのだと、今お話を伺ってすごく腑に落ちました。

尾藤誠司(医師)×橋迫瑞穂(宗教社会学者)×小澤いぶき(児童精神科医)

死を現在進行形で捉えなおす

―今なお世界中に蔓延している新型コロナ時代や気候変動などのさまざまな不安があるなか、このような時代における死への向き合い方について最後にお伺いできればと思います。

尾藤:私は死について言及する時、「死ぬ」ではなく「死んでいく」という言い方にこだわっています。「死んでいく」という言い方をすることで、死が今この瞬間の生と地続きであるという意味にできます。つまり、自分はどうやって死んでいこうかと考えることは、自分はどうやって生きていこうかと考えるのとまったく同じ意味合いになるのです。そのプロセスを患者さんが自覚していくことに医療従事者として関与していきたいと思います。その中で、予測モデルや因果が、いかに「死んでいく」というプロセスを邪魔しているのかを明らかにしていくことが私の仕事だと考えています。

橋迫:人間は知らない他者とともに生きるしかありませんし、人生の中で家族もふくめた他者の死を看取ったり死にゆく自分を体験する際に、さまざまな後悔や痛みを伴います。その痛みを安易に手放すために、AIをふくめた最新のテクノロジーを使って麻痺させるような方向には行かない方がいいと思います。お二人とお話をして、人間にとっての辛い感情を避けずに生きていける方向を改めて考えたいと思えました。ありがとうございました。

小澤:人は生まれた途端に死に向かうという、とても大きな矛盾を抱えながら生きています。どう生きて、どう死んでいくのかという問いを答えがないまま抱えて生きることは、すごく難しいことでもあります。人が複雑なものや矛盾するものに突き当たった時、そこに葛藤や欲望が生まれることがあります。それ自体を舞台に上げて、複雑さを共有できるものが必要なのだと改めて今日お話をしながら思いました。

もうひとつ気になっているのは、検索エンジンと死のイメージの問題です。「死」などの痛みが伴う単語ほど画像検索をすると、強烈にわかりやすくて訴求力のある検索結果が出る傾向があります。そのため過激派組織などが「自分たちの主張に乗ったら、このようなディストピアではない未来がある」と人を扇動する手段にも使われます。一方で「平和」といった単語などで検索するとすごく抽象的な例えばハトの画像ばかりで、解像度がぼやけてしまいます。もっと人の願いや未来へのイメージの解像度を高めていけないかなと。

尾藤:「平和」とか「幸せ」といった単語を安易に使うと抽象的で違和感のあるものになってしまうので、私も臨床で対話する時には「おいしい」とか「気持ちいい」といった、より具体的な言葉を使って解像度を上げるようにしています。解像度が高くないと説得力がなくなりますから。特にコンピュータサイエンスはゴールに向かっていくサイエンスなので、その部分は本当に気を付けたほうがいいですね。

画像検索の結果においてネガティブな物事の解像度が高くなるようなラベル付けや、既存のバイアスの助長など、AIのアルゴリズムやデータセットの設計が適切でないことが原因で生じる問題は近年AI開発者の間でも課題となっている。今回議論された死生観に関する議論を、それらの課題を解決するための取り組みに反映させることができれば、AIと人の関係はより良いものになるのではないだろうか。

↑戻る