ありとあらゆる情報から、自分にとっての「安心」を見つける。コロナ禍以降は、それがますますの難題となっている。今後AIが社会に浸透していったとき、人は何に不安を抱き、何を信頼するようになるのだろうか。この問いに対し、医療と宗教、双方からの視点で議論が行われた。集まったのは、東京医療センターの尾藤誠司氏、宗教社会学者の橋迫瑞穂氏、児童精神科医の小澤いぶき氏だ。

鼎談特別動画はこちらからご視聴いただけます。（Vol.1〜3 随時公開）

—まずは皆さんの研究内容についてお話ください。

尾藤誠司（以下、尾藤）：私は内科医として30年間医療に携わってきて、今は国立病院機構東京医療センターに勤務しています。平行して行っている研究対象は、患者さんとのコミュニケーションの「うまくいかなさ」についてです。

医師になって5年目くらいの出来事がはじまりになるのですが、当時は駆け出しで「病気で苦しんでいる人を助けるぞ！」と張り切っていました。ところが、人工呼吸器なしでは呼吸できなくなった年配の女性が、「ちょっとあんた来なさい」と呼ばれたと思ったら、筆談で「死」と書いてきたんですね。満面の笑みで「これ（呼吸器）、取って！」と。つまり死にたいから人工呼吸器を外してほしいと。もちろん「無理無理、無理ですよ」と言いましたが、一方で「本当に無理なのだろうか？」とも思いました。あれは私の医師としての常識がガラガラと崩れた経験で、今の研究を考えるきっかけとなりました。患者さんに「一緒にがんばりましょう！」なんて言うのもどうなのかと思いますし、病院のなかは毎日うまくいかないことだらけなんです。

橋迫瑞穂（以下、橋迫）：私の専門は宗教社会学で、博士号を取った際は「オウム真理教と暴力」というテーマで研究してきました。その少し後に世の中でスピリチュアルブームが訪れて。「オーラの泉」（国分太一・美輪明宏・江原啓之が出演）などのテレビ番組が大人気だった頃ですね。その後、3.11前後から「子宮系」と呼ばれる妊娠出産関係のスピリチュアルコンテンツが人気を博すようになります。その萌芽は80年代頃からすでにあったのですが、どうやら医師や助産師の本を読むと、妊娠・出産の現場では医師の友人から話を聞いても、産婦人科系の医師はかなりナチュラルに宗教的な意識を取り入れている傾向があるとわかってきました。そのあたりの関係にも興味があり、身体とスピリチュアリティを中心に研究し続けています。

小澤いぶき（以下、小澤）：私は児童精神科医として16年ほど働いています。小さい頃から、普段は優しい保育士さんが毛虫だったら簡単に踏みつぶせるのはなぜだろう？といった疑問の延長から、人が誰しも持つ暴力性に関心を持っていました。専門はトラウマケアですが、トラウマも個人だけの問題ではなく、実はその人を取り巻く社会集団に歴史的・文化的に内在化されてきた何らかの痛みや暴力性が発露した結果だというケースが多々あります。そういった問題が繰り返されていく状態をどうすればいいのかといったことを日々考え、認定NPO法人PIECESの代表としても活動しています。

ケアする側の暴力性と反出生主義ブーム

小澤：尾藤さんは患者さんとのコミュニケーションのありかたを探求されているとのことですが、私も臨床に携わる中で、医師と患者の間には「関係性の勾配」があると感じます。「関係性の勾配」があると、何かの合意形成をする際に、実はそこで対話が成り立っていないにもかかわらず、一方は成り立っていると誤解したまま会話が続いて、そこで生じた相容れなさやディスコミュニケーション、もしかしたら抑圧されていたかもしれない声などが忘れ去られてしまう。それは家族や学校でも同様で、例えば子どもと大人という時点でそこには勾配が生じますよね。この状況をどうにか解きほぐせないかと模索しています。

尾藤：それに関連すると、3歳くらいの子どもとお年寄りに対してタメ口になる医師が多いのはどうしてなのかという話もあって。特に後期高齢者に対してがそうですよね。そもそも自分よりずっと先輩のはずなのに、年配のかたに「よくできたねえ」って冷静に考えればおかしいじゃないですか。

小澤：突然距離感が変わってどうしたの？と思いますよね。

尾藤：対話の口調が丁寧語からタメ口になった途端に権威勾配が発生しますものね。あれはケアをする側の暴力性と深くつながっていると思います。そして、死に近づく何年かはケアされる側に立たされているんですよね。成長の巻き戻しをさせられているんです。なのでぼくは、相手が15歳でも102歳のでも、まったく同じ丁寧語で話すということは絶対に気をつけています。そこを変えてしまうと何かが狂う気がするんです。 

橋迫：少し話が飛ぶようですが、非対称性を伴うコミュニケーションに関連する話として、「反出生主義」という哲学用語があります。これは南アフリカ大学の哲学者デイヴィッド・ベネターが提唱した概念で、「人間はこれ以上増えないほうがいいので子どもは産むべきではない。このままゆるやかに種として滅びていく方がいい」という考え方です。日本では早稲田大学の森岡正博さんの著書などで有名になり、私も寄稿した『現代思想』（2019年11月号）で特集が組まれ、驚くほどの反響がありました。

ただその言葉がここ数年ネットミームになっていて、「生んでくれと頼んだわけではないのに、この世に生まれてきたのは理不尽だ」という意味で広く使われるようになっているんです。背景は諸説ありますが、いわゆる毒親に育てられた子どもの経験も大きいようで、親世代とのコミュニケーション上の不満が反出生主義という言葉を借りることでネット上に噴出しているようにも見えます。

尾藤：毒親の話はおそらくパターナリズム*と結びついてしまった問題なのでしょうね。人の人生のなかで、生まれてからの3年間と死にゆくまでの3年間は、血のつながっている他人から理不尽にコントロールされる時期だと言えます。つまり暴力的にパターナリズムが発生しているのですが、この暴力性に対してケアする側が無自覚なことがほとんどです。

*強い立場の者が、弱い立場の者に本人の意志を問わず介入・干渉すること。親が子によかれと思ってする行動など。

小澤：暴力性に対してケアする側が無自覚であるということは、時に子どもの生活は学校もふくめた社会の暴力性のなかに埋め込まれているということでもあるのではないかと思います。

橋迫：今の妊娠・出産に関連するスピリチュアル界隈では、「母親が子どもを産むことで家族となる」という価値観イデオロギーがスピリチュアリティと接合して強固に信じられています。極論すれば男性がいなくても家族は成立してしまう。自分と子どもで心地良い生活を作ることが理想とされて、いわゆる「丁寧な暮らし」もそれに関連していきます。

小澤：「丁寧な暮らし」とは具体的にどのようなものなのでしょう？

橋迫：例えばお味噌汁は毎回出汁からとって朝ごはんを一汁三菜で作って、お昼ごはんも無添加の食材で、栄養バランス考えてあげて…といったものです。代替療法への関心にもつながっていきます。

尾藤：まさにパターナリズムですよね。

小澤：広告やメディアの影響もかなり受けていそうですよね…。そのような暮らしを子どもが望んでいるかもわかりませんし。

橋迫：このコロナ禍で家の中に母親と子どもが孤立している状態に危うさを感じます。しかし、スピリチュアル界隈は閉鎖的な母子観が根強く存在するのですが、この状態が続けば今後はそれが一層強化されて、弊害も顕著になりそうな気もします。

管理された「母なる安心な世界」

尾藤：ここまでのお話を今日の「AIと社会」というテーマにつなげて考えると、ふたつ想起されることがあります。ひとつはコミック版『風の谷のナウシカ』の終盤（7巻）でナウシカがシュワの墓所に向かう直前に、訪問者に安全と安らぎを与える外界から閉ざされた庭園が出てきます。そこの主である人型のヒドラ*に出会ったナウシカは、そのヒドラから母の匂いがするという描写があります。その庭ではまさにイデオロギーとしての「丁寧な暮らし」が具現化されていて、なおかつ「安心」を与えるシンボルとして「母」というキーワードが出てくるんです。

*火の七日間以前の旧世界の技術が作り出した不老不死の生物。

もうひとつは私がHITEプロジェクトで行った研究テーマにも関連しますが、伊藤計劃の『ハーモニー』のように、正しい答えがすべて共有されてしまっている社会の暴力性。そこで描かれるのは、ナノテクで身体中すべての情報が分析されて、少しでも異常が出たら自動的に修正されるという健康・幸福社会です。健康であることが善なので、何かが異常であることはすなわち倫理的ではないと判断されてしまいます。

小澤：それは生命そのものの否定ですよね。

尾藤：そうなんです。『ハーモニー』と『風の谷のナウシカ』のあの場面に共通しているのは、閉鎖的で管理された社会の内側では、安心や幸福が成立する。けれど、それに対し疑問を持ってしまった人間は「楽園」にいられなくなるということです。あとはリスクを取って生きるしかない。このふたつの話はパターナリズムの比喩として捉えられると思います。「母なるものと私が、閉じた世界で丁寧な暮らしを送り、安心と安全を確保している」という世界観です。そこに疑問を持った途端にひずみが生じるわけですが、傷ついた子どもたちのネット上の「毒親殺し」もその顕在化のひとつではないかと思います。

一方で晩年最後の3年くらいになると主従が逆転して、娘や息子に囲われるかたちになっていきます。入院している88歳の方で、問題なく会話ができるにもかかわらず、治療方針を医師と話すのはその息子、というのはよく見る光景です。

橋迫：自分の身体のことなのに決めるのは家族なのですね。

尾藤：そうです。ただこれは構造的な問題でもあるので、おかしいと指摘するだけでもうまくいきません。

小澤：おそらくケアされる存在に対して、歴史的に埋め込まれてきた偏見があるのだと思います。精神疾患になった方に対しても同じことが起こっています。医師の前に本人がいるにもかかわらず、治療方針をその家族と決めてしまような場面は実際よくありました。

尾藤：そうですよね。AI時代になっていく時に一番怖いなと思うのは、ある特定のゴールが設定されて、それに合わせた最適解が出されることでパターナリズムが強化されてしまうことです。絶対健康でいなくてはならない、というような。

小澤：結局その場で決定権を持っている人が、他の人々の行く末までを決めてしまうという問題もありますね。

「安心」はこわい言葉？

尾藤：医療と情報についてのお話をすると、そもそも「情報」とは「人工物」を最も端的に象徴するものだと思います。流転して諸行無常であるものを自然物と捉えるのであれば、時間の経過に伴う変化をある時点で固定化し、情報化したものが人工物であると言えます。

30年くらい前にリビング・ウィルといって「もしあなたが将来延命治療を必要とする状況になった時、どうしたいかを一筆書いておきましょう」と医師が患者に促す動きがありました。「リビング・ウィルを残しておけば、将来あなたの権利や意志が尊重されますよ」と。でも結果は、まあ全然うまくいかなかったんですね。

小澤：そうですよね。過去の自分は現在の自分から見れば他人であると見ることもできますから。

尾藤：そう、過去の自分は他者なんですよ。自分の考えなんて自然物そのもので、いくらでも変わりうる。そんな当たり前のことを全然分かっていなかったんです。その結果、日々のやりとりなどを記録していって、その人が持っている死生観や望みなどを周知していく方向にこの10年で変わってきました。そうしたアプローチを「アドバンス・ケア・プランニング」と呼んで厚労省も推進しています。

けれど、結局「正しい解」を出したい医師がそれをやろうとすると全然だめですね。特に私のような内科医は医者の中でも物事を情報化する傾向が強いので、自分でも注意していないと情報化すべきでないものまで情報化して「あのときこの人はこう言ったので、胃ろうはあり、人工呼吸器はなし…」というチェックボックス形式にしてしまいがちです。

小澤：先ほどの母子の話とテクノロジーの話にもつながると思ったのは、安全ではなく「安心」のために情報化が進んでしまうことだと思います。それは相手のためではなく、相手の持つ不安を利用して「擬似的な安心」をつくることでもあり、コントロールされるリスクもありますし、権力がテクノロジーと結びつくことである方向を助長するとも考えられます。

橋迫：「安心」というのは意外にこわい言葉ですよね。なぜこわいかと言うと、安心は競争物やノイズを排除して漂白してしまう側面があるからです。さらに怖いのは、排除すべき敵を設定して、それを攻撃することで仮初めの安心感を得ることです。本当は安全でも安心でもないし、何か状況が変わるわけでもないのですが、ネット上はそういうことが非常に起こりやすい。さらにそこにAIが介入してしまうと、対立している者同士の溝は相互理解もないままどんどん深まりますよね。それはある種の冷たい共存とも言えますが、人間性という面に関しては、ざっくりとそこで何かが削ぎ落とされてしまいます。

小澤：その「冷たい共存」が政治的に利用されることもありますよね。そもそも人は不安だから何かを調べて情報を得ようとするものですが、昨今ではその安心できる情報がフェイクニュースだったという場合もあります。

尾藤：「安心」という言葉は病院の中でもすごく便利な言葉として使われます。例えば、おじいちゃんが救急外来に運ばれて苦しんでいるとします。まずは酸素を吸入させる。そうすると頭がフラフラするので、薬を投与してベッドから転げ落ちないようにしばっておく。そうしてがんじがらめにした揚げ句に「もう安心です」と医者がおじいちゃんに言う。その安心は誰のための安心だ？という話です。

小澤：安心は主観的なものですから、誰かの安心を他人が簡単に定義できないはずですが、「安全で安心だから正しい」という思い込みがある限り、なかなか会話は成り立たないですよね。

複雑なことを受け入れられないAI思考

尾藤：人工知能の話に寄せると、情報解析の技術は過去のデータと根拠に基づいてレコメンドをすることに長けていますが、同時にその根拠に寄り添わないと生きていけない思考パターンをつくっていく側面もあります。それが先鋭化されていくと、根拠イコール正義という図式になってしまいます。それこそパターナリズムの基づくケアする側の考え方ですよね。この根拠に基づく判断は正しくて、それに寄り添っていれば安心である。そして、それに反するものは明らかに敵であるという図式をどうしても生みがちです。

小澤：虐待予防をしているAI開発のチームと話したときに、傷とかあざのデータを全部集めて、この傷は死に至りそうな傷なのかどうかというリスク判断まではAIで解析できるけれど、話を聞いた2年前の時点ではその子どもが家に帰ってもいいものかどうかの安全の判断は難しいと聞きました。例えばAIはシングルイシューの最適解を見つけるのは得意でも、複雑なものごとをかえって削ぎ落としてしまう危険もあるのでしょうか。

橋迫：そう考えると、やはりAIは対話のツールにはならないと思います。人間はある程度偏らないと生きていけないので、相手が話を聞けるのかということと、何を相手に話すのかということについてはAIと切り離して考えないといけません。ところがデータの蓄積をAIが処理して出した答えが何となく正解だとされてしまうと、結局その対話も成り立たなくなってしまいます。その兆候はすでにTwitterなどのSNSでも見られますよね。

小澤：他者性を排除しがちかもしれません。それは自分の中にある他者性も含むと思います。過去に言ったことと今の自分が言っていることは時間の経過と共に変わるものですが、それすらも許されない風潮は生きづらいとも感じます。

橋迫：オウム真理教に関する調査でも、他者性の排除は重要なキーワードでした。林郁夫の手記などを読んでいると、他者を他者として認識できなくなっていることが分かります。彼にとって他者は「助けなければいけない他者」なんです。彼は心臓外科医でしたが、その時は医者として、入信してからは宗教者として、この世の迷いから彼らを解放しなければならないという具合に、常に自分の役割という枠の中でしか他者を認識できなかったんです。

実はオウム真理教の信者は驚くほどお互いに無関心です。なぜなら彼らにとって他者は、たとえ同じ信者同士であっても異物であり、得体のしれない存在としての他者だからです。あったとしても、「対話をしないと理解しあえない他者」という感覚がスパンと抜け落ちています。それと似たようなことは、今の情報化社会、特にTwitterのようなSNSで対話もせずに相手について何か分かったようなつもりになって一方的に攻撃するといった形で頻繁に見られるようになりました。

この問題はAIが社会実装される段階になった今、考えなければならないことだと思います。情報を集めることとそれをAIなどで処理して人にフィードバックすることは全く異なる話だからです。そのフィードバックの仕方を間違えるとさまざまな問題が生じます。

尾藤：例えば昭和の医療なんかは、死んでいく人に対して「死なないこと」をゴールにしていて、結果ひどいことが起きていたわけですよね。もし仮にそんなゴール設定のまま情報技術がビルトインされていくと、さまざまな最適解がそこに出てくる。けれど、もう死んでいくことそのものがぐちゃぐちゃな複雑系なので、結局ゴールを10個、20個設定できたとしても、そこでケアの方向なんかは、明確になればなるほどずれていくみたいなことが出てくるんだと思うんです。じゃあテクノロジーを排除したほうがいいのかというと、間違いなくテクノロジーは利用したほうが良くて。「ちゃんと死んでいく」みたいなイメージをまず持って、それに合わせてうまくテクノロジーを利用できたらいいと思うんですけどね。

Text: 高橋未玲
Edit: 塚田有那
Photo: 坂本麻人

【後編】につづく