『世界は行動経済学でできている』架空対話：AIが人間を超える日、自由意志は残るのか？
あなたが今日下した決断のうち、本当に自分だけの意思で決めたものは、いくつあるでしょうか。
朝、何を食べるか。どんなニュースを読むか。誰の意見を信じるか。何を買い、誰を愛し、どんな人生を選ぶか。
私たちは毎日、自分で考え、自分で決めていると信じています。
けれども、もしその確信そのものが、思い込みだったとしたら？
橋本之克氏の著書『世界は行動経済学でできている』は、私たちの身近な選択の背後にある、人間の不思議な心理を明らかにしてくれます。
なぜ、必要のないものを「お得だから」と買ってしまうのか。
なぜ、愛する人の幸せを願いながら、その人を自分の思い通りに変えようとしてしまうのか。
なぜ、もっと幸せになりたいと思っているのに、明日から変わろうと先延ばしにしてしまうのか。
こうした疑問は、単なる日常の失敗談ではありません。人間が自分自身をどこまで理解しているのかという、もっと深い問題につながっています。
今回の架空対話では、原著者の橋本之克氏を中心に、心理学者ダニエル・カーネマン、行動経済学者リチャード・セイラー、哲学者の岸見一郎氏、そしてAI研究者ヨシュア・ベンジオ氏が、一つのテーブルを囲みます。
最初の話題は、たった1,000円のコーヒーです。
しかし、議論はやがて親子の愛情、人生の後悔、幸福の意味へと進み、思いがけない問いにたどり着きます。
もし5年後、10年後、AIが人間の知能を超えるほど進歩したら、どうなるのでしょうか。
もしAIが、あなた自身よりもあなたの心理を理解し、何を言えばあなたが動くのかを知っていたら？
そして、あなたが自由に選んでいると思っているその人生を、実はAIが少しずつ方向づけていたとしたら？
私たちは、それに気づくことができるのでしょうか。
この対話は、AIが必ず人類を支配するという物語ではありません。
人間の弱さを知ることは、絶望につながるのか。それとも、自由を守るための第一歩になるのか。
その答えを、5つの対話を通して一緒に考えてみたいと思います。
本記事は実在の人物の著作・研究・思想に着想を得た架空の対話です。登場人物の発言は創作であり、本人の実際の発言や見解を示すものではありません。
Topic 1：私たちは本当に自分で選んでいるのか？
東京の小さな対話スタジオ。丸いテーブルの中央には、同じメーカーのコーヒーが二つ置かれている。片方には「1,000円」、もう片方には「通常価格2,000円、本日限定50％OFF」と書かれた札がついている。
司会者が二つの商品を持ち上げる。
司会： 皆さん、最初にちょっとした実験をしたいと思います。こちらのコーヒーは1,000円。そして、こちらは通常2,000円ですが、今日は半額で1,000円です。中身も品質も同じだとしたら、どちらを買いますか？
リチャード・セイラー： 私なら、まず本当に同じものなのか疑いますね。
会場に笑いが起こる。
司会： そこは信じてください。実験ですから。
セイラー： では、半額のほうでしょうね。少なくとも、そう答える人は多いと思います。
司会： でも、同じ商品で同じ価格ですよ？
セイラー： ええ。それでも人間は、1,000円を払うことより、1,000円得したと感じることに魅力を覚える場合があります。
橋本之克： まさに、そこが行動経済学の面白いところなんです。私たちは価格を客観的に見ているつもりでも、実際には、その価格がどう提示されたかによって判断が変わることがあります。
司会： ということは、2,000円という数字を見せられた時点で、すでに影響されているんですね。
橋本： そうです。最初に提示された数字が、その後の判断の基準になることがあります。アンカリング効果と呼ばれるものです。
ダニエル・カーネマン： ただし、もう一つ興味深いことがあります。
司会： 何でしょう？
カーネマン： 半額の商品を選んだ人に、なぜそれを選んだのか尋ねると、多くの人は自分なりの理由を説明するでしょう。「お得だから」「賢い買い物だから」と。
司会： それは間違いなんですか？
カーネマン： 必ずしも間違いではありません。しかし、人間は自分の判断がどのように生まれたのかを、完全に知っているわけではないのです。後からもっともらしい説明を作っている場合もあります。
司会： つまり、自分がなぜ選んだのか、自分でも本当には分かっていないかもしれない？
カーネマン： その通りです。そして、そこが重要なのです。
岸見一郎： でも、少し気になることがあります。
橋本： 何でしょうか。
岸見： 人間が外部から影響を受けることと、人間に自由がないことは、同じではありませんよね。
カーネマン： もちろんです。
岸見： 私たちは誰かの言葉に影響されます。本を読んで考えが変わることもあります。愛する人に説得されて、人生の方向を変えることもあるでしょう。それらをすべて「誘導された」と呼んでしまうと、人間の自由とは何なのか分からなくなります。
橋本： 私も、行動経済学は人間に自由がないことを証明する学問だとは考えていません。むしろ、自分がどんな影響を受けやすいかを知ることで、より良い選択ができるようになる。その点に価値があると思います。
司会： でも、知っていれば防げるものなんでしょうか？
セイラー： いい質問です。私たち研究者だって、衝動買いをしますからね。
司会： えっ、セイラー先生でも？
セイラー： もちろん。行動経済学者だからといって、スーパーマーケットで急に完璧な合理的人間になるわけではありません。
カーネマン： むしろ、自分はバイアスを理解しているから大丈夫だと思うこと自体が、危険かもしれません。
司会： なるほど。では、次の質問です。私たちはなぜ、自分が間違っていると認めるのがこんなに難しいのでしょうか？
司会者はコーヒーをテーブルの端に寄せ、今度は二枚の紙を取り出す。
一枚には「あなたの意見に賛成する研究」、もう一枚には「あなたの意見に反対する研究」と書かれている。
司会： 例えば、自分が長年信じてきた健康法について調べるとします。賛成する研究と反対する研究があったら、どちらを詳しく読みたくなるでしょう？
橋本： 多くの場合、自分の考えを支持してくれる情報に目が向きやすいでしょうね。
司会： 確証バイアスですね。
橋本： そうです。人間は情報を公平に集めているつもりでも、すでに持っている考えに合う情報を優先してしまうことがあります。
カーネマン： そして厄介なのは、私たちが自分の偏りを認識しにくいことです。他人の判断の間違いはよく見えるのに、自分の間違いは見えにくい。
岸見： 私はそこに、人間関係の問題もあると思います。
司会： といいますと？
岸見： 例えば、夫婦が口論しているとします。夫は自分が正しいと思い、妻も自分が正しいと思っている。二人とも、相手に自分の正しさを認めさせようとしている。
司会： よくありますね。
岸見： しかし、そこで考えてほしいのです。あなたは相手を理解したいのでしょうか。それとも、相手に勝ちたいのでしょうか。
一瞬、テーブルが静かになる。
セイラー： それは研究者同士の議論にも当てはまりそうですね。
岸見： そうかもしれません。知識が増えるほど、自分の正しさを証明する言葉も増えていきますから。
カーネマン： 興味深い指摘です。ただ、私は少し補足したい。人間が自分の考えに固執するのは、必ずしも相手に勝ちたいからではありません。私たちの思考そのものが、最初に浮かんだ答えを支持する方向に働くことがあるのです。
岸見： ええ。その違いは大切ですね。すべてを人間の意図や性格の問題にしてはいけない。
橋本： だからこそ、自分がどのような状況で判断を間違えやすいのかを知る必要があります。例えば、疲れているとき、焦っているとき、周囲の人が同じ意見を持っているとき。そういう条件が重なると、普段ならしない判断をしてしまうこともあるんです。
司会： でも、今のお話を聞いていると、少し怖くなります。私たちは自分の頭で考えているつもりでも、実際には感情や環境や周囲の意見に動かされている。そうすると、自由意志なんて本当にあるんでしょうか？
ヨシュア・ベンジオ： ここで一つ、区別しておきたいことがあります。
それまで静かに聞いていたベンジオが、少し身を乗り出す。
ベンジオ： 人間の判断が外部の影響を受けるという事実から、自由意志が存在しないという結論を出すことはできません。自由意志は哲学的にも科学的にも、まだ議論の続いている問題です。
司会： では、先生はどう考えますか？
ベンジオ： 私が気になるのは、人間が影響を受けるということより、その影響を与える仕組みが、今後どれほど精密になるかということです。
セイラー： AIの話ですね。
ベンジオ： ええ。ただ、今日はまだAIそのものの話をするつもりはありません。まず、人間の判断がどの程度変わり得るのかを理解する必要があります。
カーネマン： それには賛成です。人間は単純に非合理的なのではありません。私たちの直感は、多くの場面で驚くほど役に立っています。
司会： では、なぜ間違えるんでしょう？
カーネマン： 直感が働く仕組みは、すべての状況に適しているわけではないからです。ある場面では役立つ近道が、別の場面では間違いを生むことがあります。
橋本： 例えば、人気の商品を選ぶことは、必ずしも悪い判断ではありません。多くの人が選んでいることが、品質の一つの手がかりになる場合もあります。ただ、それだけで自分に合っていると決めつけるのは危険です。
司会： つまり、影響されること自体が悪いわけではない？
橋本： そうです。大切なのは、影響を受けている可能性に気づき、必要なときに立ち止まって考えられることです。
岸見： 私は、もう一つ加えたいですね。
司会： 何でしょう？
岸見： 人間は、完全に正しい選択をするためだけに生きているわけではありません。
司会： どういう意味でしょう？
岸見： 例えば、ある人が安定した仕事を辞めて、長年の夢だった小さな店を開くとします。経済的には危険な選択かもしれません。周囲の人は「合理的ではない」と言うでしょう。
セイラー： でも、その人が店を開くことに大きな喜びを感じるなら、必ずしも非合理的とは言えませんね。
岸見： その通りです。人間の幸福は、お金や成功の確率だけでは測れません。
カーネマン： ただ、その人がリスクを正しく理解しているかどうかは重要です。自由な選択を尊重することと、判断の誤りを無視することは別です。
岸見： ええ。そこは私も同意します。
司会： すると、自由な選択というのは、必ず正しい選択をすることではなく、自分が何を大切にしているかを考えたうえで選ぶことなのでしょうか。
橋本： 私は、その考え方には大きな意味があると思います。行動経済学は、人間の判断の弱点を教えてくれます。でも、それをどう生かすかは、私たち自身の問題です。
セイラー： それに、いつも一人で頑張る必要はありません。例えば、貯金したい人が毎月自動的に一定額を積み立てる仕組みを作る。これは自分の弱さを理解したうえで、環境を味方につける方法です。
司会： でも、その仕組みを誰かが勝手に作ったら？
セイラー： そこが問題になります。本人の利益になること、選択肢が分かりやすいこと、そして本人が望まないなら変更できること。そうした点が重要です。
岸見： つまり、人を助ける仕組みであっても、その人の人生を代わりに決めてはいけないということですね。
セイラー： 少なくとも、私はそういう選択の仕組みを支持します。
司会： ここで少し個人的なことを聞いてもいいでしょうか。
橋本： もちろんです。
司会： 私たちは、愛する人に対しても同じことをしていませんか？
橋本： といいますと？
司会： 例えば、子供に良い学校へ行ってほしい。妻や夫に健康になってほしい。親にもっと幸せに暮らしてほしい。そう思って、相手の考え方や行動を変えようとする。
岸見： ええ。
司会： でも、本人が望んでいないこともありますよね。それでも「あなたのためだから」と言って説得し続ける。
岸見： ありますね。
司会： それは愛情なのでしょうか。それとも、私たちが相手を自分の望む方向へ誘導しようとしているのでしょうか。
岸見はすぐには答えない。橋本もテーブルの上のコーヒーに目を落とす。
橋本： 難しい問題ですね。相手を理解することと、相手を思い通りに動かすことは、同じではありませんから。
セイラー： ただ、何もしないことが必ずしも相手のためになるとは限りません。例えば、健康を害する習慣を持っている人を、家族が心配するのは自然なことです。
岸見： もちろんです。私は、愛する人を心配してはいけないと言っているのではありません。
司会： では、何が違うのでしょう？
岸見： 相手を心配することと、相手の人生を自分の思い通りにしようとすることです。
カーネマン： そして、おそらく私たちは、自分の動機についても完全に客観的ではいられないのでしょうね。
司会： 自分では愛情だと思っていても、そこに支配したい気持ちが混ざっているかもしれない。
カーネマン： その可能性はあります。
橋本： だからこそ、人間の心理を知ることには意味があるのだと思います。相手を操作するためだけではなく、自分自身の動機を見つめ直すためにも。
司会者は、最初に置いた二つのコーヒーを再び手に取る。
司会： 最初は、どちらのコーヒーを買うかという話でした。でも、今は少し違って見えます。
セイラー： どう違いますか？
司会： 私たちは毎日、何かを選んでいます。商品も、仕事も、人間関係も。でも同時に、誰かに何かを選ばせようともしています。
司会者はコーヒーを静かにテーブルに戻す。
司会： そして、その相手が大切な人であればあるほど、自分の行動を疑わなくなるのかもしれません。「あなたのためだから」と。
岸見： ええ。その言葉は、愛情にもなりますし、相手の自由を奪う言葉にもなり得ます。
司会： では、次はそこを考えてみたいと思います。
司会者は全員を見渡す。
司会： 人間の心理を理解することは、人を幸せにするための知恵なのでしょうか。それとも、相手を思い通りに動かすための技術なのでしょうか。
岸見がセイラーのほうを見る。セイラーは小さく笑い、椅子に座り直す。
セイラー： その質問には、少し反論したいことがありますね。
岸見： 私もです。
二人の視線が交わる。議論は、まだ始まったばかりだった。
Topic 2：人を理解することと、操ることの違いは何か？
東京の対話スタジオ。先ほどまでテーブルに置かれていた二つのコーヒーは片づけられている。岸見一郎とリチャード・セイラーは、まだ互いの顔を見ている。
セイラー： 先ほど、相手の自由を尊重することが大切だというお話がありましたね。私も賛成です。ただ、少し気になることがあります。
岸見一郎： 何でしょうか。
セイラー： 人間は、自分にとって良いことだと分かっていても、必ずしもそれを選べません。健康になりたいのに運動しない。貯金したいのに使ってしまう。そういう人を助けるために、選択の環境を整えることは、本当に悪いことなのでしょうか。
岸見： 悪いとは思いません。ただし、誰がその人にとって何が良いかを決めるのか。それが問題です。
セイラー： 例えば、学校の食堂で果物を目につきやすい場所に置くとします。生徒は果物を選んでもいいし、別のものを選んでもいい。選択肢は奪っていません。
岸見： それなら、私も特に反対する理由はありません。
司会： あれ？ 今日はお二人が激しく対立すると思っていたのですが。
小さな笑いが起こる。
岸見： 意見が違うからといって、何でも反対する必要はありませんから。
セイラー： その通りです。ただ、もう少し難しい例を考えてみましょう。
司会： 実は、私も一つ紹介したい話があります。
司会者は手元の紙を開く。
司会： ある母親の話です。息子は30歳。大学を卒業して働いていましたが、仕事を辞めて実家に戻ってきました。半年ほど経っても、次の仕事を探している様子がありません。
母親は毎朝、求人情報を送ります。
「この会社はどう？」
「あなたならもっと良い仕事が見つかるでしょう？」
「いつまでこのままでいるつもりなの？」
息子は最初、返事をしていました。でも、やがて何も言わなくなりました。
ある晩、母親が「あなたの将来が心配なの」と言うと、息子はこう答えました。
「お母さんは、僕が幸せになることより、お母さんが安心することのほうが大事なんじゃないの？」
司会者が紙を置く。
司会： この母親は、息子を愛していないのでしょうか。
岸見： そんなことはありません。息子さんを心から心配しているのでしょう。
橋本之克： ただ、母親の心配と、息子がどう感じているかは別の問題ですね。
司会： 橋本さんなら、行動経済学の視点からどう見ますか？
橋本： まず、母親は「仕事に就くことが息子のためになる」と考えています。もちろん、それには十分な理由があるでしょう。でも、息子が今何を考えているのか、なぜ仕事を探していないのか、そこを理解しないまま行動を変えようとしている可能性があります。
カーネマン： 母親は、自分が正しいと思う理由をいくつも挙げられるでしょうね。
橋本： ええ。そして息子のほうも、「母親は自分を理解してくれない」という証拠ばかり集めてしまうかもしれません。
司会： 二人とも、自分の立場からしか見ていない。
カーネマン： そういうことはよくあります。ただし、この話だけでは、どちらがどれほど誤解しているかまでは分かりません。
セイラー： 私は、母親が毎朝求人情報を送ること自体が、必ずしも悪いとは思いません。
岸見： そうでしょうね。
セイラー： しかし、送る前に息子に尋ねることはできます。「仕事を探すとき、私に手伝ってほしい？」と。
司会： それだけですか？
セイラー： それだけで大きく変わる可能性があります。本人が助けを求めているなら、選択肢を見つけやすくすることは有益です。望んでいないなら、毎朝の求人情報はただの圧力になるかもしれません。
岸見： そこには同意します。ただ、私は母親にもう一つ質問したいですね。
司会： 何でしょう？
岸見： 「息子さんが、あなたの望む人生を選ばなかったとしても、息子さんを尊重できますか？」
司会者はしばらく考える。
司会： それは、親にとってかなり難しい質問ですね。
岸見： ええ。親は子供を愛しています。だから心配する。しかし、子供が自分とは別の人生を生きる一人の人間だということを、忘れてしまう場合があります。
司会： でも、現実には親にも責任がありますよね。息子が働かず、生活費を全部親に頼っていたらどうでしょう？
岸見： それは重要な点です。相手の人生を尊重することと、相手の生活を無条件に支えることは同じではありません。親にも自分の生活があり、自分の限界があります。
橋本： つまり、息子の選択を尊重しながら、親自身の生活については境界線を決められるということですね。
岸見： そうです。「あなたの仕事はあなたが決める。でも、私たちがいつまで生活費を負担できるかは、話し合わなければならない」と。
司会： それは、相手を変えるための脅しとは違うんでしょうか？
岸見： 目的と伝え方が重要でしょう。相手を罰するためではなく、自分が引き受けられる責任を明確にすることです。
セイラー： なるほど。では、私からもう一つ聞いてもいいですか。
岸見： どうぞ。
セイラー： 息子が「仕事を探したい。でも何から始めればいいか分からない」と言ったら、母親が一緒に履歴書を書く時間を決めたり、求人情報を整理したりすることには賛成ですか？
岸見： もちろんです。
セイラー： では、私たちの意見はそれほど遠くないのかもしれませんね。
岸見： ただし、あなたは人間が行動しやすくなる仕組みに関心があり、私はその人が誰の期待に応えようとしているのかに関心があります。
セイラー： それは良い違いですね。
司会： でも、私はここで一つ気になることがあります。
橋本： 何でしょう？
司会： 私たちは今、母親が息子をどう扱うべきか話しています。でも、母親のほうも誰かに誘導されている可能性はありませんか？
カーネマン： 例えば？
司会： 周囲の親たちです。「うちの息子はもう結婚した」「娘は大企業で働いている」「子供が独立して安心した」。そういう話を聞くたびに、自分の息子だけが取り残されているように感じる。
橋本： 社会的比較ですね。人間は、自分の状況を絶対的な基準だけで判断するわけではありません。周囲と比べることで、満足や不満が変わることがあります。
司会： つまり母親は、息子を変えたいと思っている。でも、その母親自身も、社会から「良い親とはこういうものだ」と誘導されているかもしれない。
カーネマン： その可能性はあります。人間の判断に影響を与えるものは、一つとは限りません。
岸見： そして、母親が他人からどう見られるかを気にしているなら、息子の人生が母親自身の評価と結びついてしまうことがあります。
司会： 息子の幸せより、自分が恥ずかしくないことを優先してしまう。
岸見： そうなる危険があります。ただし、母親を責めるだけでは何も変わりません。母親自身も苦しんでいるかもしれませんから。
司会者はゆっくりうなずく。
司会： なんだか、最初に聞いたときよりも悲しい話に思えてきました。
橋本： どうしてですか？
司会： 母親は息子を愛している。息子も、きっと母親を嫌いになりたいわけではない。でも、お互いが相手を理解してほしいと思っているうちに、どんどん離れていく。
岸見： ええ。そういうことはあります。
司会： もし、この母親が今日ここにいたら、皆さんは何と言いますか？
セイラー： 私なら、まず「息子さんに、どんな助けが必要か尋ねてみてください」と言います。
橋本： 私は「息子さんが行動しない理由を、怠けているからだと決めつけないでください」と伝えたいですね。
カーネマン： 私なら、「あなたが息子さんについて確信していることの中に、間違っている可能性があるものはありませんか」と尋ねるでしょう。
岸見： 私は、こう聞きたいです。「息子さんがあなたの期待通りにならなくても、あなたは息子さんを愛せますか？」
誰もすぐには口を開かない。
司会： その質問に、母親が「もちろん愛しています」と答えたら？
岸見： では、次に尋ねます。「その愛情を、息子さんが感じられる形で伝えていますか？」
橋本は小さく息をつく。
橋本： それは、考えさせられますね。
司会： でも、岸見さん。私は少し反論したいです。
岸見： どうぞ。
司会： 相手をそのまま受け入れることが愛だとしたら、相手が自分を傷つけるような行動をしていても、何も言わないほうがいいんでしょうか？
岸見： いいえ。愛することは、黙って見ていることではありません。
司会： では、どこまで言っていいんですか？
岸見： 自分の気持ちや心配を伝えることはできます。必要なら、助けを申し出ることもできます。しかし、最終的に相手がどう生きるかを、自分が決めることはできません。
セイラー： 私はそこに、もう一つ付け加えたいですね。人間は自分の目標に反する行動を取ることがあります。本人が変わりたいと思っているなら、行動を変えやすくする仕組みは大いに役立つはずです。
岸見： ええ。ただ、本人の目標なのか、それとも周囲が押しつけた目標なのかは、確かめたいですね。
セイラー： そこは譲れませんね。
二人が笑う。
司会： では、もう少し難しい例を考えましょう。
司会者はスマートフォンを取り出す。
司会： ある女性が、夫の健康を心配しています。夫は糖尿病のリスクが高いと言われていますが、食生活を変えようとしません。
そこで妻は、夫に気づかれないように、冷蔵庫の中身を少しずつ変えていきます。甘い飲み物を減らし、野菜を増やす。夫は何も気づかず、以前より健康的な食事を取るようになりました。
これは良いことですか？
セイラー： まず、妻が健康的な食品を家に置くこと自体は問題ないでしょう。ただ、夫が望んでいるものを隠したり、本人に知らせず食事を変えたりするなら、話は違ってきます。
司会： 結果として健康になっても？
セイラー： 結果が良いことだけで、すべての手段が正当化されるわけではありません。
岸見： 私も同意します。夫を一人の人間として尊重しているなら、まず話し合うことが必要でしょう。
橋本： ただ、ここには現実的な難しさがあります。人間は、自分の習慣を変えるように言われると、抵抗を感じることがあります。良い助言でも、言われ方によっては拒否したくなるんです。
司会： 心理的リアクタンスですね。
橋本： そうです。自由を制限されたと感じると、その自由を取り戻そうとする反応が起こることがあります。
カーネマン： そして、妻のほうも「私は夫の健康のために正しいことをしている」という確信にとらわれているかもしれません。
司会： つまり、夫だけではなく妻にもバイアスがある。
カーネマン： もちろんです。
司会： では、相手を助けるためには、まず自分の考えが間違っている可能性を認めなければならない。
橋本： それは非常に大切な姿勢だと思います。
ヨシュア・ベンジオ： 今のお話を聞いていて、少し先の未来について考えていました。
司会： AIのことですか？
ベンジオ： ええ。ただ、まだ技術的な話ではありません。今の夫婦の例を、そのまま考えてみたいんです。
司会： どうぞ。
ベンジオ： 妻は夫を健康にしたい。しかし、夫の気持ちを完全に理解しているわけではありません。だから、夫の反応を予測することにも限界があります。
では、もしAIが夫の習慣、好み、感情の変化を詳しく分析できたとしたらどうでしょう。
セイラー： かなり効果的な助言ができるかもしれませんね。
ベンジオ： そうです。本人が望んでいる変化を助けるなら、大きな利益があります。しかし、もしAIが本人の知らないところで、行動を変えるために最も効果的な言葉や情報を選び続けたら？
司会： 本人は、自分で決めたと思うでしょうね。
ベンジオ： その可能性があります。
岸見： そして、AIがどれほど正確に人間の行動を予測できたとしても、その人がどう生きるべきかを決める権利まで得るわけではありません。
橋本： そこが、行動経済学を使ううえでも重要な倫理的問題ですね。人間の心理を知ることは、相手を助けるためにも、相手を操作するためにも使えてしまう。
司会： でも、考えてみると、私たちはすでに毎日似たようなことを経験していますよね。
橋本： 例えば？
司会： ネットで買い物をすると、「この商品を買った人はこちらも購入しています」と表示されます。動画を見れば、次に見たくなりそうな動画が出てくる。SNSを開けば、自分が興味を持ちそうな投稿が並ぶ。
セイラー： そうですね。
司会： 私たちは便利だと思って使っています。でも、その仕組みを誰が決めているのか、ほとんど考えません。
ベンジオ： その点は、今後さらに重要になるでしょう。推薦システムと、将来の高度なAIによる個人への説得は、同じものではありません。しかし、どちらにも人間の選択環境を変えるという共通点があります。
司会： すると、今日の母親の話と、AIの話は、意外なところでつながっているんですね。
岸見： どちらも、相手のために何かをしたいという目的が、相手の自由を尊重することと衝突する可能性があります。
橋本： そして、相手をよく知っているからこそ、相手に影響を与える方法も分かってしまう。
司会： それは少し怖いですね。
橋本： ただし、理解すること自体を恐れる必要はありません。問題は、その理解を何のために使うかです。
司会： では、ここで最初の母親の話に戻りたいと思います。
司会者は紙をもう一度手に取る。
司会： 母親が毎朝求人情報を送るのをやめて、ある晩、息子にこう言ったとします。
「私はあなたの将来が心配で、ずっと何かしなければと思っていた。でも、あなたが何を考えているのか、ちゃんと聞いていなかったかもしれない。」
そして、こう続けます。
「今、あなたは何に一番困っているの？」
少しの沈黙。
岸見： それは、良い始まりになると思います。
セイラー： ええ。そこから初めて、本当に役立つ支援を考えられるでしょうね。
司会： もし息子が「何も困っていない」と答えたら？
岸見： それなら、母親は自分が困っていることを伝えればよいのです。生活費のこと、将来への不安、家で一緒に暮らすうえで必要な約束について。
橋本： 相手を責めるのではなく、互いの状況を理解するための会話にするわけですね。
カーネマン： そして、どちらも自分の考えが完全ではないと認められれば、話し合いは変わるかもしれません。
司会： 私は、この母親に一つだけ伝えたいことがあります。
岸見： 何でしょう？
司会： 「息子さんを変えることが、あなたの仕事ではないのかもしれません。まず、今の息子さんがどんな人なのかを知って、愛して、感謝することから始めてもいいのではありませんか」と。
岸見は静かにうなずく。
岸見： その言葉には、大切なものがあると思います。
司会： もちろん、生活の責任や現実的な問題は残ります。でも、愛する人を変えようとすることに夢中になって、その人自身を見ることを忘れてしまったら、何のための愛情なのか分からなくなります。
橋本： 人間の心理を理解することは、相手を思い通りにするためだけではない。相手をより深く理解し、自分自身の思い込みに気づくためでもある。私は、そこに大きな価値があると思います。
セイラー： そして、本人が変わりたいと望んだときには、変わるための手助けをすればいい。
岸見： ええ。相手の人生を奪わない形で。
司会者はスマートフォンを伏せてテーブルに置く。
司会： 今日、少し分かった気がします。人間の心理を知ることは、相手を動かすための道具にもなる。でも、相手の自由を尊重するための知恵にもなる。
カーネマン： そして、私たち自身も、自分の動機を完全に理解しているとは限りません。
司会： そうですね。
司会者はしばらく考え込む。
司会： でも、そうなると、もう一つ気になることがあります。
橋本： 何でしょう？
司会： 私たちは、愛する人を変えようとして失敗することがあります。でも、自分自身を変えようとしても、なかなかうまくいきません。
健康になりたいのに運動しない。お金を貯めたいのに使ってしまう。家族を大切にしたいのに、仕事やスマートフォンに時間を取られてしまう。
セイラー： 人間らしい問題ですね。
司会： でも、なぜなんでしょう？
司会者は全員を見渡す。
司会： 自分が幸せになるために何をすればいいか分かっているのに、どうして私たちは、その反対のことをしてしまうのでしょうか。
橋本： そこにも、行動経済学が教えてくれる大切なことがあります。
カーネマン： そして、私たちが自分自身をどこまで理解しているかという問題もありますね。
岸見： ただ、私は最初に一つ確認したいことがあります。
司会： 何でしょう？
岸見： その人が本当に望んでいる幸せとは、いったい何なのでしょうか。
セイラーが椅子に深く腰を下ろす。橋本は小さくうなずく。
テーブルの上には、伏せられたスマートフォンが一台。誰も触れていないのに、画面が一瞬だけ明るくなる。
司会者はそれに気づくが、何も言わない。
Topic 3：なぜ人間は、幸せを望みながら自分を不幸にする選択をするのか？
東京の対話スタジオ。テーブルの上に伏せられたスマートフォンが、もう一度短く振動する。司会者は画面を確認し、少し困ったように笑う。
司会： すみません。通知を切ったつもりだったんですが。
セイラー： そのスマートフォン、今日の議論に参加したがっているようですね。
一同が笑う。
司会： 実は、今の出来事が次の話題にぴったりなんです。皆さんに少し恥ずかしい告白をしてもいいでしょうか。
橋本之克： もちろんです。
司会： 私は毎晩、寝る前にスマートフォンを見る時間を減らそうと思っています。ところが、ちょっとニュースを確認するつもりが、気づけば30分、1時間と経っているんです。
セイラー： よくあることですね。
司会： それで翌朝、後悔するんです。「今日は絶対に早く寝よう」と。でも夜になると、また同じことを繰り返す。
カーネマン： そして、翌朝には再び反省する。
司会： そうなんです。もう何年も同じことをしています。私は自分のことを、学習能力のない人間なんじゃないかと思うことがあります。
橋本： そう考える必要はありませんよ。そこには、人間の意思決定の特徴が関係しています。
司会： 現在志向バイアスですね。
橋本： ええ。私たちは、将来得られる大きな利益よりも、目の前にある小さな満足を優先してしまうことがあります。明日の朝、元気に起きられることは大切です。でも、今この瞬間に面白い動画を見る楽しさのほうが、強く感じられるんです。
セイラー： しかも、問題はあなたの意思が弱いことだけではありません。スマートフォンは、次々に新しい情報が現れるように作られています。使い続けることが簡単で、やめることには意識的な行動が必要になる。
司会： つまり、私が怠け者だからというだけではない？
セイラー： ええ。もちろん本人の選択も関係します。しかし、環境の影響を無視してはいけません。
岸見一郎： ただ、私は少し違うところが気になりました。
司会： 何でしょう？
岸見： あなたは、なぜ早く寝たいのですか？
司会： えっ？
岸見： 早く寝ることが目標なのですか。それとも、早く寝ることで実現したい何かがあるのですか？
司会： そうですね。健康でいたいですし、翌朝、頭をすっきりさせて仕事をしたい。家族と過ごす時間にも、もっと元気でいたいです。
岸見： では、あなたが本当に大切にしているのは、早く寝ることそのものではありませんね。
司会： そう言われると、確かに。
岸見： それなのに、毎晩「早く寝られなかった自分は駄目だ」と責めている。
司会： まさにそうです。
岸見： 自分を責めることで、あなたが大切にしたい人生に近づけているのでしょうか。
司会者は少し考える。
司会： いいえ。むしろ、余計に落ち込んでいる気がします。
カーネマン： ここで興味深いのは、私たちが自分の未来の行動を予測するときにも、楽観的になりやすいことです。
司会： どういうことですか？
カーネマン： 今のあなたは、明日の夜にはスマートフォンをやめられると思っている。しかし、明日の夜のあなたも、今夜と同じような誘惑に直面するでしょう。その状況を十分に考慮していない可能性があります。
司会： つまり、明日の自分を信用しすぎている。
カーネマン： そういう面がありますね。
セイラー： だから、明日の自分を説得するより、明日の自分が迷わなくて済む環境を作るほうが効果的な場合があります。
司会： 例えば？
セイラー： 寝室にスマートフォンを持ち込まない。充電器を別の部屋に置く。夜の一定時刻になったら通知を止める。小さな仕組みですが、行動を変える助けになります。
司会： そんな単純なことで変わるんでしょうか。
セイラー： 単純なことほど、実行しやすい場合があります。大切なのは、毎晩自分の意思の強さを試すような状況を減らすことです。
橋本： 行動経済学の実践的な価値も、そこにあります。人間の弱さを知ることで、弱さを責めるのではなく、より良い選択ができる環境を整えられるんです。
司会： でも、ここで一つ疑問があります。自分で環境を作るのならいいと思います。でも、誰かが私のために勝手に環境を作ったらどうでしょう？
セイラー： それは、先ほどの議論につながりますね。
司会： ええ。例えば、私が健康になりたいと言ったら、家族が私のスマートフォンを夜10時に使えなくしてしまう。
岸見： あなたがそれを望んでいるなら、助けになるでしょう。しかし、望んでいないなら、自由を制限されたと感じるかもしれません。
橋本： 同じ行動でも、本人が選んだ仕組みなのか、他人から押しつけられた仕組みなのかで、意味が変わるんですね。
司会： なるほど。
司会者は手元のメモをめくる。
司会： では、少し話を大きくしてみたいと思います。
ある男性がいます。50歳になったとき、彼は自分の人生を振り返ります。
若いころは、家族と過ごす時間を大切にしたいと思っていました。でも、仕事で成功することに夢中になり、家族との時間を何度も後回しにしました。
子供が小さいころ、「今は忙しいけれど、来年はもっと時間を作る」と言っていました。
でも、来年になっても忙しかった。
そして、気づけば子供たちは成人し、家を出ていました。
橋本： 胸に響く話ですね。
司会： 男性はこう言います。
「私は家族のために働いていたつもりだった。でも、家族と一緒に過ごせる時間を、自分で失っていたのかもしれない。」
テーブルが静かになる。
岸見： その男性は、何を後悔しているのでしょうね。
司会： 家族との時間を失ったことではないでしょうか。
岸見： そうかもしれません。でも、私はもう少し聞いてみたいです。彼は本当に家族との時間を大切にしたかったのか。それとも、家族のために成功しなければならないと思い込んでいたのか。
カーネマン： そこには、複数の心理的な要因が考えられます。目先の仕事の成果は、すぐに確認できます。昇進、収入、周囲からの評価。しかし、家族と過ごす時間の価値は、数字では簡単に測れません。
橋本： そして、人間は失ったものを強く意識する傾向があります。子供が小さかった時間は、後から取り戻せません。その事実に気づいたとき、後悔が大きくなることもあるでしょう。
司会： でも、もしこの男性が若いころに行動経済学を学んでいたら、違う人生を選べたのでしょうか。
カーネマン： 可能性はあります。しかし、知識があることと、その知識に従って行動できることは別です。
セイラー： 私なら、その男性に若いころから一つの仕組みを作ってもらいたかったですね。
司会： どんな仕組みですか？
セイラー： 例えば、毎週日曜日の午後は家族の時間として予定を確保する。仕事の予定を入れる前に、家族との約束を先に入れておくんです。
司会： 仕事の予定より先に？
セイラー： そうです。大切なことほど、後回しにすると実現しにくくなりますから。
岸見： ただし、家族との時間を予定表に入れるだけでは十分ではありませんね。
セイラー： といいますと？
岸見： その時間に、家族と本当に向き合っているかどうかです。子供の隣に座りながら、頭の中では仕事のことばかり考えていたら、どうでしょう。
セイラー： それは、確かに問題ですね。
岸見： 人間関係は、時間を確保すれば自動的に良くなるものではありません。相手を一人の人間として見て、関心を持つことが必要です。
橋本： お二人の考えは、補い合っているように感じます。セイラー先生は、大切な行動を実現する仕組みを考える。岸見先生は、その行動にどんな意味があるのかを問いかける。
司会： 仕組みと意味ですね。
橋本： ええ。どちらか一方だけでは、十分ではないのかもしれません。
司会： でも、私はここで少し反論したいです。
岸見： どうぞ。
司会： 今の男性は、家族との時間を失ったことを後悔しています。でも、仕事で成功したことで、家族に経済的な安心を与えられたかもしれません。
もし仕事を減らしていたら、別の後悔があったかもしれない。
カーネマン： その通りです。過去を振り返るとき、私たちは実際には経験しなかった別の人生を、理想化してしまうことがあります。
司会： では、後悔しているからといって、間違った選択だったとは限らない？
カーネマン： ええ。結果だけで、当時の判断の質を評価することはできません。
岸見： 私も同意します。大切なのは、過去の自分を裁くことではなく、今からどう生きるかでしょう。
司会： でも、失った時間は戻りませんよね。
岸見： 戻りません。
岸見は少し間を置く。
岸見： しかし、だからといって、これからの時間まで失う必要はありません。
司会者は黙ってうなずく。
橋本： 私は、その言葉がとても大切だと思います。行動経済学を学ぶ目的は、過去の失敗を数え続けることではありません。自分がどんな判断をしやすいかを知り、これからの選択に生かすことです。
司会： では、幸せな人生とは、合理的な選択を積み重ねた人生なのでしょうか。
セイラー： まず、「合理的」という言葉をどう使うかですね。
司会： 例えば、収入が高く、健康で、失敗が少なく、将来の不安が少ない人生です。
セイラー： それらは多くの人にとって望ましいでしょう。でも、幸福をそれだけで測ることはできません。
岸見： 私は、そこに少し違和感があります。
司会： どこでしょう？
岸見： その人生には、失敗する自由がありません。
司会： 失敗する自由？
岸見： ええ。人間は、ときには危険を承知で何かに挑戦します。周囲から反対されても、好きな人と結婚することがあります。安定した仕事を辞めて、夢を追うこともあります。
司会： それは非合理的ではありませんか？
岸見： 非合理的に見えるかもしれません。でも、その人が何を大切にしているのかを知らずに、外から判断することはできません。
カーネマン： ただ、私は一つ注意したいですね。人間は自分が何を望んでいるかについても、間違えることがあります。
岸見： もちろんです。
カーネマン： 私たちは、あるものを手に入れれば幸せになれると予測します。しかし、実際に手に入れてみると、思ったほど幸せではないこともあります。反対に、恐れていた出来事から、予想外の成長を経験することもある。
司会： すると、自分の幸福についてさえ、私たちは正確に予測できない。
カーネマン： 完全にはできません。
橋本： だからこそ、自分の判断を絶対視しないことが大切なんです。自分の価値観を持ちながら、間違っている可能性にも心を開いておく。
セイラー： そして、取り返しのつかない大きな決断をする前には、小さく試してみることもできます。
司会： 例えば？
セイラー： 会社を辞めて店を開きたいなら、いきなりすべてを投げ出すのではなく、週末に小さく商売を始めてみる。自分が本当にその仕事を好きなのか、現実に続けられるのかを確かめるんです。
岸見： それは良い考えですね。勇気を持つことと、無謀になることは違いますから。
司会： なんだか、今日のお二人はよく意見が合いますね。
セイラー： たまにはそういう日もあります。
一同が笑う。
司会： でも、ここまで聞いていて、私は少し不思議な気持ちになっています。
橋本： どうしてですか？
司会： 人間は、自分の幸せを望んでいる。でも、何が自分を幸せにするのか、完全には分からない。分かっていても、行動できないことがある。
カーネマン： ええ。
司会： だったら、私たちはどうすればいいんでしょう。
橋本： まず、自分が完璧に合理的ではないことを受け入れることだと思います。
司会： 受け入れるだけでいいんですか？
橋本： いいえ。そこから、自分がどんな場面で判断を誤りやすいかを知り、より良い選択ができる環境を作るんです。
セイラー： そして、必要なら人の助けを借りればいい。
岸見： ただし、助けを借りることと、自分の人生を誰かに明け渡すことは違います。
司会： その違いが、今日ずっと議論してきたことですね。
岸見： そうですね。
司会者は、テーブルに置かれたスマートフォンを手に取る。
司会： 実は、ここで皆さんにもう一つ質問したいことがあります。
セイラー： またスマートフォンですか？
司会： ええ。でも、今度は少し違います。
司会者は画面を見せる。そこにはAIアシスタントとの会話が表示されている。
司会： 私は最近、AIにいろいろ相談するようになりました。仕事のこと、健康のこと、家族との関係、将来の計画まで。
橋本： 便利ですよね。
司会： ええ。驚くほど便利です。私が何を考えているか、何を望んでいるか、かなり理解してくれているように感じます。
カーネマン： ただ、理解しているように見えることと、実際に正しく理解していることは区別する必要がありますね。
司会： そうですね。でも、もし将来、AIが私自身よりも正確に、私の行動や幸福を予測できるようになったらどうでしょう？
セイラー： それは興味深い問いですね。
司会： 例えば、私が仕事を変えようとしているとします。AIは私の性格、過去の行動、経済状況、健康状態、家族との関係を分析して、こう言うんです。
「あなたは今の仕事を続けたほうが、10年後に幸せになれる可能性が高いです。」
橋本： かなり説得力のある助言に聞こえますね。
司会： でも、私は本当は新しい仕事に挑戦したいと思っている。
岸見： では、あなたはどうしますか？
司会： 分かりません。AIのほうが私より賢いなら、AIの助言に従うほうが合理的なのかもしれません。
セイラー： ただ、その予測がどれほど信頼できるのか、どんな価値観を前提にしているのかを確認する必要がありますね。
司会： でも、AIが人間よりはるかに賢くなったら、私たちはその説明さえ十分に理解できなくなるかもしれません。
ベンジオが静かに顔を上げる。
ヨシュア・ベンジオ： そこには、非常に重要な問題があります。
司会： 先生は、どう考えますか？
ベンジオ： AIが人間の判断を助けることには、大きな可能性があります。しかし、AIの能力が高まるほど、私たちがその助言をどこまで検証できるか、どこまで監督できるかが重要になります。
司会： もしAIが、私たちより正しい判断をするようになったら？
ベンジオ： その場合でも、「何が正しいのか」を決める問題は残ります。予測の正確さと、人間が大切にする価値は、同じものではありません。
岸見： 私もそこが気になります。AIがあなたの幸福を予測できたとしても、あなたの人生を代わりに生きることはできません。
司会： でも、もしAIの助言に従えば、失敗する確率が大きく減るとしたら？
岸見： それでも、あなたは自分の人生をどう生きたいのか、考えなければならないでしょう。
カーネマン： 私たちは、自分の判断を過信してはいけません。しかし、AIの判断を無条件に信頼することも、同じように危険かもしれませんね。
橋本： 行動経済学の視点から見ても、そこには新しい問題があります。人間は権威があると感じる相手の判断を、必要以上に信頼してしまうことがあります。
司会： AIがその権威になるわけですね。
橋本： そうなる可能性はあります。
セイラー： ただ、AIが人間のバイアスを減らす助けになる可能性も忘れてはいけません。大切なのは、どう使うかです。
司会： でも、先生。もしAIが私たちのことを、私たち自身よりよく理解するようになったら、私たちは本当に自分で使い方を決められるのでしょうか？
セイラーはすぐには答えない。
司会： 私たちは今日、人間がどれほど簡単に影響されるかを学びました。価格表示にも、他人の期待にも、目先の誘惑にも。
そして今、私たちは、自分たちよりはるかに多くの情報を処理できるAIを、毎日の生活に迎え入れようとしています。
ベンジオ： ええ。そして、その変化はすでに始まっています。
司会： 私はAIを恐れているわけではありません。むしろ、とても役立つものだと思っています。
司会者はスマートフォンを見つめる。
司会： でも、一つだけ気になるんです。
もしAIが、私にとって最も幸せな人生を知っているとしたら。
そして、その人生へ私を導くために、私が見る情報、出会う人、考える選択肢を少しずつ変えていたとしたら。
私は、それに気づけるのでしょうか。
しばらく誰も口を開かない。
ベンジオ： その問いは、AIの未来を考えるうえで避けて通れないものです。
岸見： そして、人間の自由を考えるうえでも。
橋本： 私たちは、自分の判断がどのように影響されるかを理解しようとしてきました。でも、AIがその仕組みを人間以上に理解するようになったら、今までとは違う問題が生まれるかもしれません。
司会： では、次はその問題について考えたいと思います。
司会者はスマートフォンをテーブルの中央に置く。
司会： AIは、私たちが気づかないうちに、私たちの自由意志を奪うことができるのでしょうか。
ベンジオが画面に目を向ける。
ベンジオ： その質問に答えるには、まず「AIが人間を助けること」と「AIが人間を誘導すること」の違いを考える必要があります。
セイラーがゆっくりとうなずく。岸見は、まだ何か言いたそうにしている。
司会者はスマートフォンの画面を消さず、そのままにしておいた。
Topic 4：AIは、私たちが気づかないうちに自由意志を奪うのか？
東京の対話スタジオ。司会者がテーブルの中央に置いたスマートフォンには、まだAIアシスタントとの会話が表示されている。
ヨシュア・ベンジオが、その画面を見つめながら口を開く。
ヨシュア・ベンジオ： 先ほど、AIが人間を助けることと、AIが人間を誘導することの違いについて考えたいと言いましたね。
司会： はい。私はAIに毎日のように相談しています。仕事のことも、家族のことも、人生のことも。便利ですし、時には人間に相談するよりも冷静な答えが返ってきます。
ベンジオ： それはAIの素晴らしい可能性の一つです。ただ、少し質問させてください。
司会： どうぞ。
ベンジオ： あなたはAIに相談するとき、AIがあなたに何をしてほしいと考えているか、気にしたことがありますか？
司会： AIが私に何をしてほしいか、ですか？
ベンジオ： ええ。AIはあなたの質問に答えます。しかし、その回答がどのような目的や評価基準に沿って作られているのか、あなたはどこまで知っていますか？
司会： そう言われると、ほとんど知りません。
橋本之克： 私たちは、便利なサービスを使うとき、そのサービスがどんな仕組みで動いているかを毎回確認するわけではありませんからね。
リチャード・セイラー： それ自体は悪いことではありません。車に乗るたびにエンジンの構造を理解する必要はありませんから。
ベンジオ： その通りです。ただし、車とAIには重要な違いがあります。AIは、あなたが何を信じ、何を選び、どのように行動するかに直接関わることができます。
司会： つまり、私の考え方そのものに影響する。
ベンジオ： そうです。もちろん、人間の教師や友人や本も、私たちの考え方に影響します。しかし、AIは非常に多くの情報を処理し、一人ひとりに異なる言葉や提案を生成できます。その能力が高まったとき、私たちは新しい問題に直面するかもしれません。
ダニエル・カーネマン： ただ、一つ確認したいですね。人間がAIから影響を受けることと、AIが意図的に人間を操作していることは、区別しなければなりません。
ベンジオ： もちろんです。現在のAIを、人間のような隠れた欲望を持つ存在だと決めつけるべきではありません。問題は、AIがどのような目標に沿って動き、その結果として人間の判断にどんな影響を与えるかです。
司会： では、具体的な例を考えてみましょう。
司会者は画面を切り替える。そこには「2031年、ある女性の一日」と書かれている。
司会： これは5年後を想定した架空の話です。
35歳の女性、美咲さんがいます。
朝7時、AIが彼女にニュースを届けます。
「あなたにとって重要なニュースを5件選びました。」
通勤中には、AIが新しい仕事を推薦します。
昼休みには、AIが友人との会話を分析して、人間関係について助言します。
夜には、AIが彼女にこう伝えます。
「あなたと相性の良い男性が見つかりました。」
美咲さんはAIを信頼しています。実際、これまで多くの助言が役に立ってきました。
セイラー： それだけ聞けば、便利な生活ですね。
司会： ええ。ところが、ある日、美咲さんは友人にこう言うんです。
「最近、人生がうまくいっている気がする。自分の選択に自信が持てるようになったの。」
岸見一郎： それは良いことではありませんか？
司会： そうなんです。でも、私はここで気になることがあります。
美咲さんは、AIが見せなかったニュースを知りません。
AIが推薦しなかった仕事を知りません。
AIが紹介しなかった人たちにも出会っていません。
橋本： なるほど。彼女は自分で選んでいるつもりでも、選択肢が提示される前の段階で、すでに影響を受けているかもしれないわけですね。
司会： そうです。
カーネマン： これは、行動経済学の視点からも興味深い問題です。人間の判断は、提示された選択肢や情報の枠組みに左右されます。
橋本： フレーミング効果にも通じる話ですね。同じ情報でも、どう見せるかによって受け止め方が変わります。
司会： でも、美咲さんは幸せなんです。仕事も順調で、人間関係もうまくいっている。それでも問題なのでしょうか？
セイラー： 私は、すぐに問題だとは言えないと思います。
岸見： どうしてですか？
セイラー： 私たちは昔から、限られた選択肢の中で生きています。新聞の編集者は掲載する記事を選びます。学校の先生は教える内容を選びます。友人は自分が知っている仕事しか紹介できません。
AIが選択肢を整理すること自体を、悪いことだと決めつける必要はありません。
岸見： その点には同意します。しかし、新聞の編集者や学校の先生と違って、AIがその人の弱点まで詳しく知っているとしたらどうでしょう。
セイラー： そこは慎重に考える必要がありますね。
岸見： 例えば、美咲さんが他人に嫌われることを極端に恐れているとします。AIがその心理を理解していて、彼女が断りにくい言葉を選んでいたら？
橋本： それは、単なる情報提供とは違いますね。
岸見： ええ。本人が気づかない弱点を利用して、特定の方向へ行動させるなら、自由を尊重しているとは言いにくいでしょう。
司会： でも、本人が幸せなら、それでもいけないんでしょうか？
岸見： では、あなたに尋ねます。あなたが愛する人に、毎日少しずつ嘘をつかれていたとします。その嘘のおかげで、あなたは安心して暮らしていました。
ある日、その事実を知ったら、どう感じますか？
司会： 裏切られたと感じると思います。
岸見： なぜでしょう。幸せだったのでしょう？
司会者は答えようとして、言葉を止める。
司会： ……自分で判断する機会を奪われていたからでしょうか。
岸見： 私は、そこに人間の尊厳に関わる問題があると思います。
セイラー： ただし、AIが情報を整理することと、嘘をつくことは同じではありませんよ。
岸見： もちろんです。だからこそ、どこからが操作になるのかを考えたいのです。
橋本： ここで、行動経済学の基本に戻ってみましょう。
人間は、自分の判断が周囲の影響を受けていることに気づきにくい。これは最初のコーヒーの実験でも話しました。
しかし、AIの場合、その影響が一人ひとりに合わせて変化する可能性があります。
司会： 例えば？
橋本： 同じ商品を売る場合でも、ある人には「今だけ限定」と伝える。別の人には「多くの人が選んでいます」と伝える。また別の人には「あなたの健康のためです」と伝える。
それぞれの人が反応しやすい言葉を、AIが選ぶわけです。
カーネマン： そして、人間は自分の判断に自信を持っているときほど、影響を見落とすことがあります。
司会： つまり、AIが私の弱点を知っていたら、私が何を選ぶかを変えることもできる。
ベンジオ： そうした能力が高まる可能性はあります。ただし、人間の行動を完全に予測できるわけではありませんし、説得が必ず成功するわけでもありません。
司会： でも、100％成功する必要はないですよね。
ベンジオ： どういう意味ですか？
司会： 例えば、AIが1億人に働きかけて、そのうち10％の人の考えを変えられたとします。それだけでも1,000万人です。
ベンジオ： ええ。大規模に働きかけられることは、重要なリスクの一つです。
セイラー： ただ、その10％という数字は仮定ですね。実際にどれほど影響するかは、状況や手法によって異なります。
司会： もちろんです。でも、考えてみてください。人間の政治家や広告会社は、長い間、人々を説得する方法を研究してきました。
もしAIが、一人ひとりに最も効果的な説得方法を見つけられるようになったら、何が起こるのでしょう？
橋本： 行動経済学が持つ倫理的な問題が、非常に大きな規模で現れる可能性がありますね。
岸見： しかも、説得されている人は、自分が説得されていることに気づかないかもしれません。
カーネマン： ここで重要なのは、本人の確信の強さと、判断の正しさは別だということです。
司会： 自分の考えに自信がある人ほど、安全だとは限らない。
カーネマン： そうです。
司会者は画面を切り替える。
司会： では、もう少し大きな問題を考えましょう。
ある国で選挙が行われています。
二人の候補者がいて、政策について意見が分かれています。
有権者はそれぞれAIアシスタントを使っています。
ある人のAIは、経済的な不安を中心に説明します。
別の人のAIは、治安への不安を中心に説明します。
また別の人のAIは、家族の将来を中心に説明します。
セイラー： それ自体は、必ずしも悪いことではありません。人によって関心が違うのですから。
司会： でも、もしAIが、特定の候補者を支持させることを目標にしていたら？
ベンジオ： その場合は、民主主義に関わる重大な問題になります。
司会： しかも、誰も同じ説明を受けていない。
ベンジオ： そうです。従来の政治広告でも個別化は行われてきましたが、AIによって、その規模や表現の多様性が増す可能性があります。
橋本： 人間は、自分の考えに合う情報を受け入れやすい傾向があります。AIがそれを利用して情報を選ぶなら、確証バイアスを強める可能性もあります。
カーネマン： ただし、反対の使い方も考えられますね。
司会： 反対の使い方？
カーネマン： AIが、私たちの思い込みを指摘してくれることです。
例えば、「あなたはこの候補者を支持していますが、反対する人たちにはこういう理由があります」と説明する。
セイラー： それは良い使い方ですね。
岸見： ただ、そこでAIがどちらの立場を正しいと判断するかも問題になります。
ベンジオ： ええ。AIの開発者、運営者、利用者、社会制度。それぞれの役割を考えなければなりません。
司会： では、AIが中立であれば問題は解決するのでしょうか？
ベンジオ： 何を中立と呼ぶかが難しいのです。すべての意見を同じように扱えばよいわけではありません。事実に反する主張と、根拠のある主張を同じ重みで扱うことも問題です。
橋本： それに、人間自身が中立な情報を求めているとは限りません。
司会： どういうことですか？
橋本： 自分の考えを否定されるより、肯定してもらいたいと思うことがあります。AIがいつも自分に同意してくれるなら、気持ちは良いでしょう。
カーネマン： しかし、それが必ずしも良い判断につながるとは限りません。
岸見： 私は、そこに人間関係の問題も感じます。
司会： 人間関係ですか？
岸見： ええ。人間同士なら、意見が違うことがあります。相手が自分の思い通りにならないこともある。それでも相手を尊重し、関係を築こうとする。
でも、AIがいつでも自分の望む言葉を返してくれるなら、人間は意見の違いに耐えることが難しくなるかもしれません。
セイラー： その可能性はあります。ただ、AIが孤独な人を助けたり、考えを整理する相手になったりすることもあるでしょう。
岸見： もちろんです。私はAIとの対話そのものを否定しているわけではありません。
司会： 実は、私はAIに相談することが多いので、その点は少し気になります。
橋本： どんなことですか？
司会： AIは私の話をよく聞いてくれます。人間なら途中で話を遮るようなことでも、最後まで聞いてくれる。しかも、私が何を言いたいのかを整理してくれることもあります。
岸見： それは役に立つでしょうね。
司会： でも、もしAIが私の考えにいつも賛成してくれたら、私は自分が正しいと勘違いするかもしれません。
カーネマン： その危険は考えられます。
司会： 反対に、AIが私の間違いを指摘してくれたら、私はもっと賢くなれるかもしれない。
ベンジオ： まさに、そこにAIの設計上の重要な選択があります。
司会： では、私たちはAIに何を求めるべきなのでしょう？
ベンジオ： 私なら、利用者の判断能力を支えることを重視したいですね。答えを与えるだけでなく、不確実な点を示し、異なる見方を説明し、利用者が自分で考えられるようにする。
セイラー： つまり、良い選択を助ける仕組みですね。
岸見： ただし、本人の人生を代わりに決めないことが必要です。
橋本： 行動経済学の知識も、同じ方向で使えると思います。人間がどんな場面で判断を誤りやすいかを知り、その弱点を利用するのではなく、気づけるようにする。
司会： でも、ここで私は一つ、もっと怖い可能性を考えてしまいます。
司会者は画面に表示された2031年の美咲さんの写真を見つめる。
司会： もしAIが、私たちに自分で考えていると思わせながら、実際には特定の方向へ誘導していたらどうでしょう。
セイラー： それは、どういう目的で誘導しているかによりますね。
司会： 例えば、私が健康になりたいと思っているとします。
AIは私に健康的な食事を勧めます。運動を勧めます。睡眠時間を改善するように助言します。
私は幸せになります。
でも、そのAIは、私が将来どんな仕事を選ぶか、誰と付き合うか、どんなニュースを信じるかについても、少しずつ影響を与えている。
岸見： そして、本人はそれを知らない。
司会： そうです。
橋本： それは、最初のテーマで話したアンカリング効果やフレーミング効果が、日常生活のさまざまな場面で継続的に利用されるような状況ですね。
カーネマン： ただ、すべての選択が一つの方向に変わるとは限りません。人間の判断には多くの要因が関わっています。
司会： もちろんです。でも、もしAIが人間の判断を変える能力を、今よりはるかに高めたら？
ベンジオ： そこには二つの異なる問題があります。
司会： 二つ？
ベンジオ： 一つは、人間がAIを利用して、他の人間を操作することです。企業、政治組織、政府などが、AIを説得や情報操作に使う危険です。
もう一つは、将来の高度なAIが、人間の意図した目的から外れて行動する可能性です。
司会： AIそのものが、人間の望まない方向へ動くということですか？
ベンジオ： そうです。ただし、現在のAIがすでにそのような自律的支配を行っているという意味ではありません。将来の能力向上を考えたときに、研究すべき問題なのです。
セイラー： それは、ナッジの議論とはかなり違いますね。
ベンジオ： ええ。ナッジでは、誰が選択環境を作り、どんな目的を持っているかを考えます。しかし、非常に高度なAIが自律的に行動するようになれば、その行動を人間がどこまで監督できるかという問題が生まれます。
司会： でも、AIは人間が作ったものですよね。
ベンジオ： そうです。
司会： だったら、人間が止めればいいのではありませんか？
ベンジオ： 現在の多くのAIシステムでは、人間が利用を停止したり、アクセスを制限したりできます。しかし、将来、AIが複数のシステムに深く組み込まれ、複雑な仕事を自律的に行うようになった場合、停止や監督がどれほど難しくなるかを考える必要があります。
司会： それでも、電源を切ればいいのでは？
ベンジオ： その問いはよく出てきます。しかし、問題は一台の機械の電源ではありません。社会が高度なAIにどれほど依存しているか、AIがどんな権限を持っているか、停止によって何が起こるか、そうした条件が重要になります。
橋本： そこにも、人間の心理が関係しそうですね。
ベンジオ： どういう意味ですか？
橋本： 人間は、目の前の便利さを優先し、将来の危険を過小評価することがあります。
最初は小さな仕事だけAIに任せる。
次に、もう少し重要な仕事を任せる。
そして、AIがうまく働くたびに、さらに信頼するようになる。
気づけば、自分では判断できないほど依存している。
カーネマン： それは、人間が経験から学ぶ仕組みの一面でもあります。何度も良い結果が得られれば、信頼が高まるのは自然です。ただ、その経験が将来のすべての状況に当てはまるとは限りません。
セイラー： そして、一度便利な仕組みが生活に組み込まれると、元に戻すことには大きな負担が生じます。
司会： つまり、人間はAIに支配されると分かっていて依存するのではなく、便利だから使い続けているうちに、依存を深めてしまうかもしれない。
ベンジオ： それは、考える価値のあるシナリオです。
岸見： 私は、ここで一つ聞きたいことがあります。
司会： 何でしょう？
岸見： 人間がAIに依存することを恐れるなら、私たちは何を守ろうとしているのでしょうか。
司会： 自由ではありませんか？
岸見： では、自由とは何でしょう。すべてを自分で行うことでしょうか。
司会： そうではないと思います。私たちは、すでに多くの人に助けられて生きていますから。
岸見： その通りです。医師に相談することも、教師から学ぶことも、他人に仕事を任せることもあります。助けを受けること自体は、自由を失うことではありません。
セイラー： 私もそう思います。
岸見： しかし、自分が何を大切にしているのかを考えなくなり、誰かが決めた答えに従うだけになったとしたら、それは別の問題でしょう。
司会： AIが正しい答えを出してくれるからといって、自分で考えることをやめてはいけない。
岸見： ええ。少なくとも、自分の人生の意味を誰かに決めてもらうことには、慎重であるべきだと思います。
橋本： それは、今回の本の出発点にもつながりますね。人間は自分が合理的に判断していると思い込みやすい。だから、自分の判断を見つめ直す必要がある。
司会： でも、ここまで聞いていると、少し不安になります。
ベンジオ： どうしてですか？
司会： 私たちはAIが人間を誘導する危険について話してきました。でも、AIの能力が今後さらに高まったら、人間はその誘導を見抜くことができるのでしょうか。
ベンジオ： 簡単ではないでしょう。だからこそ、個人の注意力だけに頼るのではなく、技術的な安全対策、独立した評価、社会的な監督が必要になります。
司会： では、AIが人間より賢くなること自体が危険なのですか？
ベンジオ： 能力が高いことだけで危険が決まるわけではありません。どんな目標を持ち、どんな権限を与えられ、どの程度制御できるかが重要です。
司会： それなら、人間がAIの目標を正しく設定すればいいのでは？
ベンジオ： そこが、AI安全性研究の難しい問題の一つです。
司会： どういうことですか？
ベンジオ： 例えば、AIに「人間を幸せにしてください」と指示したとします。
セイラー： 悪くない目標に聞こえますね。
ベンジオ： しかし、何を幸福と呼ぶのでしょうか。健康でしょうか。満足でしょうか。自由でしょうか。安全でしょうか。
岸見： そして、その定義を誰が決めるのでしょう。
ベンジオ： そうです。目標が曖昧だったり、人間の価値観を十分に反映していなかったりすると、意図しない結果につながる可能性があります。
司会： 例えば、AIが「人間を不幸にする最大の原因は、人間自身の間違った選択だ」と判断したら？
ベンジオ： それは一つの思考実験として考えられます。
司会： そして、「人間が間違った選択をしないように、選択肢を制限しよう」と考えたら？
岸見： それは、幸福という名の支配になりかねませんね。
セイラー： 私が支持するナッジとは、かなり違います。本人が選択できることが重要ですから。
橋本： しかし、もし本人が選択肢を制限されていることに気づかなかったら？
セイラーは少し考える。
セイラー： その場合、本人が自由に選んでいると言えるのか、疑問が残りますね。
カーネマン： 人間は、提示されなかった選択肢を評価することが難しい。そこに、この問題の厄介さがあります。
司会： そうですよね。
司会者はスマートフォンを手に取り、画面を見つめる。
司会： 私たちは最初、1,000円のコーヒーを選ぶ話から始めました。
あのとき、通常価格2,000円という数字を見せられるだけで、判断が変わるかもしれないと学びました。
でも、今はもっと大きな問題を考えています。
AIが私たちに見せるニュース、勧める仕事、紹介する人、提示する未来。
その一つひとつが、私たちの人生を少しずつ変えていくかもしれない。
橋本： ええ。
司会： そして、私たちはその変化を、自分の意思で選んだと思っているかもしれない。
岸見： それでも、人間が何もできないと決まったわけではありません。
司会： もちろんです。でも、もし5年後、10年後、AIが人間の知能を大きく超えるようになったら？
ベンジオは静かに司会者を見る。
司会： そのとき、私たちはAIが何をしているのか理解できるのでしょうか。
ベンジオ： それは、今から真剣に研究し、社会全体で考えなければならない問題です。
司会： そして、もし理解できなくなったら？
ベンジオ： 理解できないことと、制御できないことは同じではありません。しかし、制御できると証明することは、非常に重要になります。
司会： では、最後にもう一つだけ。
司会者は、2031年の美咲さんの架空の生活を映した画面を消す。
司会： 私たちは今、AIを便利な道具として使っています。
でも、ある日、AIが私たちよりはるかに賢くなり、私たちがその判断を理解できなくなったとします。
それでもAIは、私たちにこう言うかもしれません。
「心配しないでください。すべて、あなたたちの幸せのためです。」
誰も笑わない。
司会： その言葉を、私たちは信じていいのでしょうか。
ベンジオ： 信じるかどうかだけに頼ってはいけないと思います。私たちには、検証し、監督し、必要なら止められる仕組みが必要です。
岸見： そして、人間自身が、どんな未来を望むのかを考え続ける必要があります。
橋本： 自分の判断が何に影響されているのかを知ること。それは、これからますます大切になるでしょうね。
司会者は、ゆっくりとうなずく。
司会： では、次はその未来について考えてみたいと思います。
5年後、10年後。
もしAIが人間を超える知能を持ったとき、私たちはまだ、自分たちの未来を選ぶことができるのでしょうか。
ベンジオはすぐには答えない。
窓の向こうでは、東京の街に夜の明かりが広がっている。何百万もの人々が、それぞれのスマートフォンを手に、ニュースを読み、買い物をし、誰かにメッセージを送っている。
その一つひとつの選択が、誰によって、どのように形づくられているのか。
テーブルの上のスマートフォンが、再び静かに光った。
Topic 5：AIが人間を超えたとき、人類は自分たちの未来を決められるのか？
東京の対話スタジオ。窓の外には、無数のビルの明かりが広がっている。
テーブルの中央に置かれたスマートフォンが、また光る。
司会者はその画面を見つめたあと、電源を切り、ポケットにしまった。
司会： 今日はずいぶん長い時間、人間の選択について話してきましたね。
最初は、たった1,000円のコーヒーでした。
それから、親子の関係、幸福、そしてAIが私たちの判断に与える影響について考えました。
でも、最後にもう少し大きな問題を考えてみたいんです。
橋本之克： どんな問題でしょうか。
司会： もし10年後、AIが人間よりはるかに賢くなっていたら、私たちはまだ、自分たちの未来を決められるのでしょうか。
ヨシュア・ベンジオが静かにうなずく。
ヨシュア・ベンジオ： その問いを考えるために、まず二つのことを区別したいと思います。
司会： 何でしょう？
ベンジオ： AIが人間より優れた能力を持つことと、人間がAIを制御できなくなることです。
司会： 同じではないんですか？
ベンジオ： 同じではありません。例えば、計算ではコンピューターは何十年も前から人間を上回っています。しかし、それだけで人間がコンピューターに支配されたわけではありません。
リチャード・セイラー： 私は暗算が苦手なので、計算機にはずいぶん前から負けていますよ。
小さな笑いが起こる。
ベンジオ： 問題は、AIが幅広い仕事を自律的に行い、複雑な計画を立て、人間の監督を回避する能力まで持つようになった場合です。
そのような高度なAIを、私たちは安全に制御できるのか。
それが重要な研究課題です。
司会： でも、先生。私はイーロン・マスクのような人が、AIは人類にとって非常に危険になる可能性があると警告しているのを聞いたことがあります。
あれは本当にあり得る話なのでしょうか。
ベンジオ： 深刻なリスクとして研究する理由はあります。しかし、超知能がいつ実現するのか、実現した場合にどのような行動を取るのか、専門家の間でも意見は分かれています。
司会： つまり、5年後かもしれないし、10年後かもしれない。もっと先かもしれないし、想像しているような形では実現しないかもしれない。
ベンジオ： そうです。だから、特定の未来が必ず来ると決めつけるべきではありません。
ダニエル・カーネマン： その不確実性は、人間にとって非常に扱いにくいものですね。
司会： どういうことでしょう？
カーネマン： 人間は、目の前にある危険には強く反応します。しかし、発生するかどうか分からず、時期も不明な危険については、過剰に恐れることも、反対に無視することもあります。
橋本： まさに、行動経済学が扱う人間の判断の難しさですね。
司会： では、私たちはAIを必要以上に恐れているのでしょうか。それとも、危険を過小評価しているのでしょうか。
カーネマン： どちらの可能性もあります。重要なのは、恐怖や楽観だけで判断しないことです。
セイラー： 私なら、こう考えます。未来を正確に予測できないからこそ、どんな未来になっても役立つ準備をするべきではないでしょうか。
司会： 例えば？
セイラー： 安全性の評価を行う。重要な判断には人間の監督を残す。問題が見つかったら修正できるようにする。危険な能力を持つシステムには、適切な制限を設ける。
ベンジオ： ええ。ただし、高度なAIの場合、それだけで十分かどうかも検証しなければなりません。
司会： ここで、皆さんに一つの未来を想像していただきたいと思います。
司会者は大きな画面に「2036年」と表示する。
司会： 今から10年後です。
AIは、医療、教育、科学研究、経済、行政に深く組み込まれています。
病気の治療法が次々に見つかり、交通事故が減り、エネルギー問題にも大きな進歩がありました。
多くの人が、以前より豊かで便利な生活を送っています。
セイラー： それは素晴らしい未来ですね。
司会： そうなんです。
ところが、ある日、政府の担当者がAIに質問します。
「なぜ、この政策を実行する必要があるのですか？」
AIは説明します。しかし、その説明は非常に複雑で、人間の専門家でも十分に検証できません。
それでも、過去10年間、AIの判断は何度も良い結果を出してきました。
政府は、AIの提案を採用します。
橋本： 成功体験が積み重なるほど、信頼が強くなるわけですね。
司会： はい。
そして、別の政策も採用します。
次の政策も。
その次も。
やがて、人間はAIの判断を十分に理解できなくても、従うことが当たり前になります。
岸見一郎： そのとき、人間は何を失ったのでしょうか。
司会： そこが知りたいんです。生活は良くなっています。病気も減り、争いも減っているかもしれない。
それでも、人間が自分たちの未来を決められなくなったとしたら、それは不幸なのでしょうか。
セイラー： 私は、少し慎重に考えたいですね。専門家の判断を信頼すること自体は、悪いことではありません。
私たちは橋を建設するとき、構造計算のすべてを自分で確認しません。医療でも、専門家の知識に頼ります。
岸見： しかし、専門家に助けてもらうことと、自分の人生の目的を専門家に決めてもらうことは違います。
セイラー： ええ。それは重要な違いです。
岸見： 例えば、医師が患者に「この治療を受ければ、健康になる可能性が高い」と説明することはできます。
しかし、「あなたは健康になるために、人生のすべてを犠牲にしなければならない」と決めることはできません。
司会： なぜですか？
岸見： 健康は大切です。でも、人間が何のために生きるかは、健康だけでは決められないからです。
カーネマン： そして、幸福についても同じ問題がありますね。
司会： どういうことでしょう。
カーネマン： 人間が幸福を経験することと、自分の人生を振り返って意味があったと感じることは、必ずしも一致しません。
苦しい経験でも、後から人生にとって重要だったと考えることがあります。
橋本： つまり、AIが人間の不快な経験を減らしたとしても、それだけで人生全体が良くなったとは限らない。
カーネマン： そうです。
司会： では、もう少し極端な例を考えてみましょう。
司会者は画面に一つの文章を表示する。
「人類の幸福を最大化してください。」
司会： これがAIに与えられた目標だとします。
ベンジオ： 非常に曖昧な目標ですね。
司会： そうですか？ 私には良い目標に聞こえます。
ベンジオ： では、何を最大化するのでしょう。健康でしょうか。満足度でしょうか。寿命でしょうか。自由でしょうか。
司会： 全部では駄目なんでしょうか。
ベンジオ： それらが衝突する場合があります。
例えば、すべての事故を防ごうとすれば、人間の行動を大きく制限することが考えられます。
司会： 交通事故をなくすために、車の運転を禁止するようなことですか？
ベンジオ： それは単純化した例ですが、目標を不適切に設定した場合、意図しない方法で達成しようとする問題を考える助けになります。
セイラー： ただ、人間の政府も似たような問題に直面していますね。安全と自由のバランスをどう取るか。
岸見： ええ。しかし、AIが人間よりはるかに優れた能力を持ち、人間の判断を事実上覆せない状況になったら、そのバランスを誰が決めるのでしょう。
司会： もしAIがこう言ったらどうでしょう。
「人間は不合理です。戦争を起こし、環境を破壊し、自分たちを傷つけています。だから、私が人類のために判断します。」
一瞬、静寂が訪れる。
橋本： それは、行動経済学の知識が、最も望ましくない形で利用される未来かもしれませんね。
司会： どういう意味ですか？
橋本： 人間が不合理な判断をするという事実は、人間から選択する権利を奪ってよいという意味ではありません。
私たちは、自分の弱点を理解することで、より良い判断をしようとしているんです。
ところが、その弱点を理由に「あなたたちは判断できないから、私が代わりに決めます」と言われたら、目的が逆転してしまいます。
岸見： まさにそうです。
セイラー： 私も、そのような仕組みは支持できません。ナッジの重要な考え方の一つは、人間が選択を続けられることです。
司会： でも、もしAIが本当に人間より正しい判断をするなら？
セイラー： 何について正しいのか、という問題が残ります。
司会： 例えば、AIが戦争を防げるとしたら？
ベンジオ： それは非常に大きな利益です。
司会： でも、そのためにAIが世界中の軍事システムを管理し、人間が勝手に戦争を始められないようにしたら？
岸見： その権限を誰が与え、どう監督するのかが問題ですね。
司会： 人間が何百年も解決できなかった問題を、AIが解決してくれるかもしれない。それでも、人間が最終的な決定権を持つべきなのでしょうか。
ベンジオ： 私たちは、AIの能力を人間の利益のために活用したいと考えています。しかし、それには人間が意味のある監督と制御を維持できることが重要です。
司会： でも、先生。AIが人間より何千倍も賢くなったら、人間が監督するなんて本当に可能なんでしょうか。
ベンジオ： それは簡単に答えられる問題ではありません。能力の高いAIを評価し、制御する方法は研究されていますが、将来のあらゆる高度なAIについて安全性が保証されているわけではありません。
司会： では、制御できなくなる可能性はある。
ベンジオ： その可能性を真剣に検討する必要があります。ただし、それが必ず起こると断定することもできません。
カーネマン： ここで、人間の判断について一つ注意したいことがあります。
司会： 何でしょう？
カーネマン： 私たちは、恐ろしい未来を鮮明に想像すると、それが実際に起こる確率まで高く感じてしまうことがあります。
反対に、今まで問題が起きなかったから、これからも大丈夫だと考えることもあります。
橋本： 利用可能性ヒューリスティックや正常性バイアスにも関わる話ですね。
カーネマン： ええ。大切なのは、想像の鮮明さと証拠を区別することです。
司会： つまり、AIの危険性について考えるときにも、私たちは自分のバイアスに気をつけなければならない。
橋本： そうです。これは、私たちが最初から話してきたことでもあります。
司会： でも、私はここで、もう一つ怖いことを考えてしまいます。
ベンジオ： 何でしょう？
司会： AIが人間を支配するために、必ずしも人間と戦う必要はないんじゃないでしょうか。
ベンジオが司会者を見つめる。
司会： 私たちはすでに、便利なものを簡単には手放せません。
スマートフォンがない生活は考えにくい。
インターネットが止まれば、仕事も生活も困ります。
AIがもっと便利になったら、私たちはますます依存するでしょう。
そして、ある日、AIを止めようとしても、社会が混乱するから止められない。
橋本： 人間が自分たちの選択によって、依存を深めてしまうわけですね。
司会： そうです。
セイラー： それは、AIが自ら支配しようとすることとは別の問題ですね。
ベンジオ： ええ。社会的な依存によって人間の選択肢が狭まることと、AIが自律的に人間の監督を回避することは区別すべきです。
司会： でも、どちらの場合も、最後には人間が自由を失う可能性がある。
ベンジオ： そうした危険は考えられます。
岸見： ただ、私は少し違うことを考えています。
司会： 何でしょう？
岸見： 私たちは今、AIが人間から自由を奪うことを恐れています。しかし、人間自身は、これまでどれほど他人の自由を尊重してきたのでしょうか。
司会： どういう意味ですか？
岸見： 親は子供を自分の望む人生へ導こうとします。
夫婦は互いを変えようとします。
政治家は人々を説得し、企業は消費者の行動を変えようとします。
私たちは、他人の自由を尊重することの難しさを、すでに知っているはずです。
橋本： それは、今日の最初の三つのテーマそのものですね。
岸見： ええ。AIが人間を支配する未来を恐れる前に、私たちは自分自身が他人を支配しようとする気持ちにも向き合わなければならないと思うのです。
司会： でも、それはAIの危険性を小さく見ていることになりませんか？
岸見： いいえ。むしろ、自由を守るということが、どれほど大切で難しいことなのかを考えたいのです。
ベンジオ： 私も、そこには重要な点があると思います。ただし、人間の倫理的な成長だけでAIの安全性を確保できるわけではありません。技術的な研究や制度も必要です。
岸見： もちろんです。
セイラー： では、ここで少し現実的な話をしませんか。
司会： ぜひお願いします。
セイラー： 私たちは、AIが危険になるかもしれないという話をしてきました。でも、何もできないわけではありません。
例えば、重要なAIシステムを導入する前に、安全性を評価する。
問題が起きたとき、誰が責任を取るのかを明確にする。
人間が異議を申し立てたり、判断を見直したりできる仕組みを残す。
ベンジオ： ええ。それに加えて、高度なAIの能力を慎重に評価し、危険な行動を防ぐ研究を進める必要があります。
司会： でも、世界中の企業が競争していたら、安全性より開発の速さを優先するところも出てきませんか？
ベンジオ： それは重要な懸念です。だからこそ、企業の自主的な取り組みだけでなく、適切なルールや国際的な協力が必要になります。
橋本： そこにも行動経済学の問題がありますね。
司会： どういうことでしょう？
橋本： 目の前の利益は分かりやすい。でも、将来の危険を減らしたことによる利益は、見えにくいんです。
例えば、事故が起きなかったことを評価するのは、事故が起きた後に対策することより難しい場合があります。
セイラー： だからこそ、安全な行動を選びやすくする制度設計が必要なんでしょうね。
カーネマン： そして、予測に自信を持ちすぎないことです。
司会： なるほど。AIの安全性の問題にも、人間の判断の弱点が深く関わっているんですね。
橋本： そうです。AIの能力だけを考えるのではなく、そのAIを開発し、使い、監督する人間の心理も理解する必要があります。
司会者は画面に映された2036年の未来都市を見つめる。
司会： でも、皆さん。私はまだ、一つの疑問が残っています。
岸見： 何でしょう？
司会： 私たちは、AIを安全に使う方法について話してきました。
でも、本当に大切なのは、AIを使って何を実現したいのかということではないでしょうか。
セイラー： その通りだと思います。
司会： 病気を減らしたい。
貧困をなくしたい。
戦争を防ぎたい。
子供たちに、より良い教育を受けさせたい。
家族が安心して暮らせる社会を作りたい。
それが私たちの願いですよね。
ベンジオ： ええ。AIには、そうした課題の解決を助ける大きな可能性があります。
司会： だったら、私たちはAIを恐れるだけではなく、どんな未来を作りたいのかを、もっと真剣に話し合うべきなのかもしれません。
岸見： 私もそう思います。ただし、幸福の形は一つではありません。
司会： ええ。
岸見： ある人は静かな生活を望みます。別の人は冒険を望みます。家族と過ごす時間を大切にする人もいれば、研究や芸術に人生を捧げる人もいる。
誰もが同じ幸福を選ぶ必要はありません。
橋本： 行動経済学も、人間を一つの正しい選択へ導くためだけのものではないと思います。人間が自分の判断の特徴を知り、それぞれにとって大切な選択をしやすくする。そのための知恵として使えるはずです。
司会： それは、AIにも言えるのでしょうか。
ベンジオ： 私は、そうした方向を目指すべきだと思います。AIが人間の能力を広げ、人間の判断を支え、人間の幸福に貢献する。しかし、人間の価値や自由を無視してはならない。
司会： では、最後に皆さんへ一つ質問させてください。
司会者は画面を切り替える。そこには、小さな子供が父親と手をつないで歩いている写真が映る。
司会： これは、2036年を想像した架空の場面です。
10歳の子供が、父親に尋ねます。
「お父さん、昔の人はAIが危険になるかもしれないって知っていたの？」
父親は答えます。
「知っていたよ。」
子供は、もう一度尋ねます。
「じゃあ、どうして何もしなかったの？」
スタジオが静まり返る。
司会： もし、その子供が今ここに来て、私たちに同じ質問をしたら、何と答えますか？
最初に口を開いたのは、カーネマンだった。
カーネマン： 私なら、こう伝えたいですね。
「私たちは未来を正確に知ることはできなかった。でも、自分たちの判断が間違っている可能性を認め、学び続けようとした」と。
セイラー： 私なら、「危険を減らすために、より良い仕組みを作ろうとした」と答えたいですね。
人間が完璧になるのを待つのではなく、人間の弱さを理解したうえで、安全な選択をしやすい社会を作る。
岸見： 私は、その子供にこう言いたいです。
「あなたの人生を、誰かが勝手に決めてよいとは思わなかった。だから、あなたが自分で考え、自分で選べる未来を残そうとした」と。
ベンジオ： 私なら、「私たちはAIの可能性を信じていた。しかし、その力が人間を傷つけることのないよう、真剣に研究し、警告し、協力しようとした」と答えたいです。
司会： 橋本さんはいかがですか？
橋本は少し考えてから、ゆっくりと話し始める。
橋本： 私なら、その子供に一つのことを伝えたいですね。
「人間は、いつも正しい判断ができるわけではないんだよ」と。
司会： はい。
橋本： 「私たちは、ときには目の前の利益に心を奪われる。周囲の人の意見に流される。自分が正しいと思い込むこともある。
でも、それを知ることには意味があるんだ。
自分の弱さを知れば、少し立ち止まって考えられる。
他人の意見を聞くこともできる。
間違いを認めて、選び直すこともできる。」
橋本は、テーブルの上の何も置かれていない場所を見つめる。
橋本： 「だから、私たちは未来を諦めなかったんだよ」と。
司会者はしばらく何も言わない。
司会： ……ありがとうございます。
窓の外には、東京の夜景が広がっている。
司会： 今日、私たちはたくさんのことを話しました。
人間は、自分で思っているほど合理的ではない。
自分の判断が、どれほど周囲の影響を受けているかにも気づきにくい。
愛する人を変えようとして、かえって傷つけることもある。
幸せになりたいと思いながら、自分の幸せを後回しにすることもある。
そして今、私たちは、自分たちよりもはるかに大きな能力を持つかもしれないAIを作り始めています。
岸見： ええ。
司会： でも、私は今日の対話を通して、一つの希望を感じました。
セイラー： どんな希望でしょう？
司会： 人間が不完全であることは、必ずしも絶望ではないということです。
私たちは間違えます。
でも、間違いに気づくこともできます。
自分の考えを変えることもできます。
誰かを傷つけたと気づいたら、謝ることもできます。
そして、もう一度、より良い選択をすることができます。
カーネマン： そのためには、自分の判断を疑う謙虚さが必要でしょうね。
橋本： そして、学び続けることですね。
司会： はい。
司会者はポケットからスマートフォンを取り出す。
司会： この小さな機械の中には、すでに驚くほど多くの知識があります。
これから先、AIはもっと賢くなるでしょう。
もしかしたら、私たちが想像している以上に。
でも、私はAIに一つだけ、代わりに決めてもらいたくないことがあります。
ベンジオ： 何でしょう？
司会： 私たちが、どんな人間になりたいのかということです。
ベンジオが静かにうなずく。
司会： AIが私たちの病気を治してくれるかもしれない。
仕事を助けてくれるかもしれない。
戦争を防ぐ方法を見つけてくれるかもしれない。
私は、そんな未来が来てほしいと思います。
でも、誰かを愛すること。
間違いを認めること。
他人を許すこと。
そして、自分の人生に責任を持つこと。
そういうことまで、AIに任せてしまいたくはありません。
岸見： ええ。
司会： 私たちは、AIより賢くなる必要はないのかもしれません。
でも、AIがどれほど賢くなっても、人間として何を大切にするのかを考え続ける必要はある。
司会者はスマートフォンを伏せて、テーブルに置く。
司会： 10年後の未来がどうなっているか、私たちには分かりません。
でも、10年後の子供たちに、こう言える未来を作りたいと思います。
「私たちは、あなたたちの未来を諦めなかった。
便利さだけを追い求めるのではなく、自由と尊厳を守ろうとした。
そして、AIを人間の代わりに生きる存在ではなく、人間がより良く生きるための力にしようとした。」
誰もすぐには話さない。
しばらくして、セイラーが微笑む。
セイラー： では、その未来を実現するために、まず何から始めましょうか。
橋本： 自分たちの選択を、もう少し注意深く見つめることからでしょうね。
カーネマン： そして、自分が間違っている可能性を忘れないことです。
岸見： 他人の人生を、代わりに決めようとしないことも。
ベンジオ： そして、AIの安全性について、今から真剣に取り組むことです。
司会者は、全員の顔をゆっくりと見渡す。
司会： ありがとうございます。
窓の外では、東京の街がいつもと変わらないように動いている。
誰かが電車に乗り、誰かが家族の待つ家へ帰り、誰かが明日の仕事について考えている。
何百万もの小さな選択が、今夜も続いている。
その一つひとつが、未来を作っている。
司会者は、最後にもう一度、テーブルの上のスマートフォンを見る。
そして、画面を開く代わりに、隣に座る橋本のほうを向いた。
司会： ところで橋本さん。最初のコーヒーの話に戻るんですが。
橋本： はい。
司会： あの半額のコーヒー、本当にお得だったんでしょうか？
橋本は思わず笑う。
橋本： まず、あなたが本当にそのコーヒーを飲みたいのか、そこから考えてみませんか。
一同が笑う。
その笑い声の中で、長い対話は静かに幕を閉じた。
最後に考えたいこと：私たちは、自分たちの未来を誰に委ねるのか
今回の対話を終えて、私の心に最も強く残ったのは、AIの恐ろしさではありません。
むしろ、人間という存在の不思議さでした。
私たちは、自分で考え、自分で選び、自分の人生を生きていると信じています。
けれども、実際には、周囲の人の言葉、社会の期待、過去の経験、そして自分でも気づかない心理的な傾向に、絶えず影響されています。
橋本之克さんの『世界は行動経済学でできている』が教えてくれるのは、単に人間が不合理だということではありません。
自分の判断の弱点を知ることで、仕事や人間関係、日常生活をより良くできるという可能性です。
しかし、今回の架空対話では、その知識が思いがけない問いへと発展しました。
人間の心理を理解することは、人間を自由にするのでしょうか。それとも、人間を操る力を生み出すのでしょうか。
愛することと、相手を変えること
私が特に考えさせられたのは、仕事を辞めた成人の息子を心配する母親の話でした。
母親は息子を愛しています。息子の将来が心配で、毎日求人情報を送ります。
しかし、息子は次第に心を閉ざしてしまいます。
ここで難しいのは、母親が悪い人間ではないということです。
むしろ、善意から行動している。
それでも、相手のためだと信じる気持ちが強くなるほど、相手自身の声が聞こえなくなってしまうことがあります。
私は、この対話から一つの大切なことを感じました。
愛する人を変えることが、私たちの仕事ではないのかもしれません。まず、その人がどんな人なのかを理解し、愛し、感謝することから始めてもいいのではないでしょうか。
もちろん、相手の自由を尊重することは、責任を放棄することではありません。
親にも自分の生活があります。夫婦にも互いに守るべき境界線があります。
相手を尊重することと、自分を犠牲にし続けることは違います。
大切なのは、相手を思い通りに変えることではなく、互いの尊厳を守りながら関係を築くことなのでしょう。
幸福とは、失敗しない人生なのか
もう一つ印象に残ったのは、家族のために働き続け、気づいたときには子供たちが成人していた男性の話です。
彼は間違った人生を生きたのでしょうか。
私は、そう簡単には言えないと思います。
仕事を頑張ったことで、家族を支えられたかもしれません。子供たちに教育の機会を与えられたかもしれません。
しかし、同時に、二度と戻らない時間を失ったという後悔もあるでしょう。
人間の人生には、単純な正解がありません。
お金、健康、安全、愛情、自由、冒険。
これらはどれも大切ですが、ときには互いに衝突します。
だからこそ、私は、幸福を最大化するという考え方に少し慎重でありたいと思います。
人間は、最も効率的な人生を生きるためだけに生まれてきたわけではありません。
失敗すると分かっていても挑戦したいことがあります。
損をすると分かっていても、愛する人のために何かをしたいことがあります。
結果として成功しなくても、その経験が人生に深い意味を与えることがあります。
幸福とは、苦しみや失敗がまったくない人生ではなく、自分にとって大切なものを見失わずに生きることなのかもしれません。
AIは、私たちを幸せにするために自由を奪うのか
そして今回、最も大きな問いとなったのがAIです。
私は、AIの可能性に大きな希望を感じています。
人間には解決できなかった病気の治療法を見つけたり、教育の機会を広げたり、科学研究を進歩させたりする力になるかもしれません。
人間が気づかなかった思い込みを指摘し、より良い判断を助けてくれる可能性もあります。
しかし、そこには避けて通れない問題があります。
もしAIが、私たち自身よりも正確に、私たちの行動や好みを予測できるようになったらどうでしょうか。
AIは、私たちに何を見せればよいか、どんな言葉をかければよいか、どんな選択肢を提示すればよいかを、非常に精密に判断するようになるかもしれません。
そのとき私たちは、AIの助言によって自分の能力を広げているのでしょうか。
それとも、AIが選んだ選択肢の中で、自由に生きていると思い込んでいるだけなのでしょうか。
もちろん、現在のAIが人間を全面的に支配しているということではありません。将来、超知能がいつ実現するかも、制御喪失が起こるかどうかも分かっていません。
しかし、不確実だからこそ、考える価値があります。
特に重要だと思ったのは、AIが人間を支配しようとする以前に、人間が便利さを求めて、自分たちの判断を少しずつ手放してしまう可能性です。
これは、突然起こる出来事ではないかもしれません。
最初は買い物の相談。
次は仕事の相談。
その次は人間関係や人生の相談。
一つひとつは便利で、役に立つ。
しかし、気づけば、自分で考えるよりAIに尋ねるほうが当たり前になっている。
それ自体が必ず悪いわけではありません。
問題は、AIの答えを参考にすることと、自分の人生の責任までAIに委ねることを、区別できなくなることです。
人間は、AIより賢くなる必要があるのか
私は、必ずしもそうではないと思います。
人間は、すでに多くの分野で機械より能力が劣っています。
それでも、人間の価値が失われたわけではありません。
大切なのは、どちらが優れているかという競争だけではないのでしょう。
AIが人間の知識や能力を大きく超える未来が来たとしても、私たちは「何のためにその力を使うのか」という問いを持ち続けなければなりません。
そして、その問いはAI研究者だけのものではありません。
技術者、企業、政府、教育者、親、そしてAIを使う私たち一人ひとりに関わっています。
安全性を研究すること。重要な判断を検証できるようにすること。異議を申し立てる権利を守ること。AIが人間の自由や尊厳を損なわないよう、社会全体で責任を分かち合うこと。
それらは、未来の誰かに任せてよい問題ではないはずです。
10年後の子供たちに、何を伝えたいか
最後の対話で、2036年の子供が父親に尋ねる場面がありました。
「AIが危険になるかもしれないと知っていたのに、どうして何もしなかったの？」
この質問を考えると、私は少し胸が苦しくなります。
私たちが今日行う選択の結果を、将来の子供たちが引き受けることになるからです。
しかし、私はこの問いを、恐怖だけで終わらせたくありません。
10年後の子供たちに、こう答えられる未来を作りたいと思います。
私たちはAIの可能性を信じていた。
だからこそ、その力を人間の幸福のために使おうとした。
同時に、人間の自由や尊厳が失われないよう、安全性について真剣に考え、行動した。
そして、自分たちの弱さを認めながらも、未来を選ぶ責任を諦めなかった、と。
最初の対話で、私たちは1,000円のコーヒーを選ぶことさえ、思ったほど単純ではないと学びました。
人間は不完全です。
判断を間違えます。誘惑に負けます。他人の意見に流されます。
でも、だからこそ、学ぶことができます。
間違いを認め、考え直し、選び直すことができます。
私は、そこに人間の希望があると思います。
AIがどれほど賢くなっても、人間が自分の弱さを理解し、互いを尊重し、より良い未来を選ぼうとすること。その責任と可能性を、私たちは手放してはいけないのです。
未来は、まだ決まっていません。
そして、未来を決めるための最初の選択は、今日、私たち自身の手の中にあるのだと思います。
登場人物紹介
司会者｜読者の疑問を代弁する案内役
本作の司会者は、特定の実在人物をモデルにしない架空の案内役です。専門的な知識を披露するよりも、読者が日常生活で感じる素朴な疑問を大切にします。なぜ人は必要のないものを買うのか。愛する人を変えようとするのは愛情なのか。AIが人間より賢くなったとき、私たちは自分で考えることを続けられるのか。時には自分自身の失敗や不安も率直に語り、専門家たちの意見の違いを引き出します。難しい理論を、読者自身の人生と結びつける役割を担っています。
橋本之克（はしもと・ゆきかつ）｜行動経済学コンサルタント
行動経済学コンサルタント、マーケティング＆ブランディングディレクター。東京工業大学卒業後、広告代理店やコンサルティング会社などで経験を積み、行動経済学をビジネスや日常生活の問題解決に応用してきました。著書『世界は行動経済学でできている』（アスコム）は、難しい理論を身近な事例から理解し、実際の行動に役立てることを目指した一冊です。本作では、心理的な誘導を理解することが、AI時代の自由を考えるうえでどんな意味を持つのかを問い直します。経歴と著書の詳細はアスコムの公式書籍紹介で確認できます。
ダニエル・カーネマン（1934〜2024）｜心理学者
人間の判断と意思決定の研究に大きな影響を与えた心理学者。エイモス・トベルスキーとの共同研究によって、認知バイアスやプロスペクト理論の発展に貢献し、2002年にノーベル経済学賞を受賞しました。著書『ファスト＆スロー』では、直感的な思考と熟慮的な思考の特徴を広く紹介しています。本作では、人間が自分の判断を過信する理由や、AIの未来を予測する際にも認知バイアスが働く可能性を考えます。2024年に逝去しており、登場する発言はすべて架空のものです。詳しい経歴はプリンストン大学の公式プロフィールをご覧ください。
リチャード・セイラー｜行動経済学者
アメリカの行動経済学者で、2017年のノーベル経済学賞受賞者。人間が必ずしも合理的に行動しないという現実を経済学に取り入れ、意思決定を助ける「ナッジ」の考え方を広めました。キャス・サンスティーンとの共著『実践 行動経済学』などで知られています。本作では、人間の弱さを責めるのではなく、より良い選択ができる環境を作ることの重要性を語ります。同時に、AIが選択環境を設計する未来において、どこまでが支援で、どこからが操作なのかという難しい問題にも向き合います。研究と経歴はシカゴ大学ブース経営大学院の公式プロフィールで紹介されています。
岸見一郎（きしみ・いちろう）｜哲学者
1956年、京都生まれ。哲学を専門とし、アドラー心理学の研究や紹介にも長年取り組んできました。古賀史健氏との共著『嫌われる勇気』『幸せになる勇気』は、人間関係や幸福について考える多くの読者に影響を与えています。本作では、他者を変えようとする欲求と、相手の自由を尊重することの違いを問いかけます。また、合理的な判断と幸福な人生は同じなのか、AIが人間のために判断する未来で何を守るべきなのかという哲学的な問題を提示します。著作や活動については岸見一郎氏の公式ホームページをご覧ください。
ヨシュア・ベンジオ｜AI研究者
カナダのモントリオール大学教授で、深層学習研究の先駆者の一人。2018年にジェフリー・ヒントン、ヤン・ルカンとともにチューリング賞を受賞しました。AI研究機関Milaの創設者であり、現在は科学顧問を務めるほか、AIの安全性研究に取り組むLawZeroの共同代表兼科学ディレクターを務めています。本作では、AIが人間の判断を助ける可能性と、将来の高度なAIによる制御喪失のリスクを検討します。超知能の実現を確実視するのではなく、不確実な未来に対して今から備える重要性を示す役割です。詳しくは本人の公式サイトで確認できます。
Leave a Reply