【川原一彦の世相講談】AI・完全管理社会の向こう側 —— 効率の先で人間が握り続ける「最後のボタン」とは

1. AIが進化する時代、誰が「最後のボタン」を押すのか

大津：AIの推論結果に対して、人間が未熟だと感じるのか、あるいは自分の想像を超えていて素晴らしいと感じるのかは人それぞれだと。

川原：その通り。これからの時代、定型的な管理や事務作業なんてものはAIが全部やってくれるようになりますよ。だけどね、「危機対応能力」というものだけは、絶対に人間にしか持てない。ビジネスでもコンサルティングでもね、本当に修羅場になったときに、ただ思考停止でマニュアル通りに動くだけなら、そんなものはAIで十分なわけです。自分の言葉と思考を持って、その場でどうジャッジするかですよ。

大津：日頃からそうした訓練をしているかどうかが、いざというときの強さにつながると。

川原：当たり前じゃないですか。最終的に「どう実行するか」の決定権、つまり緊急停止のボタンを人間が握り続けられるかどうかなんだよね。仮に物理的な実行までAIやロボットに委ねてしまったら、それこそSF映画みたいに人間がコントロールを失う世界になっちゃうわけです。

大津：完全な管理社会や仮想現実の中で生きるのと、不完全だけど現実を生きるのとでは、どちらが人間本来の姿なのかという問いですね。

川原：そう。だからこそ、どこかでそのシステムやネットワークに対して「ログアウト」する発想や、最後にブレーキを踏む人間の意思が絶対に必要になってくるんだよね。でもね、これ大変でね、ホモ・サピエンスは鰻が絶滅するかもしれませんと報道されたら、「今しか食えない」とお店に行くんだから。

2. スポーツに「人間のレフリー」が必要な理由

大津：効率や正確性を追求するならば、スポーツの判定もすべてデジタル化した方が良いという意見もありますよね。サッカーのオフサイド判定などにしても。

川原：だけどね、スポーツを一つの「興行（エンターテインメント）」として成り立たせようと思ったら、絶対人間が必要なんですよ。全部デジタル化して「はい退場、はい試合終了」なんてやったって、そんなもんゲームとして面白くも何ともないでしょう。

大津：人間の審判が間に入って、選手の感情の機微や次の危険を防ぐための「マネジメント」をしているからこそ、ゲームが成立していると。

川原：そうそう。レフリーが「おい、次危ないから気をつけろよ」ってコントロールしたり、選手と会話したりするからこそ、お互いのリスペクトが生まれるわけです。剣道なんてまさにそうで、3人の審判がリアルタイムの空気感の中で判定する。スローモーションで見たら微妙に違っていたとしても、その瞬間の人間の創造性と緊張感の共演があるからこそ、武道やスポーツとして面白いわけですよ。

大津：正確さだけを突き詰めてしまうと、人間同士が競技を行う意味すらなくなってしまいますね。

川原：その通り。「コンピューター同士が戦えばいいじゃないか」という話になっちゃう。だからこそ、多少の不完全さを含めながら、人間が泥臭くジャッジするプロセスにこそ価値があるんです。

3. 大企業の論理と、中小企業・個人のアジリティ

大津：ビジネスの現場でも、組織が大きくなればなるほど動きづらくなる構造がありますよね。

川原：会社なんてものはね、あなた、大きくなればなるほど失敗したときの内部ペナルティがでかくなるわけです。そうするとどうなるか。社内のリスク管理ばかりに囚われて、外に向けて尖った発信や新しいチャレンジができなくなる。結果として、当たり障りのない優等生的なことしか言えなくなるわけですヨ。大事なことは自分ではない人たちのリスクなんですがね。

大津：保身が強くなって、攻めの姿勢が失われてしまうと。

川原：その点、中小企業や個人には圧倒的なアドバンテージがありますよ。保身しててもなにも起きないし、余計な根回しや承認プロセスがいらないから、アジリティ高く動ける。現場での泥臭い信頼関係を築きながら、「だったら俺が腹を括ってやってやるよ」って動けるのが、個や小規模組織の本当の強みなんじゃないですか。

4. 予測社会の罠：『マイノリティ・リポート』と「アナログの強さ」

大津：映画『マイノリティ・リポート』みたいに、犯罪や個人の行動がすべてネットワークで予測・管理される社会が描かれていますが、あれってまさに現代のデジタル化の延長線上にありますよね。

川原：すべてがデータ化されて、失敗するリスクが事前にすべて潰される世界なんて、人間が試行錯誤する余地がなくなって退屈極まりないですよ。だからこそね、「あえてネットワークに繋がらないやつ、つまりアナログな存在が一番強くなる」という逆説が生まれるわけです。

大津：アルゴリズムの観測範囲から外れた場所にあるからこそ、システムに依存しない独自の判断ができると。

川原：そう。過剰なコンプライアンスや予測システムの網からいかに身を離して、独自の領域を維持するか。大企業がリスク管理に縛られて身動きが取れなくなる一方で、個人の判断や小さなチームが持つアナログな機動力こそが、真の突破口を開くんです。

5. SF映画が描く未来の正体：『ターミネーター』『マトリックス』『エンティティ』の向こう側

大津：AIやデジタル管理の社会を語るうえで、昔からのSF映画が描いてきた世界観は非常に示唆に富んでいますよね。『ターミネーター』や『マトリックス』、最近の作品も含めて、AIと人間の関係はどう映りますか？

川原：そうそう、昔からSFではいろんな描き方をしてきたわけですよ。『ターミネーター』の世界みたいに、AIがフィジカル（物理的）に人間を超えて襲ってくる恐怖を描いたものもあれば、『マトリックス』のように、人間が完全にサイバー空間に取り込まれて、カプセルの中で発電所の代わり（生体電池）にされてしまう世界もある。

大津：完全にAIに主導権を握られ、人間はシステムの一部になってしまうという究極のディストピアですね。

川原：それだけじゃない。『ミッション：インポッシブル』シリーズに出てくる「エンティティ」のようなAIは、人間を直接物理的に攻撃するというより、情報やネットワークを介して人間を使って何かをさせようとする。つまり、人間を操る側の存在になるわけです。AIが脳の拡張から肉体の拡張を経て、本格的にフィジカルな領域に踏み込んできたとき、人間にとって何が本当に幸せかなんて、実は誰にもわからないわけですよ。

大津：完全な管理社会や仮想現実の中で生きるのと、不完全だけど現実を生きるのとでは、どちらが人間本来の姿なのかという問いですね。

川原：そう。だからこそ、どこかでそのシステムやネットワークに対して「ログアウト」する発想や、最後にブレーキを踏む人間の意思が絶対に必要になってくるんだよね。

6. 「先が見えてしまう人間」の生き方：未来を変えるか、不快感を避けるか

大津：すべてが見通せる社会や、先が読めてしまう現実に対して、人間はどう向き合っていけばいいんでしょうね。立川談志的な視点とも通じる部分がある気がします。

川原：結局ね、人間って少し頭が回ると、「この先どうなるか」っていう未来が先に見えちゃうわけですよ。未来を劇的に変えようと躍起になっても、結局は自分の想像の範囲内に収まっちゃう。

大津：未来を無理に変えようとするのではなく、別の視点が必要だということですか？

川原：そう。未来を変えるために無駄なエネルギーを使うんじゃなくてね、「すでに自分に見えている未来の軌道の中で、いかに自分が不快感を感じずに生きていくか」という、そっちのコントロールのほうがよっぽど大事なんじゃないですか。

大津：どうせ行き着く先が同じだとしたら、その中で自分が居心地よく、納得できる状態をいかに維持するかですね。

川原：その通り。社会のシステムや周囲の状況に振り回されて不快感を抱え込むくらいなら、自分の軸をしっかり持って、自分の足で心地よく生きられる環境を自ら作っていくこと。それこそが、この先を生き抜くための本当の知恵というものですよ。

7. 次世代を育む環境：問いに本気で向き合い、一緒に学ぶ姿勢

大津：ビジネスや生き方の話から少し広がりますが、次世代を育てる環境についてはどうお考えですか？

川原：結局ね、子どもがどんな「問い」を立てるかなんて、周りの環境や大人の背中次第なわけです。大事なのは、子どもが何か聞いてきたときに、大人がどれだけ本気になってそれに答えるかですよ。

大津：子どもからの問いかけを、大人がいかに真剣に受け止めるかが重要だと。

川原：そう。もし大人が答えを知らないなら、知ったかぶりをするんじゃなくて、「わからないから一緒に調べよう」って地に足をつけて一緒に学ぶ姿勢を見せること。親が自分の敷いたレールを無理に歩かせるんじゃなくて、子どもの素朴な疑問や「面白い」という感覚に本気で向き合ってサポートしてやる。そういう環境をつくることこそが、本当の健全な育成なんじゃないですかね。

あとがき　

この対談の録音を聞きながら、私はぼんやりと、遠い日の夕暮れのことや、今夜のビールの冷たさを考えていた。

世の中はどんどん便利になって、AIが何でも先回りして教えてくれて、失敗する前にブレーキを踏んでくれるような、そんな「正解に満ちた」未来が足音を立ててやってきている。全部の仕組みが完璧で、エラーがなくて、誰も傷つかない世界。言葉だけを聞けば、それはとても理想的で安全な場所に思える。

だけど、人間って、そんなにスマートにできちゃいない。

グラウンドで泥だらけになって走る選手がいて、それを怒鳴りながらも愛おしそうに見守るレフリーがいて、大企業の分厚い壁のなかでジタバタともがく生身の大人たちがいる。効率の良さとか、予測可能な美しさの対極にある「どうしようもなさ」や「不完全さ」のなかにこそ、私たちが生きているという手触りがある。

未来のことが少し見えすぎてしまうからこそ、私たちは疲れてしまうし、ときどき途方に暮れる。 それでも、目の前の子どもが投げかける素朴な「なんで？」に、知ったかぶりをしないで「一緒に調べよう」としゃがみこむ大人がいる。その温かささえあれば、どんなに冷たい管理社会のなかだって、自分たちの足で歩いていくことができる。

この「世相講談」という空間には、そんなふうに、息苦しい現代のなかで「自分なりの心地よさ」を見つけていくための小さな灯りがともっている。

グラスのなかの氷がカランと音を立てて溶けた。 明日も、私たちが私たちとして生きていくための、心地よくて泥臭い一日がはじまる。　

（島倉まさこ）