論点抽出記事（詳細版）：WS05〜スマートディストピア!?〜

「人文学・社会科学を軸とした学術知共創プロジェクト」では、2021年9月6日、第5回ワークショップ「新たな人類社会を形成する価値の創造～スマートディストピア!?～」を開催しました。

冒頭、テーマ代表者である京都大学大学院文学研究科 出口康夫教授は、AIなどICTの発展した社会におけるスマート化された新しいガバナンスやマネジメントが、本来の人間像を阻害・侵害する「スマートディストピア」について問題提起を行いました。さらに、人間を「できること（capability）」の集積ではなく「できないこと（incapability）」を基軸に考え、スマート化についても「できなさ」を基軸に考えるという価値の転換によって、ディストピアに陥らないための突破口が見えてくるのではないかと指摘しました。

これに対して、パネリストの京都大学オープンイノベーション機構日立京大ラボ 加藤猛特定准教授は、多元的な価値や多様な人間が混在する「ミクストピア」社会を提案し、それを可能にする情報システムのあり方についても言及しました。ミクストピアに向けた動きとしてデジタル民主主義、プラットフォーム協同組合主義などを紹介しながら、経済活動のあり方を変えていく新たな価値の創造が重要であることを指摘しました。もう一人のパネリスト、コネクトフリー株式会社 帝都久利寿代表取締役総合開発責任者兼CEOも、テクノロジーを人間のパートナーのように考えなければならなくなるこれからの社会では、従来の価値を全面的に考え直す必要があるという問題意識を共有しました。コンピュータに委任してもう一人の自分をいくつもつくれば人生を何倍にも生きることができるが、そのためには、テクノロジーを信用し委任しなければならない。それはどうしたら可能になるのか、テクノロジーを知らない人やコミュニケーションできない人を置いていかないためにどうしたらよいのかが大きなテーマだと語りました。

その後、参加者21人が3つのテーマに分かれてグループディスカッションを行い、さらにその内容も踏まえたうえで全体討議が行われました。これらの議論の内容を、抽出された論点に沿って整理すると以下のようになります。

論点による整理

【論点1】スマート化がもたらす標準化された世界の中で人間の多様性をどう維持するか

「ITは最適化、効率化が得意だが、最適化を押し付けてはいけない。ルールは決めるが、その中のできる人、できない人を上手くつなぎ、『緩やかで大きなフレームの中に入っておれば、あとはとやかく言わない』ような態度をとるようにチューニングするべきでは」（その他）
「社会も他人もコントロールはできない。自分の考えを表明し、連帯感の輪を広げていくしかない」（哲学）
「本当の合意形成、議論の場では、感情や表情の表出も当然あり得る。そういう場を、公的なところでも担保していくべき」（哲学）
「人類の知性を超えた超知性を持つことで、グローバル・ガバナンスの主体がわれわれの上部に出現するかもしれない。そこに委ねるのか、あえてわれわれの知性で理想に向かうのかという選択が問われる」（その他）
「監視する側と監視される側のいたちごっこが続くということは、社会が開いていること。計画が全部自己完結して閉じた社会になると、ディストピアになる」（哲学）
「開かれた社会であればあるほど、プライバシーの問題が生じてくる。そっとしておいてもらう権利は、どう実現するのか」（哲学）
「ディストピアと言われるが、それがICTの必然なら、そこをなんとか快適に面白く生きるという方向性もあり得るのではないか。スマートシティは快適でQOLが高い生活ができる社会だが、快適で退屈なユートピアになる可能性もはらんでいる」（経済学）
「ウェルビーイングは一つのキーワードになっているが、状態としてのウェルビーイングではなく、行動として考えるべき」（哲学）
「ディストピア化するのは、スマートさが足りないからかもしれない。テクノロジーが発展し尽くした、本当にユートピア的な先が見たいとも思う」（哲学）
「コジェーヴは、承認に基づいた満足のほうが、幸福よりはましだとしている」（哲学）
「人文社会科学系の知見が技術開発側と共有できていないこと、特に技術開発の評価は問題。人にとってどういうものがいいのか、悪いのか、評価関数の変数の中に、もう少し人文系の知見が入ってくる必要がある。ユートピアをつくるための評価関数をきちんと作れば、ディストピアは生成され得ないのではないか」（その他）
「人文系の智恵を、技術設計論に応用したいと考えている」（実務家）
「指標は分かりやすいが、だからこそ怖い。大学の現場は、指標でがんじがらめになりつつある」（哲学）
「指標を誰が決めているかが問題だ。自分たちで決められないところを、ITを使うことで合意形成を自分たちでできるようにするといった方向に動かすほうがいいのではないか」（その他）
「価値観を内在させてしまって、誰も批判しないという状況に近づきつつある可能性がある」（哲学）

【論点2】AIなどのテクノロジーは人間の「弱さ」（vulnerability）を解消するか

「人文社会科学系の視点としては、テクノロジーに対して、人が過ごしやすい、人がやりやすい、という観点が必要」（その他）
「他人をコントロールすることはできない中でも、どうやって価値観の共有を進めるか、そこに人文学系の力がどんな形で作用するか知りたい。そこが、たとえばモビリティにおいても接点になる」（工学）
「価値観を変えていくのは、今、まさにテック企業がやっていること。ここでは人文学ではなく、テクノロジーが前面に出てくる。それを踏まえた議論が必要」（哲学）
「スマートディストピアでイメージされている『規範性がなくなる』というような状態になれることは、むしろユートピアでもある」（哲学）

【論点3】スマート化がもたらす格差（スマートデバイド）の拡大をいかに回避すべきか

○スマート倫理

「教育現場では、『良い社会をつくる』『弱い人を守る』といった倫理の目的と、『ルールを守る』という手段とが混同されている。私たちは、子どもたちに誤ったメッセージを送ってるしまっている」（哲学）
「『ルールみたいなものが必要だとしたら、どう作るか』という話が必要」（哲学）
「日本の学校現場では、情報倫理をものすごく問題にして、ICT機器が排除されてきた。それがICTスキルの低下、DXの遅れにつながっている」（哲学）
「コンピュータの解析が優位になると、出された結論を『正解』と捉えがち」（その他）
「AI倫理については、社会における多様性を十分理解していない中で議論している状況にある」（その他）
「AIが言うことを信じてしまう、という問題では、Human in the loop（人間参加型）に戻していく作業が必要。AIは稀な事象に対応できないし、短い記憶しか持てないという、人間とは違う限界がすでに証明されている。人間がAIや技術とどう付き合うのか、教育にも入れていくといい」（その他）
「個々のAIには特性がある。AIをブラックボックスにするのはよくない。どのようなバイアスが働いているのか評価することも必要。その意味で、倫理は、徳目よりもっと広いところで考える必要がある」（哲学）

○科学コミュニケーション

「情報技術に関する科学コミュニケーターを、どう位置付け、どう育成していくかが重要」（哲学）
「データを扱うときに、どのようなデータを使ってどう処理をしどういう結果が出ているのかという、プロセスまで含めて扱える人材が必要になる。さらに、それを使って、データを扱うのに慣れていない人たちとどうコミュニケーションを取るかというような幅広い領域をカバーする必要がある」（その他）
「科学コミュニケーションには、科学の歴史や背景などコンテクストを知るような機会を入れるといい。科学は『絶対』と思っている人もいる」（その他）
「AIは正しいという幻想を打ち砕くには、バッティングする答えを出すAIを複数出しておくとわかりやすいのでは」（哲学
「AIの様々な結論の中から、どれが説得力があるかを投票するようなイベントだと、一般の方でも楽しめる」（哲学）
「研究者は、マーケティングのような手段を使わない。それが良さでもあるが、反面、そのために影響力がないという部分がある」（その他）
「専門家による専門家のための都合のいいAI倫理といったものが上から押し付けられるかもしれないことに、不安感がある」（哲学）

【論点4】個人の機能強化が強調される中でコミュニティの意義をどのように再確保すべきか

「人間は自由だからこそ、アンフェアになる。技術がある人とない人がいて、ある人のほうがいろいろ都合がいい。そうした人が、社会のために何か（貢献やチャレンジなど）したいという渇望を持てばいい」（実務家）
「社会規範は、相互の期待や承認、委譲がぐるぐる回ることで、創発してくるのではないか」（その他）
「共有という概念は、共産主義を想起させ反発を招く場合がある。どう説得できるだろうか」（哲学）
「スマートシティのプロジェクトは、産業界が関わっているので経済主導で考えざるを得ないため、社会性を一番上に考えて進めることは難しい」（その他）
「ディストピアがベターだとみんなが認識すると完全に系が閉じてしまう。それを破るロジックが、サイバー空間における個人と社会の合意形成ではないか」（経済学）

【論点5】スマート化が進む中で人文社会科学系ができること、やるべきこととは何か

「データを活用した人文学研究から、人文学や社会科学をどう考えていくかにフィードバックするようなモデルが必要」（その他）
「人文学がやるべきことは、ディストピアと言われた時の全体像は何かを抉り出すこと。社会が本来的だと思い込んでいる人間観とはどういうものかを掘り出すこと」（哲学）
「技術開発において想定されている価値観は、人文社会科学系から見たときに妥当な価値観なのか、なかなかわからないもどかしさがある」（その他）
「共創型でリベラル・アーツ型のディスカッションを深めていくのは、これからすごく大事」（その他）
「インターネットは民主主義の武器になるが、ナショナリズムのツールにもなった。民主的な使い方をするにはどうしたらよいか考えていかなければならないと言う意味で、人文学のやるべきことは多い」（哲学）
「人文学の意義として、常識外れの考えも提示できる、ということがあるのか」（哲学）
「哲学は20世紀に議論が精密になり、結果的にノーマル・サイエンスになってしまった。批判の批判の批判というふうに、ぐるぐる回っていく流れもあった。このような人文学のあり方が変わらないと、共創も再生も振興も何もない」（哲学）