社会トランジションとAI－Vol.2 AIはサイバー空間と現実世界をつなげられるのか。
【その3】サイバー空間と現実世界の非対称性をどう扱うのか？

English

「第1回：AIで社会システムはどう変わるのか？（前篇）」はこちら＞
「第2回：AIで社会システムはどう変わるのか？（後篇）」はこちら＞
「第3回：サイバー空間と現実世界の非対称性をどう扱うのか？」

「デジタルツイン」がはらむ2つの脆弱性

丸山
次のトピックは、「サイバー空間と現実世界の非対称性」です。現実世界と共存関係にあるという意味合いで、サイバーフィジカルシステムやミラーワールドとも呼ばれているサイバー空間ですが、一方で、近年注目を集めているメタバース（※）のように、サイバー空間の中だけで完結した新しい世界も生まれています。

※ メタ（meta）とユニバース（universe）を組み合わせた造語。多数の参加者がその中で自由に行動できる、ネットワーク上に作られた仮想空間。

小林
サイバー空間と現実世界の間には、2パターンの非対称性があるとわたしは捉えています。1つは、サイバー空間が現実世界を完全に欺けることです。例えば、デジタル腕時計で測った心拍数から健康体であることが証明されれば低価格で加入できる、IoT保険というものがあります。実はこれ、デジタル腕時計をメトロノームに付けて計測すれば簡単にハックできてしまいます。サイバー空間に入力されたデータが、実は間違っていた。これがまさにデジタルツインの脆弱性だと思うのです。

もう1つは、サイバー空間でのスコアリング、つまり格付けと現実世界での評価が異なってしまう現象です。例えば、飲食店の評価サイト。地元の人たちからすごく愛されているレストランには常連客しかいません。常連客はわざわざそのお店を評価しませんが、評価サイトでたまたま低い評価が付けられてしまったとき、そのスコアに重みがつき、潜在的な高評価は無視されます。褒めるにはプロの批評家でも力量が必要ですが、貶す（おとす）のは簡単です。大手サイトほどコメント欄が荒れる傾向にあるというのが良い例です。また、わざわざ評価サイトに書き込むモチベーションを万人がもつわけでもありません。お店の評判形成など、評価者がなんらかの利益誘導に従っているということも忘れてはなりません。

デバイスから取得したデータをもとにするIoTでしたら、先に述べたハッキングを防げるという前提であれば、わりと対称性が保たれるのでしょうけれど、飲食店の評価のように人間の感性が絡んでくると、どうしても非対称は免れないと思います。

影広
データを入力する人間の意図次第で、第三者をだませてしまう世界。それがサイバー空間の現状だと思います。ただ、もう少しサイバー空間が発展していくと、だまそうとしている人が気づかないところでもどんどんデータがサイバー空間に上がっていくことで、上流にいるAIが「あなたが入力した評価には邪心が入っているから、無効にします」と判断する。そんなことがいずれ可能になっていくと思います。

次の人類の大発明は、「忘れるコンピューター」？

丸山
個人の過去の悪事や失敗を許容するべきか否かという議論もあります。現実世界の人間はとっくに忘れているのに、サイバー空間は忘れてくれない。それも1つの非対称性だと思うのですが、いかがでしょうか。

小林
サイバー空間におけるプライバシー保護のための概念として、ヨーロッパで重視されているのが「忘れる権利」です。若い頃にインターネット上でやんちゃしてしまって、それがいわゆる「デジタルタトゥー（※1）」として残ってしまった。でも、その一事だけでその人を一生格付けしたり、ジャッジしたりしてよいものか。過去の失敗をいつまでも責めるのではなく、社会がその人の成長を見守っていくべきではないか。デジタル化された社会のあり方を考えるには、ある種の哲学や倫理の領域に踏み込んでいく必要があるのではないでしょうか。

わたしの大好きな作家のミラン・クンデラ氏（※2）は人間の忘却をテーマにしています。多少の皮肉を込めつつ、「人間の素晴らしいところは忘れることだ」というメッセージは、まさに本質を突いているなと思います。

※1 インターネット上に公開した書き込みや写真、動画などが一度拡散されると半永久的にインターネット上に残ってしまうことを、完全に消すのが難しいタトゥーにたとえた表現。
※2 Milan Kundera（1929年―）：チェコスロバキア生まれのフランスの作家。

影広
社会の常識として、「こういう過去の失敗は許していこう」という暗黙の了解がありますよね。それを計算機でも実現しようとなると、どういった周期で、どんな種類の失敗に対して「忘れる」のかといったパラメータの設定が非常に重要になると思います。例えば、何千時間か経った出来事はすべて自動的に忘れることにするのか。あるいは、クリティカルな内容の出来事だけはいつまでも記憶するようにするのか。世の中が納得できる基準を設けるためには、多様性を持った議論が不可欠だと思います。

小林
人類の次の大発明は「忘れるコンピューター」かもしれないですね（笑）。人間同士の争いが起きそうになると、サイバー空間にはもうその火種となったデータが存在していない、みたいな。一度、公知になったら未来永劫に存在させるべきか、あるいは忘却させるべきか。それは、データの内容によりけりだと思います。そして、そのような「さじ加減」はそもそも人間的な営みなのです。それをコンピューターに担当させるとなると、いろいろと尽きない議論になりそうです。

影広
ある周期で意図的に、世の中にとって忘れるべきデータを忘れるサイバー空間。これからの社会システムを健全に回していくためには必要かもしれませんね。

丸山
社会とAIとの関わりについて、今日はたくさんのお話が聞けました。普段、日立の研究所の中だけではできない議論をお届けできたと思います。お二人とも、ありがとうございました。

小林 弘人（こばやし ひろと）
株式会社インフォバーン 共同創業者・代表取締役 会長（CVO）。「ワイアード・ジャパン」「ギズモード・ジャパン」など、紙とWebの両分野で多くの媒体を創刊。1998年に企業のデジタル・コミュニケーションを支援する会社インフォバーンを起業し、コンテンツ・マーケティング、オウンドメディアの先駆として活動。現在、企業や自治体のDXやイノベーション推進を支援している。主な著書に『AFTER GAFA 分散化する世界の未来地図』（カドカワ）、『メディア化する企業はなぜ強いのか？』（技術評論社）、監修・解説書に『フリー』『シェア』『パブリック』（NHK出版）ほか多数。

影広 達彦（かげひろ たつひこ）
日立製作所 研究開発グループ 先端AIイノベーションセンタ長。博士（工学）。
専門は画像処理認識、パターン認識、機械学習。日立製作所入社。2005年、University of Surrey にて客員研究員。その後、中央研究所にて映像監視システムや産業向けメディア処理技術の研究開発をとりまとめ、2015年から社会イノベーション協創統括本部にてヒューマノイドロボットEMIEWの事業化に携わる。2017年にメディア知能処理研究部長、2020年より現職。筑波大学大学院グローバル教育院エンパワーメント情報学客員准教授、情報処理学会会員、電子情報通信学会会員。

ナビゲーター 丸山幸伸（まるやま ゆきのぶ）
日立製作所 研究開発グループ 東京社会イノベーションセンタ 主管デザイン長。日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズ㈱に出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人材教育にも従事。2020年より現職。

Linking Society

協創の森ウェビナー - Linking Society

協創の森ウェビナー の記事一覧 - 日立製作所研究開発グループから発信する、社会をみる視点や問いからはじまることを起点に、これからの社会について皆さまと深く語りあい、つながる、メディアです。

linkingsociety.hitachi.co.jp