2021年11月29日に配信された、日立の研究開発グループによるウェビナー「問いからはじめるイノベーション―社会トランジションとAI」における、D4DR inc. 代表取締役社長 藤元健太郎氏と日立製作所 研究開発グループ 加藤博光による対談。社会システムの「Trust」を担保するために、これからのデジタル社会ではどんなしくみが必要とされるのだろうか。

English

「第1回:社会システムへのデータ活用の実例とは?」はこちら>
「第2回:公共と個人の間に設けるべき、新たなデータ利活用空間とは?」はこちら>
「第3回:AIや多様なデータと、社会システムはどう向き合うべきか?」

課題は、AIを取り巻く「合意形成」と「品質保証」

丸山
3つめのトピックに入っていきます。「これからの社会システムは、多様なデータとどう向き合っていけばよいのか」。このシリーズのテーマでもあるAIが社会システムに入ってくることで、どんなことが起こるのでしょうか。

藤元
AIによる判断の合意形成をどう図るかが大事になると思います。先ほどお話しした“縁側”のようなセミパブリックなデータ利活用空間に携わる特定の人たちだけでなく、地域住民が意思決定に参加できるようなきめ細かなしくみが必要です。今、スマートシティの次のモデルとして内閣府が提唱している「スーパーシティ(※)」構想でも、住民を交えた合意形成の重視が謳われています。

※ 住民が参画し、住民目線により、2030年頃に実現される未来社会の先行実現をめざす取り組み。AIやビッグデータなどの先端技術の活用や、そのための複数分野間でのデータ連携などが謳われている。

画像1: 課題は、AIを取り巻く「合意形成」と「品質保証」

AIが組み込まれる都市のレイヤー構造の中で、どんなシステムがどんなデータを吐き出しているのか。それがどう活用され、何が意思決定されていくのか。そこに住民をはじめとするステークホルダーが関わることが、1つの重要なポイントになると感じています。

加藤
AIそのもののQA(Quality Assurance)、つまり品質保証をどのように行っていくかという課題も見逃せません。従来のシステムですと、それがどんな挙動をとるか事前に設計することができますが、AIの場合は収集したデータに基づいて学習した結果で挙動が決まっていきます。これまでのシステムとは異なる品質保証のあり方を議論する必要があります。

画像2: 課題は、AIを取り巻く「合意形成」と「品質保証」

これからのデジタル社会におけるトラストの考え方として、我々は「Trust of Data」「Trust by Data」という概念を提案しています。「Trust of Data」は、オンラインで流通しているデータがどこから生まれたものなのか、信頼できるものなのかという視点から、文字どおりデータそのものが「信頼するに足る」ことを担保する技術。それに基づいて、人やシステムが、期待した挙動――例えばデータ活用から生まれたサービスが「信頼するに足る」証拠を明らかにする技術が「Trust by Data」です。この両面においてデータ流通のしくみをいかに構築するかが問われています。

AI同士が管理しあい、システムの「Trust」を担保する

藤元
AI同士が互いに管理しあったり、刺激しあったりできるしくみもこれからは必要です。現段階では「教師あり学習(※)」タイプのAIが主流ですが、こうしたAIの場合、当然ですが教師データそのものに判断を左右されることになります。例えば、トラには稀に白い個体もいる。しかし、教師データとして黄褐色のトラだけを学習させておくと、「トラというものはすべて黄褐色だ」とAIが偏った認識をしてしまう。そういうリスクをはらんでいます。

※ 機械学習の手法の1つ。人間が用意した正解とともにデータを学習させることで、コンピューターが人間の意図したとおりにデータを分類できるようにする。

仮に、「最近、一部の地域で白いトラが増えている」となった場合に、そういったちょっとした傾向の変化を重視するタイプのAIが、「トラ=黄褐色」と思い込んでいるAIに対して、「いや、実は白いトラもいるんだよ」と指摘してあげられる。そんなAI同士の関係のしくみが求められると思います。

加藤
今は、システムそのものの「Trust」をいかに保証すべきかが問われる時代です。日立は世界経済フォーラム第四次産業革命センター、経済産業省とともに、「トラスト・ガバナンス・フレームワーク」という概念を提唱しています(※)。システムの「Trust」を保証するには、Trust←Trustworthiness←Governance←Trust←……という連鎖が必要だという考えです。ここでいう「Trust」とは、ある人、ある主体が主観として「そのシステムを信頼できる」こと。それに対して「Trustworthiness」は、あるシステムが信頼に値する=Trustworthyかどうかが、客観的な証拠や実験で裏付けられていることを指します。

※ ホワイトペーパー「Rebuilding Trust and Governance: Towards Data Free Flow with Trust (DFFT)」参照。

画像: トラスト・ガバナンス・フレームワークの概念図。出典:Rebuilding Trust and Governance: Towards Data Free Flow with Trust (DFFT)」

トラスト・ガバナンス・フレームワークの概念図。出典:Rebuilding Trust and Governance: Towards Data Free Flow with Trust (DFFT)」

システムが社会から信頼=Trustを得るには、信頼に値する事実=Trustworthinessを蓄積する必要があります。Trustworthinessの蓄積は、実効力のあるGovernanceによって担保されるものです。そしてGovernanceそのものは、市民からのTrustを得ることで十分に機能します。この連鎖がシステムのTrustを担保するのです。さらに欠かせないのが、この連鎖の起点となる「トランスアンカー」です。このトランスアンカーを公共財として設定することの重要性を提起しています。

人間の常識を超えるAIの可能性と、人間がとるべきスタンス

藤元
システムの信頼性に対する考え方は、これまでの社会の常識の範囲内でのものと、これまでの常識を超えたものの両方が存在するのではないでしょうか。以前日立さんが行った、AIに教師データなしでブランコの漕ぎ方を学習させ続けたところ、最終的には人間が思いつかないような漕ぎ方をAIが自力で編み出したという実験の動画を拝見して驚きました。AIを使い続けることで、ひょっとしたら人間の常識を超えた、人間には思いつかない次元の何かにたどり着ける。そんな可能性もAIにはあると思うのです。

加藤
今、人間には取り扱いきれないほどの膨大なデータが生まれています。その分析をAIに頼らざるを得ない中で、いかにAIを信頼すればよいのか、これからも議論を重ねていかないといけません。先ほど挙げたガバナンスのように、人間がどうAIに介入すべきかが非常に大事なポイントになると思います。

丸山
本日は、社会システムにどうAIを組み込んでいくかというテーマでお二人にお話しいただきました。ときに人間を超えるような自律的な判断をしてしまうAIを毛嫌いすることはもはやできず、それとどう向き合っていけばよいのかを考えなくてはいけない。その重要性を改めて理解できました。お二人とも、ありがとうございました。

「社会トランジションとAI」をテーマとした対談シリーズはこれにて終了です。次回は「ライフ」をテーマにした座談会をお送りします。

画像1: 社会トランジションとAI-Vol.3 多様なデータが作る社会システム
【その3】AIや多様なデータと、社会システムはどう向き合うべきか?

藤元 健太郎(ふじもと けんたろう)
D4DR inc. 代表取締役社長。1991年、野村総合研究所入社。1993年からインターネットビジネスのコンサルティングをスタート。日本発のeビジネスオープンイノベーションプロジェクト「サイバービジネスパーク」を立ち上げる。2002年、コンサルティング会社D4DR inc.の代表に就任。広くITによるイノベーション、新規事業開発、マーケティング戦略などの分野でコンサルティングを展開している。J-Startupに選ばれたPLANTIOをはじめさまざまなスタートアップの経営にも参画し、イノベーションの実践を推進。関東学院大学人間共生学部非常勤講師。近著は『ニューノーマル時代のビジネス革命』(日経BP社)。

画像2: 社会トランジションとAI-Vol.3 多様なデータが作る社会システム
【その3】AIや多様なデータと、社会システムはどう向き合うべきか?

加藤 博光(かとう ひろみつ)
日立製作所 研究開発グループ 社会システムイノベーションセンタ長。1995年、日立製作所入社。自律分散システム、システム数理・最適化、制御系セキュリティなどの研究開発に従事。水環境や自動車、鉄道などの情報制御システムの運用監視制御および新サービスへのシステム技術適用を推進。2012年から英国にて列車運行管理や地域エネルギーマネジメントに関するプロジェクトに参画。帰国後、インフラシステム研究部長などを経て、2019年より現職。情報処理学会山下記念研究賞(1999年)、計測自動制御学会技術賞(2000年・2016年)などを受賞。博士(工学)。

画像3: 社会トランジションとAI-Vol.3 多様なデータが作る社会システム
【その3】AIや多様なデータと、社会システムはどう向き合うべきか?

ナビゲーター 丸山幸伸(まるやま ゆきのぶ)
日立製作所 研究開発グループ 東京社会イノベーションセンタ 主管デザイン長。日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズ㈱に出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人材教育にも従事。2020年より現職。

Linking Society

シリーズ紹介

[特集]ポストコロナの社会とビジネス

破壊の先にある創造へ――。「グレート・リセット」後に求められる社会とビジネスのあり方を、各界の有識者の言葉から探ります。
※グレート・リセット:2021年夏に開催される予定の次回世界経済フォーラム年次総会、通称ダボス会議におけるテーマ

楠木建の「EFOビジネスレビュー」

一橋ビジネススクールの楠木教授の思考の一端を、切れ味鋭い論理を、毎週月曜日に配信。

山口周の「経営の足元を築くリベラルアーツ」

山口周氏をナビゲーターに迎え、経営者・リーダーが、自身の価値基準を持つための「リベラルアーツ」について考える。

八尋俊英の「創造者たち」~次世代ビジネスへの視点~

八尋俊英日立コンサルティング社長を導き手とし、新世代のイノベーターをゲストに社会課題の解決策や新たな社会価値のつくり方を探る。

協創の森から

社会課題の解決に向けたビジョンの共有を図る研究開発拠点『協創の森』。ここから発信される対話に耳を傾けてください。

新たな企業経営のかたち

パーパス、CSV、ESG、カスタマーサクセス、M&A、ブロックチェーン、アジャイルなど、経営戦略のキーワードをテーマに取り上げ、第一人者に話を聞く。

Key Leader's Voice

各界のビジネスリーダーに未来を創造する戦略を聞く。

経営戦略としての「働き方改革」

今後企業が持続的に成長していくために経営戦略として取り組むべき「働き方改革」。その本質に迫る。

ニューリーダーが開拓する新しい未来

新たな価値創造に挑む気鋭のニューリーダーに、その原動力と開拓する新しい未来を聞く。

日本発の経営戦略「J-CSV」の可能性

日本的経営の良さを活かしながら利益を生み出す「J-CSV」。その先進的な取り組みに迫る。

ベンチマーク・ニッポン

日本を元気にするイノベーターの、ビジョンと取り組みに迫る。

デジタル時代のマーケティング戦略

マーケティングにおける「デジタルシフト」を、いかに進めるべきか、第一人者の声や企業事例を紹介する。

私の仕事術

私たちの仕事や働き方の発想を変える、膨らませるヒントに満ちた偉才たちの仕事術を学ぶ。

EFO Salon

さまざまな分野で活躍する方からビジネスや生活における新しい気づきや価値を見出すための話を聞く。

禅のこころ

全生庵七世 平井正修住職に、こころを調え、自己と向き合う『禅のこころ』について話を聞く。

岩倉使節団が遺したもの—日本近代化への懸け橋

明治期に始まる産業振興と文明開化、日本社会の近代化に多大な影響を及ぼした岩倉使節団。産業史的な観点から、いま一度この偉業を見つめ直す。

This article is a sponsored article by
''.