持続可能な社会へのトランジション(transition:移行)を進めていく上で、AIがもたらすさまざまな課題に、人類はどう向き合えばよいのか。その答えを探るべく、日立の研究開発グループは「問いからはじめるイノベーション―社会トランジションとAI」と題したウェビナーをスタートした。2021年9月24日に配信された対談には、SF(サイエンスフィクション)を活用して未来への思索を深める「SFプロトタイピング」の研究にいち早く取り組んでいる筑波大学の大澤博隆助教と、日立のデジタル技術研究を牽引している西澤格(いたる)が登場。その様子を3回にわたってお送りする。

これからのAIをどう捉えるべきか

丸山
対談のナビゲーターを務めさせていただく、日立製作所 研究開発グループの丸山幸伸です。今回は、急速な発展を続けているAI(Artificial Intelligence)がテーマです。本来は「人工知能」という研究分野を意味していたはずのAIですが、近年、あたかも実体が存在しているかのように世の中では認識されています。このAIをどう捉えればよいのか、そのヒントを今日はご提示できればと思います。

対談いただくのは、今年6月に出版された『SFプロトタイピング SFからイノベーションを生み出す新戦略』の著者の1人である大澤博隆さんと、日立製作所 研究開発グループの西澤格です。

画像: 左から日立製作所の西澤格、丸山幸伸、筑波大学の大澤博隆氏

左から日立製作所の西澤格、丸山幸伸、筑波大学の大澤博隆氏

大澤
わたしは筑波大学のシステム情報系で助教を務め、ヒューマンエージェントインタラクション研究室の主宰者でもあります。研究対象は、人間そのもの、そして人間らしさを感じさせるロボットやキャラクター、人工システムなどの総称である「エージェント」です。どうすれば人間らしさを活かしたインタフェースを作れるかといった研究のほか、相手の意図を読む、信頼を勝ち取るという人間の社会的な知能についても研究してきました。

近年は、人工知能が社会システムの中に入ってきたときにどんな問題を引き起こすかという観点から、いわゆる擬人化が人間に与える影響やフィクションに登場するエージェントについて調べています。その過程でサイエンスフィクション(SF)の力に気づきまして、SFの方法論を使って未来への思索を深める手法「SFプロトタイピング」を研究しています。

西澤
わたしはこれまで研究開発グループで、データベースシステム、リアルタイムのデータ処理システムをはじめとした、データマネジメント関連技術の研究開発に携わってきました。事業部での業務を経験したのち、金融や通信、メディア・エンターテインメント分野の顧客協創に関わり、現在はAIを含むデジタル技術、計測デバイス、ヘルスケア分野の研究開発を統括しています。AIは社内の研究者も注目のテーマなので、本日はお話しできるのを楽しみにしてきました。

AIが社会にもたらす「公平性の問題」と「心理的影響」

丸山
それでは最初の話題に参ります。「AIが人の暮らしに関わる上で、どんな問題が生じるのか」。大澤さん、いかがでしょうか。

大澤
1つは、人間の決定の一部をAIに委ねるようになったことで、人間が判断すべきこととAIに判断させるべきことをどう切り分けるべきか。AIの機械学習(※1)がどのようなプロセスで行われるのか、人間にはなかなか理解できません。一見うまく機能しているAIが判断ミスを起こして大事故を招いてしまったり、悪意を持ったデータの学習には非常に弱いといった問題があります。

※1 コンピュータが与えられたデータから学習し、自律的にデータの法則やパターンを見つけ出す手法やプログラムのこと。

画像1: AIが社会にもたらす「公平性の問題」と「心理的影響」

研究の世界では今、判断の根拠を論理的に説明できる「説明可能なAI」が非常にホットなテーマです。それから、AIの「公平性」。データに不要な偏りが入り込んでいると、例えばAIが人間を評価する際に、人種や性別といったバイアスがかかってしまいます。それをどうすれば回避できるかという問題です。

わたしの専門であるヒューマンエージェントインタラクションの分野では、人間らしいロボットやバーチャルエージェント(※2)などが人間の心理に与える影響について研究が進んでいます。例えば、家庭において子どもがスマートスピーカーに命令する環境が、子どもの成長や心理にどう影響するのか。スマートスピーカーから人間が感じる親しみやすさを、もっと精密に設計すべきだという議論が起きています。

※2 CGやアニメーション、AIにより作成した仮想のキャラクター。

西澤
「説明可能なAI」は最近よく目にする言葉ですが、まだまだ課題があると感じています。例えば、金融機関でAIが数値的に行っている処理をそのまま説明されても、職員の方にはほとんど理解できないと思います。まずは、そのAIが金融ビジネスの基礎をきちんと説明できるようになってから、実務に用いるべきではないでしょうか。AIの専門家だけでなく、そうでない人にも理解できるよう説明できるAIこそ、本当の意味で「説明可能なAI」だと思うのですが、いかがですか。

画像2: AIが社会にもたらす「公平性の問題」と「心理的影響」

大澤
同感です。今、AIに一番求められているのが「人間に対して誠実な説明ができること」。AIの原理的に相当難しいという声も専門家の間にはありますが、そこをなんとかクリアしようと研究が進められているところです。

「第2回:『SFプロトタイピング』をイノベーションにつなげるには?」はこちら>

画像1: 社会トランジションとAI-Vol.1 未来を思索するためのSFプロトタイピング
【その1】AIが人間の暮らしにもたらす問題とは?

大澤 博隆(おおさわ ひろたか)
1982年生まれ。筑波大学システム情報系助教・HAI(Human-Agent Interaction)研究室主宰者、日本SF作家クラブ理事、工学博士(慶應義塾大学)。専門はヒューマンエージェントインタラクションおよび社会的知能。JST RISTEX HITEプログラム「想像力のアップデート:人工知能のデザインフィクション」リーダー。共著に『SFプロトタイピング SFからイノベーションを生み出す新戦略』『人狼知能──だます・見破る・説得する人工知能』『人とロボットの〈間〉をデザインする』『AIと人類は共存できるか?』『信頼を考える──リヴァイアサンから人工知能まで』、監修に『SF思考:ビジネスと自分の未来を考えるスキル』など。

画像2: 社会トランジションとAI-Vol.1 未来を思索するためのSFプロトタイピング
【その1】AIが人間の暮らしにもたらす問題とは?

西澤 格(にしざわ いたる)
日立製作所 研究開発グループ テクノロジーイノベーション統括本部 副統括本部長。工学博士(東京大学)、技術士(情報工学部門)。日立製作所に入社後、中央研究所にてミドルウェアシステムの研究開発に従事。金融分野の顧客協創プロジェクト、AIやデータサイエンスなどの研究を牽引し、2020年より現職。2002~2003年、スタンフォード大学コンピューターサイエンス専攻 客員研究員。2018年、ハーバードビジネススクールAdvanced Management Program修了。ACM、情報処理学会、電子情報通信学会各会員。

画像3: 社会トランジションとAI-Vol.1 未来を思索するためのSFプロトタイピング
【その1】AIが人間の暮らしにもたらす問題とは?

ナビゲーター 丸山 幸伸(まるやま ゆきのぶ)
日立製作所 研究開発グループ 東京社会イノベーションセンタ 主管デザイン長。日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズ㈱に出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人材教育にも従事。2020年より現職。

シリーズ紹介

[特集]ポストコロナの社会とビジネス

破壊の先にある創造へ――。「グレート・リセット」後に求められる社会とビジネスのあり方を、各界の有識者の言葉から探ります。
※グレート・リセット:2021年夏に開催される予定の次回世界経済フォーラム年次総会、通称ダボス会議におけるテーマ

楠木建の「EFOビジネスレビュー」

一橋ビジネススクールの楠木教授の思考の一端を、切れ味鋭い論理を、毎週月曜日に配信。

山口周の「経営の足元を築くリベラルアーツ」

山口周氏をナビゲーターに迎え、経営者・リーダーが、自身の価値基準を持つための「リベラルアーツ」について考える。

八尋俊英の「創造者たち」~次世代ビジネスへの視点~

八尋俊英日立コンサルティング社長を導き手とし、新世代のイノベーターをゲストに社会課題の解決策や新たな社会価値のつくり方を探る。

協創の森から

社会課題の解決に向けたビジョンの共有を図る研究開発拠点『協創の森』。ここから発信される対話に耳を傾けてください。

新たな企業経営のかたち

パーパス、CSV、ESG、カスタマーサクセス、M&A、ブロックチェーン、アジャイルなど、経営戦略のキーワードをテーマに取り上げ、第一人者に話を聞く。

Key Leader's Voice

各界のビジネスリーダーに未来を創造する戦略を聞く。

経営戦略としての「働き方改革」

今後企業が持続的に成長していくために経営戦略として取り組むべき「働き方改革」。その本質に迫る。

ニューリーダーが開拓する新しい未来

新たな価値創造に挑む気鋭のニューリーダーに、その原動力と開拓する新しい未来を聞く。

日本発の経営戦略「J-CSV」の可能性

日本的経営の良さを活かしながら利益を生み出す「J-CSV」。その先進的な取り組みに迫る。

ベンチマーク・ニッポン

日本を元気にするイノベーターの、ビジョンと取り組みに迫る。

デジタル時代のマーケティング戦略

マーケティングにおける「デジタルシフト」を、いかに進めるべきか、第一人者の声や企業事例を紹介する。

私の仕事術

私たちの仕事や働き方の発想を変える、膨らませるヒントに満ちた偉才たちの仕事術を学ぶ。

EFO Salon

さまざまな分野で活躍する方からビジネスや生活における新しい気づきや価値を見出すための話を聞く。

禅のこころ

全生庵七世 平井正修住職に、こころを調え、自己と向き合う『禅のこころ』について話を聞く。

岩倉使節団が遺したもの—日本近代化への懸け橋

明治期に始まる産業振興と文明開化、日本社会の近代化に多大な影響を及ぼした岩倉使節団。産業史的な観点から、いま一度この偉業を見つめ直す。

This article is a sponsored article by
''.