「第1回：AIが人間の暮らしにもたらす問題とは？」
「第2回：『SFプロトタイピング』をイノベーションにつなげるには？」はこちら＞
「第3回：社会システムとAIのこれからの関係は？」はこちら＞
これからのAIをどう捉えるべきか
丸山
対談のナビゲーターを務めさせていただく、日立製作所 研究開発グループの丸山幸伸です。今回は、急速な発展を続けているAI（Artificial Intelligence）がテーマです。本来は「人工知能」という研究分野を意味していたはずのAIですが、近年、あたかも実体が存在しているかのように世の中では認識されています。このAIをどう捉えればよいのか、そのヒントを今日はご提示できればと思います。
対談いただくのは、今年6月に出版された『SFプロトタイピング SFからイノベーションを生み出す新戦略』の著者の1人である大澤博隆さんと、日立製作所 研究開発グループの西澤格です。
左から日立製作所の西澤格、丸山幸伸、筑波大学の大澤博隆氏
大澤
わたしは筑波大学のシステム情報系で助教を務め、ヒューマンエージェントインタラクション研究室の主宰者でもあります。研究対象は、人間そのもの、そして人間らしさを感じさせるロボットやキャラクター、人工システムなどの総称である「エージェント」です。どうすれば人間らしさを活かしたインタフェースを作れるかといった研究のほか、相手の意図を読む、信頼を勝ち取るという人間の社会的な知能についても研究してきました。
近年は、人工知能が社会システムの中に入ってきたときにどんな問題を引き起こすかという観点から、いわゆる擬人化が人間に与える影響やフィクションに登場するエージェントについて調べています。その過程でサイエンスフィクション（SF）の力に気づきまして、SFの方法論を使って未来への思索を深める手法「SFプロトタイピング」を研究しています。
西澤
わたしはこれまで研究開発グループで、データベースシステム、リアルタイムのデータ処理システムをはじめとした、データマネジメント関連技術の研究開発に携わってきました。事業部での業務を経験したのち、金融や通信、メディア・エンターテインメント分野の顧客協創に関わり、現在はAIを含むデジタル技術、計測デバイス、ヘルスケア分野の研究開発を統括しています。AIは社内の研究者も注目のテーマなので、本日はお話しできるのを楽しみにしてきました。
AIが社会にもたらす「公平性の問題」と「心理的影響」
丸山
それでは最初の話題に参ります。「AIが人の暮らしに関わる上で、どんな問題が生じるのか」。大澤さん、いかがでしょうか。
大澤
1つは、人間の決定の一部をAIに委ねるようになったことで、人間が判断すべきこととAIに判断させるべきことをどう切り分けるべきか。AIの機械学習（※1）がどのようなプロセスで行われるのか、人間にはなかなか理解できません。一見うまく機能しているAIが判断ミスを起こして大事故を招いてしまったり、悪意を持ったデータの学習には非常に弱いといった問題があります。
※1 コンピュータが与えられたデータから学習し、自律的にデータの法則やパターンを見つけ出す手法やプログラムのこと。
研究の世界では今、判断の根拠を論理的に説明できる「説明可能なAI」が非常にホットなテーマです。それから、AIの「公平性」。データに不要な偏りが入り込んでいると、例えばAIが人間を評価する際に、人種や性別といったバイアスがかかってしまいます。それをどうすれば回避できるかという問題です。
わたしの専門であるヒューマンエージェントインタラクションの分野では、人間らしいロボットやバーチャルエージェント（※2）などが人間の心理に与える影響について研究が進んでいます。例えば、家庭において子どもがスマートスピーカーに命令する環境が、子どもの成長や心理にどう影響するのか。スマートスピーカーから人間が感じる親しみやすさを、もっと精密に設計すべきだという議論が起きています。
※2 CGやアニメーション、AIにより作成した仮想のキャラクター。
西澤
「説明可能なAI」は最近よく目にする言葉ですが、まだまだ課題があると感じています。例えば、金融機関でAIが数値的に行っている処理をそのまま説明されても、職員の方にはほとんど理解できないと思います。まずは、そのAIが金融ビジネスの基礎をきちんと説明できるようになってから、実務に用いるべきではないでしょうか。AIの専門家だけでなく、そうでない人にも理解できるよう説明できるAIこそ、本当の意味で「説明可能なAI」だと思うのですが、いかがですか。
大澤
同感です。今、AIに一番求められているのが「人間に対して誠実な説明ができること」。AIの原理的に相当難しいという声も専門家の間にはありますが、そこをなんとかクリアしようと研究が進められているところです。（第2回へつづく）
関連リンク Linking Society
■プログラム1
「社会を支えるAIの未来」
■プログラム2
「未来を思索するためのSFプロトタイピング」
■プログラム3
「EUのAI規制政策と企業のリスクとチャンス」
「第2回：『SFプロトタイピング』をイノベーションにつなげるには？」はこちら＞
大澤 博隆（おおさわ ひろたか）
1982年生まれ。筑波大学システム情報系助教・HAI（Human-Agent Interaction）研究室主宰者、日本SF作家クラブ理事、工学博士（慶應義塾大学）。専門はヒューマンエージェントインタラクションおよび社会的知能。JST RISTEX HITEプログラム「想像力のアップデート：人工知能のデザインフィクション」リーダー。共著に『SFプロトタイピング SFからイノベーションを生み出す新戦略』『人狼知能──だます・見破る・説得する人工知能』『人とロボットの〈間〉をデザインする』『AIと人類は共存できるか？』『信頼を考える──リヴァイアサンから人工知能まで』、監修に『SF思考：ビジネスと自分の未来を考えるスキル』など。
西澤 格（にしざわ いたる）
日立製作所 研究開発グループ テクノロジーイノベーション統括本部 副統括本部長。工学博士（東京大学）、技術士（情報工学部門）。日立製作所に入社後、中央研究所にてミドルウェアシステムの研究開発に従事。金融分野の顧客協創プロジェクト、AIやデータサイエンスなどの研究を牽引し、2020年より現職。2002～2003年、スタンフォード大学コンピューターサイエンス専攻 客員研究員。2018年、ハーバードビジネススクールAdvanced Management Program修了。ACM、情報処理学会、電子情報通信学会各会員。
ナビゲーター 丸山 幸伸（まるやま ゆきのぶ）
日立製作所 研究開発グループ 東京社会イノベーションセンタ 主管デザイン長。日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズ㈱に出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人材教育にも従事。2020年より現職。