日立製作所 研究開発グループ 影広達彦/株式会社インフォバーン 代表取締役会長 小林弘人氏
2021年10月26日、日立の研究開発グループによるウェビナー「問いからはじめるイノベーション―社会トランジションとAI」で配信された、株式会社インフォバーンの小林弘人氏と日立 研究開発グループの影広(かげひろ)達彦による対談。その2では、AIと人間の関わり方について意見が交わされた。

English

「第1回:AIで社会システムはどう変わるのか?(前篇)」はこちら>
「第2回:AIで社会システムはどう変わるのか?(後篇)」
「第3回:サイバー空間と現実世界の非対称性をどう扱うのか?」はこちら>

AIの限界と、「人間力」介入の余地

小林
先ほど、Web記事の見出しをレコメンドしてくれるライティングエンジンをご紹介しましたが、わたしの実体験として興味深かったことがあります。毎回AIがレコメンドする見出しを記事に付けていると、やはり似た傾向の表現ばかりになってしまうので、アクセス数もだんだん頭打ちになってきます。ところが、ある日突然アクセス数がスパイク(急激に増加)した記事があり、データ分析を行っている人からその理由を尋ねられました。そこで記事を見てみたところ、見出しの表現がそれまでとまったく違っていたのです。そのときの見出しはAIではなく人間が考えて付けたもので、「時代の気分」をうまく先回りして言葉にしていました。この体験から、人間がAIに介入する余地はまだまだあるのではないかと感じました。

丸山
要するに、統計的に収斂(しゅうれん)されている状態に突然、人間的な要素が入ってくることで、予期していなかった変化が起きる。なぜこういったことが可能なのでしょう。

影広
機械学習は、ある程度連続性をもって――つまり、規則的に学習させるとどんどん精度が上がっていくのですが、そこからもう一段精度を高めるには、どこかのタイミングで異質なものを学習させる、つまり非連続性が必要になってきます。昔、遺伝的アルゴリズム(※)を活用して、突然変異により大きな変化を起こすことができたという事例がたくさんありました。今まさに、多くの研究者がいろいろなアプリケーションで取り組んでいると思いますし、もしかすると、自分でそれをやり始める計算機がいずれ出てくるかもしれません。

※ データ(解の候補)を遺伝子で表現した「個体」を複数用意し、適応度の高い個体を優先的に選択して、突然変異などの操作を繰り返しながら解を探索する近似解探索手法。

画像: AIの限界と、「人間力」介入の余地

「AIによる起訴」V.S.「人間による起訴」

小林
カリフォルニア州にニコール・シャナハン氏という弁護士がいます。知的財産権の管理ソリューションを提供しているスタートアップ「ClearAccessIP」の創設者であり、法学とコンピューター科学を組み合わせたリーガルインフォマティクスという学問に取り組むスタンフォード大学の研究機関「CodeX」のフェローでもある女性です。この方が、AIを用いた検察の起訴システムと人間それぞれに起訴させ、起訴率を競わせるという研究をしました。

すると、人間のほうが起訴率が高いという結果が出たそうです。これは人間のほうが優秀ということではなく、検察が起訴・不起訴を判断する際にどうしてもバイアスがかかるからです。特に有色人種が起訴されるケースが多いと、以前に話されていました。

画像: 「AIによる起訴」V.S.「人間による起訴」

この話を聞いて、AIが人間の主観に流されず、ある意味公正に判断している点が面白いと思いました。ただ、この逆の現象も近年起きています。AIがどんどんWeb上の情報を網羅してきたと同時に、その情報自体にバイアスがかかっていたために、例えば有色人種の画像に対する認識率が低いという結果も出ています。AIの能力を過大評価せず、そこにどれだけ人間の判断を組み込むか。そのバランスの見極めが大切だと感じています。

丸山
まさに、人間がどこまでAIに介入すべきか考えるべき局面に我々は直面している、と。

影広
やはり、計算機というものはとても正直ですからね。データそのものにバイアスがかかっていれば、計算機はそれを素直に計算し、偏りのある結果が生まれてしまいます。バイアスをキャンセルしたり、人間がデータをチェックしたりといった何かしらのガバナンスを利かせるしくみが、AIにはまだまだ必要だと思います。

「自然なデジタル」こそ、未来のあるべき姿

小林
わたしは未来の裁判がどうなっているのかが気になります。例えば、人やAIがAIを訴えることはできるのか。訴える相手は、AIのサービスを提供している企業、もしくはAIを開発した企業になるのでしょうが、そのAI自身が正常かどうかを監査するAIもいずれ必要になってくるのではないかと思います。よくSF映画だと、AIが突然狂って世の中に大変なことが起こるじゃないですか。これまでにどんなデータを学習したのか、あるいは判断基準のアルゴリズムはどんな内容なのかなど、AIにかかっているバイアスやAIがはらむ脆弱性がわかっていれば、大きな事故は防げそうです。そして、そのような事態を未然に防ぐしくみが今から必要かもしれません。

画像: 「自然なデジタル」こそ、未来のあるべき姿

影広
今、研究の分野ではXAI(Explainable AI)、つまり説明可能AIがホットなテーマです。そのAIがどう動いていて、どんな要因でどんなことが起きるのかを人間に説明できるしくみが我々研究者に期待されています。さらに、それぞれの分野に特化したAIだけでなく、いろいろな意見を統合できるしくみの開発にもこれからは取り組まなくてはいけないと思います。

小林
それはわたしも常々感じています。今、人間と同じような感性なり思考回路なりを持ったAGI(Artificial General Intelligence:汎用人工知能)の開発に多くの方々が取り組んでいますが、やはり開発者の志向に似るものだと思います。もし、世界の問題をすべて数式で解決できると考えている方が開発すると、そういう方向性のAIができあがるでしょう。実際、スティーブ・ジョブズが生み出したプロダクトには、彼の強い美意識が、ほかとの混在を許さないスタンドアローンな立ち位置を希求しているような印象を受けます。また、ダイソンの製品には、ジェームズ・ダイソンの「よい機能こそが優れたデザインである」といった思想が色濃く表れています。多様な人間がいるように、多様なAIが存在している状態こそが、いわば“自然なデジタル”なのかなと感じます。(第3回へつづく)

「第3回:サイバー空間と現実世界の非対称性をどう扱うのか?」はこちら>

画像1: 社会トランジションとAI-Vol.2 AIはサイバー空間と現実世界をつなげられるのか。
【その2】AIで社会システムはどう変わるのか?(後篇)

小林 弘人(こばやし ひろと)
株式会社インフォバーン 共同創業者・代表取締役 会長(CVO)。「ワイアード・ジャパン」「ギズモード・ジャパン」など、紙とWebの両分野で多くの媒体を創刊。1998年に企業のデジタル・コミュニケーションを支援する会社インフォバーンを起業し、コンテンツ・マーケティング、オウンドメディアの先駆として活動。現在、企業や自治体のDXやイノベーション推進を支援している。主な著書に『AFTER GAFA 分散化する世界の未来地図』(カドカワ)、『メディア化する企業はなぜ強いのか?』(技術評論社)、監修・解説書に『フリー』『シェア』『パブリック』(NHK出版)ほか多数。

画像2: 社会トランジションとAI-Vol.2 AIはサイバー空間と現実世界をつなげられるのか。
【その2】AIで社会システムはどう変わるのか?(後篇)

影広 達彦(かげひろ たつひこ)
日立製作所 研究開発グループ 先端AIイノベーションセンタ長。博士(工学)。
専門は画像処理認識、パターン認識、機械学習。日立製作所入社。2005年、University of Surrey にて客員研究員。その後、中央研究所にて映像監視システムや産業向けメディア処理技術の研究開発をとりまとめ、2015年から社会イノベーション協創統括本部にてヒューマノイドロボットEMIEWの事業化に携わる。2017年にメディア知能処理研究部長、2020年より現職。筑波大学大学院グローバル教育院エンパワーメント情報学客員准教授、情報処理学会会員、電子情報通信学会会員。

画像3: 社会トランジションとAI-Vol.2 AIはサイバー空間と現実世界をつなげられるのか。
【その2】AIで社会システムはどう変わるのか?(後篇)

ナビゲーター 丸山幸伸(まるやま ゆきのぶ)
日立製作所 研究開発グループ 東京社会イノベーションセンタ 主管デザイン長。日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズ㈱に出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人材教育にも従事。2020年より現職。

Linking Society

シリーズ紹介

[特集]ポストコロナの社会とビジネス

破壊の先にある創造へ――。「グレート・リセット」後に求められる社会とビジネスのあり方を、各界の有識者の言葉から探ります。
※グレート・リセット:2021年夏に開催される予定の次回世界経済フォーラム年次総会、通称ダボス会議におけるテーマ

楠木建の「EFOビジネスレビュー」

一橋ビジネススクールの楠木教授の思考の一端を、切れ味鋭い論理を、毎週月曜日に配信。

山口周の「経営の足元を築くリベラルアーツ」

山口周氏をナビゲーターに迎え、経営者・リーダーが、自身の価値基準を持つための「リベラルアーツ」について考える。

八尋俊英の「創造者たち」~次世代ビジネスへの視点~

八尋俊英日立コンサルティング社長を導き手とし、新世代のイノベーターをゲストに社会課題の解決策や新たな社会価値のつくり方を探る。

協創の森から

社会課題の解決に向けたビジョンの共有を図る研究開発拠点『協創の森』。ここから発信される対話に耳を傾けてください。

新たな企業経営のかたち

パーパス、CSV、ESG、カスタマーサクセス、M&A、ブロックチェーン、アジャイルなど、経営戦略のキーワードをテーマに取り上げ、第一人者に話を聞く。

Key Leader's Voice

各界のビジネスリーダーに未来を創造する戦略を聞く。

経営戦略としての「働き方改革」

今後企業が持続的に成長していくために経営戦略として取り組むべき「働き方改革」。その本質に迫る。

ニューリーダーが開拓する新しい未来

新たな価値創造に挑む気鋭のニューリーダーに、その原動力と開拓する新しい未来を聞く。

日本発の経営戦略「J-CSV」の可能性

日本的経営の良さを活かしながら利益を生み出す「J-CSV」。その先進的な取り組みに迫る。

ベンチマーク・ニッポン

日本を元気にするイノベーターの、ビジョンと取り組みに迫る。

デジタル時代のマーケティング戦略

マーケティングにおける「デジタルシフト」を、いかに進めるべきか、第一人者の声や企業事例を紹介する。

私の仕事術

私たちの仕事や働き方の発想を変える、膨らませるヒントに満ちた偉才たちの仕事術を学ぶ。

EFO Salon

さまざまな分野で活躍する方からビジネスや生活における新しい気づきや価値を見出すための話を聞く。

禅のこころ

全生庵七世 平井正修住職に、こころを調え、自己と向き合う『禅のこころ』について話を聞く。

岩倉使節団が遺したもの—日本近代化への懸け橋

明治期に始まる産業振興と文明開化、日本社会の近代化に多大な影響を及ぼした岩倉使節団。産業史的な観点から、いま一度この偉業を見つめ直す。

This article is a sponsored article by
''.