「第1回：AIで社会システムはどう変わるのか？（前篇）」はこちら＞
「第2回：AIで社会システムはどう変わるのか？（後篇）」
「第3回：サイバー空間と現実世界の非対称性をどう扱うのか？」はこちら＞
AIの限界と、「人間力」介入の余地
小林
先ほど、Web記事の見出しをレコメンドしてくれるライティングエンジンをご紹介しましたが、わたしの実体験として興味深かったことがあります。毎回AIがレコメンドする見出しを記事に付けていると、やはり似た傾向の表現ばかりになってしまうので、アクセス数もだんだん頭打ちになってきます。ところが、ある日突然アクセス数がスパイク（急激に増加）した記事があり、データ分析を行っている人からその理由を尋ねられました。そこで記事を見てみたところ、見出しの表現がそれまでとまったく違っていたのです。そのときの見出しはAIではなく人間が考えて付けたもので、「時代の気分」をうまく先回りして言葉にしていました。この体験から、人間がAIに介入する余地はまだまだあるのではないかと感じました。
丸山
要するに、統計的に収斂（しゅうれん）されている状態に突然、人間的な要素が入ってくることで、予期していなかった変化が起きる。なぜこういったことが可能なのでしょう。
影広
機械学習は、ある程度連続性をもって――つまり、規則的に学習させるとどんどん精度が上がっていくのですが、そこからもう一段精度を高めるには、どこかのタイミングで異質なものを学習させる、つまり非連続性が必要になってきます。昔、遺伝的アルゴリズム（※）を活用して、突然変異により大きな変化を起こすことができたという事例がたくさんありました。今まさに、多くの研究者がいろいろなアプリケーションで取り組んでいると思いますし、もしかすると、自分でそれをやり始める計算機がいずれ出てくるかもしれません。
※ データ（解の候補）を遺伝子で表現した「個体」を複数用意し、適応度の高い個体を優先的に選択して、突然変異などの操作を繰り返しながら解を探索する近似解探索手法。
「AIによる起訴」V.S.「人間による起訴」
小林
カリフォルニア州にニコール・シャナハン氏という弁護士がいます。知的財産権の管理ソリューションを提供しているスタートアップ「ClearAccessIP」の創設者であり、法学とコンピューター科学を組み合わせたリーガルインフォマティクスという学問に取り組むスタンフォード大学の研究機関「CodeX」のフェローでもある女性です。この方が、AIを用いた検察の起訴システムと人間それぞれに起訴させ、起訴率を競わせるという研究をしました。
すると、人間のほうが起訴率が高いという結果が出たそうです。これは人間のほうが優秀ということではなく、検察が起訴・不起訴を判断する際にどうしてもバイアスがかかるからです。特に有色人種が起訴されるケースが多いと、以前に話されていました。
この話を聞いて、AIが人間の主観に流されず、ある意味公正に判断している点が面白いと思いました。ただ、この逆の現象も近年起きています。AIがどんどんWeb上の情報を網羅してきたと同時に、その情報自体にバイアスがかかっていたために、例えば有色人種の画像に対する認識率が低いという結果も出ています。AIの能力を過大評価せず、そこにどれだけ人間の判断を組み込むか。そのバランスの見極めが大切だと感じています。
丸山
まさに、人間がどこまでAIに介入すべきか考えるべき局面に我々は直面している、と。
影広
やはり、計算機というものはとても正直ですからね。データそのものにバイアスがかかっていれば、計算機はそれを素直に計算し、偏りのある結果が生まれてしまいます。バイアスをキャンセルしたり、人間がデータをチェックしたりといった何かしらのガバナンスを利かせるしくみが、AIにはまだまだ必要だと思います。
「自然なデジタル」こそ、未来のあるべき姿
小林
わたしは未来の裁判がどうなっているのかが気になります。例えば、人やAIがAIを訴えることはできるのか。訴える相手は、AIのサービスを提供している企業、もしくはAIを開発した企業になるのでしょうが、そのAI自身が正常かどうかを監査するAIもいずれ必要になってくるのではないかと思います。よくSF映画だと、AIが突然狂って世の中に大変なことが起こるじゃないですか。これまでにどんなデータを学習したのか、あるいは判断基準のアルゴリズムはどんな内容なのかなど、AIにかかっているバイアスやAIがはらむ脆弱性がわかっていれば、大きな事故は防げそうです。そして、そのような事態を未然に防ぐしくみが今から必要かもしれません。
影広
今、研究の分野ではXAI（Explainable AI）、つまり説明可能AIがホットなテーマです。そのAIがどう動いていて、どんな要因でどんなことが起きるのかを人間に説明できるしくみが我々研究者に期待されています。さらに、それぞれの分野に特化したAIだけでなく、いろいろな意見を統合できるしくみの開発にもこれからは取り組まなくてはいけないと思います。
小林
それはわたしも常々感じています。今、人間と同じような感性なり思考回路なりを持ったAGI（Artificial General Intelligence：汎用人工知能）の開発に多くの方々が取り組んでいますが、やはり開発者の志向に似るものだと思います。もし、世界の問題をすべて数式で解決できると考えている方が開発すると、そういう方向性のAIができあがるでしょう。実際、スティーブ・ジョブズが生み出したプロダクトには、彼の強い美意識が、ほかとの混在を許さないスタンドアローンな立ち位置を希求しているような印象を受けます。また、ダイソンの製品には、ジェームズ・ダイソンの「よい機能こそが優れたデザインである」といった思想が色濃く表れています。多様な人間がいるように、多様なAIが存在している状態こそが、いわば“自然なデジタル”なのかなと感じます。（第3回へつづく）
関連リンク Linking Society
■プログラム1
「日立のAIガバナンス」
■プログラム2
「AIはサイバーとフィジカルの暮らしを繋ぐことができるのか」
■プログラム3
「社会から信頼されるAI」
「第3回：サイバー空間と現実世界の非対称性をどう扱うのか？」はこちら＞
小林 弘人（こばやし ひろと）
株式会社インフォバーン 共同創業者・代表取締役 会長（CVO）。「ワイアード・ジャパン」「ギズモード・ジャパン」など、紙とWebの両分野で多くの媒体を創刊。1998年に企業のデジタル・コミュニケーションを支援する会社インフォバーンを起業し、コンテンツ・マーケティング、オウンドメディアの先駆として活動。現在、企業や自治体のDXやイノベーション推進を支援している。主な著書に『AFTER GAFA 分散化する世界の未来地図』（カドカワ）、『メディア化する企業はなぜ強いのか？』（技術評論社）、監修・解説書に『フリー』『シェア』『パブリック』（NHK出版）ほか多数。
影広 達彦（かげひろ たつひこ）
日立製作所 研究開発グループ 先端AIイノベーションセンタ長。博士（工学）。
専門は画像処理認識、パターン認識、機械学習。日立製作所入社。2005年、University of Surrey にて客員研究員。その後、中央研究所にて映像監視システムや産業向けメディア処理技術の研究開発をとりまとめ、2015年から社会イノベーション協創統括本部にてヒューマノイドロボットEMIEWの事業化に携わる。2017年にメディア知能処理研究部長、2020年より現職。筑波大学大学院グローバル教育院エンパワーメント情報学客員准教授、情報処理学会会員、電子情報通信学会会員。
ナビゲーター 丸山幸伸（まるやま ゆきのぶ）
日立製作所 研究開発グループ 東京社会イノベーションセンタ 主管デザイン長。日立製作所に入社後、プロダクトデザインを担当。2001年に日立ヒューマンインタラクションラボ(HHIL)、2010年にビジョンデザイン研究の分野を立ち上げ、2016年に英国オフィス Experience Design Lab.ラボ長。帰国後はロボット・AI、デジタルシティのサービスデザインを経て、日立グローバルライフソリューションズ㈱に出向しビジョン駆動型商品開発戦略の導入をリード。デザイン方法論開発、人材教育にも従事。2020年より現職。