ＡＩは労働者を幸せにするのか（11）／ブラックボックス化する危険

 「ＡＩによる判断を可視化する必要がある」――人工知能学会では複数の研究者からこうした声が出されている。

　トップ棋士を破ったＡＩ「アルファ碁」の打った手の中には、プロ棋士でさえ「なぜ、あそこに打ったのか分からない」ものがあったという。つまり、ＡＩの判断がブラックボックス化しつつあるということ。「可視化」発言の背景にはそのことへの危惧がある。

 「ＡＩが出した結論の理由が人間に理解できないケースがあるが、ＡＩを道具として使っている以上、事故を起こせば責任は使用者にある」「ＡＩが選択する行動（意思決定）を、使う側の人間が説明できるようにしておくことが重要」

　こうした研究者の提起は、ＡＩを利用する全ての個人・団体が肝に銘じるべき段階にきている。

●ＡＩと人の目は別物

　例えば、ディープラーニングで精度が飛躍的に上がったといわれる画像認識。これには大きな穴があるといわれている。人工知能学会の山田誠二会長は「ＡＩは人間と違うところを見ている。ある画像を判断させた場合、ほぼ１００パーセント間違うケースがある」と指摘する。

　人の目には砂嵐のような画像ノイズにしか見えない絵を特定の数字だと判断したり、動物と判断したりすることがあるのだ。しかも、なぜＡＩがそう判断したのかを追跡することは困難とされている。

　政府のロードマップでは、ＡＩによる診断支援や手術ロボットの実現が目玉の一つになっている。しかし、ＡＩの間違った診断で人の命が失われる医療事故が発生しないのか。昨年、米テスラ自動車が自動運転のテスト中に起した事故も、衝突したトレーラーを車だと認識できなかったことから発生したと言われている。