ビジネスの現場で「AIを活用したい」と考えながら、その導入に踏み切れない企業は少なくありません。その大きな壁となっているのが、AIの判断根拠がブラックボックス化しているという問題です。どれほど優れた予測結果を出してくれても、なぜその結論に至ったのかを説明できなければ、重要な経営判断を任せることには大きな不安がつきまといますよね。
2020年2月5日、日立製作所が開始した新たなサービスは、まさにこの「AIの不透明さ」という長年の課題に切り込むものです。これまでの人工知能、特に深層学習（ディープラーニング）と呼ばれる、人間が教えるのではなくAI自らがデータからルールを学ぶ技術は、極めて高い精度を誇る反面、推論のプロセスが人間に理解しにくいという性質がありました。
実際、総務省が2019年3月に発表した調査データによれば、AIを導入した企業であっても、本番環境で運用できているケースは限られています。現場からは「AIが何を根拠に判断したのかわからない」という声が絶えず、AIに対する根深い不信感が導入の足かせとなっているのが実情です。
「なぜ？」に応える見える化の力
今回の日立の取り組みは、AIが導き出した予測に対して「どのデータがどれほどの影響を与えたのか」を定量的に可視化することにあります。例えば家電量販店でエアコンの購入率を予測する場合、「前回の購入からの経過年数が11％の影響を与えている」といった具合に、根拠を数字で明示してくれるのです。
これによって、AIは単なる「結果を出す機械」から、ビジネスの意思決定を支える「説明可能なパートナー」へと進化します。SNS上でもこの発表に対し、「ついにAIの説得力が補完される」「ブラックボックス問題が解消されれば、金融や医療など責任が問われる現場でも使いやすくなるはずだ」といった期待の声が多く上がっています。
私個人としても、このアプローチは非常に理にかなっていると感じます。技術がどれほど進化しても、最終的に責任を負うのは人間です。その人間が納得感を持って技術を使いこなすためには、AIの判断を「翻訳」して提示する仕組みが不可欠だからです。
安心の運用体制とルマーダによる伴走
さらに興味深いのは、単にツールを提供するだけでなく、AIの継続的な監視や改善までをサポートする点です。予測モデルは時間が経てば精度が落ちることもありますが、その原因となるデータを特定し、専門家がモデルの修正を提案する仕組みまで整えられています。
また、AI導入で懸念される「判断ミス」に対する責任の在り方についても、資料提供を通じて担当者の不安を取り除く工夫がなされています。技術だけでなく、組織としての制度設計まで支援する姿勢は、現場の切実な悩みに寄り添う日立らしい「協創」の形だと言えるでしょう。
AIの知識が乏しい担当者でも、数カ月あれば根拠を読み解けるようになるとのこと。日立はこれらを同社のデジタル事業「ルマーダ」の核として推進しています。ブラックボックスという壁が取り払われたとき、私たちのビジネスはかつてないスピードで進化し始めるのではないでしょうか。
コメント