画像認識AIを社会「と」実装する　～AIモニタリング技術で課題をクリア

ロボット掃除機は、私たちの暮らしを快適にしてくれる味方として人気だ。ロボット掃除機には物体を認識するAI（人工知能）が搭載されていて、ごみとコード等を見分ける。このようにAIは私たちにとって身近だが、それは生活を豊かにしてくれる実感があり、私たちがAIを活用することに納得しているからだ。この「実感」や「納得」について、最先端のAI技術者はどう考え、何に取り組み、どんな未来を描いているのか──。東芝 研究開発センター 柴田智行氏と小林大祐氏が、食堂の混雑度などを測る画像認識AIの実証実験を例に語った。

AIを社会「と」実装するために、乗り越えるべき3つの課題

まずは実証実験の概要を説明しよう。2021年7月15日から30日まで、東芝の社員食堂で行われた。柴田氏、小林氏が開発した画像認識AIが食堂の利用者を検知し、人の流れ・混雑度などを計測する中で、画像認識AIをモニタリングする技術がトラブルなく機能するかを検証した。

このとき、柴田氏、小林氏が目を付けたのが、同じ研究開発センターで開発が進む「MLOps（Machine Learning Operations）」だ。「MLOps」はAIの運用、学習サイクルを回すプラットフォームで、その上に開発したAIを乗せることで、その性能を継続的に維持・向上できる。

MLOpsの流れは次の通りだ──。①MLOpsに乗せてAIを運用すると、②MLOpsがAIを随時モニタリングして想定通りに動作しているか確認する。想定から外れていれば、③そのデータを基にAIを再学習させ、現地にカスタマイズし①に戻す。また、④運用で得られたデータや過去のAIモデルは、データ基盤に蓄積して次のAI開発に生かす。これを自動的に回すのが「MLOps」であり、この上でAIを運用することで柴田氏や小林氏たち技術者は、AIの精度を効率的に検証し、現場に実装できる（MLOpsの詳細は、「東芝のAI、作って終わりから次のステージへ」を参照）。

AIの性能を自動的、継続的に維持・向上させるMLOps（Machine Learning Operations）の仕組み

「東芝の画像認識AIは、既に一定の技術レベルをクリアしています。今は、意味のある存在として人々に実感してもらう段階です。そのためには、それぞれの現場でAIが想定通り動作するかを効率よく確認し、その精度を維持・向上し続けられる必要があります。

また何か異常があった時には、AIが原因なのか、データの影響なのか理由を説明できることが重要で、それがAIを使う人の納得につながります。すなわち、私たちAI技術者は、社会『に』ではなく社会『と』AIを実装し運用していくことを目指しており、だからMLOpsを活用したのです」（柴田氏）

株式会社東芝 研究開発センター 知能化システム研究所 メディアAIラボラトリー　エキスパート 柴田 智行氏

このようにMLOpsを活用した背景を説明する柴田氏。もう少し尋ねてみると、柴田氏は「画像認識AIが社会に広く受け入れられるには、クリアすべき課題が3つある」と言い換えてくれた。

１つめは、AIの品質の担保──。AIを開発する時に使用できるデータの量には限りがある。だから、使う人が期待する性能を発揮するには、AIを現場に導入した後に、その環境のデータでの学習が必要な場合がある。MLOpsの上でAIを運用すれば、それぞれの現場に応じた運用が行われるのは前述の通りだ。

2つめは、AIの開発からテスト、導入までを早めること──。人々の密集度を計測するなど、コロナ禍においてAIが必要とされる場面が増えている。これまでは、AIを開発した技術者が現場に赴き、テスト、導入を進めていた。しかし、開発したAIをMLOps上に乗せて運用すれば、人手に頼らずとも検証が進む。結果、AIをより早く導入でき、より多くの場面で活躍させられるのだ。

3つ目は、AIの説明可能性をあげること──。画像認識AIが想定とは異なる結果を報告してきた場合、どこに課題があるのか示されないと、私たちは不安になる。MLOpsにAIを乗せて運用しておけば、モニタリングによって異常の理由が明らかになり、適切な対策ができる。その結果、AIが導いた答えへの納得感が上がり、社会はAIを受け入れられる。

AIの社会実装へ、実験で得た確かな手応え

では、柴田氏たちは、これら3つの課題を乗り越えられたのだろうか。ここで社員食堂での実験に話を戻し、柴田氏と同じメディアAIラボラトリーに所属する小林氏に結果を解説してもらおう。

株式会社東芝 研究開発センター 知能化システム研究所 メディアAIラボラトリー　スペシャリスト 小林 大祐氏

「限られた期間でしたが、実証実験では想定通りの成果が得られました。具体的には、MLOpsの上で画像認識AIを運用すると、カメラの前に置いた障害物や逆光など私たちがわざと起こした『ノイズ』に対して、モニタリング機能はきちんと『異常あり』と判定しました。反対に画像認識ＡＩにとって問題のないノイズは、モニタリング機能は『異常なし』と判定しました」（小林氏）

小林氏は、画像認識AIが処理する映像データのうち約60％に障害物などのノイズをまぜた。このとき画像認識AIの挙動を監視するモニタリング機能が「異常あり」と判定したのは、そのノイズに対してのみだった。さらに、画像認識AIに出力に影響を与えない、ノイズとはいえない残り40%のデータに対しては「異常なし」とした。ノイズがある時だけ「異常あり」と判定し、ノイズがない時だけ「異常なし」と判定でき、1つめの課題「品質の担保」がクリアされた。

MLOpsで運用したモニタリングは、100%の精度でノイズの有無を判定した

それでは、2つめの課題「AIのテスト、導入を早めること」や、3つめの課題「AIの説明可能性を上げること」はどうだろう。小林氏の手応えは、「自分が現場を回り、テストするのと遜色ないレベルでMLOpsがAIをモニタリングし、このまま進めれば問題なく導入できる」というものだ。わざわざAI技術者が現場に赴かずとも、AIの現場導入が可能ということだ。さらに説明可能性について、小林氏がエピソードを紹介してくれた。

「MLOpsで画像認識AIを運用し始めた頃、ある日の映像に対して『異常あり』とアラートを出しました。食堂の方々に『何かありましたか？』と後で確認したところ、その日は賄いを食べる暇がないくらい忙しく、店員さんの動きが普段と違ったそうです。みなさん、AIの判定にかなり納得されていましたね」（小林氏）

技術と倫理が両立する世界へ

MLOpsの活用によって、柴田氏、小林氏の開発する画像認識AIへの「実感」と「納得」を醸成できる目途がついた。柴田氏は、「MLOpsによって画像認識AIのテスト、導入そして普及が効率的に進み、ユーザーが増えること。豊かな社会の実現に貢献できること」に期待を込める。

すでに新たなプロジェクトもスタートしている。たとえば、ウィズ／アフターコロナのオフィス改革、働き方改革により新たに生まれたニーズが、「コミュニケーションの可視化」である。画像認識AIが、「どのようなやり取りが価値につながっているか」「効果的な議論のあり方」を顕在化すれば、働きがいという意味でのウェルビーイングが高まるだろう。また大手小売業との議論では、安全・安心のための監視にとどまらず、人手不足を背景とした清掃の効率化、迷子の対応、購買の支援などが焦点になっているという。いずれも画像認識の精度、使う人の実感や納得が不可欠なだけに、今回のAI実証実験が課題をクリアした意味合いは大きい。

同時に、東芝が絶対に忘れないことがある。それは、AIを社会と実装する際の、プライバシーなど倫理面への配慮、生活者の納得だ。最近の取り組みについて、柴田氏が教えてくれた。

「東芝は、国立大学と共同プロジェクトを進め、公共空間での画像認識AIの活用について社会規範や倫理、ガバナンスについて検討を進めています。安心・安全で、豊かな生活には画像認識AIは欠かせませんが、きちんとした運用で不安を煽らないことが重要です。今、住民の方々に丁寧にヒアリングし、画像認識AIを社会が受け入れる際の課題を抽出し、検証しています」（柴田氏）

優れた画像認識AIであれば、社会がそのまま受け入れる訳ではない。想定されるリスクを検討し、AIを使いこなすためのガバナンスまで目配せが必要だ。技術と倫理を二律背反の関係にしないためにも、東芝が開発する画像認識AIは、MLOpsを用いて稼働することで、さらなる進化と深化を遂げていくに違いない。