東芝の若き技術者たち ～「高品質なAI」を誰もが開発できる社会をつくる～

技術の進展によりAIは、従来の音声認識・合成、画像認識等だけでなく、産業分野においても工場での生産性向上、社会インフラの点検保守、疾病リスクの予測、文書や音声の検索・分析など、幅広く活用されている。また、文章や画像の生成など、新たなAIの技術革新も進んでいる。さらに最近では、AIを開発するための様々なオープンソースも普及し、AIの適用範囲も広がってきている。一方で、そうなると問題になるのがAIの「品質」だ。AIには、判断の精度や倫理、セキュリティなど、開発の過程で見落とすことができない側面がいくつもある。AIを使用したあらゆる製品・サービスの品質にばらつきが出ないよう、どうAIを管理していくのか。この課題を解決することこそが現在のAI開発・運用の領域における最前線なのだ。

様々な領域で躍動する若き技術者の真摯な取り組み、そして熱き思いに迫る本シリーズ。今回は、東芝 研究開発センターでAIの品質評価に臨む大平英貴氏に登場いただき、AI時代を下支えする新たな品質管理の形を活写する。

「AI品質」とは一体何なのか？

未来の健康状態を見える化したり、工場での作業を自動化したり、音声を文字化することで記録が必要なインフラ点検を効率化したり。あらゆる分野でAIの導入が進み、私たちの身の回りでも、成功事例を目にすることが増えたのではないだろうか。社会課題の解決に、そして生活者の利便性の向上に、AIという技術は私たちに不可欠なものになりつつある。

東芝の研究開発センターでAIの開発に臨む大平英貴氏は「社会へのAI実装が進んだことで、AIの研究・開発もよりオープンなものになり、多くの人が関われるようになってきました」と語る。

「以前は専門スキルを持つ一部の研究者、技術者がAIを研究、開発してきました。しかし、今は多くの人に使える技術として汎用性を持ちつつあります。

ただ、普及が進めば問題も生じます。これまで研究者、技術者たちが匠の技で品質を管理してきました。しかし非専門家でもAIが開発できるようになれば、十分な品質の担保をできるかが課題になるのは自明でしょう」

株式会社 東芝 研究開発センター 知能化システム技術センター AI応用推進部　スペシャリスト 大平 英貴氏

AIによる自動運転では、対向車を道路標識と誤って認識したり、路面の模様によって走行が困難になったりする場合が知られている。また、人材採用を支援するAIが、性別で採用を不利にする判断を下した事例もある。社会で運用が広がるAIには、「品質をいかに保証するのか」という課題が出てきたのだ。

「自動運転の事故にとどまらず、最近では悪意を持った者が意図的にAIを混乱させ、害を及ぼす危険性も指摘されています。こういった場合、AIの顔認証による入場管理で誤認識が生じたら、部外者を入場させてしまうなど、セキュリティ面で大きな問題を引き起こします」

主なAIは膨大なデータを学習し、そこにあるパターンを抽出した上で特定のモデルを構築。判断などのアウトプットを導く。囲碁や将棋で膨大な棋譜を分析し、最善手を導くAIが代表例だ。しかし、学習に使用するデータが適切でなければ判断に問題が生じるし、データが適切でも学習方法に問題があれば設計通りの挙動につながらない。ここでAIの「品質」が問われるのだ。

どうすれば誰もが「品質の高いAI」を作れるのか？

品質を保つことが難しいAIだが、そもそもなぜ難しいのだろうか。それはAIがデータから学習するという特性を持つため、人間が決めた仕様で動作を定義することが難しいからだ。つまり人間がAIの判断結果まで完璧にコントロールすること自体が困難なのである。例えば下図のように、書いた文字を正確に予測できるとは限らない。

判断の根拠が不明確なAIに対する品質管理にはまだまだ課題がある。

AIがどうデータを学習し、判断するのか、その過程がブラックボックス化されているのだ（説明性の欠如）。また、学習させるデータの品質が悪ければ、AIが判断する時にバイアスがかかることも問題だ。学生など人の属性により否定的な判断が働いたり（判断における公平性の欠如）、 AIに入力されるデータの傾向が時間の経過とともに変わることで、AIの性能が低下したり、わずかな変動で人を動物に誤判断したりする（精度・頑健性の低さ）。以下の図にこれらの課題を示している。

AIにおける代表的な３つの課題

設計・開発から、実装された後の運用まで、AIの品質はあらゆる局面で厳しく問われている。今、世界ではAI研究者や技術者たちがAIの品質評価や品質保証について、活発に議論している真っ最中だという。ではAI品質を保つにはどうすればいいのだろうか？

「高いAI品質を担保すると言っても、精度だけでなく見るべき点は様々にあります。先ほどのブラックボックスや倫理面、さらに運用した時に正常に動作するのかも考えなくてはなりません。実際、開発時には想定していなかった環境下でAIが使われることもしばしばで、私も苦労した経験があります。このように、AIに携わる専門家として広い視野を持ち、様々なリスクを考慮していかなくてはなりません」

AI品質管理における全体の流れはこうだ。下図のようにまず何をすべきかをステークホルダーごとに整理するところから始まる。次に、品質管理におけるプロセスを確認して実際に品質チェックの観点を網羅的に抽出する技術を開発・整備する。最後に、顧客に対してAI品質評価結果を可視化して共有する。

あらゆるフェーズを経てAIの品質が保証される

「私のミッションは、専門家でない人でも高い品質のAIを開発できるためには、どのような評価方法・改善方法が必要かを検討し、具体的な技術を開発することです。」

AIの品質評価技術を開発する大平氏は、目標として東芝グループ内への「AI搭載システム品質保証ガイドライン」や評価方法の浸透、開発プロセスの整備・共有に力を注ぐ。大平氏らのチームは、事業部のAI技術者をはじめ、開発プロセスの整備を担当するチームともやり取りを重ね、AI技術を下支えしているのだ。

「安全安心なAIの利活用を目的として、AIに求められる性能や性質を取り決めた原則の策定が国内外で進んでいます。例えば国内だと『人間中心のAI社会原則』や『AI利活用ガイドライン』、海外では『欧州AI規則案』など。東芝では、AIガバナンスステートメントを策定するなど、これらの原則に従ったAIの利活用や品質管理を推進しています。さらに、継続的なAIサービスの品質を保つ仕組みを確立するため、AI品質評価技術の開発やプロセスの整備を実施しています。

欧州では不適切なAIの使用による差別の助長や、プライバシー侵害を防ぐための欧州AI規制案が審議されていますが、日本でも経産省が『AI原則実践のためのガバナンス・ガイドライン』を発表するなど、行政が指針を定め、開発現場も含めて適切なAIの利活用が考えられています。こうした潮流をどのように見極め、現場のAI研究、開発に合わせていくか。私たちは社内啓発を進めつつ、大きな動向も注視しています」

まだないルールをつくっていくからこそ、面白い。

大平氏は学生時代からAIに深い関心を寄せ、地図や道路標識の認識で研究を重ねた。「研究テーマと画像認識を組み合わせ、社会課題の解決に寄与したい」と考え、AIの研究開発に実績を持つ東芝に入社する。

世界初のOCR（光学文字認識）郵便区分機を皮切りに、経済不況時でも画像認識などAIの研究開発に力を入れ続けてきた実績が、大平氏の意欲に火をつけた。AIの専門家たちが揃うこの環境でなら、知識と技術を高められる――そんな確信を抱いての入社だった。

入社後は、研究開発センターでAIを活用した混雑度の判定や、廃棄物の種別を画像認識する技術などの開発に従事。AIのプロフェッショナルとして知見を積み重ねていく中で大平氏は、AIが判断に至るまでの過程が不明確であることに課題を感じていた。これからは、確固たる品質を保ちながらも、AIを人間の意図通りに制御していくことが必要だ。大平氏が次のステップとして取り組んでいる分野は、今まさに学術的にも困難な分野で、研究の真っただ中なのだ。そんな最前線の仕事に携わっていることについて、大平氏は噛み締めるように話す。

「AI開発の先端を見れば画像認識と音声認識の垣根がなくなりつつあり、それぞれの技術を融合、応用して成果を高める動きが活発になりつつあります。専門性に加えて分野を横断し、総合的に技術を磨き、製品の成果を高める技術者像が確立されつつあります。

さらにAIが必要とされる分野がさらに広くなり、様々な人が開発に関わる中でAIをより社会に馴染ませるにはどうすればよいのか。今、様々な企業が手探りで進めていますが、まだないルールを作っていくことほど面白い仕事はありません。大変なこともありますが、とても意味のある仕事です」

大平氏を支えるのは、ものづくりを基盤として技術に重きを置く東芝の風土だ。研究開発センターでは部署を越えて最新論文が共有され、国際学会への発表も精力的に行われる。「私の技術向上は、発想よりも気合と根性ですが」と笑う大平氏は、向学心に燃える同志と切磋琢磨しながら、AI技術を磨いてきた。

お客様が安心して使えるAIを目指し、AIの品質評価技術の向上に努める大平氏の目線は常にAI技術の便益を享受する社会に向く。例えば、大平氏が主に取り組んできたAIによる社会課題解決プロジェクトの一つに、「廃棄物処理施設の作業効率向上」がある。ここでは環境意識の高まりや地方財政のひっ迫、少子高齢化による熟練運転員の減少などが課題となっていたが、それを解決したのがごみクレーン全自動システムに組み込んだ画像認識技術だ。施設内で大量に集められたごみ置き場の画像から、廃棄物の種別や撹拌（かくはん）状態、積み上げ高さなどを認識する技術を開発。難しいクレーン制御が要求される場合でも、高精度かつ効率的な撹拌・積み替え作業を可能にした。

「AI技術を常に向上させ、精度を高めるのはもちろんのこと、AIがさらに社会に受け入れられる工夫が必要です。AIをどう普及させるか、どのように使ってもらいたいか。それを考えれば、より『使いやすい』技術に着地するでしょう。世界中の誰もが安心・安全に、簡単にAIを開発できる世の中を創っていくため、これからも試行錯誤しながら取り組んでいきます」

AIの世界で新たな「当たり前」を作っていく大平氏の挑戦は、まだまだ続く。