10月29日、信頼性学会の2019年第1回フォーラムに参加しました。AI技術について、各分野の専門家から、最新の研究や採用事例について聞くことができました。AIは今後、人間の仕事を奪うとか、AIによって人間が滅ぼされるなどという悪いイメージがテレビや映画などで広がりつつありますが、すでに私たちの知らないところで、AIは安全に関わるさまざまな場面で貢献しています。昨年、このブログのPILZ TOPICSで「AIによって変わる私たちの未来」と題して、AIについての講演をレポートしました。前回は、AI導入によって変わる将来の働き方やビジネスについての講演が中心でしたが、今回は、現在導入されている事例の紹介です。

　今回のフォーラムでは、まず「AI総論」で、AI技術とは何かが説明され、そのAIの技術を採用する以下の事例が紹介されました。(1)低画質画像の高画質画像への変換、(2)鉄道の故障予兆検出、(3)宇宙空間での着陸候補地点識別の３つの事例です。これらの講演を通して、今後のAI技術の展望や安全面での共通の課題が見えてきました。それぞれの事例について、少々脱線もしながら、技術的詳細は大幅に簡略化してご紹介します。

(1)低画質画像の高画質画像への変換

　AIによる画像解析技術は、さまざまな分野で今後ますます重要になる技術です。高度な技術が開発、改良されており、その一部は空港の顔認証などですでに本格的に利用されています。昨今の高齢ドライバーによる自動車事故の頻発で、今後特に、自動運転での運用が待ち望まれています。高齢者に限らず、自動車を単に移動手段として利用したいドライバーにとっては、座席に座って目的地を入力さすえすれば、本を読んだり、昼寝をしたりしているうちに、目的地に安全に送り届けてくれる車が理想です。

　さて、自動運転では、衝突事故を回避するために、接近する車両や歩行者、前方の標識、信号機などを十分手前から識別しなければなりません。障害物や停止位置などをタイムリーに正しく認識できなければ、安全な運転を実現することは不可能です。AIが画像を正しく認識できるようにするには、多くの学習データを準備する必要があります。しかし、場合によっては、有効な学習データが少なく、低画質の画像しか入手できないこともあります。

　そのような場合、AIの深層学習を用いて、低画質の画像を高画質の画像に変換することが可能です。変換の精度を上げるために、さまざまな手法が使用されますが、代表的な例として、あらかじめさまざまな画像の特徴をAIに学習させ、変換したい画像に抜けているデータを補完する手法(高解像度化CNN）、2つのペアの画像から画像間の関係を学習することで、サンプル画像からその関係を考慮して画像のペアを生成する技法(pix2pix)などがあります。

　これらの技術は学習データが乏しい場合、大いに威力を発揮します。自動運転で応用する際の例として、データ拡張の手法が紹介されました。データ拡張とは、画像を回転したり、水平・垂直シフトしたりして、学習データを増やすことですことです。その際、エキスパートの運転例だけのデータセットを学習させるのではなく、起こりうるノイズを入れ、シミュレーションデータを混ぜる方が不確実性を補えるため、自動運転性能は改善されるそうです。

　自動運転とは全く関係ありませんが、先日あるニュースで、ポーランドのホロコーストから発見された判読不能の手紙がAIによって9割程度判読できるようになったと報道されていました。薬品処理をした写真データをAIに解析させることで、裸眼では全く判読のできない文字が浮き上がり、ほとんどの内容が読み取れるまでになったのです。ビフォア・アンド・アフター映像を見ましたが、白紙のように見える紙面に青い文字がくっきりと浮き上がっていました。ふと、この講演で紹介されたような技術が使われているのかもしれない、と思ったことでした。

(2)鉄道の故障予兆検出

　私たちが日々利用する鉄道では、目に見えないところで、運行中に不具合が発生することのないよう、さまざまなメンテナンス作業が行われています。そのおかげで、鉄道は安全で信頼できる公共交通機関として、多くの利用者に利便性を提供してくれますが、その裏では、定期的に車両や設備のメンテナンスを作業者が行っています。

　メンテナンスを行っても故障をゼロにはできないため、信号設備では、軌道回路、信号装置などで故障が発生します。今までは故障が発生してから現場で人が故障個所の細かい点検や部品の交換作業を行っていましたが、現在では、AI技術を利用して、故障を未然に防ぐ画期的な取り組みが行われています。鉄道信号システムでは、転てつ機の故障頻度が最も多いため、手始めとして、この転てつ機で、AIを用いた予兆検出を実施しています。

　具体的には、取得した転てつ機の転換データ（転てつ機が分岐器の可動レールを転換させる際のトルク値）を正常なトルク値と比較することで異常を検出します。転換データは、転換開始から6秒後まで、0.05秒毎に、1転換で120個記録します。ピークトルク値、平均トルク値からの変化量を監視し、閾値を超えると異常を判定します。人間で言うと、健康診断で血圧やコレステロール値が正常範囲を超えると、再検査のお知らせが来るような感じです。

　異常と判定された場合、k-NN法（最近傍法）を用いて、故障の要因分析を行います。あらかじめ登録された異常要因のデータと、異常と判定されたデータを照合し、最も近いものが故障要因であると判定されるのです。

　この取り組みを行った結果、点検のための稼働回数は増えたものの、故障の頻度は減りました。実施前と異なり、故障が発生してからではなく、異常と判定するたびに作業員が確認に出動するので、実際は故障していない場合もあるそうです。しかし、故障率を削減できたことは大きな成果です。JR東日本では、今後、故障予兆検出の精度を上げ、対象も拡大する予定です。

　人間の健康も予防医療が次第に進み、病気にかかる前に対策することが推奨されるようになりましたが、今後社会のインフラも予兆検出で故障を未然に防ぐことが望ましいと思います。故障しないことは、事業者にとっても利用者にとってもありがたいことです。

(3)宇宙空間での着陸時の安全性確認

　事例は地上から鉄道、さらに宇宙空間へと移動します。AIは月面（南極地）の着陸候補地点のクレータ（月面のくぼみ）/ボルダー（岩塊）の識別にも利用されています。月面の水資源調査を行う探査機が着陸する際、水資源候補に近く、クレータやボルダーの少ない平地に着陸するのが理想的です。宇宙というとスターウォーズを思い浮かべてしまいますが、確かにくぼみや岩塊の多い月面への着陸は危険だと想像できます。着陸地点の候補地点は、現在まで人間が識別していますが、実験的にAI技術を用いた識別も行われています。

　AI技術は便利な反面、安全性に関わる課題が見つかりました。月面にはクレータが密集しているため、人間が識別するのは手間がかかり、AI技術を採用することで、人手不足を解消できます。しかし、まず、AIに学習させた教師データに多くのラベルミスが存在し、クレータやボルダーが実際には「ないのにある」と識別するケースや、反対に「あるのにない」と識別してしまうケースがあります。これは、人間でも判断に迷う場合があり、人間が作成した教師データに多くのラベルミスが存在したためです。

　この結果を踏まえ、安全性を考慮し、「あるのにない」と言う誤検知を減らす必要が見えてきました。その場合、「ないのにある」と言う誤検知は必然的に増えますが、フェイルセーフの考え方で「疑わしきは罰する」ようにしなければなりません。また、日影が異なる画像、陰で真っ暗な画像では、誤検知が多く見つかりました。これについては、教師データのバリエーションを増やし、画像が識別できるほど鮮明でない場合は識別させない方がよいことがわかりました。

　これらの結果から、AIの識別結果の不確実性が高い場合は、AIに無理に回答させるのではなく、「分からない」と回答させる方がよいという判断に至りました。また、AIがどのように判断したのか、判断根拠を明確にし、識別結果を数値化する必要があります。現時点では、自動運転4および5レベルでは、AIがルールに基づいて安全の監視から判断、指令までを行いますが、安全を維持するために、それぞれの機能でハザードに至るケースがあるかを評価することで、システムの安全性の説明が可能になります。たとえば、安全の監視であれば、監視項目が抜けていないか、安全の判断であれば、判断のタイミングがずれるような場合がないか、などです。そのようなケースがあれば安全性は低くなり、なければ高くなります。

　これらの３つの事例から、今後のAI技術について、共通する安全面の課題が見えてきました。講師の方々のご意見から抜粋して、以下にまとめます。まず、AIに学習させる教師データの品質やバリエーションを増やすことで、画像解析の精度を向上できます。また、AIに単に判断させるだけでなく、どこを見て判断したのか、判断に至った経緯を説明させる必要があります。見ている場所が適切でなければ、設定を変更し、改良しなければなりません。さらに、解析（識別）結果は自信を持って答えているのか、或いは迷って出した答えなのか数値化し、特に安全に関わるシステムで利用する場合、不確実性が高い場さ合は、「わからない」と言う回答も受け入れることが、起こりうるハザードを回避することにつながるでしょう。

　AI技術は人手不足の解消のみならず、広く使用されるようになれば、長期的にはコスト削減も期待できます。また、人間が作業を行うより、判断ミスが減るため、安全性の向上も期待できます。現時点では、完全な自動化まではまだ時間がかかりそうですが、今後この技術の研究・開発がさらに進み、昼寝しながら安心して乗れる自動運転車に乗れる日が来ることを待ち望みます。