IBM社が顔認識技術からの撤退を決断

2020年07月01日

IBM社のCEO、アービンド・クリシュナは6月8日、下院宛ての書簡で、顔認識に関する同社の方針について大胆な宣言を行いました。クリシュナは、「IBMは今後、汎用的な顔認識技術および分析のためのソフトウェア製品の提供を行いません」と述べ、次のように続けています。「IBMは、他のベンダーが提供する顔認識技術を含む、集団監視、人種プロファイリング、基本的人権と自由の侵害など、当社の価値観や『信頼性および透明性の原則』と一致しない目的のために、技術を使うことに強く反対し、それを容認しません」。同社は、顔認識技術の開発を中止し、人種プロファイリングにつながる可能性のあるいかなる技術も容認しないと発表しています。 

顔認識技術の利用をめぐる倫理的な問題は、長年にわたって議論されてきました。しかし、この技術の利用に歯止めをかけるため、法律を制定しようという動きはほとんど見られませんでした。実際、今日では、多くの法執行機関が積極的に顔認識技術を活用しています。例えば、国際刑事警察機構(インターポール)のウェブサイトには、逃亡者を逮捕するために顔認識を利用して、160カ国からの画像を集めたグローバルデータベースと照合する方法を詳細に記載したセクションがあります。 

しかしながら、IBM社によると、この技術はまだ、法執行機関で利用する準備が整っていない可能性があります。「今こそ、法執行機関が顔認識技術を採用すべきかどうか、また、どのように利用すべきかについて、国民的対話を始めるべきだと考えています」とクリシュナは述べています。「人工知能は、法執行機関が市民の安全を守るために利用する強力なツールの一つです。しかし、Alシステムのベンダーとユーザーは共に、Alのバイアスについて十分に検証する責任を負っています。これは特に、法執行機関で使用する場合は重要であり、このようなバイアスの検証を監査・報告する必要があります」

 

現代の顔認識アルゴリズムにおけるバイアス

2019年12月、米国国立標準技術研究所(NIST)は、現代の数多くの顔認識アルゴリズムには精度に大きなばらつきがあるという調査結果を発表しました。

偽陽性

偽陽性とは、別人であるにもかかわらず、システムが誤ってデータベースと一致したと判定してしまうケースです。これに関する最大の問題は、アフリカ系およびアジア系の偽陽性率が他の人種の場合と比べてはるかに高いことです。反対に、最も偽陽性率が低いのは東欧系です。調査によると、この差は一般的に大きく、人種によって偽陽性率の差は100倍にもなります。さらに、偽陽性率は女性や高齢者、幼児の場合に高いことも明らかになっています。

 

偽陰性

偽陰性とは、実際にはデータベースのエンティティと一致しているのに、システムが本人ではないと判断するケースです。これは、空港や国境での検査の際は特に危険です。システムが犯罪者のデータベースと照合している場合、危険な人物がセキュリティチェックを通過してしまうことにつながるからです。米国国立標準技術研究所(NIST)の調査によると、偽陰性率はアジア系とアメリカ先住民で最も高く、白人とアフリカ系アメリカ人で最も低いことが明らかになっています。

 

IBMの顔認識からの撤退が及ぼす影響

IBMは長年にわたって機械学習開発の先頭に立ってきました。自然言語処理システムであるIBM Watsonは、世界で最も優れた質問応答システムの一つに数えられています。自然言語処理以外にも、コンピュータビジョン分野ではWatson Visual Recognitionがすばらしい成果を収めています。このようにIBMのテクノロジーはAIコミュニティで多くの尊敬を集めているため、同社の言葉には重みがあります。

 

IBMの顔認識からの撤退が及ぼすポジティブな影響

そのような大企業が顔認識に対して強固な姿勢を示すと、当然その影響は広がります。実際、IBMの決定は既に業界でドミノ効果を引き起こしているようです。IBMの発表に続いて、Microsoft社も米国の警察への顔認識技術の販売を中止することを発表しました。 

一方、IBMの顔認識からの撤退に活路を見出す企業が現れる可能性があります。顔認識市場には、他の企業やスタートアップが参入する余地が増えたからです。最悪のシナリオは、状況が全く変わらないという結果になることです。これらの企業は、どのような結果がもたらされるのか懸念することなく、顔認識アルゴリズムを開発し、法執行機関への販売を継続するかもしれません。願わくば、他の開発者が一層時間と費用をかけて、バイアスのないアルゴリズムを開発し始めてほしいものです。新しい技術を発表する前に慎重にその影響を調査する企業が増えることが期待されています。

IBM社のCEOは、現代の顔認識アルゴリズムに存在するバイアスは、その使用の完全な中止を決断するほど大きな問題であると考えています。同社は、法執行機関など社会の重要な領域で実装する前に、アルゴリズムにバイアスがないことを確認するよう政府やベンダーに呼びかけています。 

現状では、政府による法規制がAI技術の開発に追いついていません。IBMの顔認識からの撤退によって、他の大手テクノロジー企業やスタートアップが、開発を進める前に倫理について考えるようになることを期待したいところです。

顔認識に関しては、以下の関連記事をご覧ください。また、AIの最新情報をお届けしているので、ぜひメールマガジンへもご登録ください。

AI業界の最新情報をお届けします!

メディア掲載結果

    AI・機械学習の最新情報をお届けします!

    Lionbridge AIのブログで紹介している事例記事やトレンドニュースといったビジネスに役立つ情報はもちろん、オープンデータセット集なども合わせてメール配信しております。