AIの学習データ(教師データ)とは?

2019年10月11日

機械学習モデルがビジネスにもたらす無限の可能性を探求する楽しさに比べると、AIのプログラミング面は少し退屈に感じられるかもしれません。その結果、学習の細いところはデータサイエンティストに任せてしまいたいと思われるのではないでしょうか。とはいえ、学習データはあらゆる機械学習モデルの開発に必要不可欠なものです。プロジェクトは使用するデータによって定義されるため、データがどのように働くのかをはっきりと理解することで成功の可能性が大きく高まります。 AIの学習データ については当サイトで簡単に説明していますが、もう少し詳しく勉強してみませんか。学習データの世界に飛び込んで、このデータがなぜそれほど重要なのかを探ってみましょう。

 

AIの学習データ(教師データ)とは?

学習データとは基本的に割り当てられたタスクの実行をAIに教えるテキストで、何度も使用を繰り返して予測を微調整し、正解率を高めていきます。AIはいくつか異なる方法で学習データを使用しますが、これはすべて予測の精度を高めることを目的としています。これにはデータに含まれる変数が用いられます。この変数を特定してアルゴリズムへの影響を評価することで、データサイエンティストは何度も調整を重ねてAIを強化することができるのです。アルゴリズムに影響する幅広い変数を示す何百回もの学習サイクルを経て、データは極めて詳細な最良のものとなり、AIを改良することが可能となります。

大多数の学習データにはインプット情報と、ターゲットとも呼ばれるラベル付き正解のペアが含まれます。領域によっては関連性の高いタグが含まれる場合もあり、AIはこれによってより正確な予測を行うことができます。変数や関連する詳細は学習プロセスにとって極めて重要なものなので、異なる機械学習タスクのデータセットの見かけはそれぞれ非常に異なります。例えば、以下のとおりです。

 

感情分析

感情分析では、学習データは文やレビュー、ツイート等のインプットと、そのテキストがポジティブかネガティブかを示すラベルで構成されます。

インプットラベル
この店のコーヒーは最高!ポジティブな感情
でもケーキは好きじゃない。ネガティブな感情

 

画像認識

画像認識では、画像がインプットとなり、ラベルはその画像に何が含まれているかを示します。

インプットラベル

 

スパム検出

スパム検出では、Eメールやテキストメッセージがインプットとなり、ラベルはそのメッセージがスパムか否かについての情報を示します。

インプットラベル
皆さんこんにちは、会議は12時から始まることをお知らせします。スパムではない
東京のおばあちゃんたちはこのスゴイ企画で1カ月に200万円稼いでいます!!スパム

 

テキスト分類

テキスト分類では文がインプットとなり、ターゲットは財政や法律といったその文の主題を示します。早々と退場したにもかかわらず、チャンピオンたちはハーフタイム時点で二点取っていた。

インプットラベル
早々と退場したにもかかわらず、チャンピオンたちはハーフタイム時点で二点取っていた。スポーツ
賃貸借人間で新たな契約が締結される場合、本契約の条件は無効となる。法律

 

これを見ると、良い学習データには関連性と詳細が不可欠であることがすぐにわかります。もし二つの異なるAIプログラムが同じ学習データを使用すれば、少なくとも1つのモデルは機能しないものとなってしまいます。これは両プログラムが文のような広義の同じインプット情報を処理した場合も同様です。以上を踏まえて、モデルに最良の訓練を与えるのに必要なデータやタグについて具体的に検討していきましょう。

 

三種のAI学習データ

多くの学習データの構成は極めて単純なのですが、一つの均質な塊としては使用されません。実のところ、学習は複合的でいくつかの連動プロセスで構成されており、データセットはそのすべてに寄与しなければなりません。機械学習モデルを構築するには、それぞれ異なった役割を果たす3種類の学習データが必要となります。

先に進む前に、「学習データ」という用語には二つの異なる意味があることを知っておいた方がよいでしょう。ややこしいことに、学習データはプロジェクトに必要なデータの総称として用いられる上、データのサブセットの一つを示すのにも用いられます。これは最初のうちは紛らわしく思われるかもしれませんが、三種のデータにはいくつか重要な違いがあります。

 

学習データ・教師データ

学習データは機械学習モデルの予測を支援するために用いられるデータです。モデルはこのデータセット上で動作して結果を生成し、データサイエンティストはこの結果を用いてアルゴリズムを作成します。このデータはデータセット全体の最も大きな部分で、プロジェクトに使用する全データの約70~80%を占めます。

 

検証データ

検証データは機械学習モデルにとって未知のインプットとターゲット情報を含みます。検証データ上でモデルを動作することにより、モデルが関連する新たな例を正しく識別できるかどうかを調べることができます。ここではプロセスに影響する新たな値を発見することが可能です。もう一つ、検証中にしばしば検出される共通の問題としてオーバーフィッティングがあり、この場合AIは学習データには具体的すぎる例を識別するように誤って訓練されています。ご想像できるでしょうが、データサイエンティストは検証後に再び学習データに戻ってこれを動作させ、値やハイパーパラメーターを微調整してモデルの精度を高めるケースがよくあります。

 

テストデータ

テストデータは何度も改善と検証が繰り返された後に登場します。検証データには補助輪のようにタグとターゲット情報が付いていますが、テストデータはモデルを手助けするものではありません。このデータに基づいてモデルに予測させるのは、役立つタグが散在しているわけではない現実の世界でモデルが機能するかどうかを確認するためです。最終テストはモデルにとって、それまでの学習が報われたのかどうかを調べる最後の審判の時なのです。

これら3種のデータがある包括的データセットの一部分となっている場合、一体となって最も機能するということにご注意ください。これによってすべての例が矛盾なく、プロジェクトの目標に適したものとなります。選択のバイアスを避けるため、データのプールは無作為にこれら三種類に分類されなければなりません。

 

なぜ学習データが重要なのか?

簡単に言うと、学習データがなければAIは存在しません。データのクリーンさ、関連性、品質は、AIが目標に到達できるかどうかに直接影響します。学習データも人間の学習の例と同じように考えるのがよいでしょう。学生にページの半分抜け落ちた古い教科書を与えれば、単位を落としてしまうかもしれません。同様に、質の良いデータがなければ、AIはジョブをでたらめに実行することを学習してしまいます。優秀な学生には世界的に有名な教授を付けようとするのと同様に、AIにも詳細なタグや関連するアノテーションのあふれる最良のデータを使用するべきです。そうして初めてAIプロジェクトはビジネスを開発の次のステージに押し上げることができるのです。

独自のデータセットの準備が整ったら、当社にお問い合わせくださいませ。当社のAIプラットフォームは、ゼロからデータセットを作成する必要がある場合も、既存のデータにアノテーションが必要な場合も、お客様のデータの品質を高められるものとなっています。さらに、導入事例から当社の強みをご覧ください。

注目すべき、AIの最新情報をお届けいたします

メディア掲載結果

    AI・機械学習の最新情報をお届けします!

    Lionbridge AIのブログで紹介している事例記事やトレンドニュースといったビジネスに役立つ情報はもちろん、オープンデータセット集なども合わせてメール配信しております。