ニューラルネットをトレーニングするための転移学習とインクリメンタル学習

更新日: 6 年 2023 月 XNUMX 日
ニューラルネットをトレーニングするための転移学習とインクリメンタル学習

転移学習では、以前にトレーニングされたAIモデルで確立された適用可能な知識が「インポート」され、新しいモデルの基礎として使用されます。 オープンソース画像やNLPデータセットなど、事前にトレーニングされたモデルを使用するというこのショートカットを使用した後、新しいオブジェクトを追加して、特定のシナリオの結果をカスタマイズできます。

このシステムの主な欠点は精度です。 事前トレーニング済みモデルを微調整するには、新しい重みまたはデータポイントを追加するために、大量のタスク固有のデータが必要です。 新しいモデルを作成する価値がある場所に到達するには、事前にトレーニングされたモデルのレイヤーを操作する必要があるため、より専門的で機械学習に精通したスキル、ツール、およびサービスベンダーも必要になる場合があります。

エッジAIアプリケーションに使用する場合、転送学習には、再トレーニングのためにデータをクラウドに送信することが含まれ、プライバシーとセキュリティのリスクが発生します。 新しいモデルがトレーニングされると、学習する新しい情報があるときはいつでも、トレーニングプロセス全体を繰り返す必要があります。 これは、デバイスがフィールドの変化に絶えず適応しなければならないエッジAIで頻繁に発生する課題です。

「何よりもまず、アプリケーションで機能するモデルが利用可能であるという問題があります。これは、非常に基本的なAI以外にはあり得ないことであり、適切に再トレーニングするために十分なサンプルが必要です」とBrianchipの共同創設者は述べています。 Anil Mankar氏は、「これには再トレーニングのためにクラウドにアクセスしてからデバイスに戻る必要があるため、転送学習は依然として非常に複雑でコストのかかるプロセスですが、いつでもどこでも使用できる優れたオプションです。」

インクリメンタル学習は、新しいデータ入力や変更されたデータ入力に対応する効率と能力のために、モデルのトレーニングに使用されるリソースを削減するためによく使用されるもうXNUMXつの形式です。 クラウドにデータを送信するのではなく、デバイス自体の中でインクリメンタル学習を実行できるエッジデバイスは、継続的に学習できます。

インクリメンタルまたは「ワンショット」学習は、非常に少数のサンプルセットから開始し、より多くのデータが吸収されるにつれて知識を増やすことができます。 より多くのデータに基づいて進化する能力も、より高い精度をもたらします。 クラウドの再トレーニングではなく、デバイスのハードウェアで再トレーニングが行われる場合、データとアプリケーションはプライベートで安全なままです。

「ほとんどの場合、AIプロジェクトには最初は十分なデータセットがなく、再トレーニングのためのクラウドコンピューティングにアクセスできないため、何かが変わるたびにベンダーに支払いを続けます」とMankar氏は言います。 「転送学習のほとんどの欠点に対処し、必要なコンピューティングコストを大幅に削減できるため、一般的にインクリメンタル学習をお勧めします。」