web-dev-qa-db-ja.com

ニューラルネットワークでのIDマッピングとは

ニューラルネットワークに関するいくつかの論文でIDマッピングという用語に出くわしましたが、そのコンテキストでそれが何を意味するのかはわかりません。一種の入力を出力にマッピングすることを意味していると思いますか?

私はこの用語に出くわしました Deep Residual Learning for Image Recognition(2015) and Deep Residual NetworksでのIDマッピング(2016) 、両方ともHe et al。

3
tt_Gantz

私はニューラルネットワークの専門家ではありませんが、アイデンティティマッピングによって、多層ニューラルネットの出力がその入力と等しくなることが保証されることを理解しています。このようなネットはレプリケーターとも呼ばれます。

そのようなアイデンティティ/複製は教師なしのトレーニングを容易にし、そのようなネットの隠された層は特徴の検出とデータ圧縮に使用できることを理解しました。

参考文献:

5
Christophe

代数の場合と同じです。

アイデンティティマップ または アイデンティティ関数 は、取得したものを正確に提供します。

彼らが言うとき:

h(xl)= xl

それらは、hがIDマッピング/関数であることを意味します。あなたがそれを与えるならxl それはあなたに戻るxl

hは別のことかもしれませんが、彼らが言うとh(xl)= xl その後、それはアイデンティティマップ/関数です。

ニューラルネットワークのコンテキストに入ると、意味の変化を示唆するものはここにはありません。

あなたが与えたものをあなたに返す地図や機能を持っていることは無意味に思えるかもしれません、そしてそれは一種です。それらの必要性は、この場合は実際には不要なステップでマップ/関数を期待するシステム(アーキテクチャー、フレームワークなど)を使用することから生じます。この場合、新しいシステムを構築するのではなく、古いシステムを再利用できるIDマップ/機能を使用します。

null object patternoption type 、および空のコレクションで渡す理由のいくつかを発明したのと同じ考え方です。システムは何かを期待していますが、あなたはその何かが何もないことが必要です。これらの構成体は、システムを壊さない形を何も与えません。

4
candied_orange