Tensorflow

損失損失関数のテンソルフローtf.nn.l2_loss



Tensorflow Loss Loss Function Tf



損失

2枚のシート間または測定のためのテンソル0損失計算間の誤差の量。これらは、回帰タスクネットワークの精度を測定するため、または正則化（重みの減衰）の目的で使用できます。

L2正則化（正則化）



loss0は元の損失関数を表し、後部はL2正則化であり、過剰適合（データの過剰適合）を防ぐために正則化項を追加します。

損失= loss0 + frac { lambda} {2} sum w ^ {2}



したがって、tf.nn.l2_lossは通常のアイテムとして使用できます

tf.nn.l2_loss（t、name = None）

tf.nn.l2_lossフォーム1 /2Σw2、一般に目的関数の最適化に使用される正則化用語で、あまりにも多くの複雑なパラメーターが簡単に過剰適合するのを防ぎます。

説明：この関数は、エラーテンソルを使用して計算されたL2ノルムを返しますが、次のように処方箋をとらず、L2ノルムの値の半分しか取りません。



出力= sum（t ** 2）/ 2

入力パラメータ：

  • t：テンソル。どのタイプのデータが必要か：float32、float64、int64、int32、uint8、int16、int8、complex64、qint8、quint8、qint32。通常の状況では、データディメンションは2次元です。ただし、データディメンションは任意のディメンションを取ることができます。
  • name：この操作の名前。

出力パラメーター：

同じデータ型とtであるテンソルはスカラーです。

E.g: import tensorflow as tf a=tf.constant([1,2,3],dtype=tf.float32) b=tf.constant([[1,1],[2,2],[3,3]],dtype=tf.float32) with tf.Session() as sess: print('a:') print(sess.run(tf.nn.l2_loss(a))) print('b:') print(sess.run(tf.nn.l2_loss(b))) sess.close() Then print out as follows: a: 7.0 b: 14.0 Computing the square of each element after the final sum is divided by the 2