GANの仕組み 与えられた画像が本物か偽物かを見分ける識別器 vs 識別器を騙す画像を作る生成器 識別器の学習 下図の通り、[0,1]のノイズを与えられた生成器が作成した偽物の画像と、学習させたい本物の画像を用意する。<本物の画像, 正解ラベル(全て1)>と<偽…

重みの正則化 より単純なモデルのほうが、より複雑なモデルよりも過学習に陥りにくいため、単純なモデル(パラメータの数が少ないモデル)をつくりたい。 ネットワークの複雑さに歯止めをかけるように重みの値を制限すると、重みの値の分布がより正則化される…

キャパシティってなに？ ディープラーニングでは、モデルの学習可能なパラメータの数を、よくモデルのキャパシティと呼ぶ。直感的に、パラメータの数が多いほどモデルの記憶容量が増え、訓練サンプルとそれらの目的地との写像をまるで辞書のように学習できる…