はとむぎ研究室

大学生の備忘録でした

2020-01-01から1年間の記事一覧

【数値計算#1】根を求める

根ってなんだよ ある関数が0になるときのの値のこと。 例:の根はである。 二分法 概要 初期区間[ ]のどちらかを中点に適切に置き換え、どんどん幅を狭めて根を求めていく。 長所:確実である 短所:収束は遅い 詳しく説明してみる について考えてみる。次の…

GANの仕組み

GANの仕組み 与えられた画像が本物か偽物かを見分ける識別器 vs 識別器を騙す画像を作る生成器 識別器の学習 下図の通り、[0,1]のノイズを与えられた生成器が作成した偽物の画像と、学習させたい本物の画像を用意する。<本物の画像, 正解ラベル(全て1)>と<偽…

重みの正則化

重みの正則化 より単純なモデルのほうが、より複雑なモデルよりも過学習に陥りにくいため、単純なモデル(パラメータの数が少ないモデル)をつくりたい。 ネットワークの複雑さに歯止めをかけるように重みの値を制限すると、重みの値の分布がより正則化される…

ネットワークのサイズの問題

キャパシティってなに? ディープラーニングでは、モデルの学習可能なパラメータの数を、よくモデルのキャパシティと呼ぶ。直感的に、パラメータの数が多いほどモデルの記憶容量が増え、訓練サンプルとそれらの目的地との写像をまるで辞書のように学習できる…

恋人ができる確率

準備 確率変数の定義 確率変数は独立であり、取り得る実現値は、 0・・・相手が自分のことを好きにならない 1・・・相手が自分のことを好きになる となる。 確率pの定義 相手が自分のことを好きになる確率をとする。このとき、相手が自分のことを好きになら…