会計について学んでみることにした。 全くのド素人だがどこまで行けるのか… 会計と簿記について まずはこの画像内で行くと 会計とは、会社の活動を関係者すべてに報告する事を指し、 その中に簿記も含まれている、という。 まぁ、めちゃくちゃ枠が広めってこ…
Django 環境構築手順大前提ーーーーーーーーーーーーーーーーーー ・pythonがインストール済みである ・Djangoもインストール済みである ・vertiualenvもインストール済みであるーーーーーーーーーーーーーーーーーーーーー ① まずは環境を作りたいところにc…
数学も学んだ。 ディープラーニングの知識についても少しはついた。 いよいよ、 パイトーチによる、ディープラーニングからSSDの学習を始めていく。まずはアウトプット。 パイトーチの学習の流れ 前処理、後処理、モデルの入出力確認 ↓ Datasetの作成 ↓ Data…
名前の通りだが、条件付き確率について記載する。久しぶりに、数学で理解できたかも笑 条件付き確率 そのままだが、ある出来事Bが起こる条件の下で別出来事Aが起きる確率のこと。 表し方としては と表現する。 また、 この条件付き確率を求める式は このよう…
今日は相関係数について。 相関係数 相関係数とは共分散と標準偏差を使って－1から1までの間で関係性を示す計算方法。相関係数 ＝ xyの共分散 ／ ｘの標準偏差 × yの標準偏差で表される。では復習も兼ねて、共分散と標準偏差の求め方も記載する。x = [ 50 , …
最近はめっぽう数学にはまっている。 もう少ししたら、パイトーチのSSDに進むが、 なにぶん、ここまで数学を全くやってこなかったので、 年末年始の休みでいっきに数学の基礎を知ろうとしている段階だ。あぁ、早くコード書きたい笑 共分散 聞きなれない言葉…
今日もアウトプット。 今回は、正規分布というグラフの説明。 こちらをまずはチェック。これが正規分布といって、平均(μ)を真ん中にとって、σの幅を標準偏差(前にやった分散)を表している。自然界では、正規分布になるといわれているぐらい有名なグラフらし…
知らない単語を知った。 分散と標準偏差 全く難しい話ではない。分散も、標準偏差も同じことを言っている。 つまりは数字のばらつきを表す指標として使われており、 数字が多ければ多いほど、ばらついている、ということ。 こちらが分散。求め方としては、と…
微分つながりで今回は偏微分について。 そこまで今回は難しくなかった。 偏微分について 複数の変数を持つ関数に対して、一つの変数にしか微分しないことを偏微分という。ちょっと言葉ではまたわかりにくいので、 下の図を参照。こちらの関数はX / Yの二つの…
今日は微分の流れで連鎖律についてもアウトプット。 合成関数とは 連鎖律を扱う前に合成関数の説明。 例えば、こんな関数があったとする。y=(x**2 + 1)**3 二つの関数に置き換えることでき、y = u**3 u = x**2 + 1このように、違う関数を挟める関数のことを…
今年の年始一発目も数学から入る。今回は、極限と微分。 とても、難しかった… アウトプットを重点的にします。 極限とは 極限とは、関数における変数の値(Y)をある値に近づけるとき、極限まで、その値に近づける事。 例えば、Y=ｘ＋１の関数でYをどうしても1…
今日からUDEMYに切り替える。今回は、固有値と固有ベクトルについて 固有ベクトル 固有ベクトルとは、 ある行列に演算をしても、与えられた定数分にしか増加・減少せず、向きは一切 変わらないベクトルのこと。 その与えられた定数のことを固有値とよぶ。式…
今日もアウトプットから。今回は、 このようなネットワークの構成でモデルを作成する。重み、バイアスについては、 Conv層・Affine層(全結層)・Affine層(全結層)の3か所に当てはめる。↓コード import numpy as np class SimpleConvNet: #input_dim -> 入力デ…
今日もアウトプット。今日はプーリング層について。 プーリング層 プーリングとは、各プーリング層で対応する値の最大値をとってくる演算のこと。 目的は、過学習の抑制や、位置変化に対しても対応ができるようになる点。 図のほうがわかりやすい。特徴はお…
今回は、畳み込みの用語とかについて記載する パディング 畳み込みの処理を行うで！の前に、入力データの修理の固定のデータを埋めること。 イメージはこんな感じ行う理由は、 例えば、入力データが4×4でフィルターが3×3だったとしよう。そこで移動間隔(スト…
セミナーではSSDについて触れるので、 SSDについて深堀するニューラルネットワークの訓練とは、おなじみの Y = F(x)に大量の訓練データ(x,y)総じてXを入力して、 最小のパラメータの値を見つけていくって方法。 SSDで言うと、正解クラス(y) = Conv層(画像デ…
物体検出はとても難しい。 それぞれの特徴について、 今一度整理します。 畳み込みの用語 カーネル：フィルターのこと ストライド：カーネルの移動感覚のこと パディング：入力データに対して、周囲を0で囲むこと。 VGG16モデルについて VGGはConv層とマック…
やっと来た7章。ついにCNNについて学びます。 CNNとニューラルネットワークの違いは？ CNN→畳み込み層とプーリング層があること(プーリング層については別の記事で) NN→ない。全結合層のみ(Affine層) 全結合っていうのは、隣接する層のすべての間でニューロ…
今日もアウトプット。 ハイパーパラメータとは 各層のニューロンの数とか、バッチサイズ、学習係数やWeight decayなど、 人の手で適正な値を設定しないといけないパラメータのことである。 検証データ これまでは、学習データとテストデータの2つを用いてい…
重みの初期化でも確かに過学習を防げる道にはなるが、 そのほかでもいくつか方法がある。 個人的には、Dropoutにお世話になっております。 過学習 過学習自体の話はもういいね笑 けど、要因について、書いとく。 ①パラメータを大量に持ち(ノードがたくさんあ…
重みの初期値についてアウトプット。学習の精度がいまいち上がらない時がある。よく言われるのは、レイヤーの追加や学習データの増量、 パラメータの変更など方法はさまざま。結構見落とされがちであるものの、 重みの初期値も結構大切かもしんない。直結で…
今日もアウトプット。第6章まで来た 今日は第6章の①のアウトプット。 ここまではニューラルネットワークの学習の目的は損失関数(ソフトマックスの交差エントロピー誤差とか)の数値をいかに減らして、どうやって最適なパラメータを見つけるのか？が学習の目的…
本日は、オライリーの話。 活性化関数レイヤについて 活性化関数とは、重みとバイアスが入力値と重なって入ってきたときに、出力に大きな力を発揮してくれる関数。 シグモイドとか、レルなど、０から1の間で推移し、 正解ラベルとの確率を導き出す(導くのは…
いよいよきました線形変換。 なんか人工知能感が増してきたなぁ…ではアウトプット。 線形変換 ベクトルを行列と掛け算することで、違うベクトルに変換すること。 線形変換はニューラルネットワークで情報を伝播させる際によく使うみたい。 例えば、こんな行…
今日もUDEMYから入る。ではアウトプット。 今回は、行列式と単位行列という項目だが、この2つを語るのに、 まずは単位行列から説明がいる。 単位行列 単位行列とは、a = [1 , 0] [0 , 1]のように左上から右下に向かって1が並んでいて、その他の要素は0になる…
今日はUDEMYから始める。 題名の通り、行列積と、要素積。 行列積 これはちょっと最初、うぉってなった。まずは図で確認。 まぁ、難しく見えるけど、 解き方は簡単だった。 みたいに、前の行と後ろの列の各要素をそれぞれ掛け算して、それぞれを足し合わせる…
今日もUDEMYの数学のお勉強。 最近、めっぽう数字にまみれてるなぁ。 でもわかるってやっぱり楽しい。 仕事でも、なんでも、わかると楽しくなってくる。ではアウトプット。 内積 内積とは、ベクトル同士の各要素の掛け算を行って、最終的に総和を求める事。…
今日は数学の勉強から始めた。いよいよ、ベクトル、テンソルの話に入り始め、 人工知能感が出てきた。 ではアウトプット。 スカラー １とか４とか1.2とかー7とかの通常の数値のこと。ここは問題ないよね。 ちなみに、たまにコード書いてると、 b = 1.2e5とか…
今日もオーライリー第5章まで進んだ。 とうとう来たか。 誤差逆伝播法。僕の先生からはゼロから始めるディープラーニングは3章、4章、7章だけ抑えてたらいいよーと アドバイスいただいたが、自分の場合、理論度スルー出来たので、 勉強のためにも、進みます…
今回はUDEMYの数学のアウトプット。ここまで、あんまりコードに触ってきてないから、 そろそろ触りたくなってきている。では始めます。 多項式 多項式とは複数の高からなる式のこと、って言ってもみたほうが早い。 2x + 1とか2* x**2 + 1のこと。 では、 実…
