Category: アルゴリズム
-
What is gradient in Gradient Descent? / [勾配降下法]関数の勾配の定義を振り返る
勾配とは？ そもそもの勾配の定義から振り返ろう。以下のような関数fについて考える。 ※ただし以下が成り立つ場合（これは2点を結ぶ線分の傾きから求められますよね？） この定義に基づくと上式の勾配は以下で表すことができる。 ここで勾配の定義をより直感的にするために以下の2点における勾配を考えてみる。 勾配降下法の探索イメージ 初期点を（0, 0）とするとたとえばこんな感じ？