Category: アルゴリズム

  • What is gradient in Gradient Descent? / [勾配降下法]関数の勾配の定義を振り返る

    勾配とは? そもそもの勾配の定義から振り返ろう。以下のような関数fについて考える。 ※ただし以下が成り立つ場合(これは2点を結ぶ線分の傾きから求められますよね?) この定義に基づくと上式の勾配は以下で表すことができる。 ここで勾配の定義をより直感的にするために以下の2点における勾配を考えてみる。 勾配降下法の探索イメージ 初期点を(0, 0)とするとたとえばこんな感じ?