내리막을 굴러 최솟값 찾기 — 머신러닝의 핵심 엔진
경사 하강법은 가장 가파른 내리막 방향으로 반복적으로 이동하여 함수의 최솟값을 찾습니다. 기울기(미분)가 어느 방향이 "내리막"인지 알려주고, 학습률이 각 단계의 크기를 조절합니다.
그래프는 f(x) = x⁴ − 3x² + 2를 보여줍니다 — 두 개의 골짜기(지역 최솟값)가 있는 지형입니다. 어느 점에서 출발하면 알고리즘은 골짜기에 도달할 때까지 경사를 따라 한 걸음씩 내려갑니다. 이것이 바로 신경망이 학습하는 방법입니다 — 손실 지형에서 "내리막으로 굴러가기".
AI에게 "x = 2에서 시작해서 하강해줘" 또는 "학습률이 크면 어떻게 돼?" 라고 물어보세요.