경사 하강법

내리막을 굴러 최솟값 찾기 — 머신러닝의 핵심 엔진

경사 하강법은 가장 가파른 내리막 방향으로 반복적으로 이동하여 함수의 최솟값을 찾습니다. 기울기(미분)가 어느 방향이 "내리막"인지 알려주고, 학습률이 각 단계의 크기를 조절합니다.

그래프는 f(x) = x⁴ − 3x² + 2를 보여줍니다 — 두 개의 골짜기(지역 최솟값)가 있는 지형입니다. 어느 점에서 출발하면 알고리즘은 골짜기에 도달할 때까지 경사를 따라 한 걸음씩 내려갑니다. 이것이 바로 신경망이 학습하는 방법입니다 — 손실 지형에서 "내리막으로 굴러가기".

AI에게 "x = 2에서 시작해서 하강해줘" 또는 "학습률이 크면 어떻게 돼?" 라고 물어보세요.

경사 하강법이란 무엇인가요?
함수의 최솟값을 반복으로 찾는 최적화 알고리즘입니다: x_{n+1} = x_n − α · f'(x_n) (α는 학습률). 각 단계에서 기울기의 반대 방향(내리막)으로 이동합니다.
학습률이란 무엇인가요?
학습률 α는 단계 크기를 조절합니다. 너무 작으면 수렴이 느리고 많은 단계가 필요합니다. 너무 크면 최솟값을 지나쳐 발산할 수 있습니다. 적절한 학습률을 찾는 것이 머신러닝의 핵심 과제입니다.
지역 최솟값과 전역 최솟값의 차이는?
지역 최솟값은 주변보다 낮은 골짜기이지만 절대적인 최저점이 아닐 수 있습니다. 전역 최솟값은 전체에서 가장 낮은 점입니다. 경사 하강법은 지역 최솟값에 갇힐 수 있습니다 — 국소적인 경사만 볼 수 있기 때문입니다.
머신러닝에서 어떻게 사용되나요?
신경망에는 예측 오류를 측정하는 "손실 함수"가 있습니다. 경사 하강법은 이 손실을 최소화하기 위해 모델의 파라미터를 조정합니다 — 말 그대로 고차원 지형에서 내리막으로 굴러가는 것입니다. 우리가 사용하는 모든 AI 모델은 이 방식으로 훈련되었습니다.
What can it graph?
It can plot explicit, implicit, and parametric functions, add points and geometry, and animate sliders on the same graph.
Can I use voice or a photo?
Yes. You can talk to the tutor, upload a worksheet or handwritten problem, and let the graph update from that input.
Will it explain the steps?
Yes. The AI explains what it is drawing and why, so you see the answer on the graph instead of getting only a final number.