MLOps 부트캠프 by 한경+토스뱅크/Machine Learning

편미분으로 기울기 벡터 구하기

나니니 2024. 8. 9. 00:02

위의 함수에 대해 그래프를 그리면 아래와 같다. 

그리고 편미분을 통해 함수의 기울기 벡터를 구해보았다. 이 벡터는 해당 지점에서의 기울기를 알려 주기도 하지만, 그래프를 가장 가파르게 올라갈 수 있는 방향도 함께 알려준다. 

2차원 그래프에서도 가장 가파르게 올라가기 위해 왼쪽으로 가야 하는지, 오른쪽으로 가야 하는지, 기울기가 그 방향을 알려 준다는 것을 배웠다. 마찬가지로 고차원 그래프에서도 기울기가 그 방향을 알려주는데 대신 기울기가 벡터가 된다. 

예를 들어서 x가 1이고 y가 1인 지점에 놓였다고 생각해보자. 

기울기 벡터는 2, 4 이므로 이 벡터를 그래프에 표시하면, x 방향으로 두 칸이고 y 방향으로 네 칸이니까, 위와 같은 대각선 방향이 나온다. 이 대각선 방향으로 움직인다면, 가장 가파르게 걸어 올라갈 수 있는 것이다.


그럼 반대로 가장 가파르게 걸어 내려가고 싶다면 어느 방향으로 가야 할까?

 

그냥 이 기울기 벡터에 마이너스를 붙여 주면 된다.

 

다시 x가 1이고 y가 1인 지점이라고 가정하면, 벡터는 -2, -4이다. 이 벡터를 그래프에 표시하면 아래와 같은 대각선 방향이 나온다. 이 방향으로 움직인다면, 가장 가파르게 걸어 내려갈 수 있다. 

 

위와 같이 편미분 개념과 기울기 개념은 인풋 변수가 아무리 많아져도 똑같이 적용할 수 있다. 편미분을 통해 기울기 벡터를 구할 수 있고, 이 기울기 벡터는 가장 가파르게 올라가는 방향을 가리킨다는 점은 언제나 똑같다.