MLOps 부트캠프 by 한경+토스뱅크/Machine Learning

편미분과 기울기

나니니 2024. 8. 8. 23:51

편미분

위의 함수가 있다고 가정해보자.

인풋 변수가 $x$와 $y$ 이렇게 두 개로 이루어져 있다. 이럴 때에는 '편미분'을 해야 하는데,

편미분이란 두 인풋 변수 $x$랑 $y$에 대해서 모두 미분을 하는 게 아닌 변수 하나에 대해서만 미분을 하는 것이다. 즉, 변수 $x$ 에 대해서 편미분을 할 수도 있고, 변수 $y$에 대해서 편미분을 할 수도 있다. 

$x$ 에 대해서 편미분

$x$ 에 대해서 미분을 하면: $d/dx$ 를 쓰는데, $x$ 에 대해서 편미분을 하면 $∂/∂x$ 를 쓴다. (*'델'이라고 읽음)
변수 $x$ 에 대해서 편미분을 한다면 $x$ 를 제외한 나머지 변수들은 마치 상수인 것처럼 취급하게 되므로 $x$ 를 제외한 나머지 변수 $y$ 를 변수가 아니라 그냥 일반 숫자(상수)처럼 취급 한다.

먼저 $x^2$인데, 위에 차수을 앞에 가져와서 곱한 후에 차수에서 1을 빼 준다. 그 다음 $2y^2$인데 $y$ 는 변수가 아니라 상수로 취급하므로 이 항은 결국 상수항으로 취급하게 되는데 상수항은 미분을 할 때 그냥 날려 버리면 된다. 
결국 남는 건 $2x$ 이므로 함수 f를 $x$ 에 대해서 편미분하면, $2x$가 나오게 된다. 

$y$ 에 대해서 편미분

$y$ 에 대해서 편미분을 하면, $x$ 를 상수로 취급하면 되므로 첫 번째 항은 날라가고 두 번째 항에서는 차수를 앞에 가져와서 곱하고, 차수에서 1을 빼면 된다. 
남는 건 $4y$ 이므로 함수 f를 $y$ 에 대해서 편미분하면, $4y$ 가 나오게 된다. 

합치기

이런 식으로 x와 $y$ 에 대한 편미분을 따로따로 진행했는데, 이 두 결과를 합쳐서 아래과 같은 벡터를 만든다. 이 벡터가 바로 이 함수의 기울기며, 역세모 기호를 사용하여 표현한다.

만약 $x$ 가 1이고 $y$ 가 1인 지점의 기울기를 알고 싶다면, 그 값들을 여기에 대입하면 된다. 그러면 벡터에는 2랑 4가 들어가게 된다. 

기울기가 벡터 2, 4라는 건,

이 2라는 값을 구하기 위해 x에 대해서 편미분을 할 때 $y$ 를 상수라고 가정했는데 이는 $y$ 를 고정시켰다는 뜻이다. 이 2라는 값은 $y$ 를 1로 고정시킨다고 가정했을 때, $x$ 에 대한 함수 f의 기울기가 2라는 의미이다. 다시 말하면, $y$를 1로 고정시키게 되면 변수는 $x$ 하나밖에 없으므로 아래와 같은 2차원 그래프를 그릴 수 있는데 이 2차원 그래프에 그려지는 이 함수의 기울기가 2라고 볼 수 있다. 

마찬가지로 4라는 값을 구하기 위해 $y$에 대해 편미분을 했는데, 이는 $x$를 고정시켰다는 뜻이다. 즉, $x$를 1로 고정시킨다고 가정했을 때, $y$에 대한 함수 $f$의 기울기가 4라는 것이다. $x$를 1로 고정시키면, 변수는 $y$ 하나밖에 없으므로 아래와 같은 2차원 그래프를 그릴 수 있는데 여기에 그려지는 함수의 기울기가 4인 것이다.