DeZero는 이제 역전파를 완벽하게 구동할 수 있습니다. 아무리 복잡한 계산이라도 문제없이 역전파를 수행해주기 때문에 지금의 DeZero라면 미분 계산이 필요한 문제의 대부분을 해결할 수 있습니다. 하지만 아직 할 수 없는 일도 있는데, 그중 하나가 고차 미분입니다.
고차미분이란 어떤 함수를 2번 이상 미분한 것을 말합니다. 구체적으로는 1차 미분, 2차 미분, 3차 미분. ... 식으로 미분을 반복하는 직업입니다. 파이토치와 텐서플로 등 현대적인 딥러닝 프레임워크에서는 고차 미분을 자동으로 계산할 수 있습니다. 더 정확히 말하면, 역전파에 대한 역전파를 할 수 있습니다(이번 고지에서 원리를 밝혀드립니다).
지금부터 세 번째 고지로 향합니다. 이번 고지에서는 고차 미분을 꼐산할 수 있도록 DeZero를 확장하는 일을 합니다. 그 결과 DeZero의 활용폭이 한층 넓어집니다.
댓글 없음:
댓글 쓰기