stanford
-
Neural Network Layer | Advanced Learning AlgorithmMachine Learning/Stanford ML Specialization 2024. 1. 27. 09:49
Coursera Machine Learning Specialization > Supervised Machine Learning: Advanced Learning Algorithms > Neural Network Intuition 현대 ML분야에서 대부분의 Neural Networks들은 뉴런 Layers들로 구성되어 있다. 그렇다면 이 계층을 어떻게 구성하면 좋을까? 이 계층 구성하는 방법을 이용해서 구성하고 나면, 이 모든것을 취합해서 대규모 신경망을 형성할 수 있다. Neural Network가 어떻게 작동하는지 알아보자. 아래와 같은 뉴런 네트워크가 있다고 가정해보자. 1개의 layer가 있는 네트워크이고, 그 layer에서 나온 결과값을 출력하는 구조이다. 가운데 3개의 뉴런이 있는 "은닉 레이어..
-
Learning Rate (학습률, 알파) | Supervised Machine Learning: Regression and ClassificationMachine Learning/Stanford ML Specialization 2023. 10. 27. 18:58
Coursera Machine Learning Specialization > Supervised Machine Learning: Regression and Classification > Introduction to Machine Learning Learning Rate(학습률)이라는것이 있다. 지난 시간 Gradient Descent(경사 하강법)에 대해 공부할 때, w값을 바꾸어가면서 계산했는데, 새로운 w값을 찾을 때, 알파(a)값을 바꿔서 J(w)의 Derevitive 값을 곱해줬었다. 여기서 알파(a)가 바로 학습률, Learning Rate이다. 너무 작지도 크지도 않은 Learning Rate를 선택하는것은 아주 중요하다. Too Large or Small Learning Rate 만약, 알파..