머신러닝, 딥러닝 관련 다양한 서적과 논문, 강의와 저널등에서 한국말로 "손실함수" 라는 표현에 대응 되는 영어 표현으로 왠지 줄여야만 할것 같은 녀석들, 'Loss function'과 'Cost function' 그리고 'objective function'이 등장한다. 도대체 이놈들의 차이는 뭐길래, 이름을 달리하여 쓰는걸까? ①Loss function : Loss function은 단일 데이터 포인트에 대한 모델의 오차를 측정하는 컨텍스트라고 보면 된다. 훈련 데이터로 예측한 값인 $\hat{y}$ 실제 $y$값간의 차이를 $Loss$라 하고 그 차이를 측정하는 방법인 Loss fuction으로 절댓값 손실, 제곱 손실 등이 있다. (위의 수식은 제곱 손실에 해당한다.) 일반적으로 회귀 문제(regr..
