2017/04/17 썸네일형 리스트형 간단한 Softmax Regression Softmax Regression Softmax Regression(multinomial logistic regression)은 “0” 또는 “1”만 다루는 것이 아닌 multiple classes를 다루기 위해 logistic regression을 일반화한 기법이다. 손글시 분류인 MNIST example에선 0~9라는 10 class를 사용했다. Input으로 가 주어졋을 때, hypothesis 는 각 에 대한 확률 를 계산해야한다. 이렇게 계산하고 나면 hypothesis의 결과 값은 -dimensional vector(다 더하면 1이되는)다 된다. 음.. 이 외에 딱히 적어야 할 말은 없을 것 같다. 정말로 logistic 에서 0, 1과 같은 binary class가 아닌 multi class.. 간단한 Logistic Regression Logistic Regression Logistic Regression은 확률 모델 중 하나로써, 독립변수의 선형 결합을 이용해 사건의 발생 가능성을 예측하는데 사용되는 통계 기법이다. Linear Regression 분석 방법과 유사하나 Linear Regression의 경우 연속된 값을 예측할 때 쓰이고, Logistic Regression의 경우 0 혹은 1로 표현되는 discrete한 값을 예측할 때 쓰인다. 일반적으로 이러한 문제는 Classification이라 할 수 있다. Linear Regression에서 의 번째 값을 예측한다고 할 때, 함수를 이용하게된다. 하지만 이런 함수는 binary-valued labels()과 같은 값을 예측하는 문제에서는 유용하지 않다. 그래서 Logistic.. Linear Regression Linear Regression 선형성1이라는 기본 가정이 충족된 상태에서 독립변수와 종속변수의 관계를 설명하거나 예측하는 통계 방법. 여기서 내가 간단하게 내린 결론은, 어떠한 vector가 주어지고, 그 에 대한 결과 vector가 주어졌을 때, 그 둘의 관계를 linear function으로 설명하고, 를 모르는 또 다른 가 주어졌을 때, 값을 예측한다는 것이다. 독립변수 , 상수항 와 종속변수() 사이의 관계를 모델화 하는 것 아래와 같이 표현될 수 있다. 아래 그림과 같이 빨간 점들을 데이터라고 하면, 각 데이터의 관계에 대해 표현하면 아래와 같은 선이 나온다. 이 때, 수식 (1)에서 , 이 된다. 그러면 (1)의 수식에서 와 는 어떻게 구할것인가? 변수 와 의 관계를 가장 잘 나타낸다는 의미.. 이전 1 다음
