[Week2] - donghwan

week2-donghwan/week2-conceptnote.md

@@ -0,0 +1,23 @@
+# week2- concept note
+## 선형 회귀 모델 (Linear Regression)
+* 데이터 간 선형관계를 모델링 해서 예측
+* 최소제곱법을 사용해 가중치를 학습
+* 이때 선형 회귀에서 정규방정식을 통해 가중치 계산
+
+## 경사하강법
+* 비용함수의 기울기를 계산하여 최소값을 찾아가는 최적화 알고리즘
+* 학습률을 설정하여 가중치를 업데이트
+* 모든 데이터를 사용해 손실함수의 기울기를 계산한 후 가중치 업데이트
+
+## 로지스틱 회귀
+* 이진분류 문제에서 사용되는 모델로 확률을 예측
+* 시그모이드 함수로 출력 값을 0과 1 사이로 변환함
+
+## 서포트 벡터 머신(SVM)
+* 데이터 간 마진을 최대화하여 분류
+* 고차원 공간에서 선형 분리가 가능하도록 커널 함수 사용
+* 결정경계는 50% 확률로 분류되는 선형 경계로 데이터를 2개의 클래스로 나뉨
+
+## 결정트리와 랜덤 포레스트
+* 결정트리는 데이터를 조건에 딸 분할하여 예측
+* 랜덤 포래스트는 여러 결정트리를 앙상블하여 예측 성능을 향상