day2: SVM

질문 출처: AI 대학원 면접 준비 - 전공 질문 리스트

 

1. Support Vector Machine이란 무엇인가?

- SVM(Support Vector Machine)은 데이터를 가장 잘 구분하거나 예측할 수 있는 초평면을 찾는 지도 학습 모델이며, 분류와 회귀 모두에 활용

- 두 클래스 사이를 가장 넓은 margin으로 구분하는 초평면을 찾는 분류 알고리즘
- 데이터 포인트 중에서 결정 경계에 가장 가까운 점들을 **서포트 벡터(support vector)**라고 하며, 이 점들에 의해 결정 경계가 정의됨
- 선형적으로 구분이 어려운 경우에는 **커널 트릭(kernel trick)**을 사용해 고차원 공간에서 선형 분리가 가능하게 만들 수 있음.
- 과적합에 강하고, 특히 고차원 소규모 데이터에 효과적인 특성

 

2. Margin을 최대화하면 어떤 장점이 있는가?

- Margin을 최대화한다는 것은 클래스 간의 결정 경계를 가능한 한 넓게 잡는 것을 의미함. 이렇게 했을때, 데이터에 약간의 노이즈나 변동이 있어도 여전히 정확한 분류가 가능해져서, 결과적으로 모델의 일반화 성능이 향상되고 과적합 위험이 줄어드는 장점이 있음.

1. 일반화 성능 향상	새로운 데이터가 들어와도 잘 분류할 수 있음
2. 과적합 방지	너무 데이터에 밀착된 결정 경계를 피함
3. 안정적인 모델	경계에 가까운 데이터가 조금 흔들려도 영향을 덜 받음