이진분류 (2) 썸네일형 리스트형 서포트 벡터 머신(Support Vector Machine) 서포트 벡터 머신(Support Vector Machine; SVM)은 선형이나 비선형 분류, 회귀, 이상치 탐색 등 다양한 목적으로 활용 가능한 모형이다. 이 글에서는 분류 문제에 초점을 맞추고 서포트 벡터 머신의 작동 원리에 대해 설명한다. 서포트 벡터 머신은 '결정 경계(Decision Boundary)'라는 기준 선을 정의함으로써 클래스를 분류하는 이진 분류 모형이다. 이때 결정 경계에 위치한 샘플이 바로 '서포트 벡터(Support Vector)'이다. 예를 들어, 2차원 상에 데이터가 존재한다고 하자. 왼쪽 그래프를 보면 두 개의 클래스가 직선으로 잘 구분되고 있다. 다만 두 클래스를 구분하는 직선은 무수히 많다. 선형 서포트 벡터 머신은 '어떤 직선이 최적의 구분선일까'라는 질문에서 출발.. 통계·머신러닝 2024. 9. 14. 13:17 퍼셉트론(Perceptron)과 로지스틱 회귀(Logistic Regression) 로지스틱 회귀는 머신러닝과 통계 분석에서 이진 분류 문제를 해결하기 위해 널리 사용되는 기법이다. 오랜 역사를 지니고 있지만, 여전히 실무와 연구에서 중요한 역할을 한다. 로지스틱 회귀는 기본적으로 퍼셉트론 알고리즘의 발전 과정에서 탄생했다. 퍼셉트론(Perceptron) 알고리즘1957년 미국의 심리학자 프랑크 로젠블라트(Frank Rosenblatt)가 제안한 알고리즘. 퍼셉트론 알고리즘은 신경 세포 뉴런과 유사하게 작동한다. 뉴런이 신호를 받고 임계치를 넘으면 다음 뉴런에 신호를 전달하는 것과 같이, 퍼셉트론은 입력받은 데이터로 값을 계산하고, 계단 함수(step function)를 이용하여 그 값이 임계치 이상이라면 참(True)을, 임계치 미만이라면 거짓(False)을 반환한다. 적응 선형 뉴.. 통계·머신러닝 2024. 9. 8. 12:20 이전 1 다음
