선형회귀, 분류 차이점

선형 회귀(Linear Regression)와 이진 분류(Binary Classification)는 모두 머신러닝의 중요한 개념이지만, 문제를 해결하는 방식과 목표가 다릅니다. 아래에서 그 차이를 설명해드릴게요.

 

선형회귀

선으로 추세선을 그음선형 회귀(Linear Regression)와 이진 분류(Binary Classification)는 모두 머신러닝의 중요한 개념이지만, 문제를 해결하는 방식과 목표가 다릅니다. 아래에서 그 차이를 설명해드릴게요.

 

선형 회귀(linear regression)는 종속 변수(예: 가격, 수익)와 하나 이상의 독립 변수(예: 시간, 광고비) 간의 관계를 직선의 형태로 모델링하는 통계적 방법입니다

 

 

선형회귀

 

선으로 추세선을 그음

 

양극단에 있는 부모 아래에서, 똑같이 극단적인 자삭만 나오는 것은 아님

예시, 큰 키의 부모들 아래에서도 평균적인 키를 가진 자식이 많이 나오고, 반대도 마찬가지 => 평균으로의 회귀

-> 이런 이유가 있어서, 추세선(trend line)을 긋는 분석이 회귀 분석이라고 불림.

 

MSE (최소제곱법)

데이터, 평균과의 차이

 

 

 

 

 

1. 선형 회귀 (Linear Regression)

• 목표: 선형 회귀는 연속적인 값을 예측하는 문제입니다. 예를 들어, 집값, 온도, 주식 가격 등을 예측할 때 사용됩니다.
• 출력: 출력 값은 실수로, 예측 값은 특정 범위가 아닌 모든 실수 범위에서 나올 수 있습니다.
• 모델: 선형 방정식 형태로 데이터를 모델링합니다. 예를 들어, y=wx+by = wx + by=wx+b와 같은 식으로, 입력 값 xxx에 대해 직선을 그려 그 직선이 데이터에 가장 잘 맞도록 학습합니다.
• 손실 함수: **MSE(Mean Squared Error)**와 같은 회귀 손실 함수를 사용합니다. 이는 예측값과 실제값의 차이를 제곱한 값의 평균을 최소화하는 방식입니다.

2. 이진 분류 (Binary Classification)

• 목표: 이진 분류는 주어진 데이터를 두 개의 카테고리 중 하나로 분류하는 문제입니다. 예를 들어, 스팸 이메일인지 아닌지, 암 진단 여부 등을 분류할 때 사용됩니다.
• 출력: 출력 값은 0 또는 1과 같이 이산적인 값입니다. 대부분의 경우, 확률로 표현되며 000에 가까울수록 첫 번째 클래스, 111에 가까울수록 두 번째 클래스로 예측됩니다.
• 모델: 로지스틱 회귀와 같은 분류 모델을 사용하여 입력 데이터가 두 클래스 중 어디에 속할 가능성이 높은지 예측합니다. 로지스틱 회귀에서는 시그모이드 함수를 사용하여 출력 값을 0과 1 사이의 값으로 압축합니다.
• 손실 함수: Binary Cross-Entropy Loss 또는 Log Loss를 사용하여 분류 문제에서 예측된 확률과 실제 라벨의 차이를 최소화합니다.

차이점 요약

구분선형 회귀이진 분류

목표	연속적인 실수 값 예측	두 개의 클래스 중 하나로 분류
출력	실수 값 (모든 범위)	0 또는 1 (확률 값)
모델 구조	선형 방정식 (직선)	로지스틱 회귀 (시그모이드 함수 사용)
손실 함수	MSE (평균 제곱 오차)	Binary Cross-Entropy (이진 교차 엔트로피)

결국, 선형 회귀는 연속적인 값을 예측하는 반면, 이진 분류는 이산적인 카테고리로 데이터를 분류하는 문제를 해결하는 데 사용됩니다.