분류 모델의 클래스 불균형 처리

 

클래스 불균형은 한 클래스가 다른 클래스보다 훨씬 적은 샘플을 갖는 분류 모델에서 일반적인 문제입니다. 이로 인해 모델이 다수 클래스에 편향될 수 있으므로 모델의 정확도와 예측력에 문제가 발생할 수 있습니다. 이 글에서는 분류 모델의 클래스 불균형 문제, 모델 성능에 미치는 영향 및 이 문제를 해결하기 위한 몇 가지 기술을 살펴보겠습니다. 또한 Scikit-learn을 사용하여 이러한 기술을 구현하는 Python 코드 예제를 제공합니다.

 

 

 

 

클래스 불균형이란 무엇일까요?

 

클래스 불균형은 분류 데이터 세트에서 한 클래스가 다른 클래스보다 훨씬 적은 수의 샘플을 가질 때 발생합니다. 예를 들어 의료 데이터 세트에서 다수 클래스는 "건강한 환자"이고 소수 클래스는 "희귀 질환 환자"일 수 있습니다. 클래스 불균형은 실제 데이터 세트의 일반적인 문제이며 이벤트의 희소성 또는 데이터 수집의 편향과 같은 다양한 이유로 발생할 수 있습니다.

 

 

 

 

클래스 불균형이 모델 성능에 미치는 영향

 

클래스 불균형은 분류 모델의 성능에 상당한 영향을 미칠 수 있습니다. 불균형 데이터 세트에서 학습된 모델은 다수 클래스에 편향되어 소수 클래스에 대한 정확도와 예측력이 낮아질 수 있습니다. 예를 들어, 90%의 건강한 환자와 10%의 희귀 질환 환자로 구성된 데이터 세트에서 훈련된 모델은 모든 환자를 건강하다고 예측할 수 있으므로 정확도는 높지만 소수 클래스의 질병을 감지하지 못합니다.

 

 

 

 

클래스 불균형을 해결하기 위한 기술

 

다음을 포함하여 분류 모델에서 클래스 불균형을 해결하기 위한 몇 가지 기술이 있습니다.

 

1. 리샘플링 기법: 리샘플링 기법에는 소수 클래스의 오버샘플링 또는 다수 클래스의 언더샘플링이 포함됩니다. 오버샘플링 기술에는 랜덤 오버샘플링, SMOTE(Synthetic Minority OverSampling Technique) 및 ADASYN(Adaptive Synthetic Sampling)이 포함됩니다. 언더샘플링 기술에는 무작위 언더샘플링 및 Tomek 링크가 포함됩니다.

 

2. 클래스 가중치: 클래스 가중치는 소수 클래스 샘플에 더 높은 가중치를 할당하여 모델의 손실 함수에 대한 기여도의 균형을 맞추는 것입니다.

 

3. 앙상블 기법: 앙상블 기법에는 여러 모델을 결합하여 예측력을 향상시키는 작업이 포함됩니다. 여기에는 bagging, boosting, stacking과 같은 기술이 포함될 수 있습니다.

 

 

 

 

파이썬 코드 예제

 

분류 데이터 세트의 클래스 불균형을 해결하기 위해 Scikit-learn을 사용하는 Python 코드 예제를 살펴보겠습니다. SMOTE 오버샘플링 기술을 사용하여 소수 클래스 샘플의 균형을 맞춥니다.

# 필요한 라이브러리 가져오기 
from imblearn.over_sampling import SMOTE
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression

# 예제 데이터 세트 생성
X, y = make_classification(n_classes=2, class-sep=2, weights=[0.9, 0.1], n_informative=3, n_redundant=1, flip_y=0, n_features=20, n_cluster_per_class=1, n_samples=1000, random_state=10)

# 데이터 세트를 훈련 세트와 테스트 세트로 분할
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=10)

# SMOTE 오버샘플링 기법 구현
sm = SMOTE(random_state=10)
X_train_res, y_train_res = sm.fit_resample(X_train, y_train)

# 리샘플링된 데이터에 대한 로지스틱 회귀 모델 학습
logreg = LogisticRegression()
logreg.fit(X_train_res, y_train_res)

# 테스트 세트에서 모델 평가
y_pred = logreg.predict(X_test)

# classification report 출력
from sklearn.metrics import classification_report
print(classification_report(y_test, y_pred))

 

 

 

이 코드 예제에서는 먼저 클래스 불균형이 90:10인 예제 데이터 세트를 생성합니다. 그런 다음 데이터 세트를 train, test로 분할하고 SMOTE 오버샘플링 기술을 사용하여 훈련 데이터를 리샘플링합니다. 마지막으로 리샘플링된 데이터에 대한 로지스틱 회귀 모델을 학습하고 테스트 세트에서 성능을 평가합니다.

 

 

 

클래스 불균형은 편향된 모델과 감소된 예측력으로 이어질 수 있는 분류 모델의 일반적인 문제입니다. 이 문제를 해결하기 위해 리샘플링, 클래스 가중치 및 앙상블 기법을 비롯한 여러 기법을 사용할 수 있습니다. 이 글에서는 클래스 불균형을 해결하기 위한 SMOTE 오버샘플링 기술을 시연하기 위해 Scikit-learn을 사용하는 Python 코드 예제를 제공했습니다. 이러한 기술을 구현함으로써 불균형 데이터 세트를 처리할 때 분류 모델의 정확도와 예측력을 향상시킬 수 있습니다.