머신러닝 초보 필독! 선형 회귀, 로지스틱, 의사결정 나무 3가지 핵심 모델 완벽 실습

머신러닝 기본 모델 3가지 완전 정복! 🚀

이번 챕터에서는 머신러닝의 기초 중의 기초인 모델 3가지를 직접 만져보면서 어떻게 예측하는지 알아볼 거야. 바로 선형 회귀, 로지스틱 회귀, 의사 결정 나무! 이 셋을 통해 '회귀'와 '분류'가 뭔지, 그리고 모델이 어떻게 똑똑하게 예측하는지 눈으로 직접 확인할 수 있을 거야.

오늘 배울 내용 요약! 📝

1. 회귀 vs 분류: 뭐가 다를까? 확실하게 이해하기!
2. 기본 모델 3총사: 선형 회귀, 로지스틱 회귀, 의사 결정 나무 직접 배우기!
3. 시각화 마법: 모델 결과를 그래프로 보면서 비교하기!

실습 준비 완료! 💻

실습하려면 필요한 도구들을 불러와야겠지?

• 넘파이(NumPy) & 판다스(Pandas): 데이터를 다루는 데 필수!
• 매트플로립(Matplotlib) & 씨본(Seaborn): 예쁜 그래프를 그려줄 친구들!
• 사이킷런(Scikit-learn): 머신러닝 모델이랑 평가 도구들을 모아놓은 곳!

⭐ 여기서 제일 중요한 거! ⭐
앞으로 배울 모든 모델은 사이킷런에서 똑같은 방식으로 사용할 거야. 바로 fit으로 학습하고 predict로 예측하는 거지! 이거 꼭 기억해둬!

1. 선형 회귀: 직선으로 값을 예측해요! 📈

선형 회귀는 회귀 문제에 쓰여. 이건 연속적인 숫자값을 예측하는 거야. 예를 들면,

• 공부 시간으로 점수 예측하기
• 집의 평수로 집값 예측하기

이런 거지.

예시: 공부 시간(X)과 점수(Y) 데이터가 있다고 해보자. 공부 시간이 늘수록 점수가 올라가는 것처럼 말이야.

1. 데이터 나누기: 전체 데이터를 학습용(80%)과 테스트용(20%)으로 나눠. 이건 모델이 처음 보는 데이터에서도 잘 맞추는지 확인하기 위해서야. train_test_split이라는 걸 사용해.
2. 모델 학습: LinearRegression 모델을 만들고 fit으로 학습시켜.
   • 이 과정에서 모델은 공부 시간과 점수 사이의 가장 잘 맞는 직선을 찾아내. 마치 y = wx + b 같은 1차 함수 직선을 찾는 거지.
3. 예측: 학습된 모델로 새로운 공부 시간에 대한 점수를 예측해.
4. 시각화: 파란 점은 실제 데이터, 빨간 선은 모델이 찾은 직선이야. 공부 시간이 늘수록 점수가 올라가는 추세를 잘 따라가는지 볼 수 있어. 그래프로 확인하는 습관이 중요해!
5. 성능 평가:
   • MSE (평균 제곱 오차): 오차가 얼마나 큰지 알려줘. 작을수록 좋아.
   • R² (결정 계수): 모델이 데이터를 얼마나 잘 설명하는지 나타내. 1에 가까울수록 모델이 데이터를 잘 설명하는 거야.

정리: 선형 회귀는 연속적인 값을 직선으로 예측하는 모델이야. 점수, 매출, 가격 같은 걸 예측할 때 쓰고, MSE나 R² 같은 지표로 평가해.

2. 로지스틱 회귀: 확률로 분류해요! 📊

이름에 '회귀'가 들어가지만, 로지스틱 회귀는 분류 모델이야! 결과가 숫자가 아니라 범주일 때 사용해.

• 합격 vs 불합격
• 스팸 vs 정상 메일
• 질병 있음 vs 없음

이런 거지.

예시: 공부 시간(X)으로 합격 여부(Y)를 예측해 보자. 합격이면 1, 불합격이면 0으로 표시하는 거야. 이건 이진 분류 문제라고 해.

1. 데이터 나누기: 선형 회귀처럼 학습용과 테스트용으로 나눠.
2. 모델 학습: LogisticRegression 모델을 만들고 fit으로 학습시켜.
   • 이때 모델은 공부 시간에 따라 합격할 확률을 학습해.
   • ⭐ 중요한 점! ⭐ 로지스틱 회귀의 결과는 확률값이야.
3. 시각화: S자 모양의 곡선이 보이지? 이게 바로 시그모이드 함수라는 거야. 공부 시간이 늘수록 합격 확률이 0에서 1로 올라가는 걸 보여줘.
   • 모델은 이 확률을 보고, 0.5보다 크면 1(합격), 0.5 미만이면 0(불합격)으로 최종 분류를 결정해. 이 기준점을 결정 경계라고 불러.

정리: 로지스틱 회귀는 분류 모델이고, 결과는 확률값으로 나와. 주로 이진 분류에 많이 쓰고, 정확도(Accuracy), 정밀도(Precision), 재현율(Recall) 같은 지표로 평가해.

3. 의사 결정 나무: 질문으로 예측해요! 🌳

의사 결정 나무는 마치 조건문(if-else)처럼 데이터를 나누면서 예측하는 모델이야. "만약 ~라면 이렇게, 아니면 저렇게" 이런 식으로 작동하지. 사람이 이해하기 쉽다는 게 큰 장점이야!

예시 1: 회귀 문제 (집값 예측)

• 캘리포니아 주택 가격 데이터를 사용해서 집값을 예측해 볼 거야.
• 방 개수, 평균 점수 같은 변수만 사용할 거야.
• max_depth=3으로 설정했는데, 이건 트리가 얼마나 깊게 갈지를 정하는 거야. 너무 깊어지면 데이터만 외우는 과적합이 생길 수 있어서 깊이를 제한해 주는 게 중요해.
• 평가 지표는 선형 회귀랑 똑같이 MSE, R²를 사용해.

예시 2: 분류 문제 (꽃 종류 맞추기)

• 아이리스 데이터셋으로 꽃 종류를 맞추는 문제야.
• 모델을 학습시키고 정확도를 확인해. 정확도는 전체 데이터 중에서 얼마나 맞췄는지 비율이야.
• ⭐ 가장 큰 장점! ⭐ 트리를 그림으로 보면, 어떤 기준으로 나누고 어떤 조건에서 어떤 꽃으로 예측하는지 한눈에 알 수 있어!

정리: 의사 결정 나무는 조건문 기반으로 예측하고, 이해하기 쉽고 시각화가 가능해. 하지만 너무 깊어지면 과적합될 수 있으니 max_depth 같은 설정을 잘 조절해야 해.

최종 정리! ✨

• 선형 회귀: 직선으로 값을 예측 (예: 점수, 가격)
• 로지스틱 회귀: 확률로 분류 (예: 합격/불합격, 스팸/정상)
• 의사 결정 나무: 규칙(조건문)으로 예측 (회귀, 분류 둘 다 가능)

이 세 가지 모델 모두 fit으로 학습하고 predict로 예측하는 공통된 사용 방식을 가지고 있어.

회귀와 분류의 차이를 그래프로 직접 보면서 이해하면 훨씬 더 효과적일 거야!

이번 강의는 여기까지! 다음 강의에서는 이 기본 모델들을 바탕으로 더 멋진 모델들을 배워볼 거야. 기대해도 좋아! 😉