𝑁𝑜𝑡𝑒𝑏𝑜𝑜𝑘

[ 목차 ]  샘플링 (sampling): 머신러닝에서 데이터 불균형 문제를 해결하기 위해 다양한 샘플링 기법을 사용 종류 1️⃣ 오버샘플링 (OverSampling)2️⃣ 언더샘플링 (UnderSampling)3️⃣혼합 샘플링 ( Over + Under ) 1️⃣ 오버샘플링 (OverSampling): 소수 클래스의 데이터를 증가시켜 균형을 맞추는 기법(예 : 허위매물이 적은 경우, 허위매물 데이터를 인위적으로 생성) 주요 기법Random OverSampling 소수 클래스 샘플을 단순 복제장점 : 쉽고 빠름단점 : 중복 데이터로 과접합 위험SMOTE (Synthetic Minority Over-sampling Technique)최근접 이웃(KNN) 기반으로 새로운 데이터 생성데이터 다양성이 증가중복 ..

[ 목차 ] 랜덤포레스트의 주요 하이퍼파라미터n_estimators : 트리 개수너무 적으면 과소적합, 너무 많으면 학습 시간이 길어짐기본값 : 100max_depth : 트리의 최대 깊이너무 깊으면 과적합, 너무 얕으면 과소적합기본값 : 제한 없음max_features : 사용할 최대 변수 개수변수 개수 제한분류에서는 sqrt변수 간 상관성 고려min_samples_split : 노드 분할 최소 샘플 수기본 값 : 2min_samples_leaf : 리프 노드 최소 샘플 수기본 값 : 1 데이터 분리논문 참고 https://sejong.dcollection.net/public_resource/pdf/200000630803_20250126185853.pdf# 예제 코드from sklearn.model_s..

[ 목차 ]  실루엣 계수 비지도 학습 특성 상 답이 없이 때문에 그 평가를 하긴 쉽지 않습니다. 다만, 군집화가 잘되어 있다는 것은 다른 군집간의 거리는 떨어져 있고 동일한 군집끼리는 가까이 있다는 것을 의미함  이를 정량화 하기 위해 실루엣 분석(silhouette analysis)이란 간 군집 간의 거리가 얼마나 효율적으로 분리되어 있는지 측정합니다. 수식은 다음과 같지만 그냥 이해하는 용도로 !실루엣 계수$a(i)$ : 데이터 포인트 $i$ 과 같은 군집에 속한 다른 포인트들과의 평균 거리$b(i)$ : 데이터 포인트 $i$ 와 가장 가까운 다른 군집 간의 평균 거리 해석: 1로 갈수록 잘 군집화 되어 있음. -1에 가까울수록 잘 못 군집화 되어 있다 수식을 해석해보자면 특정한 데이터 i의 실루엣..

[ 목차 ]  머신러닝 종류 복습1.지도학습: 문제 (x)와 정답(y)가 주어지고 문제 (x)가 주어졌을 때 정답(y)을 맞추는 학습 2.비지도학습: 답(y)을 알려주지 않고 데이터 간 유사성을 이용해서 답(y)을 지정하는 방법 머신러닝 개요 비지도 학습 예시고객 특성에 따른 그룹화ex) 헤비유저, 일반유저구매 내역별로 데이터 그룹화ex) 생필품 구매비지도 학습은 데이터를 기반으로 레이블링하는 작업이라고 하면 정답이 없는 문제이기 떄문에 지도 학습보다 조금 어렵고 주관적인 판단이 개입하게 된다 비지도 학습 k-평균 알고리즘k-means clustering 이론1. k개 군집 수 설정2. 임의의 중심을 선정3. 해당 중심점과 거리가 가까운 데이터를 그룹4. 데이터의 그룹의 무게 중심으로 중심점을 이동5. ..

[ 목차 ] 최근접 이웃 알고리즘 (KNN): 주변의 데이터를 보고 내가 알고 싶은 데이터를 예측하는 방식 k=3 이라면 별 1개와 세모 2개이므로 ? 는 세모로 예측될 것k=7 이라면 별 4개와 세모 3개이므로 ? 는 별로 예측될 것✔️ 위와 같이 확일할 주변 데이터 k개를 선정 후에 거리 기준으로 가장 많은 것으로 예측하는 것이 바로 knn의 기본 원리이다 그럼 k는 몇으로 정해야 하는 걸까? 또 거리는 어떻게 측정 해야 하는 것일까? 하이퍼 파이미터의 개념 파라미터(Parameter): 머신러닝 모델이 학습 과정에서 추정하는 내부 변수이며 자동으로 결정 되는 값ex) 선형회귀에서 가중치와 편향 Python에서는 함수 정의에서 함수가 받을 수 있는 인자(입력 값)를 지정하는 개념 하이퍼 파라미터(Hy..

[ 목차 ]  의사결정나무 (Decision Tree, DT) : 의사결정규칙을 나무 구조로 나타내어 전체 자료를 몇 개의 소집단으로 분류하거나 예측을 수행하는 분석 방법성별의 기준으로 의사결정나무 시각화타이나닉의 예시성별의 기준으로 의사결정나무 시각화명칭 루트 노드(Root Node): 의사결정나무의 시작점. 최초의 분할조건 리프 노드(Leaf Node): 루트 노드로부터 파생된 중간 혹은 최종 노드 분류기준(criteria): sex는 여성인 경우 0, 남성인 경우 1로 인코딩. 여성인 경우 좌측 노드로, 남성인 경우 우측 노드로 분류 불순도(impurity) 샘플(samples): 해당 노드의 샘플 개수(891개의 관측치) 값(value): Y변수에 대한 배열. 549명이 죽었고(Y = 0..