ADsP 필기 09 — 정형 데이터 마이닝 ① 개요·분류분석 (데이터 분할·교차검증·로지스틱·의사결정나무·앙상블·인공신경망·성과평가)

ADsP 필기 09 — 정형 데이터 마이닝 ① 개요·분류분석 (데이터 분할·교차검증·로지스틱·의사결정나무·앙상블·인공신경망·성과평가)

출제기준 대단원 3-3: 정형 데이터 마이닝 — 데이터 마이닝 개요 / 분류분석 / 성과평가
3과목 마지막 두 장 중 첫 번째입니다(★★★★★).
혼동행렬 계산, 지니지수·엔트로피, 배깅 vs 부스팅, 활성화 함수는 거의 매 회차 나옵니다.
문제 대부분이 "정의의 방향 뒤집기"라서, 정의만 정확히 잡으면 점수가 잘 나오는 구간이에요.

---

데이터 마이닝 개요 ⭐⭐

통계 분석 vs 데이터 마이닝: 핵심 차이는 가설을 먼저 세우는가입니다.

통계 분석    — 가설 수립 → 표본 수집 → 가설 검증  (가설 검증 중심)
데이터 마이닝 — 가설 없이 대용량 데이터 탐색 → 패턴 발견·예측  (패턴 발견·예측 중심)

 

데이터 마이닝 5단계: 목적 설정 → 데이터 준비 → 데이터 가공 → 기법 적용(모델링) → 검증

⚠️ "데이터 준비"가 "데이터 가공"보다 먼저입니다.

준비(수집·품질 확인) → 가공(정제·변수 재정의) 순서를 뒤집은 보기가 단골이에요.

 

기출 (46회·48회) 같은 질문이 두 번 나왔습니다

• (46회) 데이터마이닝 수행 단계의 순서: 목적 설정 → 데이터 준비 → 데이터 가공 → 기법 적용 → 검증 (②)
• (48회) 가. 데이터 준비 / 나. 목적 정의 / 다. 기법 적용 / 라. 데이터 가공 / 마. 검증 → 나 → 가 → 라 → 다 → 마 (③)

---

지도학습 vs 비지도학습 ⭐⭐⭐

지도학습   : 정답(Label)이 있는 데이터로 학습 → 분류(범주 예측) / 회귀(수치 예측)
비지도학습 : 정답 없이 구조·패턴 발견 → 군집분석 / 연관분석 / 차원축소

구분	대표 알고리즘
지도 - 분류	로지스틱 회귀, 의사결정나무, SVM, k-NN, 나이브 베이즈, 인공신경망, 앙상블
지도 - 회귀	선형회귀, 릿지, 라쏘, SVR
비지도	K-평균, 계층적 군집, DBSCAN, SOM, Apriori, PCA, SVD, MDS

 

⚠️ 다중 회귀분석은 분류 모형이 아닙니다(49회) — 연속형 수치를 예측하는 회귀입니다.

반면 로지스틱 회귀는 이름은 회귀지만 분류 모형이에요.

 

기출 (46회)

Q. 분류 분석의 정의로 옳은 것은?
① 두 변수 간의 관계를 파악하고 예측하는 분석이다.
② 이미 분류된 데이터를 바탕으로 새로운 데이터가 속할 그룹을 예측하는 분석이다.
③ 데이터들 사이에 숨겨진 패턴 구조를 찾아 그룹화하는 분석이다.
④ 분석 데이터의 평균 또는 합을 예측하는 분석이다.

A. ② — ③은 군집분석의 정의입니다. "이미 분류된 데이터(정답)가 있느냐"가 구분 기준이에요.

 

기출 (49회)

Q. 분류(Classification) 모형에 해당하지 않는 것은?

① 다중 회귀분석

② 인공신경망

③ 의사결정나무

④ 로지스틱 회귀분석

A. ①

---

데이터 분할과 모델 검증 ⭐⭐⭐

훈련·검증·평가 데이터

훈련(Training)   — 모델이 학습하는 데이터. 가장 큰 비중
검증(Validation) — 학습 중 성능 점검, 하이퍼파라미터 조정, 과대·과소적합 조정
평가(Test)       — 학습이 끝난 최종 모델의 객관적 성능 평가 (학습에 쓰이지 않은 데이터)

• 파라미터: 모델이 데이터에서 스스로 학습하는 값(회귀계수, 가중치)
• 하이퍼파라미터: 학습 전에 분석가가 정하는 값(k-NN의 k, 나무의 최대 깊이)

 

기출 (48회)

Q. 데이터 분할 방식에 대한 설명으로 적절하지 않은 것은?
① 훈련용은 데이터 패턴을 학습하고 가중치를 조정하는 데 사용된다.
② 검증용은 모델의 과대·과소 적합 조정 시 사용된다.
③ 검증용 데이터는 해당 모델의 최종 성능을 평가 시 활용된다.
④ 평가용은 객관적인 성능 측정을 위해 학습에 활용되지 않은 데이터이다.

A. ③ — 최종 성능 평가는 평가(테스트) 데이터의 역할입니다.

 

기출 (50회)

Q. 학습용·검증용·테스트용 데이터 분할로 옳은 것은?
① 학습용에는 일반적으로 검증용·테스트용보다 더 많은 비율을 할당한다.
② 검증용은 모델의 최종 성능을 평가하기 위해서만 사용한다.
③ 테스트용으로 모델의 파라미터를 학습시킨다.
④ 세 종류의 데이터는 항상 동일한 비율로 나누어야 한다.

A. ①

 

과적합 vs 과소적합

과적합(Overfitting)   : 훈련 데이터의 노이즈까지 외움 → 훈련 오차 낮음, 테스트 오차 높음, 복잡도 높음
과소적합(Underfitting): 너무 단순해서 패턴조차 못 찾음 → 훈련·테스트 오차 모두 높음

 

검증 및 샘플링 기법 ⭐⭐⭐

방법	설명	포인트
홀드아웃	훈련/평가를 한 번만 분할(7:3, 8:2)	빠르지만 분할에 따라 결과가 달라짐
K-Fold CV	K개로 나눠 하나씩 평가, K번 반복	가장 표준적, 데이터 부족 시 유용
계층별 K-Fold	각 Fold의 정답 비율을 원본과 동일하게 유지	불균형 분류 문제
LOOCV	K = 데이터 수 N	정밀하나 계산 비용 매우 큼
부트스트랩	복원추출로 원본과 같은 크기의 표본을 여러 개 생성	데이터가 적을 때, 모델 안정성 추정

 

⚠️ 부트스트랩에서 특정 데이터가 한 번도 안 뽑힐 확률 = (1 − 1/N)^N → N이 크면 약 36.8%(1/e).

이 안 뽑힌 데이터를 OOB(Out-of-Bag) 데이터라 하고 검증용으로 씁니다.

 

기출 (44회·50회) 같은 질문이 반복됩니다

• (44회) 크기 100인 데이터를 부트스트랩 100번 할 때 한 데이터가 단 한 번도 안 뽑힐 확률 → (1 − 1/100)^100 (③)
• (50회) 크기 d인 자료에서 복원추출로 d개를 뽑을 때 특정 관측값이 한 번도 안 뽑힐 확률 → (1 − 1/d)^d (③)

풀이: 한 번 뽑을 때 안 뽑힐 확률은 (1 − 1/N), 이를 N번 독립적으로 반복하므로 (1 − 1/N)^N입니다.

 

불균형 데이터 처리

언더샘플링 : 다수 클래스를 줄임 → 빠르지만 정보 손실
오버샘플링 : 소수 클래스를 복제/생성(SMOTE) → 정보 손실 없지만 과적합 위험

 

기출(50회): 특정 범주의 사례 수가 너무 적어 모델이 그 범주를 제대로 학습하지 못하는 현상 → 범주 불균형

---

로지스틱 회귀분석 ⭐⭐⭐

종속변수가 범주형(0/1) 일 때 사건이 일어날 확률을 예측하는 분류 모형입니다. 이항(2범주) / 다항(3범주 이상)이 있어요.

오즈(Odds)   = p / (1−p)           (성공 확률 / 실패 확률)
로짓(Logit)  = log(오즈)           (범위 −∞ ~ +∞)
시그모이드   = p = 1 / (1 + e^−x)  (로짓의 역함수, 0~1 확률, S자 곡선)
exp(β)       = 오즈비(Odds Ratio)  — x가 1 증가할 때 오즈가 몇 배 변하는지

• R: glm(y ~ x, data, family="binomial"). summary()의 Estimate는 로짓(log-odds) 값이라 exp()를 취해야 오즈비가 됩니다. (Estimate = 5.14 → exp(5.14) ≈ 170.7배)
• 이탈도(Deviance): 작을수록 모형이 데이터를 잘 설명. Null deviance(절편만) vs Residual deviance(변수 포함)의 차이를 카이제곱 검정해 모형 유의성 판단.
• 완전 분리(Perfect Separation): 한 변수로 두 범주가 완벽히 갈리면 계수 추정이 불안정해집니다.

 

기출 (45회)

Q. 로지스틱 회귀분석의 적용 사례로 적절한 것은?

① 주택 가격 예측

② 제품 수명 예측

③ 마케팅 성공 여부 예측

④ 키와 몸무게 관계

A. ③ — 성공/실패처럼 이진 결과를 예측할 때 씁니다. 가격·수명 같은 연속값은 선형회귀 영역이에요.

 

기출 (46회·50회) 시그모이드 범위

• (46회) 시그모이드 함수의 출력 범위 → 0 ≤ y ≤ 1 (0 또는 1이 아니라 0~1 사이 연속값)
• (50회) 활성화 함수 설명에서도 "시그모이드의 출력 범위는 0에서 1"이 반복 출제

---

의사결정나무 ⭐⭐⭐

데이터를 분리 규칙에 따라 반복 분기하는 스무고개식 모형입니다.

구성: 뿌리마디(Root) → 부모/자식마디 → 중간마디 → 끝마디(Leaf)
분류나무 : 종속변수가 범주형 → 끝마디는 클래스
회귀나무 : 종속변수가 연속형 → 끝마디는 평균값

 

분리 기준(불순도) ⭐⭐⭐

종속변수	기준	알고리즘	포인트
범주형	카이제곱 통계량	CHAID	p-value가 가장 작은 변수
범주형	지니 지수	CART	불순도를 가장 많이 감소
범주형	엔트로피 지수	C4.5, ID3	정보 획득량(정보이득) 이 가장 큰 변수
연속형	F-통계량 / 분산 감소량	CHAID / CART

불순도가 낮을수록(=순수도가 높을수록) 좋은 분리
지니 지수·엔트로피 : 한 클래스만 있으면 0 (가장 순수), 섞일수록 커짐
정보이득 = 분리 전 엔트로피 − 분리 후 엔트로피 (클수록 좋음)

 

⚠️ "좋은 분리는 지니 지수가 최대가 되는 방향"은 틀린 설명입니다(49회). 지니 지수를 줄이는(최소화) 방향이 좋은 분리입니다.

 

기출 (49회)

Q. 노드의 데이터 10개가 모두 하나의 클래스일 때 지니 지수와 엔트로피는?

A. 0, 0 (④) — 완전히 순수하면 두 지표 모두 0입니다.

 

Q. 의사결정나무와 불순도 지표에 대한 설명으로 옳지 않은 것은?
① 엔트로피와 지니 지수는 노드의 불순도를 측정하는 지표이다.
② 좋은 분리는 지니 지수가 최대가 되는 방향으로 이루어진다.
③ 정보 이득은 분리 전후 엔트로피의 감소량으로 정의된다.
④ 지니 지수는 0에 가까울수록 노드가 순수하다.

A. ②

 

기출 (50회)

Q. 지니지수에 대한 설명으로 틀린 것은?
① 노드의 불순도를 나타내는 지표이다.

② 한 가지 클래스만 존재하면 0이 된다.

③ 작을수록 순수하다.

④ 낮아질수록 노드의 불순도는 높아진다.

A. ④ — 낮아질수록 불순도도 낮아집니다(순수해짐).

 

과적합 방지 ⭐⭐⭐

정지 규칙(사전 가지치기) : 최대 깊이, 마디 최소 데이터 수 등으로 성장 중단
가지치기(사후 가지치기) : 최대로 키운 뒤 불필요한 가지 제거
장점 : 직관적·해석 쉬움, 전처리 적음, 비선형 가능
단점 : 불안정(데이터 변화에 구조가 크게 변함), 과적합 위험 → 앙상블(배깅·랜덤포레스트)의 등장 배경

기출 (45회)

Q. 의사결정나무에 대한 설명으로 틀린 것은?
① 가지치기를 통해 과적합을 방지할 수 있다.
② 자식마디의 순수도가 증가하도록 분류나무를 형성한다.
③ 지니 지수나 엔트로피를 기준으로 분할한다.
④ 가지치기를 통해 학습 데이터 세트에서의 정확도를 높일 수 있다.

A. ④ — 가지치기는 모형을 단순화하므로 학습 데이터 정확도는 오히려 낮아질 수 있고, 대신 새 데이터에 대한 일반화 성능을 높입니다.

 

기출 (46회)

Q. 가지치기 시 평가기준으로 사용되기 어려운 것은?

① 지니 지수

② 엔트로피 지수

③ 카이제곱 통계량

④ 잔차 제곱합

A. ④ — 잔차제곱합은 회귀분석의 지표이고, 분류나무 평가기준이 아닙니다.

 

기출 (50회)

Q. 의사결정나무의 정지규칙으로 적절하지 않은 것은?
① 분할로 얻는 정보이득이 미리 정한 최소 임계값을 초과하면 정지한다.
② 노드에 속한 자료의 수가 최소 기준 이하가 되면 정지한다.
③ 트리의 깊이가 설정한 최대치에 도달하면 정지한다.
④ 추가 분할해도 순도 개선 효과가 충분하지 않으면 정지한다.

A. ① — 정보이득이 임계값을 초과하면 계속 분할해야 합니다. 미만(개선이 부족) 일 때 정지합니다.

---

앙상블 ⭐⭐⭐ (매 회차 출제)

여러 모델을 결합해 더 안정적이고 정확한 예측을 만드는 기법입니다("백지장도 맞들면 낫다").

기법	방식	핵심
배깅	복원추출 부트스트랩 샘플로 모델을 독립적·병렬 학습 → 투표/평균	분산 감소, 안정성 ↑
부스팅	순차적 학습, 이전 모델이 틀린 데이터에 더 큰 가중치	편향 감소, 대표: AdaBoost, Gradient Boost, XGBoost, LightGBM
랜덤포레스트	배깅 + 변수도 무작위 선택	나무 간 상관관계 ↓, OOB로 성능 평가
스태킹	서로 다른 모델의 예측을 모아 메타 모델이 최종 예측	2단계, 복잡
보팅	각 모델 예측 중 가장 많이 나온 결과 채택

암기: 배깅 = 병렬·독립 / 부스팅 = 순차·의존
랜덤포레스트 = 모든 변수 사용 ✗ → 변수도 무작위 선택 ✓

 

⚠️ "앙상블은 항상 단일 모형보다 정확하다 / 해석이 쉽다"는 단정형 오답입니다(46회·49회). 해석력은 오히려 떨어집니다.

 

기출 (45회)

Q. 배깅과 부스팅에 대한 설명으로 적절한 것은?
① 배깅은 모델 간 상호의존성을 강조한다.

② 배깅은 약한 학습기를 순차적으로 학습시킨다.

③ 부스팅은 오버샘플링을 통해 데이터 수를 증가시킨다.

④ 부스팅은 잘못 분류된 데이터에 더 큰 가중치를 부여한다.

A. ④ — ①②는 부스팅의 설명을 배깅에 붙인 함정입니다.

 

기출 (46회)

Q. 앙상블 모형에 대한 설명으로 옳은 것은?
① 부스팅은 각 모델을 병렬 학습한 후 보팅으로 통합한다.

② 부스팅은 이전 모델의 오차를 보완하기 위해 순차적으로 모형을 학습한다.

③ 앙상블은 항상 단일 모형보다 정확하다.

④ 모델 간 상관관계를 낮추어 예측 성능을 향상시키는 분석 모형이다.

A. ②

 

기출 (47회)

Q. 앙상블 학습에 대한 설명으로 적절하지 않은 것은?
① 배깅은 복원추출 기반 부트스트랩 샘플로 각각 학습시킨 후 결과를 합치는 방식이다.
② 부스팅은 개별 모델에 동일한 가중치를 부여하여 순차적으로 학습한다.
③ 보팅은 가장 많이 나온 결과를 최종 결과로 채택한다.
④ 랜덤포레스트는 배깅 방식을 기반으로 복수의 독립적인 의사결정나무를 생성 후 예측한다.

A. ② — 부스팅은 틀린 데이터에 가중치를 달리 부여합니다.

 

기출 (49회)

Q. 앙상블 학습에 대한 설명으로 옳은 것은?

① 단일 모형만 정교하게 학습

② 배깅과 부스팅은 대표적인 앙상블 기법

③ 랜덤포레스트는 단일 의사결정나무

④ 항상 결과 해석이 쉽다

A. ②

---

인공신경망(ANN) ⭐⭐⭐

뇌의 뉴런에서 영감을 받은 모델. 입력에 가중치를 곱해 합산하고 활성화 함수를 거쳐 다음 노드로 전달합니다.

학습 = 가중치를 최적화하는 과정.

구조: 입력층 → 은닉층(2개 이상이면 딥러닝) → 출력층
장점: 잡음에 둔감, 비선형·복잡한 패턴(이미지·음성) 학습, 비정형 데이터 처리
단점: 학습 오래 걸림, 블랙박스(가중치 해석 어려움), 은닉층·노드 수 결정 어려움

 

⚠️ 인공신경망은 "설명력 있는 가중치를 산출할 수 있다"가 틀린 설명입니다(45회).

가중치는 있지만 해석이 어려운 블랙박스 모델이에요.

 

활성화 함수 ⭐⭐⭐

함수	출력 범위	포인트
시그모이드	(0, 1)	확률 해석, 층이 깊으면 기울기 소실
tanh	(−1, 1)	출력 중심이 0
ReLU	[0, ∞)	가장 널리 사용, 기울기 소실 해결, 계산 단순
소프트맥스	[0, 1], 합=1	다중 클래스 분류 출력층

단층 퍼셉트론 : 은닉층 없음 → 선형 분리 문제만 (은닉층 없는 ANN ≈ 로지스틱 회귀, 시그모이드 출력 시)
다층 퍼셉트론(MLP) : 은닉층 있음 → 비선형 문제 가능, 일반적인 '인공신경망'

 

역전파(Backpropagation): ① 순전파(예측) → ② 오차 계산 → ③ 오차를 출력층→입력층으로 거꾸로 전파해 각 가중치의 책임 계산 → ④ 가중치 업데이트. 전체 데이터를 한 번 학습하면 1 에포크(epoch).

 

기출 (48회)

Q. 입력층에서 전달된 신호의 합을 출력값으로 변환하여 다음 층으로 전달하는 함수는?

① 연결 함수

② 활성화 함수

③ 출력 함수

④ 가중치 함수

A. ②

 

기출 (46회)

Q. 다층 퍼셉트론(MLP)에서 출력층 결과가 다변(multiclass)일 때 주로 사용하는 활성화 함수는?

① 렐루

② 시그모이드

③ 하이퍼볼릭 탄젠트

④ 소프트맥스

A. ④

 

Q. 인공신경망(ANN)에 대한 설명으로 옳지 않은 것은?
① 은닉층이 없는 인공신경망은 로지스틱 회귀와 동일한 역할을 수행한다.
② 은닉층은 비선형 활성화 함수를 통해 복잡한 비선형 관계를 학습한다.
③ 렐루 함수는 입력값이 0보다 작으면 0, 크면 입력값을 그대로 출력한다.
④ 렐루 함수를 활성화 함수로 사용할 때, 은닉층이 없는 인공신경망은 로지스틱 회귀 모형과 동일한 특성을 가진다.

A. ④ — 로지스틱 회귀와 같아지는 것은 시그모이드(로지스틱) 함수를 쓸 때입니다. ReLU를 쓰면 로지스틱 회귀와 같지 않습니다.

 

딥러닝 특화 신경망 (이름-특징 매칭형)

CNN  : 이미지 처리 (필터로 공간 특징 추출)
RNN  : 순서 있는 데이터 (시계열·자연어), 순환 구조
LSTM : RNN의 장기 의존성 문제 해결
GAN  : 생성자·판별자가 경쟁하며 가짜 데이터 생성 (딥페이크)

---

기타 분류 알고리즘 ⭐⭐

나이브 베이즈

베이즈 정리 P(H|E) = P(E|H)P(H) / P(E)로 사후확률이 가장 큰 클래스로 분류.

"나이브(순진한)" = 모든 변수가 조건부 독립이라고 가정. 스팸 필터에 대표적.

 

k-NN (k-최근접 이웃)

새 데이터 주변 가장 가까운 k개 이웃의 다수결로 분류.

게으른 학습(Lazy Learning): 사전 학습 없이 예측 시점에 계산. k는 하이퍼파라미터.

 

⚠️ k가 작으면 노이즈에 민감해 과적합, k가 크면 지나치게 평활화돼 과소적합 경향이에요.

"k가 클수록 과대적합"은 틀린 설명입니다.

 

기출(44회) k-NN 특징 중 틀린 것?

① 사전 학습 없이 새 데이터 분류 가능

② 가까운 그룹을 찾는다

③ 가까운 k개를 탐색

④ k 개수가 클수록 과대적합 문제가 발생할 수 있다

→ ④

 

SVM (서포트 벡터 머신)

클래스 사이의 마진을 최대화하는 초평면을 찾는 분류 모형.

마진을 결정하는 경계 근처 데이터가 서포트 벡터. 선형 분리가 안 되면 커널 기법으로 고차원에 매핑해 분류.

 

기출(49회) SVM에 대한 설명으로 옳지 않은 것은?
① 마진을 최대화하는 초평면을 찾아 분류한다.
② 서포트 벡터는 결정 경계에 가장 가까이 위치한 데이터 포인트이다.
③ 커널 함수는 고차원 데이터를 저차원으로 변환하여 계산을 단순화한다.
④ 선형 분리가 안 되는 데이터도 커널 기법으로 분류할 수 있다.
→ ③ — 커널 함수는 저차원 → 고차원으로 변환해 선형 분리를 가능하게 합니다(방향이 반대).

---

분류 모형 성과 평가 ⭐⭐⭐ (계산 문제 단골)

혼동행렬(Confusion Matrix)

              예측 양성   예측 음성
실제 양성       TP         FN (2종 오류)
실제 음성       FP (1종 오류)   TN

정확도(Accuracy)   = (TP+TN) / 전체
오분류율(Error)    = (FP+FN) / 전체  = 1 − 정확도
정밀도(Precision)  = TP / (TP+FP)   — "양성이라 예측한 것 중" 실제 양성
재현율(Recall, 민감도) = TP / (TP+FN) — "실제 양성 중" 잡아낸 비율
특이도(Specificity) = TN / (TN+FP)
F1 Score          = 2·P·R / (P+R)  (정밀도와 재현율의 조화평균)
                  = 2TP / (2TP+FP+FN)

• ⚠️ 정확도의 함정: 불균형 데이터(100명 중 환자 1명)에서 전부 "정상"이라고 예측해도 정확도가 99%입니다. → 정밀도·재현율·F1을 함께 보세요.
• 정밀도↔재현율은 트레이드오프(임곗값을 낮추면 재현율↑ 정밀도↓)
• 악성코드·암 진단처럼 놓치면(FN) 치명적인 도메인은 재현율이 중요

 

ROC 곡선과 AUC

ROC 곡선 : X축 = FPR(1−특이도), Y축 = TPR(민감도, 재현율)
좋은 모델 : 왼쪽 위 꼭짓점 (0, 1)에 가까움
AUC : 곡선 아래 면적, 1에 가까울수록 좋음, 0.5면 무작위 분류
이익도표(Lift Chart) : 모델 순서로 정렬했을 때 무작위 대비 향상도를 누적으로 표시 (마케팅)

기출 (45회)

Q. 모델이 참이라고 예측한 것 중에서 실제로도 참인 것은?

① 정밀도

② 정확도

③ 재현율

④ F1 점수

A. ①

 

Q. ROC 곡선으로 가장 효율적인 도형을 이끌어냈을 때의 X, Y 좌표 값은?

① (0,0)

② (1,0)

③ (0,1)

④ (1,1)

A. ③ — FPR=0(오탐 없음), TPR=1(전부 잡음)인 왼쪽 위 꼭짓점입니다.

 

기출 (46회)

• X축이 1−특이도(FPR), Y축이 민감도인 그래프 → ROC 곡선
• 실제 참인 경우 모델이 참으로 올바르게 예측한 비율 → 재현율(민감도)

 

기출 (48회)

Q. 정밀도와 재현율의 조화평균으로 계산되며 불균형 상황에서 객관적 평가가 가능한 지표는?

① 특이도

② 정확도

③ F1-score

④ FP rate

A. ③

 

기출 (47회) 민감도 계산

Q. TP = 200, FN = 400, FP = 100, TN = 300일 때 민감도는?

A. 0.33 — 민감도 = TP/(TP+FN) = 200/600 ≈ 0.33

 

기출 (49회) F1 계산

Q. TP = 3, FN = 8, FP = 5, TN = 10일 때 F1 점수는?

A. 6/19 — 정밀도 = 3/8, 재현율 = 3/11, F1 = 2TP/(2TP+FP+FN) = 6/(6+5+8) = 6/19

 

기출 (50회) 오분류율 계산

Q. 실제 True 130명(예측 True 40, 예측 False 90), 실제 False 120명(예측 True 60, 예측 False 60)일 때 오분류율은?

A. 0.60 — 오분류 = 90 + 60 = 150, 전체 250 → 150/250 = 0.60 (정확도는 100/250 = 0.40이라 ②가 함정)

---

실무 한마디

보안 분야에서 분류 모형은 곧 탐지 모델입니다.

정상 99%·공격 1%인 불균형 데이터에서는 "전부 정상"이라고 답해도 정확도가 99%라서, 정확도는 의미가 없고 재현율(공격을 놓치지 않는 비율) 과 정밀도(오탐의 부담) 의 균형, 즉 F1·ROC를 봐야 합니다.

임곗값을 낮추면 미탐은 줄지만 오탐이 늘어나는 트레이드오프도 IDS 룰 튜닝과 똑같고요.

학습 데이터를 계층별 K-Fold로 나눠 각 Fold에 공격 비율을 유지하는 것도 실제 모델 검증에서 쓰는 방식입니다.

---

핵심 정리

✅ 통계분석=가설 검증 / 데이터마이닝=패턴 발견·예측
✅ 마이닝 5단계: 목적 설정 → 데이터 준비 → 데이터 가공 → 기법 적용 → 검증
✅ 지도(정답O: 분류·회귀) vs 비지도(정답X: 군집·연관·차원축소) / 다중회귀는 분류 아님
✅ 검증 데이터=튜닝, 평가 데이터=최종 성능 / 훈련 데이터가 가장 큼
✅ 부트스트랩=복원추출, 안 뽑힐 확률 (1−1/N)^N ≈ 36.8%, OOB
✅ 로지스틱: 오즈→로짓→시그모이드, exp(β)=오즈비, 이진 결과 예측
✅ 의사결정나무: 지니·엔트로피는 0이 순수(최소화), 가지치기는 일반화↑(학습정확도↑ 아님)
✅ 정보이득이 임곗값 미만이면 정지 / 좋은 분리는 지니 최소화
✅ 배깅=병렬·분산↓ / 부스팅=순차·오분류 가중치↑ / 랜덤포레스트=변수도 무작위
✅ ANN: 블랙박스, 소프트맥스(다중분류), ReLU(기울기 소실 해결), 은닉층 2개↑=딥러닝
✅ CNN=이미지 / RNN·LSTM=순서 / GAN=생성
✅ k-NN: k 작으면 과적합 / SVM: 커널=저→고차원
✅ 정밀도=TP/(TP+FP), 재현율=TP/(TP+FN), F1=2TP/(2TP+FP+FN), 오분류율=(FP+FN)/전체
✅ ROC: 왼쪽 위(0,1)가 최적, AUC 클수록 좋음

---

다음 편 예고

10편 — 정형 데이터 마이닝 ② 군집·연관분석: 계층적 군집, K-평균, 혼합분포군집, SOM, 군집 평가, 그리고 연관분석(지지도·신뢰도·향상도)까지.

기출 빈도 1위인 군집분석이 나옵니다.