ADsP 필기 10 — 정형 데이터 마이닝 ② 군집·연관분석 (계층적·K-평균·혼합분포·SOM·지지도·신뢰도·향상도)

ADsP 필기 10 — 정형 데이터 마이닝 ② 군집·연관분석 (계층적·K-평균·혼합분포·SOM·지지도·신뢰도·향상도)

출제기준 대단원 3-3: 정형 데이터 마이닝 — 군집분석 / 연관분석
지난 기출 350문항을 분석했을 때 군집분석이 69회로 언급 빈도 1위였고,
연관분석(지지도·신뢰도·향상도)도 계산 문제로 거의 매 회차 나옵니다.
연관분석 계산은 분수 한 줄로 끝나는 문제라 공식만 외우면 확실한 득점원이에요.

---

군집분석 개요 ⭐⭐⭐

정답(레이블) 없이 데이터 간 유사성(거리) 을 재서 비슷한 데이터끼리 묶는 비지도학습입니다(시장세분화, 추천시스템 등).

 

⚠️ 군집분석은 범주형 변수도 가능합니다.

"입력변수가 범주형이면 군집분석을 할 수 없다"는 틀린 설명이에요(45회).

범주형은 거리 대신 유사도(SMC, 자카드 등) 를 씁니다.

 

거리 척도 ⭐⭐⭐ (연속형 변수)

거리	정의	포인트
유클리디안	두 점 사이 직선 최단 거리	가장 기본
맨해튼	좌표축 차이의 절댓값 합	바둑판 도로
체비셰프	좌표 차이 중 최댓값
민코프스키	유클리디안·맨해튼의 일반화	m=1 맨해튼, m=2 유클리디안
마할라노비스	변수 간 상관관계(공분산) 를 고려한 통계적 거리	변수 간 상관이 클 때

• 거리 계산 전에는 변수 단위 차이를 없애기 위한 표준화가 필요
• 범주형 유사도: 단순일치계수(SMC), 자카드 지수(합집합 대비 교집합, 0값 일치 제외), 코사인 유사도(방향 유사성)

 

기출 (44회·48회)

• (44회) 두 변수의 상관관계가 클 때 유사도 거리를 측정하는 방법 → 마할라노비스 거리
• (48회) 변수 간 상관관계를 고려하여 통계적 거리를 측정하는 방법 → 마할라노비스 거리 (※ 제 기출 정리 파일에는 정답이 ③ 체비셰프로 표기돼 있는데, 이론상 정답은 ④ 마할라노비스입니다. 원본 확인을 권합니다.)

 

기출 (45회)

Q. 연속형 변수 간의 유사성 또는 거리를 측정하는 방법으로 적절하지 않은 것은?

① 맨하탄

② 자카드 거리

③ 마할라노비스

④ 유클리디안

A. ② — 자카드는 범주형(이진) 변수용입니다.

 

기출 (49회)

Q. 맨해튼 거리와 유클리디안 거리에 대한 설명으로 옳지 않은 것은?
① 맨해튼 거리는 항상 유클리디안 거리보다 작거나 같다.
② 유클리디안 거리는 두 점을 잇는 직선 거리이다.
③ 맨해튼 거리는 각 차원 차이의 절댓값을 모두 더한 값이다.
④ 맨해튼 거리는 격자 형태의 경로를 따라 이동한 거리와 같다.

A. ① — 직선이 최단이므로 맨해튼 거리는 항상 유클리디안 거리보다 크거나 같습니다(방향 반대).

---

계층적 군집분석 ⭐⭐⭐

가까운 개체부터 순차적으로 묶어 덴드로그램(나무 그림) 으로 보여주는 방법입니다.

군집 수를 미리 정할 필요가 없어요.

병합적(Agglomerative) : 각자 하나의 군집 → 가까운 것끼리 합침  (상향식, Bottom-up)
분할적(Divisive)      : 전체가 하나의 군집 → 나눠 감          (하향식, Top-down)

 

연결법(군집 간 거리 측정) ⭐⭐⭐

연결법	기준	특징
최단(단일)	두 군집에서 가장 가까운 점 사이 거리	사슬(chain) 모양 군집
최장(완전)	두 군집에서 가장 먼 점 사이 거리	이상치에 민감
평균	모든 점쌍 거리의 평균	가장 널리 사용
중심	두 군집 중심점 사이 거리
와드(Ward)	합쳤을 때 군집 내 오차제곱합(SSE) 증가량이 최소가 되도록 병합	군집 크기가 비슷할 때 좋음

덴드로그램 해석

• Y축(Height) = 군집 간 거리. 낮을수록 먼저 묶인(유사한) 데이터
• 특정 높이에 수평선을 긋고 그 선과 교차하는 가지 수 = 군집 수
• 장점: 군집 수를 안 정해도 되고 과정이 시각적. 단점: 데이터가 많으면 계산량 급증, 한 번 묶이면 다른 군집으로 이동 불가
• R: dist() → hclust(method="single") → plot()

기출 (47회·48회·49회) — 와드 연결법이 3회 연속 나왔습니다

• (47회) 군집 내 오차 제곱합(SSE)을 최소화하는 방식으로 군집을 수행하는 방식 → 와드 연결법
• (48회) 두 군집이 합쳐졌을 때 SSE가 가장 적게 증가하는 방향으로 병합되는 연결법 → 와드 연결법
• (49회) 와드 연결법 설명으로 옳은 것 → 군집 내 SSE의 증가가 최소가 되도록 병합

기출 (46회)

Q. 최장연결법을 이용한 군집분석 결과에 대한 설명으로 옳지 않은 것은?
① 군집 간 거리는 가장 멀리 떨어진 개체들의 거리를 기준으로 한다.
② 군집 간 거리가 최소인 군집들을 순차적으로 합치면서 계층 구조를 형성한다.
③ 군집분석은 재분석 시 결과가 달라질 수 있다.
④ 이상치에 민감하며 군집 간 거리가 이상치에 크게 영향을 받을 수 있다.

A. ③ — 계층적 군집분석은 무작위 요소 없이 거리 규칙대로 병합하므로 같은 데이터로 재분석하면 결과가 같습니다. (결과가 달라질 수 있는 것은 초기 중심을 무작위로 정하는 K-평균입니다.) 최장 연결법의 핵심은 ①④: 가장 먼 거리 기준 + 이상치에 민감이라는 점이에요.

---

K-평균(K-means) 군집 ⭐⭐⭐

분석가가 군집 수 k를 미리 정하고, 중심점(Centroid)과의 거리를 기준으로 데이터를 나누는 비계층적 방법입니다.

거리 행렬을 쓰지 않아 빠릅니다.

알고리즘 4단계
① k개의 초기 중심점을 무작위 설정
② 모든 데이터를 가장 가까운 중심점의 군집에 할당
③ 각 군집의 평균으로 중심점 재계산
④ 중심점이 더 이상 변하지 않을 때까지 ②③ 반복

• 목표: 군집 내 오차제곱합(WCSS) 최소화 = 군집 내 응집도 최대화. (군집 간 이질감을 높이는 것이 "목표"라는 설명은 오답)
• 단점: k를 직접 정해야 함, 초기 중심에 따라 결과가 달라짐, 이상치에 민감, 구형이 아닌 군집은 잘 못 찾음
• 엘보우(Elbow) 방법: k를 늘려가며 군집 내 제곱합(WSS)을 그려 기울기가 급격히 완만해지는 팔꿈치 지점의 k를 선택
• 거리 기반이라 표준화 필수
• 군집 평가의 실루엣 계수는 알고리즘 수행 절차에 포함되지 않는 사후 평가

 

기출 (45회)

Q. K-means에 대한 설명으로 틀린 것은?
① 비지도 학습에 속하는 군집 알고리즘이다.
② 군집 개수 k를 알고리즘이 자동으로 선택해준다.
③ 클러스터의 중심점을 기준으로 군집을 형성한다.
④ 반복적으로 중심점을 재계산하며 수렴한다.

A. ② — k는 분석가가 정합니다.

 

기출 (46회)

Q. K-Means에서 초기 군집 중심 설정 방법으로 옳은 것은?
① 모든 데이터의 평균을 중심으로

② 모든 데이터의 중앙값을 중심으로

③ 데이터셋 내 무작위로 선택된 임의의 K개 관측점

④ 군집의 개수만큼 평균값을 설정

A. ③

 

기출 (44회)

Q. K-means 군집분석을 활용할 수 있는 그래프는?

① 오차 제곱합

② ROC 그래프

③ 집단 내 제곱합 그래프

④ 향상도 곡선

A. ③ — 엘보우 방법에 쓰는 그래프입니다.

 

기출 (47회)

Q. 군집분석 관련 설명 중 적절하지 않은 것은?
① 계층적 군집분석은 덴드로그램으로 시각화할 수 있다.
② K-평균 군집분석에서 초기 중심값 설정은 군집분석 결과에 영향을 주지 않는다.
③ 이상치나 소음 데이터는 군집분석 성능에 영향을 줄 수 있어 전처리에서 제거할 필요가 있다.
④ DBSCAN 방식은 군집 개수를 미리 정할 필요가 없다.

A. ② — 초기 중심값에 따라 결과가 달라집니다.

---

혼합 분포 군집 ⭐⭐

데이터가 여러 확률분포의 혼합에서 생성됐다고 가정하고, 각 데이터가 각 분포(군집)에 속할 확률을 구하는 연성 군집(Soft Clustering) 입니다. (K-평균·계층적 군집은 100% 한 군집에 속하는 경성 군집)

EM 알고리즘 : E-Step(각 데이터가 각 군집에 속할 확률 계산) ↔ M-Step(그 확률로 분포의 평균·분산 재추정) 반복
최적 군집 수 : BIC로 선택  (일반적으로 BIC 작을수록 좋음, 단 R mclust 패키지는 클수록 좋음)

 

기출(47회): 혼합분포군집 모델에서 최대가능도추정을 보완하기 위해 사용되는 기법 → EM 알고리즘

---

자기조직화지도(SOM) ⭐⭐

인공신경망 기반 군집분석. 고차원 데이터를 2차원 격자(지도) 로 펼쳐 군집화와 시각화를 동시에 수행합니다.

학습 3단계
① 경쟁(Competition)   : 입력과 가장 가까운 노드 = 승자 뉴런 BMU(Best Matching Unit) 선정
② 협력(Cooperation)   : BMU 주변 이웃 노드도 함께 학습
③ 적응(Adaptation)    : BMU와 이웃의 가중치를 입력에 더 가깝게 업데이트

• 원본에서 가까웠던 데이터는 지도 위에서도 이웃으로 배치 → 위상(지형) 관계 보존
• 거리 기반이므로 표준화 필요, 학습률은 처음엔 높다가 점차 감소

 

기출 (45회)

Q. SOM에 대한 설명 중 틀린 것은?
① 경쟁 학습 기반의 신경망이다.

② 차원을 축소해 시각화에 활용할 수 있다.

③ 입력 벡터와 가장 가까운 노드를 BMU라 한다.

④ 부분적으로(locally) 연결된다.

A. ④ — SOM은 입력층과 경쟁층이 완전 연결됩니다.

 

기출 (47회)

Q. 군집분석 기법에 대한 설명으로 적절하지 않은 것은?
① DBSCAN은 밀도 기반 군집화 방식으로 초기 중심값 설정이 불필요하다.
② GMM은 EM 알고리즘을 사용하며 초기 중심값에 따라 결과가 달라질 수 있다.
③ SOM은 비지도 학습으로 차원축소와 군집화를 동시에 수행한다.
④ SOM은 모든 입력 노드에 동일한 수의 데이터가 할당된다.

A. ④

 

DBSCAN ⭐⭐ (50회에 출제)

밀도 기반 군집.

군집 수 k를 미리 정할 필요가 없고, 밀도가 낮은 영역은 노이즈(이상값) 로 분류하며, 반달·오목처럼 비구형 군집도 찾습니다.

 

기출(50회): DBSCAN 설명으로 틀린 것은? → "군집 간 거리를 이용해 단계적으로 병합하는 계층적 군집분석 방법이다" (④) — 계층적 군집이 아니라 밀도 기반입니다.

---

군집 평가 ⭐⭐

외부 평가 : 정답 레이블이 있을 때 군집 결과와 비교
내부 평가 : 정답 없이 군집 자체로 평가 → 실루엣 계수

 

실루엣 계수 S(i) = (b(i) − a(i)) / max(a(i), b(i))

• a(i) = 같은 군집 내 평균 거리(응집도), b(i) = 가장 가까운 다른 군집과의 평균 거리(분리도)
• −1 ~ 1. 1에 가까울수록 좋음, 0이면 경계, −1이면 잘못 할당

---

연관분석 ⭐⭐⭐ (계산 문제 단골)

대규모 거래 데이터에서 "A를 사면 B도 산다" 같은 IF-THEN 규칙을 찾는 비지도학습(장바구니 분석).

지지도(Support)   = P(A∩B) = (A와 B를 모두 포함한 거래 수) / 전체 거래 수
신뢰도(Confidence)= P(B|A) = P(A∩B) / P(A) = (A·B 동시 거래) / (A 포함 거래)
향상도(Lift)      = P(B|A) / P(B) = 신뢰도 / P(B) = P(A∩B) / (P(A)·P(B))

향상도	의미
> 1	양의 상관 (A를 사면 B를 살 확률이 높아짐)
= 1	서로 독립
< 1	음의 상관

• ⚠️ 지지도·향상도는 A→B와 B→A가 같지만, 신뢰도는 다릅니다(분모가 P(A) vs P(B)).
  향상도는 0보다 작을 수 없습니다(음수 불가).
• Apriori 알고리즘: "빈발하지 않은 품목을 포함한 조합은 더 큰 조합에서도 빈발할 수 없다"는 원리로 탐색 범위를 줄임
  → 최소 지지도 설정 → 개별 품목 중 최소 지지도 넘는 것 찾기 → 2개 품목 조합 → 반복
• FP-Growth: 거래를 FP-Tree로 압축해 DB를 여러 번 스캔하지 않음 → Apriori보다 빠름
• 장점: IF-THEN이라 해석이 쉽고 분석 목적이 없어도(탐색적) 가능.
  단점: 품목이 늘면 계산량이 기하급수적으로 증가, 사소·우연한 규칙이 많이 나올 수 있음

 

기출 (45회·48회) 정의형

Q. (45회) 연관분석에서 A → B일 때 지지도에 해당하는 것은?

① A가 나왔을 때 B도 나올 확률

② 전체 중에서 A와 B 동시에 구매할 확률

③ A가 발생한 경우 중 B도 발생한 비율

④ B가 발생한 경우 중 A도 발생한 비율

A. ② — ①③은 신뢰도입니다.

 

Q. (48회) 지지도(Support) 계산방식으로 옳은 것은?

① A를 포함하는 거래 중 A와 B가 동시에 거래되는 비율

② 전체 거래 중 A와 B가 동시에 포함된 거래 비율

③ A가 구매되지 않았을 때 B의 구매확률

④ (향상도 설명)

A. ②

 

Q. (48회) 향상도에 대한 설명으로 적절한 것은?
① 독립적으로 일어날 확률의 곱을 동시에 일어날 확률로 나누어 계산한다.

② 향상도가 1보다 크면 해당 규칙은 양의 상관성을 가진다.

③ 향상도가 0일 때 두 품목 간에는 상관성이 없다.

④ 향상도가 0보다 작을 때 음의 상관성을 가진다.

A. ② — ①은 분자·분모가 반대, ③은 "상관 없음"이 아니라 향상도 = 1, ④ 향상도는 음수가 될 수 없습니다.

 

기출 (46회·50회) 방향 바꾸기

Q. (50회) A→B를 B→A로 바꿨을 때 틀린 설명은?

① 향상도는 바뀌지 않는다

② 지지도는 바뀌지 않는다

③ 신뢰도는 조건부확률에 기반한다

④ 신뢰도는 바뀌지 않는다

A. ④

 

Q. (46회) 연관 분석에 대한 설명으로 옳지 않은 것은?

① 지지도는 전체 거래 중 특정 물건들이 동시에 나타나는 비율

② 일반적으로 지지도보다 신뢰도가 더 중요하다

③ 조건 반응 기반으로 명확한 이해가 가능

④ 대표 예시로 장바구니 분석

A. ②

 

기출 계산 문제 모음 ⭐⭐⭐ (전부 한 줄 풀이)

① (47회) 전체 100건, 커피 20, 우유 50, 커피+우유 30일 때 "우유→커피"의 지지도?
→ 30/100 = 0.3

 

② (46회) 커피 100, 우유 100, 녹차 100, 커피+우유 250, 우유+녹차 200, 녹차+커피 200, 커피+우유+녹차 50일 때 "커피→우유"의 지지도?
→ 전체 = 100+100+100+250+200+200+50 = 1000, 커피·우유가 같이 있는 거래 = 250 + 50 = 300 → 0.3

 

③ (49회) 전체 10건 중 A 7건, B 6건, A·B 동시 5건일 때 지지도?
→ 5/10 = 0.5

 

④ (48회) 품목별 거래 건수에서 "A→B" 신뢰도?

A만 100 / A,C 150 / A,D 50 / A,B,C 200 / A,B,C,D 100 / (B 50, C 150, B,C,D 100 은 A 없음)

→ A 포함 거래 = 100+150+50+200+100 = 600, A·B 동시 = 200+100 = 300 → 300/600 = 50%

 

⑤ (45회) P(버터) = 0.6, P(빵) = 0.8, P(버터+빵) = 0.6일 때 "버터→빵"?
→ 신뢰도 = 0.6/0.6 = 1.0, 향상도 = 1.0/0.8 = 1.25 (③)

 

⑥ (50회) 12건 중 우유만 2, 빵만 2, 둘 다 4, 둘 다 안 산 4일 때 "우유→빵"의 향상도?
→ P(우유) = 6/12, P(빵) = 6/12, P(우유∩빵) = 4/12. 신뢰도 = 4/6 = 2/3. 향상도 = (2/3)/(1/2) = 4/3

 

⑦ (44회) 우유 10건(우유만), 우유+커피 30건일 때 "우유→커피" 신뢰도?
→ 30/(10+30) = 0.75

 

⑧ (49회) 전체 10건, 기저귀 6건, 맥주 4건, 동시 4건 "기저귀→맥주" 설명 중 옳지 않은 것?
→ 지지도 = 4/10 = 0.4 (①), 신뢰도 = 4/6 ≈ 0.67이므로 "약 0.34"는 틀림 (③).

향상도는 0.67/0.4 ≈ 1.67입니다

(보기 ②의 1.33은 원본 숫자 확인이 필요해 보이지만, 시험에서는 신뢰도 0.34가 명백한 오답입니다).

 

기출 (46회) Apriori 최대 빈발 항목 집합

Q. 거래 {a,b}, {a,b,d}, {b,c,e}, {d,e}, {a,b,c,e}에서 최소 지지도 2일 때 길이가 가장 긴 빈발 항목 집합은?

A. {b, c, e} — 빈도: a=3, b=4, c=2, d=2, e=3. 2개 조합 중 {a,b}=3, {b,c}=2, {b,e}=2, {c,e}=2. 3개 조합 {b,c,e}는 거래 3, 5번 → 2회 → 빈발. {a,b,c,e}는 1회뿐입니다.

 

기출 (44회) Apriori 순서

Q. Apriori 수행 순서는? → 가(최소 지지도 설정) → 다(개별 품목 중 최소 지지도 넘는 품목 찾기) → 나(2가지 품목 조합) → 라(반복) (②)

---

실무 한마디

로그 분석에서 군집분석은 정답 라벨이 없는 상태에서 이상 행위를 분리하는 데 쓰입니다.

사용자 접속 패턴(시간대·접속 횟수·전송량)을 K-평균으로 묶으면 "정상 사용자군"과 "이상 행동 사용자군"이 갈리고, 이상치에 민감한 K-평균 대신 밀도 기반 DBSCAN 이 노이즈(이상치)를 자연스럽게 분리해줍니다.

 

연관분석은 "특정 포트 스캔 이후 특정 공격 유형이 뒤따르는" 로그 규칙을 향상도 1 초과로 골라내 공격 시나리오 예측에 활용할 수 있어요. 변수 단위가 제각각(바이트 vs 횟수)일 때 표준화를 먼저 해야 한다는 점도 실무에서 그대로 통합니다.

---

핵심 정리

✅ 군집분석 = 비지도, 범주형도 가능(유사도), 변수 단위 다르면 표준화
✅ 거리: 유클리디안(직선) / 맨해튼(절댓값 합, ≥ 유클리디안) / 마할라노비스(상관 고려)
✅ 자카드는 범주형 유사도 (연속형 거리 아님)
✅ 계층적: 덴드로그램, 군집 수 사전 지정 불필요, 수평선과 교차하는 가지 수 = 군집 수
✅ 와드 = SSE 증가 최소 / 최장 = 가장 먼 거리·이상치 민감 / 최단 = 사슬형
✅ K-평균: k는 분석가가 지정, 초기 중심은 무작위(결과에 영향), 이상치에 민감, 엘보우로 k 선택
✅ 혼합분포: 연성 군집, EM 알고리즘(E-step/M-step), BIC
✅ SOM: 경쟁→협력→적응, BMU, 군집+시각화, 완전 연결
✅ DBSCAN: 밀도 기반, k 불필요, 노이즈 분리, 계층적 아님
✅ 실루엣 계수: −1~1, 1에 가까울수록 좋음, 사후 평가
✅ 지지도=P(A∩B), 신뢰도=P(B|A), 향상도=신뢰도/P(B)
✅ 향상도 >1 양의 / =1 독립 / <1 음의 (음수 불가)
✅ 방향을 바꿔도 지지도·향상도는 동일, 신뢰도만 달라짐
✅ Apriori: 최소 지지도 → 개별 품목 → 조합 → 반복 / FP-Growth는 더 빠름

---

다음 편 예고

11편 — 최종 예상 기출문제 풀이 (시리즈 마지막 편). 지금까지 정리한 1~3과목 핵심을 실전 예상문제로 점검하고, 시험 당일 90분 운용 전략과 과락 방지 포인트로 마무리합니다.