정보보안기사 실기 재도전 05 — 프로토콜 ② TCP·UDP·SSL/TLS·IPsec, DoS/DDoS 원리, 무선

정보보안기사 실기 재도전 05 — 프로토콜 ② TCP·UDP·SSL/TLS·IPsec, DoS/DDoS 원리, 무선

출제기준 주요항목 1. 시스템·네트워크 보안특성 파악 (1-2 프로토콜별) / 2. 취약점 점검·보완 (2-3 네트워크 기반 공격 대응)
서술형 원리 설명이 많이 나오는 편입니다.
TLS 핸드셰이크, IPsec 모드, Land·Smurf·Teardrop, 반사·증폭 DDoS를 "정의 → 원리 → 대응"으로 쓰는 연습을 합니다.

---

이번 편 출제 맵 ⭐⭐⭐

주제	출제 회차 (예시)	유형
Land·Smurf·Teardrop 원리	32회 15번	서술
SSL/TLS 핸드셰이크 (비대칭/대칭 구간)	31회 16번	서술
Fiddler 로그 (SSLv3/TLS 1.0 다운그레이드)	31회 17번	실무
Heartbleed	32회 7번	단답
IPsec AH 헤더 (Sequence Number)	30회 2번	단답
IPsec VPN 정의·전송/터널 모드	28회 13번	서술
NTP 증폭 DDoS 대응 4가지	27회 18번	실무
Ping of Death (ping -l 65500)	산업기사 31회 18번	단답
HTTP GET Flood	산업기사 30회 10번	단답
SYN Flooding	21회 14번 외 다수	단답·서술
무선랜 WEP/WPA/WPA2	18회 1번 외	단답

 

(회차는 기출 파일과 이론 정리 문서에서 확인한 예시입니다. 전수 목록은 아니에요.)

---

1. TCP · UDP ⭐⭐⭐

TCP 헤더 · 플래그

헤더 필드: Source Port · Destination Port · Sequence Number · Acknowledgment Number
          Offset(헤더 길이) · Flags · Window Size · Checksum · Urgent Pointer
플래그 6개: URG · ACK · PSH · RST · SYN · FIN

 

3-Way Handshake · 연결 해제

연결 설정
① 클라이언트 → SYN          (seq = x)
② 서버       → SYN + ACK    (seq = y, ack = x + 1)
③ 클라이언트 → ACK          (ack = y + 1)

연결 해제 (4-Way)
FIN → ACK → FIN → ACK

번호 계산 규칙
ACK 번호 = 받은 seq + 받은 데이터 길이
단, SYN과 FIN 플래그는 데이터 1바이트로 계산해 +1

예) 클라이언트 SYN seq=100 → 서버 SYN+ACK의 ack = 101
    클라이언트가 seq=101로 데이터 50바이트 전송 → 서버 ack = 151

• 흐름 제어: 슬라이딩 윈도우 / 혼잡 제어: Slow Start / 오류 제어: 재전송

 

UDP

구분	TCP	UDP
연결	연결형 (3-Way)	비연결형
신뢰성	재전송·순서 보장	보장 없음
속도	상대적으로 느림	빠름
헤더	20바이트 이상	8바이트 (Source Port, Destination Port, Length, Checksum)
용도	HTTP, FTP, SMTP	DNS 질의, DHCP, SNMP, NTP, 스트리밍

⚠️ UDP는 3-Way Handshake가 없으므로 SYN Flood의 대상이 아닙니다. 대신 UDP Flood·반사 증폭에 악용됩니다.

---

2. SSL/TLS ⭐⭐⭐

SSL/TLS는 전송 ~ 응용 계층 사이에서 기밀성 · 무결성 · 인증을 제공합니다 (HTTPS 443, SMTPS, FTPS).

구성 프로토콜: Handshake · Change Cipher Spec · Alert · Record

 

핸드셰이크 흐름 (31회 16번 서술)

1. Client Hello: 지원 암호 스위트 + Client Random
2. Server Hello: 선택한 암호 스위트 + Server Random
   → Certificate(서버 인증서) → Server Hello Done
3. 클라이언트가 인증서 검증 후, Premaster Secret을 서버 공개키로 암호화해 전송
   ★ 비대칭키 사용 구간: 키 교환 + 서버 인증
4. 양측이 Premaster + 난수로 Master Secret → 세션키(대칭키) 생성
5. Change Cipher Spec → Finished 교환
   ★ 대칭키 사용 구간: 실제 데이터 암호화 (속도 때문)

서술 포인트: "비대칭 = 세션키(Premaster) 교환·서버 인증 / 대칭 = 이후 데이터 암호화(속도)"
            한 문장에 둘 다 넣어야 합니다.
Record 프로토콜 송신 처리: 단편화 → (압축) → MAC 부착 → 암호화 → 헤더 부착

 

취약점

취약점	내용	대응
Heartbleed (CVE-2014-0160)	OpenSSL 하트비트 확장의 요청 길이 검증 누락 → 서버 메모리 최대 64KB 평문 유출 (개인키·세션·비밀번호)	OpenSSL 패치, 인증서·키 재발급
POODLE	SSL 3.0 다운그레이드 + CBC 패딩 공격	SSL 3.0 비활성화
프로토콜 다운그레이드	구버전(SSLv3, TLS 1.0) 협상 허용	TLS 1.2 이상만 허용

32회 7번: CVE-2014-0160, OpenSSL TLS/DTLS 확장 입력값 검증 누락, 서버 메모리 유출 → Heartbleed
⚠️ Heartbleed 영향 버전: OpenSSL 1.0.1 ~ 1.0.1f

 

31회 17번 — Fiddler 로그 해석

로그: "A SSLv3-compatible ClientHello handshake was found."
      "Warning: Secure Protocol is downgraded or insecure (SSLV3/TLS 1.0)."
(1) 원인: 취약한 프로토콜(SSLv3/TLS 1.0) 협상을 허용 (다운그레이드·구버전 호환)
(2) 해결: TLS 1.2 이상만 허용, SSLv3·TLS 1.0/1.1 비활성화, 강한 암호 스위트 사용

 

(그림 2의 HTML 취약점, 즉 게시판 제목에 삽입된 <script>alert(document.cookie)</script>는 저장형 XSS입니다. 07편 웹 공격에서 다룹니다.)

 

TLS 1.3 (참고)

• 핸드셰이크 1-RTT, 0-RTT 세션 재개(재전송 공격 위험), RSA 키 교환 제거(전방향 비밀성), 약한 알고리즘 삭제
• DTLS = UDP 기반 TLS

---

3. IPsec ⭐⭐⭐

IPsec은 네트워크(IP) 계층에서 패킷 단위로 기밀성 · 무결성 · 인증을 제공하는 프로토콜 모음입니다.

구분	AH (프로토콜 51)	ESP (프로토콜 50)
기능	무결성 + 송신자 인증 + 재전송 방지	기밀성(암호화) + 무결성·인증(선택) + 재전송 방지
암호화	없음	있음
NAT	불가 (IP 헤더까지 무결성 계산)	가능 (NAT-T, UDP 4500)

AH 헤더 필드: Next Header · Payload Length · SPI · Sequence Number · ICV(Authentication Data)
SPI = SA 식별 / Sequence Number = 재생(Replay) 공격 방지

 

동작 모드 (28회 13번 서술)

구분	전송 모드	터널 모드
보호 범위	원본 IP 헤더 유지, 페이로드만 보호	원본 패킷 전체 캡슐화 + 새 IP 헤더 추가
주소 노출	출발지·목적지 IP 노출	원본 IP까지 암호화
용도	호스트 ↔ 호스트 (End-to-End)	게이트웨이 ↔ 게이트웨이 (Site-to-Site VPN), Remote Access
오버헤드	적음	큼 (새 헤더)

• SA(Security Association): 단방향 논리 연결, SPI + 대상 IP + 프로토콜로 식별
• IKE(UDP 500): 키 교환·SA 협상. 1단계(IKE SA) → 2단계(IPsec SA)

30회 2번 정답: (A) AH  (B) Sequence Number
⚠️ "무결성 + 송신처 인증, 암호화 안 함" = AH. 암호화가 필요하면 ESP.
⚠️ AH는 NAT 환경에서 쓸 수 없습니다. ESP는 NAT-T(UDP 4500)로 가능.

---

4. DoS / DDoS 원리 ⭐⭐⭐

분류	공격	핵심
로직(취약점) 공격	Land · Teardrop · Ping of Death	헤더·단편 조작
플러딩 공격	SYN · UDP · ICMP Flood	대량 패킷
애플리케이션 DoS	HTTP GET Flood · Slowloris · Slow POST · Hulk	정상 연결 위장, 느린 전송
반사·증폭 DDoS	DNS · NTP · Memcached · SSDP	출발지 IP 위조 + 증폭

 

서술형 3종 (32회 15번: Land, Smurf, Teardrop 원리)

공격	원리	대응
Land	출발지 IP·Port = 목적지 IP·Port로 설정한 패킷 → 대상이 자기 자신에게 응답하는 루프로 자원 소모	출발지=목적지 패킷 차단, OS 패치
Smurf	출발지를 피해자 IP로 위조한 ICMP Echo Request를 브로드캐스트 주소로 전송 → 네트워크 내 모든 호스트가 피해자에게 Echo Reply → 증폭	라우터 no ip directed-broadcast, 호스트 icmp_echo_ignore_broadcasts=1, ICMP 브로드캐스트 차단 (UDP 버전 = Fraggle)
Teardrop	단편 Offset을 조작해 겹치게 → 재조합 시 오류·시스템 다운	패치, 비정상 단편 필터링
Ping of Death	최대 크기(65,535B) 초과 ICMP 단편 → 재조합 시 버퍼 오버플로	패치, 대형 ICMP 차단

Smurf 답안에는 "출발지 위조 + 브로드캐스트 + 응답 증폭" 세 요소를 모두 넣습니다.
`ping -n 100 -l 65500 172.16.0.3` = 대상에 페이로드 65,500바이트 ICMP Echo Request 100회 전송
                                  → Ping of Death 유형 (다수 단편 재조합 부하)

 

SYN Flooding

원리: 출발지 IP를 위조한 SYN 대량 전송 → 서버가 SYN+ACK 응답 후 ACK를 기다리며 백로그 큐 점유(SYN_RECV)
      → 큐가 가득 차 정상 연결 불가
탐지: netstat -an | grep SYN_RECV | wc -l  (같은 포트로 SYN_RECV 비정상 다수, 출발지 다양/위조)
대응: SYN Cookie (net.ipv4.tcp_syncookies=1)
      백로그 큐 확대 (tcp_max_syn_backlog), 대기 시간 단축 (tcp_synack_retries 감소)
      iptables 임계치 (-m limit, -m connlimit), 방화벽·IPS·Anti-DDoS의 SYN Proxy
      Ingress 필터링

⚠️ SYN Cookie는 연결 정보를 SYN+ACK의 시퀀스 번호에 암호화 인코딩하고 큐에 저장하지 않아,
   최종 ACK가 와야만 연결이 수립됩니다.

 

반사·증폭 DDoS (DRDoS) — 27회 18번 NTP

정의: 피해자 IP로 출발지를 위조한 요청을 다수의 반사 서버에 보내고, 서버가 증폭된 응답을 피해자에게 보내는 공격.

공격자가 직접 노출되지 않습니다.

서비스	포트	증폭 요청
DNS	UDP 53	ANY 질의
NTP	UDP 123	monlist
Memcached	UDP 11211	stats 등 (최대 약 51,000배)
SSDP	UDP 1900	M-SEARCH

NTP 증폭 DDoS 대응 4가지 (27회 18번 해설)
① monlist 비활성화·접근 제한 (ntp.conf: restrict default noquery 등)
② NTP 최신 버전 업그레이드
③ 출발지 IP 스푸핑 필터링 (BCP 38, Ingress/Egress Filtering)
④ 응답 속도 제한(Rate Limiting) + 방화벽 ACL (외부에서 UDP 123 접근 차단)

 

DNS는 재귀 질의 제한·RRL(응답 속도 제한)·ANY 질의 제한, Memcached는 UDP 비활성화(-U 0)가 대응의 핵심입니다.

 

HTTP Flood / Slow HTTP

공격	방식	대응
공격	방식	대응
HTTP GET Flooding	정상 연결 후 GET을 대량 반복 (IP 위조 어려워 SYN 방어로는 못 막음)	IP당 요청 임계치, JS 챌린지·302 리다이렉트·CAPTCHA, WAF
Slowloris	HTTP 헤더를 완성하지 않고 느리게 전송, 연결 유지	연결 타임아웃 단축, IP당 동시 연결 제한
Slow POST	Content-Length를 크게 지정하고 Body를 아주 천천히 전송	LimitRequestBody, 요청 타임아웃
Slow Read	응답을 아주 느리게 수신 (TCP 윈도우 축소)	타임아웃, 리버스 프록시·WAF

23회 16번 유형: 1초에 1000번 이상 "GET /test.jsp ... Cache-control: max-age=0" 패킷
              → Cache-Control 헤더로 캐시를 우회해 서버에 부하를 주는 HTTP GET Flooding(Cache Control Attack)

---

5. 무선랜 보안 ⭐⭐

구분	암호화	특징
WEP	RC4(스트림)	40/104bit 키 + 24bit IV, IV가 짧아 재사용·키스트림 노출, CRC-32 무결성 → 사용 금지
WPA	RC4 + TKIP	48bit IV, 패킷별 키, MIC. WEP 호환 하드웨어
WPA2	AES-CCMP (802.11i)	현재 표준. PSK / Enterprise(802.1X + EAP)
WPA3	AES + SAE	오프라인 사전 공격 방어

• 무선 접속 방식: CSMA/CA (유선은 CSMA/CD)
• SSID 은닉 · MAC 필터링은 접근 통제 보조일 뿐 (스니핑으로 우회 가능)
• WPA 크래킹 절차: airodump-ng(AP·클라이언트 수집) → aireplay-ng(Deauth로 4-way handshake 유도) → aircrack-ng(캡처한 handshake에 사전 대입)

⚠️ 암호 알고리즘으로 구분: WEP = RC4 / WPA = RC4 + TKIP / WPA2 = AES-CCMP
⚠️ 올바른 약어는 SSID (Service Set ID). SDR이 아닙니다.

---

단답 키워드 표 ⭐⭐⭐

질문	답
TCP 플래그 6개	URG · ACK · PSH · RST · SYN · FIN
3-Way Handshake 순서	SYN → SYN+ACK → ACK
무결성 + 송신자 인증, 암호화 없음	AH
기밀성(암호화) 제공 IPsec 프로토콜	ESP
AH 헤더의 재생 공격 방지 필드	Sequence Number
IPsec 호스트 간 / 게이트웨이 간 모드	전송 모드 / 터널 모드
IKE 사용 포트	UDP 500
서버 메모리 64KB 유출 TLS 취약점	Heartbleed
SYN Flooding 대응 대표 기법	SYN Cookie
출발지=목적지 IP 공격	Land Attack
브로드캐스트 + 출발지 위조 + 증폭	Smurf
Offset 조작 단편 중첩	Teardrop
NTP 증폭에 악용되는 명령	monlist
DNS 증폭 질의 유형	ANY
WPA2 암호화	AES-CCMP
무선 충돌 회피 방식	CSMA/CA

---

서술형 답안 구조 ⭐⭐⭐

SSL/TLS 핸드셰이크

정의: 전송~응용 계층 사이에서 기밀성·무결성·인증을 제공하는 프로토콜
절차: Client Hello → Server Hello + 인증서 → Premaster(서버 공개키로 암호화) → 세션키 생성 → Finished
핵심: 비대칭키는 세션키 교환·서버 인증, 대칭키는 이후 데이터 암호화(속도)

 

IPsec VPN

정의: 네트워크 계층에서 IP 패킷을 암호화·인증하는 VPN (기밀성·무결성·송신처 인증·재전송 방지)
모드: 전송(페이로드만, Host-to-Host) / 터널(패킷 전체 + 새 IP 헤더, Gateway-to-Gateway)
구성: AH(무결성·인증) / ESP(암호화) / IKE(키 교환, UDP 500)

 

DoS 공격 (Land/Smurf/Teardrop)

공격마다: 원리(어떤 필드/패킷을 조작) → 결과(자원 고갈·재조합 오류) → 대응(차단·패치)

---

⚠️ 함정 모음

⚠️ AH는 암호화 안 함(무결성·인증), ESP가 암호화. AH는 NAT 불가
⚠️ ACK 번호 = 받은 seq + 데이터 길이 (SYN/FIN은 1바이트로 계산)
⚠️ TLS 서술: 비대칭(키 교환·인증)과 대칭(데이터 암호화)을 둘 다 써야 만점
⚠️ SYN Flood와 HTTP GET Flood는 다름 (GET Flood는 정상 연결 후 공격이라 SYN 방어로 못 막음)
⚠️ Smurf = ICMP 브로드캐스트 / Fraggle = UDP 버전
⚠️ 열린 포트 무응답/닫힌 포트 RST는 FIN·Xmas·NULL 스캔 (08편에서)
⚠️ WEP = RC4(24bit IV), WPA = TKIP, WPA2 = AES-CCMP

---

기출 Q&A

Q. (32회 7번) 2014년 발견된 OpenSSL의 결함(CVE-2014-0160)으로, TLS/DTLS 확장 기능의 입력값 검증 누락 때문에 서버 메모리가 유출되는 취약점은?

A. Heartbleed(하트블리드)

 

Q. (30회 2번) IPsec의 ( A ) 헤더는 Next Header, Payload Length, SPI가 있고, 재생 공격 방지를 위해 ( B ) Authentication Data를 제공한다. 무결성 검사와 송신처 인증을 제공한다.

A. (A) AH (B) Sequence Number

 

Q. (28회 13번) IPsec VPN의 정의와 동작 모드 두 가지를 서술하시오.

A. 네트워크 계층에서 IP 패킷을 암호화·인증하는 VPN. 전송 모드(페이로드만, 호스트 간) / 터널 모드(패킷 전체 + 새 IP 헤더, 게이트웨이 간)

---

💡 실무에서는?

20년 인프라/보안 SI 경험에서 IPsec은 사이트 간 VPN을 구축할 때 거의 항상 만납니다.

장비 간 설정이 맞지 않아 터널이 안 올라오는 경우의 대부분이 IKE 1단계(암호화·해시·DH 그룹·수명) 불일치이고, NAT 뒤에 있는 장비는 NAT-T(UDP 4500)가 열려 있는지부터 확인합니다.

 

TLS는 점검 시 ssllabs나 nmap --script ssl-enum-ciphers로 구버전 프로토콜이 열려 있는지 보는데, 이 편의 31회 17번이 바로 그 점검 결과를 읽는 문제예요.

 

DoS 대응은 서버 단독으로 막기 어렵고, 상단에 Anti-DDoS 장비나 클라우드 방어 서비스를 두는 구성이 일반적입니다.

---

핵심 정리

✅ TCP: 3-Way(SYN → SYN+ACK → ACK), 플래그 6개, ACK = 받은 seq + 데이터 길이
✅ UDP: 비연결형, 헤더 8바이트
✅ TLS: 비대칭(Premaster 교환·서버 인증) → 대칭(데이터 암호화), 취약점 Heartbleed·POODLE·다운그레이드
✅ IPsec: AH(무결성·인증, 암호화 X, NAT 불가) / ESP(암호화) / IKE(UDP 500)
✅ 모드: 전송(Host 간, 페이로드) / 터널(Gateway 간, 새 IP 헤더)
✅ DoS: Land · Smurf · Teardrop · Ping of Death · SYN Flood(SYN Cookie)
✅ DRDoS: 출발지 위조 + 증폭, DNS(ANY)·NTP(monlist)·Memcached·SSDP, 대응 BCP38·Rate Limiting
✅ 무선: WEP(RC4) < WPA(TKIP) < WPA2(AES-CCMP) < WPA3(SAE)

 

📌 참고: 2027년 출제기준 개편에서 실기 1-2에 클라우드 네트워크(VPC, Security Group 등)가 추가됩니다.

이번 11/14 시험은 현행 기준이에요.

 

다음 편에서는 서비스 보안 (FTP·메일·DNS·DB·파일서버)로 이어갑니다!

 

궁금한 점은 댓글로 남겨주세요!

 

2026.10.27 - [자격증 정복/정보보안(산업)기사] - 정보보안기사 실기 재도전 01 — 소개·재도전 전략·출제 맵 (46점에서 합격으로)

정보보안기사 실기 재도전 01 — 소개·재도전 전략·출제 맵 (46점에서 합격으로)

2026.11.02 - [자격증 정복/정보보안(산업)기사] - 정보보안기사 실기 재도전 04 — 프로토콜 ① 계층·PDU 헤더, IP·ARP·RARP·ICMP·라우팅

정보보안기사 실기 재도전 04 — 프로토콜 ① 계층·PDU 헤더, IP·ARP·RARP·ICMP·라우팅