[리눅스 한 학기 살기 #12] nmap으로 포트 스캔하기: 동작 원리와 법적 주의사항
TL;DR (세 줄 요약)
nmap은 대상 컴퓨터에 패킷을 보내고 돌아오는 응답을 보고, 어떤 포트가 열려 있는지와 어떤 프로그램이 실행 중인지 알아내는 도구입니다.- TCP 포트는 SYN을 보냈을 때 SYN/ACK가 오면 열림, RST가 오면 닫힘, 응답이 없으면 필터링으로 판별합니다. UDP 포트는 ICMP port unreachable이 오면 닫힘, 응답이 없으면
open|filtered로 표시합니다.- 순서는 호스트 확인(
-sn) → 포트 스캔(-p) → 서비스 버전 확인(-sV) → 스크립트 실행(-sC)입니다. 내가 소유한 대상이나 서면으로 허가받은 대상만 스캔합니다. 허가 없는 스캔은 법적 책임이 따릅니다.
이 글은 "리눅스 한 학기 살기" 과제의 12주 차 기록입니다. 포트는 한 컴퓨터 안에서 어떤 프로그램으로 가는 연결인지 구분하는 번호이고, 패킷은 네트워크로 보내는 데이터 조각입니다. 포트 스캔은 여러 포트에 패킷을 보내 상태를 확인하는 일입니다.
1. nmap은 포트 상태를 어떻게 알아내나요?

서버에서는 포트마다 프로그램 하나가 연결을 기다립니다. 연결 요청이 오면 그 프로그램이 응답하고, 기다리는 프로그램이 없으면 운영체제가 거절합니다. nmap은 돌아온 응답 패킷으로 이 차이를 구분합니다.
TCP 연결은 세 단계로 맺어집니다. 접속하는 쪽이 SYN(연결 요청)을 보내고, 서버가 SYN/ACK(요청 수락)로 답하고, 접속하는 쪽이 ACK(확인)를 보냅니다. 서버가 연결을 거절할 때는 RST(연결 끊기)를 보냅니다.
| 상태 | 뜻 |
open | 그 포트에서 프로그램이 연결을 받고 있습니다. |
closed | 서버는 켜져 있지만 그 포트에서 기다리는 프로그램이 없습니다. |
filtered | 방화벽이 패킷을 버려서 응답이 없습니다. |
open|filtered | 응답이 없어서 열림과 차단을 구분할 수 없습니다. UDP에서 자주 나옵니다. |
2. 스캔 방식에는 어떤 것이 있나요?
방식마다 보내는 패킷이 다릅니다.
TCP Connect 스캔 (-sT)
운영체제의 connect() 함수를 그대로 호출해서 3단계 연결을 끝까지 맺습니다. 일반 사용자 권한으로도 실행할 수 있고 결과가 정확합니다. 대신 연결이 실제로 맺어지므로 대상 서버의 로그에 남고, 연결을 모두 만들고 닫아야 해서 느립니다.
TCP SYN 스캔 (-sS)
SYN만 보내고, SYN/ACK가 오면 ACK를 보내지 않고 RST로 끊습니다. 연결이 완성되지 않으므로 응용 프로그램의 로그에는 남지 않고, 보내는 패킷 수가 적어서 빠릅니다. 대신 패킷을 직접 만들어 보내야(raw 패킷) 하므로 관리자(root) 권한이 필요합니다.
UDP 스캔 (-sU)
UDP는 연결을 맺는 절차가 없는 통신 방식이라서 응답이 오지 않는 경우가 많습니다. ICMP port unreachable이 오면 닫힘이고, 아무 응답이 없으면 open|filtered입니다. ICMP는 네트워크 기기들이 오류나 상태를 알리는 데 쓰는 규칙입니다. 다시 보내고 기다리는 과정이 필요해서, 전체 포트를 스캔하면 매우 오래 걸립니다.
핑 스캔 (-sn)
포트는 보지 않고 켜져 있는 호스트만 찾습니다. 호스트는 네트워크에 연결된 컴퓨터입니다. 같은 서브넷(같은 공유기 아래처럼 직접 통신할 수 있는 범위)에서는 ARP 요청을 쓰기 때문에 ICMP를 막아 둔 호스트도 찾을 수 있습니다. ARP는 IP 주소로 기기의 MAC 주소를 알아내는 규칙입니다. 원격 네트워크에서는 ICMP 에코, TCP 443번 SYN, TCP 80번 ACK 등을 함께 씁니다.
3. 명령어는 어떻게 쓰고 어떤 옵션이 있나요?
nmap [스캔방식] [옵션] 대상
| 옵션 | 뜻 |
-p 80, -p 22,80,443, -p 1-1023, -p- | 스캔할 포트를 지정합니다. -p-는 전체 65535개입니다. 지정하지 않으면 자주 쓰이는 상위 1000개 포트를 봅니다. |
-sV | 각 포트에서 실행 중인 서비스의 이름과 버전을 추정합니다. |
-O | 운영체제를 추정합니다. 운영체제마다 TCP를 처리하는 세부 동작이 다른 점을 비교합니다. |
-sC | default 카테고리의 NSE 스크립트를 실행합니다. |
-A | -sV -O -sC --traceroute를 한 번에 실행합니다. |
-Pn | 호스트가 켜져 있는지 확인하지 않고 모두 켜져 있다고 가정합니다. |
-T0~-T5 | 속도(타이밍)입니다. 기본은 -T3이고 실무에서는 -T4를 많이 씁니다. |
-oN / -oX / -oA | 결과를 텍스트 / XML / 모든 형식으로 저장합니다. |
# 1) 살아 있는 호스트 찾기
nmap -sn 192.168.0.0/24
# 2) 열린 포트 보기
sudo nmap -sS -p- -T4 192.168.0.10
# 3) 서비스 버전과 기본 스크립트까지
sudo nmap -sS -sV -sC -T4 192.168.0.10
# 4) 특정 포트만 여러 대 점검
nmap -p 22 192.168.0.0/24
위 예는 내부 네트워크에서 쓰는 순서입니다. 먼저 켜져 있는 호스트를 찾고, 한 호스트의 열린 포트를 모두 확인하고, 서비스 버전과 기본 스크립트 결과를 봅니다. 마지막 줄은 여러 호스트의 22번 포트만 확인합니다.
4. NSE 스크립트는 무엇인가요?
NSE(Nmap Scripting Engine)는 nmap에 600개 이상 들어 있는 검사 스크립트 묶음입니다. 스크립트는 Lua라는 프로그래밍 언어로 쓰여 있습니다. 포트가 열렸다는 사실에 더해, 그 서비스의 설정과 알려진 취약점(보안상 약한 부분)까지 확인합니다. 스크립트는 목적에 따라 카테고리로 나뉩니다.
| 카테고리 | 내용 |
| safe | 대상에 부담을 주지 않는 정보 수집 |
| default | -sC로 실행되는 기본 묶음 |
| discovery | 호스트와 서비스를 더 찾아냄 |
| vuln | 알려진 취약점 검사 |
| intrusive, dos, exploit | 대상에 부하나 피해를 줄 수 있습니다. 허가된 실습 환경에서만 씁니다. |
nmap -p 445 --script=smb-vuln-ms17-010 192.168.0.15
nmap -p 80,443 --script=http-title,http-headers 192.168.0.20
nmap --script=vuln 192.168.0.10
5. 출력은 어떻게 읽나요?
Not shown: 997 closed ports: 나머지 997개 포트는 닫혀 있어서 표시를 생략했다는 뜻입니다.PORT STATE SERVICE VERSION표: 포트 번호, 상태, 서비스 이름, 버전입니다.|로 시작하는 줄: NSE 스크립트의 결과입니다. 마지막 줄은|_로 시작합니다.MAC Address줄: 대상이 같은 로컬 네트워크에 있을 때만 보입니다.OS details,Network Distance: 운영체제 추정 결과와 홉 수입니다. 홉 수는 대상까지 거쳐 가는 네트워크 장비의 수입니다.
결과는 파일로 남깁니다. -oX로 XML을 저장해 두면 ndiff로 이전 결과와 비교해서 새로 열린 포트만 골라낼 수 있습니다.
sudo nmap -sS -sV -oX today.xml 192.168.0.0/24
ndiff yesterday.xml today.xml | grep "^+"
6. 실습 환경은 어떻게 만드나요?
- 내 PC:
python3 -m http.server 8080으로 웹 서버를 실행해 두고nmap -p 8080 localhost로 스캔합니다. - 가상 머신: VirtualBox의 Host-Only 네트워크로 분리한 가상 머신 두 대를 씁니다. 이 네트워크는 외부 인터넷으로 나가지 않습니다.
- Docker: 연습용으로 만든 취약한 이미지를 실행하고
172.17.0.x주소를 스캔합니다. 컨테이너의 IP는docker inspect로 확인합니다.
설치는 배포판에 맞는 명령어로 합니다.
sudo apt install nmap # Debian/Ubuntu
sudo dnf install nmap # RHEL/Rocky/Fedora
sudo pacman -S nmap # Arch
nmap --version
raw 패킷이 필요한 스캔을 할 때 sudo로 전체 관리자 권한을 주는 대신, 필요한 권한(capabilities)만 nmap 실행 파일에 주는 방법도 있습니다.
sudo setcap cap_net_raw,cap_net_admin,cap_net_bind_service+eip /usr/bin/nmap
7. 법과 윤리 면에서 무엇을 지켜야 하나요?
- 내가 소유하지 않은 시스템을 허가 없이 스캔하면 법에 위반될 수 있습니다(정보통신망법).
- 허가받은 범위와 시간대를 문서로 정하고, 그 안에서만 실행합니다.
- 스캔 기록을 남깁니다. 나중에 문제가 생겼을 때 근거가 됩니다.
- intrusive, dos, exploit 카테고리는 실습 환경 밖에서 쓰지 않습니다.
자주 묻는 질문 (FAQ)
Q1. sudo 없이 실행하면 결과가 다른가요?
스캔 방식이 달라집니다. 일반 사용자는 TCP Connect 스캔(-sT)만 쓸 수 있습니다. 관리자(root)는 SYN 스캔(-sS), 운영체제 추정(-O), UDP 스캔(-sU)을 쓸 수 있습니다. 결과의 정확도는 비슷하지만 속도와 대상에 남는 기록이 다릅니다.
Q2. filtered로 나오면 포트가 닫힌 건가요?
아닙니다. 응답이 오지 않았다는 뜻입니다. 방화벽이 패킷을 버렸거나, 호스트가 응답을 막았거나, 중간 경로가 끊겼을 수 있습니다. -Pn이나 다른 스캔 방식을 쓰거나, 다른 출발지에서 다시 확인해야 판단할 수 있습니다.
Q3. 스캔이 너무 느립니다.
포트 범위와 타이밍을 조정합니다. -p- 대신 기본값인 상위 1000개나 필요한 포트만 지정하고, -T4를 쓰고, IP 주소로 도메인 이름을 찾는 DNS 역방향 조회를 끄는 -n을 붙입니다. UDP 스캔은 원래 느리므로 필요한 포트만 골라서 실행합니다.
참고 자료
같은 주제의 다른 글: [리눅스 한 학기 살기 #8] ca-certificates란? 사내 CA 인증서 추가 방법, [리눅스 한 학기 살기 #9] tldr로 리눅스 명령어 예제 찾기: man과의 차이, [리눅스 한 학기 살기 #10] tree 명령어로 디렉터리 구조 보기: 동작 순서와 옵션, [리눅스 한 학기 살기 #11] htop 사용법: top과의 차이, CPU·메모리 수치 읽기, [리눅스 한 학기 살기 #13] 12주 회고: 한 일, 오래 걸린 일, 다음에 이어서 할 일