DNS 서버를 사용할 수 없음 오류 해결 방법 (윈도우 10/11)

이 글의 목적은 윈도우 10과 윈도우 11에서 자주 발생하는 “DNS 서버를 사용할 수 없음” 또는 “DNS 서버가 응답하지 않습니다” 오류의 원인을 체계적으로 정리하고, 실제 현장에서 바로 적용 가능한 단계별 해결 방법을 제공하는 것이다.

1. DNS 서버를 사용할 수 없음 오류 개요

DNS(Domain Name System)는 사람이 이해하기 쉬운 도메인 이름을 IP 주소로 바꾸어 주는 주소록 역할을 하는 시스템이다. 사용자가 브라우저 주소창에 사이트 주소를 입력하면, 컴퓨터는 먼저 DNS 서버에게 해당 도메인에 대응하는 IP 주소를 질의하고, 그 결과를 받아 실제 서버와 통신을 시작한다. 이 과정에서 DNS 응답이 제대로 돌아오지 않으면 윈도우에서는 “DNS 서버를 사용할 수 없음”, “DNS 서버가 응답하지 않습니다”, “The DNS server isn’t responding” 같은 메시지가 표시된다.

이 오류는 다음과 같은 다양한 원인으로 발생한다.

  • 인터넷 회선 문제, 공유기·모뎀 불안정 등 물리적 네트워크 장애이다.
  • ISP(통신사) 측 DNS 서버 장애 또는 과부하이다.
  • PC 자체의 네트워크 설정 오류, 잘못된 DNS 주소 설정, 손상된 DNS 캐시이다.
  • 구식 또는 손상된 네트워크 어댑터 드라이버이다.
  • 방화벽·백신·VPN·프록시 프로그램이 DNS 요청을 차단하거나 우회하면서 충돌을 일으키는 경우이다.
  • 브라우저 캐시, 맬웨어 감염, 특정 웹사이트 문제 등 애플리케이션 레벨 문제이다.

따라서 단일한 만능 해결책은 존재하지 않고, 물리적인 회선 점검부터 윈도우 내부 설정까지 단계적으로 점검하는 방식으로 해결해야 한다.

2. 가장 먼저 해야 할 기본 점검

2-1. 다른 기기·다른 사이트로 증상 범위 확인

먼저 오류의 범위가 어디까지인지 확인해야 한다.

  • 같은 공유기에 연결된 스마트폰, 태블릿, 다른 PC에서도 동일하게 사이트 접속이 안 되는지 확인한다.
  • 특정 사이트만 안 되는지, 모든 사이트가 안 되는지 확인한다.
  • 가능하면 스마트폰 테더링(핫스팟)에 PC를 연결해 보면, 회선·공유기 문제와 PC 내부 문제를 빠르게 구분할 수 있다.

다른 기기에서도 동일 증상이면 통신사 회선이나 공유기·모뎀 문제일 가능성이 높다. 이 경우 PC 설정만 만져서는 해결되지 않는다.

2-2. 모뎀·공유기 전원 리셋

DNS 오류의 상당수는 공유기나 모뎀의 일시적인 오작동으로 발생한다. 다음 순서로 장비를 재시작한다.

  1. PC를 먼저 종료하거나, 최소한 인터넷 연결을 끊는다.
  2. 모뎀과 공유기의 전원 어댑터를 콘센트에서 뽑는다.
  3. 전원이 완전히 차단된 상태로 20~30초 정도 기다린다.
  4. 모뎀 전원을 먼저 다시 연결하고, 램프가 안정될 때까지 1~2분 기다린다.
  5. 그 다음 공유기 전원을 연결하고, 무선/WAN 램프가 정상적으로 깜빡이는지 확인한다.
  6. 마지막으로 PC를 켜고 인터넷 연결을 다시 시도한다.
주의 : 일부 통신사 장비는 전원을 자주 껐다 켜면 펌웨어 오류가 누적될 수 있으므로, 하루에 여러 번 반복하지 않는 것이 좋다.

2-3. 유선·무선 전환 및 케이블 점검

가능하다면 다음과 같이 물리적 연결을 바꾸어 본다.

  • 노트북이라면 와이파이 대신 LAN 케이블을 직접 연결하여 테스트한다.
  • 데스크톱이라면 다른 LAN 포트나 다른 케이블로 바꾸어 본다.
  • 스위치 허브를 사용 중이라면 허브를 우회해 공유기에 직접 연결해 본다.

물리적 연결만 바꾸어도 DNS 오류가 사라지면, 케이블이나 중간 장비 문제일 확률이 높다.

3. 윈도우 10/11 네트워크 문제 해결사 실행

윈도우에는 기본 네트워크 문제 해결사가 포함되어 있으며, 간단한 설정 오류는 자동으로 고쳐 주는 경우가 많다.

3-1. 윈도우 11에서 실행하기

  1. 작업표시줄 오른쪽 하단 네트워크 아이콘을 마우스 오른쪽 버튼으로 클릭한다.
  2. 메뉴에서 “네트워크 및 인터넷 설정 열기”를 선택한다.
  3. 설정 창 왼쪽에서 “상태” 또는 “네트워크 및 인터넷” 항목이 선택된 상태인지 확인한다.
  4. 오른쪽 “고급 네트워크 설정” 또는 “네트워크 문제 해결” 관련 링크를 찾아 “네트워크 문제 해결사 실행”을 클릭한다.
  5. 마법사 안내에 따라 “인터넷 연결” 문제를 선택하고 계속 진행한다.

3-2. 윈도우 10에서 실행하기

  1. 시작 메뉴 > 설정(톱니바퀴 아이콘)을 클릭한다.
  2. “네트워크 및 인터넷”을 선택한다.
  3. 왼쪽 메뉴에서 “상태”를 선택한 뒤, 오른쪽에 있는 “네트워크 문제 해결사” 버튼을 클릭한다.
  4. 안내에 따라 인터넷 연결 문제를 진단한다.

문제 해결사가 DNS 설정을 자동으로 복구하는 경우 오류 메시지가 사라질 수 있다. 다만, 근본적인 회선·장비 장애에는 한계가 있으므로 이후 단계도 함께 확인하는 것이 좋다.

4. 명령 프롬프트로 DNS 캐시 및 네트워크 설정 초기화

윈도우는 조회했던 도메인 정보를 로컬에 캐시로 저장한다. 캐시가 오래되거나 손상되면 실제로는 정상인 사이트도 접속되지 않을 수 있다. 또한 IP 설정이 꼬여 있으면 DNS 질의 자체가 제대로 나가지 않는다. 다음 명령으로 네트워크를 재설정한다.

4-1. 관리자 권한 명령 프롬프트 열기

  1. 윈도우 키를 누르고 검색창에 “cmd” 또는 “명령 프롬프트”를 입력한다.
  2. 검색 결과에서 “명령 프롬프트”를 마우스 오른쪽 버튼으로 클릭하고 “관리자 권한으로 실행”을 선택한다.
  3. UAC(사용자 계정 컨트롤) 창이 뜨면 “예”를 선택한다.

4-2. DNS 캐시 삭제 및 IP 갱신 명령

다음 명령을 순서대로 입력하고, 각 줄마다 Enter 키를 누른다.

ipconfig /flushdns ipconfig /release ipconfig /renew 
  • ipconfig /flushdns : 로컬 DNS 캐시를 초기화한다.
  • ipconfig /release : 현재 할당된 IP 주소를 반환한다.
  • ipconfig /renew : DHCP 서버로부터 새 IP 주소를 다시 할당받는다.

4-3. TCP/IP 스택 및 Winsock 초기화

다음 명령으로 윈도우 네트워크 스택 자체를 초기화할 수 있다.

netsh int ip reset netsh winsock reset 

명령 실행 후에는 반드시 PC를 재부팅해야 한다. 재부팅 뒤에도 동일한 DNS 오류가 발생하는지 확인한다.

주의 : 네트워크 스택 초기화 후에는 일부 VPN 클라이언트, 프록시 프로그램이 다시 설정을 요구할 수 있다. 업무용 PC라면 네트워크 관리자와 상의 후 진행하는 것이 안전하다.

5. DNS 서버 주소를 공용 DNS로 수동 설정하기

통신사 DNS 서버가 불안정하거나, 공유기가 잘못된 DNS 주소를 전달하는 경우가 있다. 이때 PC에서 직접 신뢰할 수 있는 공용 DNS 서버를 지정하면 문제를 우회할 수 있다.

5-1. 대표적인 공용 DNS 주소

서비스 프라이머리 DNS 세컨더리 DNS 특징
Google Public DNS 8.8.8.8 8.8.4.4 전 세계적으로 널리 사용되며 응답 속도가 안정적인 편이다.
Cloudflare DNS 1.1.1.1 1.0.0.1 개인 정보 보호와 빠른 응답 속도를 강조하는 서비스이다.
KT DNS 168.126.63.1 168.126.63.2 국내에서 많이 사용하는 통신사 DNS 서버이다.

5-2. 윈도우 11에서 DNS 수동 설정

  1. 작업표시줄 네트워크 아이콘을 마우스 오른쪽 버튼으로 클릭하고 “네트워크 및 인터넷 설정 열기”를 선택한다.
  2. 왼쪽 메뉴에서 “이더넷” 또는 “Wi-Fi”를 선택한다.
  3. 우측에서 사용 중인 네트워크를 클릭한다.
  4. “DNS 서버 할당” 항목 옆의 “편집” 버튼을 클릭한다.
  5. 설정을 “자동(DHCP)”에서 “수동”으로 변경한다.
  6. IPv4 스위치를 켜고 “우선 DNS”에 예를 들어 1.1.1.1, “보조 DNS”에 1.0.0.1을 입력한다.
  7. 저장을 클릭하고 창을 닫은 뒤, 브라우저를 다시 열어 접속을 테스트한다.

5-3. 윈도우 10에서 DNS 수동 설정

  1. 작업표시줄 네트워크 아이콘을 마우스 오른쪽 버튼으로 클릭하고 “네트워크 및 인터넷 설정 열기”를 선택한다.
  2. “어댑터 옵션 변경”을 클릭한다.
  3. 사용 중인 네트워크 어댑터(이더넷 또는 Wi-Fi)를 마우스 오른쪽 버튼으로 클릭하고 “속성”을 선택한다.
  4. 목록에서 “인터넷 프로토콜 버전 4(TCP/IPv4)”를 더블 클릭한다.
  5. “다음 DNS 서버 주소 사용”을 선택한다.
  6. “기본 설정 DNS 서버”와 “보조 DNS 서버”에 원하는 공용 DNS 주소를 입력한다.
  7. 확인을 눌러 모든 창을 닫고, 브라우저를 다시 실행해 테스트한다.
주의 : 회사/학교 등 관리형 네트워크에서는 임의로 공용 DNS로 변경하면 내부 시스템 접속에 문제가 생길 수 있다. 이 경우 반드시 네트워크 관리자와 상의한 뒤 변경해야 한다.

6. 네트워크 어댑터 드라이버 및 전원 관리 설정 점검

네트워크 카드 드라이버가 오래되었거나 손상되면 DNS 요청이 중간에 실패할 수 있다.

6-1. 장치 관리자에서 드라이버 재설치

  1. Win + R 키를 눌러 실행 창을 열고 devmgmt.msc를 입력한 뒤 Enter를 누른다.
  2. “장치 관리자”에서 “네트워크 어댑터” 항목을 펼친다.
  3. 인터넷에 사용 중인 어댑터(유선 LAN 또는 무선 LAN)를 마우스 오른쪽 버튼으로 클릭한다.
  4. “장치 제거”를 선택하고, 관련 소프트웨어 삭제 옵션이 있으면 체크한 뒤 확인한다.
  5. PC를 재부팅하면 윈도우가 기본 드라이버를 자동으로 재설치한다.
  6. 제조사 홈페이지에서 최신 드라이버를 받아 추가로 설치하면 안정성이 더 좋아질 수 있다.

6-2. 전원 관리 옵션 확인

노트북의 절전 모드 설정 때문에 네트워크 어댑터가 일정 시간 후 자동으로 꺼지면서 DNS 오류가 발생하는 경우가 있다.

  1. 장치 관리자에서 사용 중인 네트워크 어댑터를 더블 클릭한다.
  2. “전원 관리” 탭으로 이동한다.
  3. “전원을 절약하기 위해 이 장치를 끌 수 있음” 옵션 체크가 되어 있다면 체크를 해제한다.
  4. 확인을 클릭하여 저장한다.

7. 방화벽·백신·VPN·프록시 프로그램 점검

보안 프로그램이나 VPN, 프록시 설정이 DNS 트래픽을 가로채거나 차단하여 오류를 유발하는 사례도 많다.

  • 서드파티 방화벽 또는 인터넷 보안 제품을 잠시 비활성화한 뒤 DNS 오류가 사라지는지 확인한다.
  • VPN 사용 중이라면 일시적으로 연결을 끊고 테스트한다.
  • 브라우저의 프록시 설정(특히 회사에서 사용하던 PC를 가정에서 사용하는 경우)을 확인하여 불필요한 수동 프록시가 설정되어 있지 않은지 확인한다.
주의 : 방화벽과 백신을 끌 때에는 반드시 신뢰할 수 있는 네트워크 환경에서만 일시적으로 테스트하고, 확인이 끝나면 즉시 다시 활성화해야 한다.

8. nslookup으로 DNS 응답 상태 직접 확인

조금 더 기술적으로 문제를 확인하고 싶다면, nslookup 명령으로 특정 DNS 서버가 제대로 응답하는지 직접 테스트할 수 있다.

8-1. 기본 DNS 서버 테스트

  1. 관리자 권한이 아닌 일반 명령 프롬프트를 열어도 충분하다.
  2. 다음과 같이 입력한다.
nslookup www.microsoft.com 
  • “Server” 부분에 현재 사용 중인 DNS 서버 주소가 표시되고, “Address” 아래에 조회된 IP가 정상적으로 나타나면 응답이 정상인 것이다.
  • 타임아웃, 서버를 찾을 수 없음 등의 메시지가 반복되면 DNS 장애 가능성이 높다.

8-2. 특정 공용 DNS 서버 지정 테스트

특정 DNS 서버에 직접 질의해 볼 수도 있다.

nslookup www.microsoft.com 8.8.8.8 

공용 DNS 서버에서는 정상 응답이 오는데 기본 DNS 서버에서는 응답이 없다면, 통신사 또는 공유기 DNS 설정 문제가 더 의심된다.

9. 회사·공용망 환경에서 추가로 확인할 사항

회사, 학교, 관공서 등 관리형 네트워크에서는 다음 요소를 반드시 확인해야 한다.

  • 보안 정책상 특정 공용 DNS로의 직접 접속이 차단되어 있을 수 있다.
  • 프록시 서버 또는 웹 필터링 장비를 통해 모든 HTTP/HTTPS 트래픽이 우회되고 있을 수 있다.
  • 내부 도메인(예: 사내 그룹웨어, ERP 등) 조회를 위해 내부 전용 DNS 서버를 사용해야 할 수 있다.

이런 환경에서는 임의로 DNS를 변경했다가 인터넷 일부는 되지만 내부 시스템이 접속되지 않는 문제가 발생하기 쉽다. 오류가 반복된다면 네트워크 관리자에게 다음 정보를 정리해 전달하는 것이 좋다.

  • 오류가 발생하는 정확한 시간대, 빈도이다.
  • 오류 메시지의 원문(스크린샷 포함)이다.
  • 특정 사이트만 안 되는지, 전체 인터넷이 안 되는지 여부이다.
  • 집·모바일 핫스팟에서는 정상인지 여부이다.

10. 단계별 정리 및 실무 적용 팁

실제 현장에서는 문제를 한 번에 해결하려 하기보다, 다음과 같이 단계별로 접근하는 것이 효율적이다.

  1. 다른 기기·다른 네트워크에서 동일 증상이 있는지 확인하여 회선 문제인지 PC 문제인지 구분한다.
  2. 모뎀·공유기 전원 리셋과 케이블 교체 등 물리적 요소를 먼저 점검한다.
  3. 윈도우 네트워크 문제 해결사를 실행하여 간단한 설정 오류를 자동으로 바로잡는다.
  4. 명령 프롬프트로 DNS 캐시와 IP를 초기화하고, TCP/IP 스택과 Winsock을 재설정한다.
  5. 공용 DNS 서버를 수동 지정하여 통신사 DNS 문제를 우회하는지 확인한다.
  6. 네트워크 어댑터 드라이버 업데이트·재설치, 전원 관리 설정을 점검한다.
  7. 방화벽·백신·VPN·프록시 설정을 하나씩 비활성화·복원하면서 어떤 요소가 영향을 주는지 확인한다.
  8. 필요 시 nslookup으로 DNS 응답 상태를 직접 확인하고, 회사·공용망에서는 관리자와 협의한다.
주의 : 여러 단계를 한꺼번에 적용하면 어느 조치가 실제 효과가 있었는지 파악하기 어렵다. 가능하면 한 단계씩 적용하면서 증상 변화를 기록하는 습관을 들이는 것이 좋다.

FAQ

Q1. 가끔만 “DNS 서버를 사용할 수 없음”이 뜨고 새로 고침하면 접속되는 경우도 DNS 문제인가?

이 경우에도 DNS 문제일 수 있다. 특히 와이파이 신호가 약하거나, 공유기 부하가 큰 시간대에만 간헐적으로 발생한다면 DNS 질의가 간헐적으로 실패하는 상황일 수 있다. 우선 공유기 위치 조정, 채널 변경, 공용 DNS 설정 등을 적용해 보고, 증상이 계속되면 통신사 회선 점검을 요청하는 것이 좋다.

Q2. 공용 DNS로 바꾸면 속도나 보안에 문제가 생기지 않는가?

대부분의 공용 DNS 서비스는 속도와 안정성을 고려하여 설계되어 있어, 기본 통신사 DNS보다 빠른 경우도 많다. 다만 DNS 요청이 해당 서비스 사업자 측으로 전달되기 때문에, 방문 도메인 정보가 그 사업자 로그에 남을 수 있다는 점은 고려해야 한다. 회사·기관에서는 내부 정책을 우선해야 한다.

Q3. DNS 설정을 다시 자동으로 되돌리고 싶으면 어떻게 해야 하는가?

윈도우 10/11 모두 네트워크 어댑터 속성에서 “자동으로 DNS 서버 주소 받기” 또는 “자동(DHCP)”로 다시 설정하면 된다. 수동 DNS가 문제 원인인지 확인하기 위해서라도, 수동 설정과 자동 설정을 번갈아 적용해 보는 것이 점검에 도움이 된다.

Q4. 공유기에서만 DNS를 바꿔도 되는가, PC마다 설정해야 하는가?

공유기 관리 페이지에서 DNS 주소를 설정하면, 해당 공유기를 사용하는 모든 기기에 일괄 적용된다는 장점이 있다. 가정 환경처럼 단일 공유기를 쓰는 경우에는 공유기 한 곳만 바꾸는 방식이 관리가 편하다. 다만 공유기마다 설정 메뉴가 다르므로, 제조사 설명서를 참고하여 설정해야 한다.

Q5. 위 방법을 모두 시도해도 여전히 DNS 오류가 해결되지 않는다면?

모든 소프트웨어적 조치를 적용했는데도 문제가 지속된다면, 통신사 회선 문제나 공유기·모뎀 고장, 또는 랜카드 자체의 하드웨어 결함 가능성이 있다. 이 경우 통신사 고객센터에 회선 점검을 요청하고, 다른 공유기나 USB 랜카드로 교차 테스트하여 하드웨어 이상 여부를 확인하는 것이 좋다.

: