- 공유 링크 만들기
- X
- 이메일
- 기타 앱
이 글의 목적은 Windows Installer에서 발생하는 오류 코드 1603(“A fatal error occurred during installation”)의 주요 원인과 실무에서 바로 적용할 수 있는 단계별 해결 방법을 정리하여, 재설치·재부팅을 반복하지 않고 체계적으로 문제를 해결할 수 있도록 돕는 것이다.
1. Windows Installer 오류 1603이란 무엇인가
오류 코드 1603은 Microsoft Windows Installer(MSI) 기반 설치 과정에서 “치명적 오류가 발생하여 설치를 계속할 수 없다”는 의미의 일반 오류 코드이다. 설치 UI에는 보통 아래와 같은 메시지가 나타난다.
- Error 1603: A fatal error occurred during installation.
- 한글 환경에서는 “설치 중 치명적인 오류가 발생했습니다”와 유사한 메시지가 함께 표시되는 경우가 많다.
이 코드는 특정 한 가지 원인을 찍어 주지 않기 때문에, 단순 재부팅이나 재설치만 반복하면 시간만 낭비하게 되는 경우가 많다. 따라서 대표적인 원인을 패턴별로 나누어 점검하는 접근이 필요하다.
2. 오류 1603이 자주 발생하는 대표 원인
실무에서 자주 관찰되는 오류 1603의 원인은 다음과 같이 묶어서 이해할 수 있다.
2.1 이미 설치된 프로그램 위에 다시 설치하는 경우
- 동일한 제품이 이미 설치되어 있는데, 제거 또는 업그레이드 절차가 올바르게 처리되지 않은 상태에서 다시 설치를 시도하는 경우이다.
- 설치 관리자가 내부적으로 “이미 설치됨” 상태를 감지하면서 롤백을 수행하고 1603 코드를 반환하는 패턴이 많다.
- 특히 MSI 기반 제품에서, 이전 버전의 흔적이 레지스트리나 설치 정보에 남아 있을 때 자주 발생한다.
2.2 설치 경로 문제 (암호화·대체 드라이브·네트워크 경로)
- 설치 대상 폴더가 EFS(Encrypting File System)로 암호화되어 있거나, 압축·특수 권한이 설정된 경우이다.
- subst 명령으로 만든 가상 드라이브나 네트워크 공유 경로에 설치하려 할 때도 1603 오류가 발생할 수 있다.
- 일부 설치 프로그램은 로컬 고정 디스크(예: C:) 외의 경로에 설치할 때 권한·락 문제로 실패하는 경우가 있다.
2.3 SYSTEM/사용자 권한 부족
- Windows Installer 서비스는 내부적으로 SYSTEM 계정을 사용하여 파일을 복사하고 서비스를 등록하는 경우가 많다.
- 설치 대상 드라이브나 폴더에 SYSTEM 계정의 “Full Control(모든 권한)”이 없는 경우 1603 오류로 설치가 종료될 수 있다.
- 사용자가 로컬 관리자 그룹에 속해 있지 않거나, UAC 승인 없이 일반 권한으로 설치를 실행한 경우도 마찬가지 문제를 유발한다.
2.4 Windows Installer 자체 문제 및 임시 폴더 문제
- Windows Installer 서비스(msiserver) 자체가 비정상 상태이거나, 오래된 버전에서 업그레이드가 꼬인 경우이다.
- %TEMP% 또는 C:\Windows\Temp 폴더의 권한이 깨졌거나, 남아 있는 임시 파일 때문에 설치가 중단되는 경우가 있다.
- 디스크 여유 공간 부족, 잠겨 있는 파일(다른 프로세스가 사용하는 파일)도 동일 코드로 귀결될 수 있다.
2.5 백신·보안 프로그램 및 다른 설치 프로세스와의 충돌
- 실시간 감시형 백신, EDR, 샌드박스 솔루션이 MSI가 생성·복사하는 파일을 잠그거나 격리하는 경우이다.
- 동시에 두 개 이상의 설치 프로그램이 동작하거나, Windows Update가 백그라운드에서 업데이트를 진행 중인 경우에도 충돌로 1603이 발생할 수 있다.
2.6 Windows 업데이트·.NET Framework·Visual C++ 등 구성 요소 손상
- Windows 업데이트가 중간에 실패한 상태로 남아 있으면, 이후 MSI 기반 설치가 전반적으로 1603을 반환하는 사례가 보고되어 있다.
- .NET Framework, Visual C++ 재배포 패키지, 기타 런타임 구성 요소가 손상되었거나 일부 버전만 설치된 경우에도 오류가 발생할 수 있다.
2.7 설치 패키지 자체 손상 또는 Custom Action 실패
- 다운로드가 완전히 끝나지 않았거나, 네트워크 문제로 설치 파일이 손상된 경우이다.
- MSI 내부의 Custom Action(스크립트 실행, 서비스 등록, 추가 검증 로직 등)이 실패하면서 1603을 반환하는 사례가 많다.
3. 오류 1603 기본 점검 순서 (실무 체크리스트)
다음 순서를 위에서부터 차례대로 진행하면, 대부분의 1603 문제를 합리적인 시간 안에 해결할 수 있다.
- 설치하려는 프로그램이 이미 설치되어 있지 않은지 확인한다.
- PC를 한 번 완전히 재부팅한 뒤, 다른 설치나 Windows 업데이트가 동시에 동작하지 않는지 확인한다.
- 설치 파일을 관리자 권한으로 실행한다.
- 설치 경로를 로컬 디스크(예: C:\Program Files 또는 C:\Program Files (x86))로 지정한다.
- 디스크 여유 공간, TEMP 폴더 상태를 확인하고 정리한다.
- 백신·보안 프로그램의 실시간 감시를 잠시 중지한 뒤 다시 설치를 시도한다.
- 그래도 실패하면 MSI 로그를 생성하여 “Return value 3” 위치를 기준으로 원인을 분석한다.
4. 단계별 해결 방법
4.1 기존 버전 완전 제거 후 재설치
먼저 설치 대상 프로그램이 이미 일부 설치되어 있는지 확인한다.
- Windows 10/11에서는 설정 > 앱 > 앱 및 기능에서 해당 프로그램을 찾는다.
- 제어판의 프로그램 및 기능에도 남아 있을 수 있으므로 두 곳 모두 확인한다.
프로그램이 목록에 있다면 다음과 같이 처리한다.
- 해당 항목을 선택하고 제거를 실행한다.
- 제거 후 재부팅한다.
- 재부팅 후에도 설치 폴더(예: C:\Program Files\제품명)가 남아 있다면, 중요 데이터(설정·저장 파일)를 백업한 뒤 폴더를 삭제한다.
- 레지스트리 정리 유틸리티를 사용하고 싶다면, 반드시 백업 후 신뢰할 수 있는 도구만 사용하는 것이 안전하다.
- 공식 사이트나 신뢰 가능한 경로에서 설치 파일을 다시 내려받아 설치를 시도한다.
4.2 설치 경로와 권한 점검 (SYSTEM 계정 Full Control 부여)
Microsoft 공식 문서에서는 설치 대상 드라이브에 SYSTEM 계정의 전체 제어 권한이 없는 경우 1603이 발생할 수 있다고 안내한다.
설치 드라이브(보통 C:)의 권한을 점검하는 절차는 다음과 같다.
- 파일 탐색기에서 C: 드라이브를 마우스 오른쪽 버튼으로 클릭하고 속성을 연다.
- 보안 탭에서 그룹 또는 사용자 이름 목록에 SYSTEM 계정이 있는지 확인한다.
- 없다면 편집 > 추가를 클릭하고 “SYSTEM”을 입력한 뒤 이름 확인을 누르고 추가한다.
- SYSTEM을 선택한 뒤 권한 목록에서 모든 권한(Full Control)이 허용되어 있는지 확인하고, 허용되지 않았다면 허용으로 변경한다.
- 고급 버튼을 클릭하고, SYSTEM 항목을 수정해서 “이 폴더, 하위 폴더 및 파일”에 적용되도록 설정한다.
- 권한이 하위 폴더에 모두 적용될 때까지 기다린 후 설치를 다시 시도한다.
주의 : 기업 환경에서는 로컬 디스크 권한 정책이 그룹 정책으로 관리되는 경우가 있다. 이 경우 임의 변경이 보안 정책 위반이 될 수 있으므로 반드시 IT 관리자와 협의한 뒤 조정해야 한다.
4.3 Windows Installer 서비스 및 TEMP 폴더 정리
Windows Installer 서비스가 꼬여 있는 경우 다음 순서로 재시작해 본다.
- 명령 프롬프트(관리자)를 연다.
- 아래 명령을 순서대로 입력한다.
net stop msiserver net start msiserver 이후 TEMP 폴더를 정리한다.
- Win + R 을 눌러 실행 창을 열고 %TEMP%를 입력한다.
- 열린 폴더의 파일과 하위 폴더를 가능한 한 모두 삭제한다. 사용 중인 파일은 건너뛰면 된다.
- C:\Windows\Temp 폴더도 관리자 권한으로 열어 동일하게 정리한다.
- 디스크 정리 도구를 사용해 임시 파일, 시스템 오류 메모리 덤프 파일을 함께 정리하면 공간 확보에 도움이 된다.
4.4 Windows 업데이트·시스템 파일·런타임 구성 요소 복구
Windows 업데이트가 실패한 상태이거나 .NET Framework, Visual C++ 재배포 패키지가 손상된 경우에도 1603이 발생할 수 있다.
4.4.1 Windows 업데이트 재점검
- 설정 > Windows 업데이트로 이동한다.
- 보류 중인 업데이트가 있거나 설치 실패 항목이 있으면 먼저 해당 항목을 모두 설치 또는 다시 시도한다.
- 필요하다면 “문제 해결사”에서 Windows 업데이트 문제 해결을 실행한다.
4.4.2 시스템 파일 검사(SFC)와 DISM 복구
- 명령 프롬프트 또는 PowerShell을 관리자 권한으로 실행한다.
- 아래 명령을 순서대로 실행한다.
DISM /Online /Cleanup-Image /RestoreHealth sfc /scannow - DISM은 Windows 이미지 자체를 복구하고, SFC는 손상된 시스템 파일을 검사·교체한다.
- 두 명령을 모두 완료한 뒤 반드시 재부팅하고 설치를 다시 시도한다.
4.4.3 .NET Framework 및 Visual C++ 재배포 패키지 복구
- 설치하려는 프로그램이 요구하는 .NET Framework 버전과 Visual C++ 재배포 패키즈 버전을 확인한다.
- 설정 또는 제어판의 프로그램 목록에서 해당 항목을 선택해 “복구”가 있으면 복구를 먼저 시도한다.
- 복구가 없거나 실패하는 경우 Microsoft 공식 설치 파일을 내려받아 재설치한다.
주의 : .NET Framework 중 일부 버전은 Windows 구성 요소로 통합되어 있으며, 제어판이 아닌 “Windows 기능 켜기/끄기”에서만 관리할 수 있다. 이 경우 기능을 끄고 재부팅 후 다시 켜는 방식으로 재구성이 가능하다.
4.5 백신·보안 프로그램 및 기타 설치와의 충돌 해소
실시간 감시형 백신이나 EDR이 설치 파일을 잠그는 경우 1603이 발생할 수 있다.
- 백신의 실시간 감시를 일시적으로 중지한다.
- 가능하다면 설치 파일이 있는 폴더를 예외 경로로 잠시 등록한다.
- 동시에 실행 중인 다른 설치 프로그램이 있다면 모두 종료한다.
- Windows 업데이트가 진행 중인 경우 업데이트가 완전히 끝난 뒤 다시 시도한다.
주의 : 인터넷에서 받은 실행 파일을 백신을 끄고 실행하는 것은 항상 위험 요소가 있다. 반드시 신뢰할 수 있는 공식 사이트에서 내려받은 설치 파일만 이런 방식으로 예외 처리해야 한다.
4.6 MSI 로그를 활용한 “Return value 3” 원인 추적
단계별 조치를 모두 수행했는데도 1603 오류가 반복된다면, MSI 로그를 자세히 분석하여 정확한 실패 지점을 확인하는 것이 효과적이다. 전문 MSI 문서에서는 로그에서 “Return value 3” 문자열을 찾는 것이 기본 디버깅 방법이라고 설명한다.
4.6.1 MSI 상세 로그 생성 방법
- 설치 파일이 MSI 형태(예: setup.msi)라면, 관리자 권한 명령 프롬프트에서 다음과 같이 실행한다.
msiexec /i "C:\경로\setup.msi" /L*v "C:\temp\install.log" - /L*v 옵션은 모든 상세 로그를 기록하라는 의미이다.
- EXE 기반 설치인 경우에도 내부적으로 MSI를 호출하는 옵션이 제공되는 경우가 있으니, 공급사 문서를 참고한다.
4.6.2 로그에서 실패 지점 찾기
- 생성된 install.log 파일을 메모장 또는 로그 뷰어로 연다.
- “Return value 3”를 검색한다.
- 해당 줄의 위쪽 수십 줄을 읽어 보면, 어떤 Custom Action 또는 표준 작업이 실패했는지 확인할 수 있다.
- 특정 파일 복사 실패, 스크립트 실행 오류, 권한 오류 등 보다 구체적인 원인이 기록되어 있는 경우가 많다.
이 정보를 기반으로, 해당 파일·폴더·서비스에 대한 권한·잠김 상태를 추가로 점검하거나, 공급사 기술 지원에 로그 일부를 전달하여 보다 정확한 원인 분석을 요청할 수 있다.
5. 상황별 실무 대응 예시
5.1 특정 응용 프로그램만 1603 오류가 나는 경우
- 다른 프로그램 설치는 정상인데, 특정 제품만 지속적으로 1603을 반환한다면 다음 항목을 우선 확인한다.
- 해당 제품의 이전 버전이 완전히 제거되었는지 확인한다.
- 제품 고유의 “클린업 유틸리티”가 제공된다면 이를 활용하여 잔여 파일·레지스트리를 정리한다.
- 공급사에서 요구하는 정확한 .NET/Visual C++ 버전이 모두 설치되어 있는지 확인한다.
- MSI 로그를 생성해 Return value 3 주변을 분석하고, 필요하면 공급사 기술 지원에 로그를 전달한다.
5.2 드라이버·그래픽 패키지 설치 중 1603 오류
그래픽 드라이버나 메인보드 칩셋 드라이버 패키지 설치에서 1603이 발생하는 경우, 다음 사항이 자주 관찰된다.
- 기존 드라이버 잔여 파일과의 충돌
- 백신 또는 Windows 보안의 과도한 차단
- 필수 Windows 업데이트 또는 런타임 구성 요소 미설치
일반적인 대응 절차는 다음과 같다.
- 제조사에서 제공하는 공식 제거 도구(예: 특정 벤더의 클린업 유틸리티)를 사용해 기존 드라이버를 완전히 제거한다.
- Windows 업데이트를 모두 적용하고 재부팅한다.
- 필요 시 네트워크를 분리한 상태에서 백신 실시간 감시를 잠시 중지하고 설치를 다시 시도한다.
- 여전히 실패하면 로그를 확보해 제조사 지원에 문의한다.
5.3 .NET 기반 회계·업무 프로그램 설치 중 1603 오류
일부 회계·업무용 프로그램은 특정 버전의 .NET Framework와 라이선스 클라이언트 구성 요소에 강하게 의존한다. 이 경우 다음과 같은 접근이 효과적이다.
- 공급사가 안내한 “구성 요소 복구 도구”가 있다면 먼저 실행한다.
- 다른 관리자 계정으로 로그인하여 설치를 다시 시도해 본다.
- 해당 PC에 문제 있는 사용자 프로필만 손상된 경우, 다른 계정에서는 정상 설치되는 사례가 있다.
- 그래도 실패할 경우, .NET 기능을 끄고 재부팅 후 다시 켜는 방식으로 재구성한 뒤 설치를 재시도한다.
6. 오류 1603 예방을 위한 운영 팁
오류 1603은 사후 대응도 중요하지만, 평소 시스템을 정리·관리함으로써 상당 부분 예방할 수 있다.
- 정기적으로 Windows 업데이트를 적용하고, 실패한 업데이트가 없는지 확인한다.
- 여유 디스크 공간을 충분히 유지하고, 주기적으로 TEMP 폴더를 정리한다.
- 불필요한 설치·제거를 반복하지 말고, 소프트웨어 도입·배포 정책을 표준화한다.
- 기업 환경에서는 그룹 정책과 보안 솔루션의 설정을 문서화하여, 어떤 권한·폴더가 차단되는지 명확히 관리한다.
- 중요한 업무 시스템에서는 표준 이미지와 동일한 상태를 유지하고, 임의의 튜닝·최적화 도구 사용을 제한한다.
주의 : 시스템 파일, 레지스트리, 권한 구조를 과도하게 변경하는 “최적화” 도구는 단기적으로는 속도가 빨라진 것처럼 보이지만, 장기적으로는 설치·업데이트 오류를 대량으로 유발하는 경우가 많다. 업무용 PC에서는 검증되지 않은 튜닝 도구 사용을 피하는 것이 안전하다.
FAQ
“Error 1603: A fatal error occurred during installation”만 나오는데 무엇부터 확인해야 하는가?
가장 먼저 동일 프로그램이 이미 설치되어 있지 않은지 확인하고, 완전 제거 후 재부팅·재설치를 시도하는 것이 좋다. 그다음에는 설치 경로를 로컬 디스크 기본 경로(Program Files 계열)로 변경하고, 관리자 권한으로 설치를 실행한다. 이 단계로 해결되지 않으면 TEMP 폴더 정리, Windows Installer 서비스 재시작, Windows 업데이트 및 시스템 파일 검사(SFC/DISM)를 순서대로 진행한다. 마지막으로는 MSI 로그를 생성해 “Return value 3” 위치를 기준으로 원인을 분석하는 것이 효과적이다.
여러 번 재부팅하고 다시 설치해도 1603 오류가 계속된다. 운영체제를 재설치해야 하는가?
운영체제 재설치는 최후의 수단으로 두는 것이 좋다. 먼저 특정 프로그램에만 문제가 있는지, 모든 MSI 설치가 실패하는지 구분해야 한다. 특정 제품만 실패한다면 그 제품의 잔여 파일·레지스트리, 요구 구성 요소(.NET, Visual C++)를 집중적으로 점검하면 된다. 반대로 모든 MSI 설치가 실패한다면 Windows Installer, 시스템 파일, Windows 업데이트 상태에 더 큰 문제가 있을 가능성이 높으므로 SFC/DISM, 업데이트 복구를 충분히 시도한 뒤에 재설치를 고려해야 한다.
기업 환경에서만 1603 오류가 발생하고, 집에서는 정상 설치된다. 왜 이런가?
기업용 PC에는 일반적으로 그룹 정책, 보안 솔루션(백신, EDR, 애플리케이션 제어), 디스크 암호화, 폴더 리다이렉션 등의 추가 제약이 적용되어 있다. 이 과정에서 설치 대상 경로가 네트워크 경로나 암호화 볼륨으로 변경되거나, SYSTEM 계정 권한이 제한되는 설정이 함께 적용되면 1603 오류가 발생하기 쉽다. 이 경우 로컬 정책을 임의로 변경하기보다는, 해당 소프트웨어 설치를 전제로 한 예외 정책(폴더·프로세스 예외, 권한 조정 등)을 IT 부서에 공식 요청하는 것이 바람직하다.
MSI 로그에서 “Return value 3”이 여러 번 보인다. 어떤 부분을 기준으로 봐야 하는가?
설치 로그에는 여러 작업이 순차적으로 기록되므로, “Return value 3”이 여러 번 나타날 수 있다. 일반적으로는 설치가 실제로 중단된 지점 근처의 “Return value 3”을 보는 것이 중요하다. 로그의 마지막 부분부터 거꾸로 검색하여 가장 마지막에 나타난 “Return value 3” 주변 수십 줄을 집중적으로 분석하면, 어떤 Custom Action 또는 파일 작업이 최종적으로 실패했는지 파악하는 데 도움이 된다.