Oracle ORA-12638 오류 원인과 해결 방법 완벽 가이드

ORA-12638
2026년 09월 15일 | DBMS Error 가이드

이 글에서 다루는 내용

ORA-12638 에러의 원인 분석, 해결 SQL, 예방 방법을 실무 관점에서 정리합니다.

ORA-12638 Credential retrieval failed 는?

ORA-12638 에러는 Oracle 클라이언트가 서버에 연결을 시도할 때 인증 자격 증명(Credential)을 가져오는 데 실패했을 때 발생하는 에러입니다. 주로 Oracle Net Services(SQL*Net)의 인증 관련 설정이 클라이언트와 서버 간에 불일치하거나, 운영체제 인증 방식과 Oracle 인증 방식 사이의 충돌이 발생할 때 나타납니다. 특히 Windows 환경에서 Oracle Advanced Security 또는 NTS(Native OS Authentication) 설정과 관련하여 빈번하게 발생하며, sqlnet.ora 파일의 잘못된 구성이 주요 원인이 됩니다.

주요 발생 원인

1. sqlnet.ora 파일의 SQLNET.AUTHENTICATION_SERVICES 설정 오류

가장 흔한 원인으로, sqlnet.ora 파일에 설정된 인증 서비스 값이 현재 환경과 맞지 않을 때 발생합니다. 예를 들어 Windows 환경에서 SQLNET.AUTHENTICATION_SERVICES=(NTS) 설정이 있는데 해당 Windows 도메인 인증을 정상적으로 처리할 수 없는 상황이면 이 에러가 발생합니다. 또한 Linux/Unix 환경에서 NTS를 지정하거나, 인증 서비스를 잘못된 값으로 설정한 경우에도 동일한 에러가 발생합니다.

2. Oracle Advanced Security 옵션의 설정 불일치

Oracle Advanced Security(OAS)가 설치되어 있거나, Kerberos, RADIUS, PKI 등의 외부 인증 방식을 사용하는 환경에서 클라이언트와 서버의 설정이 맞지 않을 때 발생합니다. 서버 측에서는 특정 인증 방식을 요구하는데 클라이언트가 해당 자격 증명을 제공하지 못하는 경우, 또는 인증 플러그인이 올바르게 설치되지 않은 경우에 나타납니다. 이 경우는 단순한 설정 파일 수정보다 더 복잡한 환경 점검이 필요합니다.

3. 운영체제 사용자 권한 및 Oracle 홈 디렉토리 권한 문제

Oracle 프로세스가 OS 레벨에서 인증 관련 파일이나 라이브러리에 접근하지 못할 때 발생합니다. 특히 $ORACLE_HOME/network/admin 디렉토리나 wallet 관련 디렉토리의 파일 권한이 잘못 설정되어 있는 경우, 또는 Oracle 서비스 계정이 필요한 권한을 갖추지 못한 경우에 이 에러가 발생합니다. Windows 환경에서는 서비스 계정의 “로컬 로그온 허용” 또는 도메인 인증 권한이 없을 때도 나타납니다.

해결 방법

해결책 1: sqlnet.ora 파일 수정

가장 빠르고 효과적인 해결 방법은 sqlnet.ora 파일에서 인증 서비스 설정을 확인하고 수정하는 것입니다.

현재 설정 확인 (SQL*Plus에서 연결 테스트 전):

-- sqlnet.ora 파일 위치 확인을 위한 쿼리
-- 서버에서 실행
SELECT name, value 
FROM v$parameter 
WHERE name IN ('os_authent_prefix', 'remote_os_authent')
ORDER BY name;

sqlnet.ora 파일 수정 예시:

Linux/Unix 환경에서는 NTS 제거:

# 수정 전 (문제 발생)
SQLNET.AUTHENTICATION_SERVICES=(NTS)

# 수정 후 (Linux/Unix 권장)
SQLNET.AUTHENTICATION_SERVICES=(NONE)
# 또는 OS 인증이 필요한 경우
SQLNET.AUTHENTICATION_SERVICES=(ALL)

Windows 환경에서 NTS 인증 문제 해결:

# Windows 환경에서 도메인 인증 없이 일반 Oracle 인증 사용 시
SQLNET.AUTHENTICATION_SERVICES=(NONE)
# NTS가 필요한 경우 명시적으로 설정
SQLNET.AUTHENTICATION_SERVICES=(NTS)

설정 변경 후 Oracle Listener 재시작이 필요합니다:

-- 리스너 재시작 후 연결 테스트
-- 클라이언트에서 실행
CONNECT sys/password@ORCL AS SYSDBA;

-- 현재 세션 인증 방식 확인
SELECT sys_context('USERENV','AUTHENTICATION_TYPE') AS auth_type,
       sys_context('USERENV','AUTHENTICATED_IDENTITY') AS identity,
       sys_context('USERENV','OS_USER') AS os_user
FROM dual;

해결책 2: Oracle Wallet 및 인증 설정 점검

Oracle Wallet이 사용되는 환경에서는 wallet 설정을 점검합니다:

-- Wallet 상태 확인
SELECT wrl_type, wrl_parameter, status, wallet_type
FROM v$encryption_wallet;

-- 자동 로그인 wallet 설정 확인
SELECT * FROM v$wallet;

-- External Password Store 설정 확인 (mkstore 대신 SQL로 확인)
SELECT username, db_link, host
FROM sys.link$
WHERE autologin = 'Y';

sqlnet.ora에 Wallet 경로 명시:

# Wallet을 사용하는 경우 sqlnet.ora 설정
WALLET_LOCATION =
  (SOURCE =
    (METHOD = FILE)
    (METHOD_DATA =
      (DIRECTORY = /oracle/wallet)))
SQLNET.WALLET_OVERRIDE = TRUE
SQLNET.AUTHENTICATION_SERVICES = (NONE)

해결책 3: OS 레벨 권한 및 환경 점검

-- Oracle 사용자의 외부 인증 설정 확인
SELECT username, password, external_name, authentication_type
FROM dba_users
WHERE username = 'YOUR_USERNAME';

-- OS 인증 사용자 확인 (external_name이 있는 계정)
SELECT username, external_name, authentication_type
FROM dba_users
WHERE authentication_type = 'EXTERNAL'
ORDER BY username;

-- OS 인증 prefix 확인
SELECT name, value 
FROM v$parameter 
WHERE name = 'os_authent_prefix';

-- OS 인증 사용자 생성 예시 (필요 시)
-- Windows 환경: domain\username 형식
CREATE USER "OPS$DOMAIN\\ORACLE_USER" 
IDENTIFIED EXTERNALLY;

GRANT CREATE SESSION TO "OPS$DOMAIN\\ORACLE_USER";

해결책 4: 연결 진단 쿼리

에러 발생 시 상세 진단을 위한 쿼리:

-- 현재 접속된 세션의 인증 정보 확인
SELECT sid, serial#, username, schemaname, 
       osuser, machine, terminal,
       authentication_type
FROM v$session
WHERE username IS NOT NULL
ORDER BY logon_time DESC;

-- Alert 로그에서 ORA-12638 관련 에러 이력 확인 (Oracle 11g 이상)
SELECT originating_timestamp, message_text
FROM v$diag_alert_ext
WHERE message_text LIKE '%ORA-12638%'
ORDER BY originating_timestamp DESC
FETCH FIRST 20 ROWS ONLY;

-- sqlnet 로그 레벨 설정 (디버깅용)
-- sqlnet.ora에 추가
-- TRACE_LEVEL_CLIENT = SUPPORT
-- TRACE_FILE_CLIENT = sqlnet_trace
-- DIAG_ADR_ENABLED = OFF

예방 방법

1. 표준화된 sqlnet.ora 템플릿 관리 및 형상 관리

모든 클라이언트와 서버 환경에서 동일하고 검증된 sqlnet.ora 설정 파일을 사용하도록 표준화하고, 이를 Git 등의 형상 관리 도구로 관리해야 합니다. 변경 시에는 반드시 검토 프로세스를 거치고, 개발/테스트 환경에서 먼저 검증한 후 운영 환경에 적용하는 절차를 수립하세요. 정기적으로 (최소 분기 1회) 클라이언트와 서버의 sqlnet.ora 설정 일관성을 점검하는 체크리스트를 운영하는 것을 권장합니다.

2. 인증 관련 모니터링 및 알림 체계 구축

Oracle Enterprise Manager 또는 커스텀 스크립트를 활용하여 ORA-12638을 포함한 인증 관련 에러를 실시간으로 모니터링하고 알림을 받을 수 있는 체계를 구축하세요. Alert 로그와 sqlnet 로그를 주기적으로 분석하여 에러 패턴을 파악하고, 인증 실패가 급증할 경우 즉시 대응할 수 있도록 Runbook(운영 절차서)을 미리 준비해 두어야 합니다.

-- 인증 실패 모니터링을 위한 감사 설정
AUDIT CREATE SESSION WHENEVER NOT SUCCESSFUL;

-- 감사 로그 확인
SELECT username, userhost, terminal, 
       timestamp, returncode, comment$text
FROM dba_audit_session
WHERE returncode = 12638
ORDER BY timestamp DESC;