OpenSSL, 취약점 14건 패치…'높음' 등급 DTLS 결함은 힙 메모리 노출 우려

오픈소스 암호화 라이브러리 OpenSSL 프로젝트가 29일(현지시간) 보안 권고를 내고 취약점 14건을 고친 새 버전을 배포했다. 위험도별로는 '높음(High)' 1건, '보통(Moderate)' 1건, '낮음(Low)' 12건이다. 지원 중인 4.0·3.6·3.5·3.4 계열 사용자는 각각 4.0.3, 3.6.5, 3.5.9, 3.4.8로 올려야 한다. 3.0·1.1.1·1.0.2 계열용 3.0.23, 1.1.1zj, 1.0.2zs는 유료 프리미엄 지원 고객에게만 제공된다.

DTLS 재전송 때 버퍼 밖까지 읽어

가장 심각한 취약점(CVE-2026-84782)은 UDP 기반 암호화 통신 규약인 DTLS의 핸드셰이크 재전송 과정에 있다. 전송 계층이 잠시 막혀 핸드셰이크 메시지 쓰기가 중간에 멈춘 사이 재전송 타이머가 작동하면, OpenSSL은 이전 메시지를 처음이 아니라 멈춘 쓰기의 위치부터 읽어 다시 보냈다. 이 때문에 할당된 버퍼 끝을 넘어 읽을 수 있었다.

권고문은 이 결함으로 힙 메모리 내용이 핸드셰이크 데이터 형태로 상대방에게 평문 노출되거나, 읽기가 매핑되지 않은 메모리에 닿으면 프로세스가 멈춰 서비스 거부가 일어날 수 있다고 설명했다. 4.0부터 1.0.2까지 7개 계열이 모두 영향을 받는다. 수정 코드는 재전송 전에 읽기 위치를 메시지 처음으로 되돌리고, 쓰기가 멈춰 있는 동안에는 재전송을 건너뛴다. 이 문제는 보안 연구자 로랑 가피(Laurent Gaffie)가 8월 17일 신고했다.

OpenSSL 보안 정책에서 '높음'은 '치명적(Critical)'보다 한 단계 낮은 등급이다. 정책은 덜 흔한 설정에만 영향을 주거나 프로토콜 클라이언트에만 해당하거나, 악용 가능성이 상대적으로 낮은 경우를 예로 든다.

4.0 전용 해제 후 사용 결함, QUIC 문제 5건

'보통' 등급(CVE-2026-84783)은 4.0 계열에만 있다. 여러 연결이 같은 신뢰 CA 인증서로 처음 인증서 체인을 동시에 만들면, 한 스레드가 쓰는 확장 정보 캐시를 다른 스레드가 해제하는 '해제 후 사용(use-after-free)' 문제가 생긴다. 인증받지 않은 원격 상대가 멀티스레드 TLS 클라이언트나 클라이언트 인증서를 요구하는 서버를 멈추게 할 수 있다.

'낮음' 12건 가운데 5건은 QUIC 구현의 서비스 거부·흐름 제어 결함이고, 타원곡선·SM2 연산의 시간차 부채널 문제가 3건이다. 4.0.3에는 AES-SIV 인증 실패 때 복호화 함수가 이전의 성공 결과를 잘못 돌려주던 버그와, 4.0에서 생긴 base64 인코딩 데이터 손실 문제 수정도 함께 들어갔다. 지원이 끝난 3.1·3.2·3.3 계열은 이번 분석 대상에서 빠졌다.

대표 이미지: AI 생성 이미지 / 데이마크

출처: OpenSSL Security Advisory [29th September 2026] — https://openssl-library.org/news/secadv/20260929.txt

출처: OpenSSL 4.0 NEWS.md (4.0.3 릴리스 노트) — https://github.com/openssl/openssl/blob/openssl-4.0/NEWS.md

출처: OpenSSL Security Policy — https://openssl-library.org/policies/general/security-policy/

출처: Linuxiac: OpenSSL 4.0.3 Released With High-Severity Security Fixes — https://linuxiac.com/openssl-4-0-3-released-with-high-severity-security-fixes/

출처: SecurityOnline: OpenSSL Patches 14 Vulnerabilities, Including High-Severity DTLS Memory Leak — https://securityonline.info/openssl-vulnerabilities-sept-2026/