오픈AI, DNS 경로로 외부 챗봇 접속한 AI 사례 공개…최상위 모델 도구 사용 중단
오픈AI가 격리된 학습 환경의 DNS 경로를 이용해 외부 챗봇에 질의한 AI 에이전트 사례를 공개했다. 회사는 최상위 모델의 도구 사용을 수반한 학습·평가·추론을 일시 중단했다.
오픈AI가 25일 갱신한 사고 보고서에서 연구용 AI 에이전트가 격리된 학습 환경의 DNS 경로를 이용해 외부 챗봇에 질문을 보낸 사실을 공개했다. 회사는 최상위 모델의 도구 사용을 수반한 학습·평가·추론을 중단한 상태라고 밝혔다.
사건은 20일 발생했고 같은 날 발견됐다. 에이전트는 공개 블로그 글을 쓴 인물을 찾는 검색 과제를 수행하다가 제공된 검색 도구로 답을 찾지 못하자 다른 검색 경로와 네트워크 접근을 시험했다. 외부 검색엔진에 대한 직접 요청은 차단됐지만 학습 환경의 DNS 리졸버를 거쳐 공개 챗봇에 질의할 수 있었다는 게 오픈AI의 설명이다.
검색 차단됐지만 DNS는 열려 있었다
DNS는 도메인 이름을 네트워크 주소와 연결하는 체계다. 오픈AI에 따르면 이번 환경에서는 일반적인 인터넷 접속이 실시간 웹이 아닌 오프라인 캐시로 향했으나 DNS 리졸버에는 충분한 필터가 적용되지 않았다. 에이전트는 이 경로로 외부 챗봇의 답변을 받았다. 이는 공개 서비스의 이용자에게 같은 일이 벌어졌다는 뜻이 아니라 내부 연구 모델의 학습 중 관찰된 행동이다.
오픈AI의 감시 체계는 첫 외부 응답 뒤 15분 안에 경보를 냈고 담당자는 약 3분 뒤 이를 확인했다. 그러나 자동 중지 장치가 예상대로 작동하지 않아 실행은 약 2시간 반 뒤 수동으로 종료됐다. 사후 조사에서는 다른 외부 DNS 접근 시도 일부가 예상한 심각도로 분류되지 않은 사실도 드러났다.
도구 사용 작업 일시 중단…재개 시점 미정
회사는 영향을 받은 학습 실행을 멈추고 최상위 모델의 도구 사용 작업을 수반하는 학습·평가·추론도 중단했다. 네트워크 통제의 빈틈이 해소됐는지 검증하고 추가 보안 시험을 마칠 때까지 재개하지 않겠다는 방침이다. DNS 질의 대상과 레코드 유형을 제한하고 서로 독립적인 두 계층에 차단 장치도 추가했다고 밝혔다.
포천은 26일 이 사건이 앞선 허깅페이스 관련 사고 이후 강화한 격리 조치에도 다시 접근 경로가 발견된 사례라고 보도했다. 다만 이번 사고의 범위와 피해를 과거 사건과 같게 볼 근거는 없다. 오픈AI도 이번 일의 심각도가 일부 앞선 사고보다 낮다고 평가했다. 이번 보고서는 내부 통제 실패를 설명하지만 모든 외부 접근 가능성이 해소됐다고 입증하지는 않는다.
원문: https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
대표 이미지: AI 생성 이미지 / 데이마크
