정부·KISA, AI 에이전트 권한 검증 안내서 발간…도구 호출마다 통제 제시

과학기술정보통신부와 한국인터넷진흥원(KISA)이 6일 기업의 ‘에이전틱 AI’ 운영을 위한 제로트러스트 안내서를 발간했다. AI가 외부 도구를 쓰고 다른 작업을 위임할 때마다 행위와 권한을 확인하라는 내용이다. 보안 성능이 실증됐거나 기업에 새 의무가 생겼다는 발표는 아니다.

사람 계정뿐 아니라 AI의 행위도 통제

에이전틱 AI는 지시를 받은 뒤 도구를 호출하고 여러 단계를 거쳐 업무를 수행하는 시스템을 가리킨다. 정부는 사용자·단말·서버에 대한 기존 접근통제만으로는 외부 서비스와 연결된 에이전트의 행동을 다루기 어렵다고 설명했다. 프롬프트 오염이나 위임 범위를 넘는 행동을 위험 사례로 들었다.

이번 안내서는 2024년 12월 나온 국내 제로트러스트 가이드라인 2.0의 성숙도 모델을 AI 에이전트 환경에 맞춰 확장했다. 기업이 현재 보안 수준을 진단하고 개선 순서를 정하는 데 쓸 단계별 기준과 도입·운영 절차를 담았다고 정부는 밝혔다.

핵심은 에이전트가 입력을 처리하거나 도구를 호출하고 작업을 위임하며 외부와 통신하는 지점에서 정책을 집행하는 것이다. 위험 수준에 따라 사람이 승인하거나 사전에 승인한 정책을 적용하도록 권고했다. 이는 모든 AI 행동을 사람이 일일이 승인하라는 뜻은 아니다.

권한을 넓게 주는 관행은 별도 위험

미국 국립표준기술연구소(NIST)의 8월 분석도 AI 에이전트에게 사람의 계정을 공유하거나 오래 쓰는 API 키와 넓은 권한을 부여할 때 책임 추적과 권한 통제가 어려워진다고 지적했다. NIST는 에이전트마다 식별 가능한 신원과 업무 범위에 맞춘 권한 관리가 필요하다고 설명했다. 다만 이는 국내 안내서의 효과를 검증한 연구가 아니라 별도의 보안 설계 논의다.

정부 자료는 안내서 발간과 적용 방향을 제시했을 뿐 도입 기업 수나 사고 감소 효과를 발표하지 않았다. 조직마다 연결된 도구와 데이터, 승인 절차가 달라 실제 적용 범위는 자체 점검을 거쳐 정해야 한다.

출처: 과기정통부 보도자료(2026.11.6) https://www.korea.kr/briefing/pressReleaseView.do?newsId=156788207

NIST 분석(2026.8.27) https://www.nist.gov/blogs/cybersecurity-insights/back-future-why-agentic-ai-needs-strong-identity-foundation

대표 이미지: AI 생성 이미지 / 데이마크