독일 외교장관, 유엔서 고성능 AI 공동 안전요건 제안…출시 전 시험·사고 보고 촉구

요한 바데풀 독일 외교장관이 26일 유엔총회에서 고성능 인공지능(AI) 모델의 공통 안전요건을 만들자고 회원국에 제안했다. 모델 제공자에게 출시 전 시험과 중대한 안전 실패의 보고를 요구하고 국가·지역 차원의 감독을 뒷받침하자는 구상이다. 아직 국제적으로 합의된 의무는 아니다.

독일 외교부가 공개한 연설문과 유엔 웹TV 기록에 따르면 바데풀 장관은 AI의 개발 역량이 일부에 집중된 상황에서 기술을 통제하고 규칙을 정할 주체, 책임 소재를 함께 논의해야 한다고 주장했다. 자발적 약속에 머물지 말고 투명성을 높이며 공통 기준을 마련해야 한다는 것이다.

출시 전 시험과 중대 실패 보고 제안

바데풀 장관이 제시한 요건은 성능이 가장 높은 AI 모델을 대상으로 한다. 제공자가 공개 전에 모델을 시험하고 심각한 안전 실패를 보고하도록 하되, 실제 감독은 각국과 지역 기구가 맡는 방향이다. 연설문에는 구체적인 시험 방식이나 보고 기준, 시행 시한은 제시되지 않았다.

그는 AI가 허위정보를 퍼뜨리거나 사회 기반시설을 위험에 빠뜨리고 국제 평화·안보 관련 결정에도 영향을 줄 수 있다고 우려했다. 동시에 과학과 교육 등에 쓰일 가능성을 언급하며 개발의 이익이 일부 국가에만 돌아가지 않아야 한다고 강조했다. 이 위험과 효익은 연설에서 제시한 독일 정부의 판단이지, 새 규제의 효과가 입증됐다는 뜻은 아니다.

유엔의 기존 논의와 구분해야

유엔은 별도로 AI 위험을 평가하는 독립 국제 과학패널을 운영하고 있다. 유엔뉴스가 21일 전한 패널의 주제별 보고서는 AI 에이전트의 통제 문제를 다뤘다. 독일이 26일 제안한 출시 전 시험·보고 요건은 패널 운영 자체나 이미 채택된 유엔 규칙과는 구분된다.

독일은 유엔의 갈등 해결 역량과 안전보장이사회 개혁도 연설에서 촉구했다. 바데풀 장관은 차기 유엔 사무총장이 깊이 있는 개혁을 이끌어야 한다며 AI에 관한 공동 대응을 유엔의 역량을 가늠할 과제로 꼽았다. 회원국이 독일 제안을 협상 안건으로 채택했는지, 의무 기준을 만들지 등 후속 절차는 이 연설만으로 확인되지 않는다.

대표 이미지: AI 생성 이미지 / 데이마크

출처: 독일 외교부 연설문 https://www.auswaertiges-amt.de/de/newsroom/2804084-2804084 유엔 웹TV 연설 기록 https://webtv.un.org/en/asset/k13/k13gwbhr51 유엔뉴스 AI 패널 기사 https://news.un.org/en/story/2026/09/1168380