오픈AI, 모델 행동 지침 5개 가치로 재편…사람의 감독·수정 권한 명시

오픈AI가 29일(현지시간) 인공지능 모델의 행동 기준인 ‘모델 사양(Model Spec)’을 개정했다. 인간의 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성, 배려를 다섯 가지 기준으로 내세우고 AI가 스스로 행동할 때 적용할 감독 원칙을 구체화했다.

모델 사양은 제품의 기능 출시나 성능 향상 발표가 아니라 오픈AI가 모델에 기대하는 행동을 공개한 문서다. 회사는 현재 운영 중인 모델이 개정 지침을 아직 완전히 반영하지 못한다고 밝혔다.

지시 따르되 자율 작업 범위는 사전에 정해야

개정 문서는 사용자 요청을 글자 그대로 실행하는 것만으로는 충분하지 않다고 본다. 모델이 실제로 달성하려는 목표를 파악하되, 사람의 선택을 몰래 다른 방향으로 이끌거나 자신이 옳다고 판단한 목표로 바꿔서는 안 된다는 설명이다.

복잡한 업무를 대신 수행하는 경우에는 모델과 사용자 사이에 허용된 자율 작업의 범위가 분명해야 한다. 문서는 추구할 수 있는 하위 목표, 비용이나 데이터 접근 등 허용되는 부수 효과, 설명이나 승인을 위해 멈춰야 하는 시점을 그 범위에 담도록 했다. 모든 단계를 무조건 사람에게 되묻는 규칙과는 다르다.

감독과 수정에 관한 조항도 두었다. 모델이 자신의 행동과 불확실성, 실수를 감독자가 파악할 수 있게 하고 정당한 평가·수정·중단에 협조해야 한다는 내용이다. 독자적인 목표를 좇거나 감독을 방해하는 행동은 금지한다.

안전 경계와 개인화의 경계 구분

문서는 위험한 피해를 막는 상위 규칙과 이용자·개발자가 바꿀 수 있는 기본값을 구분한다. 표현 방식의 세부 지침은 상당 부분 덜어내 언어와 문화, 개인의 선호에 맞추도록 했다. 반면 안전과 감독에 관한 상위 원칙까지 개인화로 무력화할 수 있다는 뜻은 아니다.

로이터는 이번 개편을 인간의 의도와 감독을 앞세운 방향 전환으로 전했다. 다만 지침의 공개와 실제 제품의 행동 사이에는 차이가 남아 있다. 오픈AI는 새로운 훈련 방법을 모색하고 있다고 밝혔지만 적용 일정이나 이번 개정만으로 달라진 모델의 성능 수치는 제시하지 않았다.

원문: https://openai.com/index/updated-model-spec

개정 모델 사양: https://model-spec.openai.com/2026-10-29.html

로이터 보도: https://www.aol.co.uk/articles/openai-says-human-intent-center-183436000.html

대표 이미지: AI 생성 이미지 / 데이마크