AI 자율 행동·도구 호출 등 검증…위험 따라 인간 승인
기업 보안 수준별 적용 기준·단계별 도입 절차 제시
AI 규제 (PG) [강민지 제작] 일러스트
(서울=연합뉴스) 권하영 기자 = 정부가 인공지능(AI) 에이전트의 자율적인 업무 수행 과정에서 발생할 수 있는 보안 위협에 대응하기 위해 제로트러스트 적용 지침을 마련했다.
과학기술정보통신부와 한국인터넷진흥원(KISA)은 기업의 에이전틱 AI 도입·운영 환경에 맞춘 '에이전틱 AI 제로트러스트 안내서'를 발간했다고 6일 밝혔다.
이번 안내서는 산·학·연 전문가들이 국내외 주요 AI 보안 및 제로트러스트 지침을 분석하고, 관련 수요·공급기관의 의견을 수렴해 마련했다.
에이전틱 AI는 높은 수준의 자율성과 권한을 바탕으로 작동하는 만큼 프롬프트 오염이나 위임된 권한을 벗어난 자율 행동 등 고유한 보안 위협이 발생할 수 있다.
이에 정부는 모든 접근을 신뢰하지 않고 지속적으로 검증하는 제로트러스트 보안 원칙을 에이전틱 AI 환경에 적용할 수 있도록 구체적인 보안 조치를 제시했다.
안내서는 2024년 12월 발표된 '제로트러스트 가이드라인 2.0'을 토대로 기존의 4단계 보안 성숙도 모델을 에이전틱 AI 환경에 맞게 확장한 것이 특징이다.
구체적으로 AI 에이전트의 입력 처리와 도구 호출, 작업 위임, 외부 통신 등 자율적인 행동이 이뤄지는 여러 지점에서 해당 행위를 검증하고 보안 정책을 집행하도록 했다.
또한 위험 수준에 따라 인간의 승인을 거치거나 사전에 승인된 정책을 적용하도록 하는 방안을 담았다.
기업이 자체적으로 현재 보안 수준을 진단하고 개선 우선순위를 정할 수 있도록 성숙도 단계별 실무 기준도 제시했다.
제로트러스트 도입 시 고려사항과 단계별 도입·운영 절차, 실제 적용에 참고할 수 있는 활용 예시도 확인할 수 있다.
