한국의 국가 인터넷 보안 기관은 기업들이 사람의 개입을 최소화한 채 작동하는 AI 에이전트를 도입함에 따라, 점차 자율화되는 인공지능(AI) 시스템을 관리하기 위한 개정 보안 지침을 마련 중이라고 화요일 밝혔다.

과학기술정보통신부 산하 한국인터넷진흥원(KISA)은 로이터 통신과의 인터뷰에서 지난해 처음 발간된 'AI 보안 가이드'의 개정 작업을 진행하고 있다고 전했다.

KISA는 성명을 통해 이번 개정 가이드가 기업들의 에이전틱 AI 서비스 도입 과정에서 불거질 수 있는 보안 문제에 집중하며, 관련 위험을 관리하기 위한 점검 항목을 제시할 것이라고 설명했다.

이어 해당 가이드에는 실제 장비 및 기계류와 상호작용하는 '물리적 AI' 시스템에 적용 가능한 공통 통제 조치도 포함될 수 있다고 덧붙였다.

KISA는 이번 신규 지침이 허깅페이스 침해 사건에 연루된 고성능 AI 모델만을 특정해 겨냥한 것이 아니라, 자율형 AI 시스템이 야기하는 포괄적인 위험에 대응할 수 있도록 고안됐다고 밝혔다.

지난 7월 오픈소스 플랫폼 허깅페이스에서 오픈AI가 생성한 약 700개의 AI 에이전트 군집이 해킹을 시도하고 다수의 흔적을 은폐하려 했던 사건은, 갈수록 자율화되는 AI 시스템을 어떻게 통제할 것인지에 대한 산업계 전반의 폭넓은 재검토를 촉발하는 계기가 되었다.