| 한스경제=전시현 기자 | KT와 롯데카드에 이어 국내 주요 기업과 기관을 겨냥한 보안 사고가 잇따를 것이란 전망이 제기됐다. 인공지능(AI)을 무기 삼은 해킹 수법이 빠르게 고도화되는 만큼, 방어 체계 역시 획기적인 전환이 불가피하다는 경고다.

정수환 숭실대 교수는 19일 서울 강남구 법무법인 율촌에서 열린 ‘통합보안센터 출범 기념 세미나’에서 “AI 기술을 활용하는 공격자들의 능력이 높아질수록 지금보다 훨씬 큰 사고가 터질 수 있다”며 “현재의 방어체계로는 한계가 분명하다. 방어 능력을 근본적으로 바꿀 전략이 필요하다”고 말했다.

실제로 세계 각국에서는 AI를 악용한 위협 사례가 속속 보고되고 있다. 앤트로픽은 지난달 위협 인텔리전스 보고서를 통해 자사 대형언어모델(LLM) ‘클로드’가 서비스형 랜섬웨어(RaaS)에 활용되고 있다고 밝혔다. 해커들이 클로드 기반 AI 서비스를 이용해 ‘노코드’ 방식으로 악성코드를 제작하고, 이를 랜섬웨어 형태로 판매했다는 것이다. 특히 이들은 엔드포인트 탐지·대응(EDR) 체계까지 교묘히 회피하는 것으로 알려졌다.

정 교수는 해커들의 기술뿐 아니라 일상에서 사용하는 AI 모델도 취약점에 노출돼 있다고 지적했다. 그는 “오픈소스로 코드를 짜면 그 안에 숨어 있는 취약점이 고스란히 애플리케이션에 들어온다”며 “학습 데이터만 조작해도 잘못된 결과가 나오고, 적대적 공격까지 가능하다”고 경고했다.

클라우드 환경 확산도 위험 요인으로 꼽혔다. 정 교수는 “기업들이 클라우드로 전환하면서 ‘제로 트러스트(Zero Trust)’ 보안이 주목받고 있다”며 “결국 공격자를 뛰어넘는 시스템을 구축하는 것이 관건이며, 이를 위해선 에이전트와 같은 보안 도구를 적극적으로 활용해야 한다”고 강조했다. 이어 “현실적으로는 특화된 버티컬 AI를 잘 개발하는 것이 중요하다”며 “멀티플 에이전트 구조를 도입해 공격자에 맞서는 체계를 갖춰야 한다”고 덧붙였다.

다만 AI 에이전트에 대한 무분별한 신뢰는 경계해야 한다는 지적도 나왔다. 정 교수는 “에이전트에 일관적인 권한을 부여하면 원치 않는 작업을 하거나 개인정보 유출로 이어질 수 있다”고 우려했다.

이날 토론에 참석한 전문가들은 국가정보원이 추진 중인 국가망보안체계(N2SF)와 제로 트러스트 등 차세대 보안 전략, 그리고 AI 보안 분야에서의 산학 협력 방안에 대해 의견을 나눴다.

전시현 기자 jsh418@sporbiz.co.kr