| 한스경제=전시현 기자 | 전 세계 해커 조직과 사기 단체, 일부 권위주의 국가 기관들까지 인공지능(AI)을 활용한 사이버 공격과 감시 시스템 설계에 나선 정황이 드러났다. 기술의 진보가 윤리와 안전의 경계를 위협하는 가운데, AI의 책임 있는 사용과 관리가 글로벌 현안으로 떠오르고 있다.  

지난 4~5일 서울 코엑스에서 열린 '2025 블록체인 진흥주간 X 웹3.0 콘퍼런스'에서도 AI의 윤리적 문제와 안전성이 핵심 화두로 떠올랐다. 김명주 AI안전연구소 소장은 '안전한 AI: 기술과 윤리의 균형'이라는 주제 발표를 통해 AI 기술의 급속한 발전이 가져올 사회적 영향과 윤리적 딜레마를 다뤘다. 

김 소장의 발표는 최근 AI 기술이 범죄에 악용되는 사례가 급증하는 상황에서 더욱 주목받았다. 챗GPT를 개발한 오픈AI는 지난달 7일 'AI의 악의적인 사용 차단하기: 2025년 10월 보고서'를 통해 2024년 2월 이후 자사 이용 정책을 위반한 40개 이상의 네트워크를 적발하고 차단했다고 밝혔다. 

보고서에 따르면 러시아어권 조직들은 원격 액세스 트로이목마(RAT)와 자격 증명 탈취 도구 개발에 챗GPT를 활용했으며, 한국어를 사용하는 해커들은 악성코드인 XenoRAT와 연관된 피싱 캠페인 및 지휘·통제(C2) 시스템 구축에 AI를 이용했다. 이들은 남한 외교 기관을 대상으로 한 공격도 시도한 것으로 나타났다.

더욱 심각한 것은 중국과 연계된 것으로 추정되는 집단의 활동이다. 이들은 대만 반도체 산업, 미국 학계, 중국 공산당 비판 단체 등을 겨냥한 피싱 메시지와 악성코드 디버깅에 AI를 활용했다. 업계에서 UNK_DROPPITCH, UTA0388로 추적되는 이 위협 그룹은 중국어(간체·번체), 영어, 일본어 등 다국어 피싱 콘텐츠를 생성하고 지역별 언어 습관에 맞춰 문장을 미세 조정하는 정교한 수법을 사용한 것으로 파악됐다.

◆ 캄보디아·미얀마·나이지리아 사기 조직..."AI 사용 흔적까지 은폐"

조직 범죄에서도 AI 악용이 확산되고 있다. 캄보디아, 미얀마, 나이지리아의 대규모 투자 사기 조직들은 챗GPT를 활용해 다국적 사기 메시지를 번역하고 SNS 콘텐츠를 제작하며 거짓 투자 전문가 프로필을 생성했다. 

특히 이들은 AI가 생성한 문장의 흔적으로 알려진 '이모 대시(—)'를 삭제하도록 요구하는 등 AI 사용 흔적을 감추려는 시도까지 했다. 미얀마의 한 사기 조직은 직원 일정 관리, 내부 공지 작성, 숙소 배정 등 일상 업무에도 AI를 활용했으며, 일부 조직원은 챗GPT에 온라인 사기 범죄 형량을 문의하기도 했다.

권위주의 국가들의 AI 악용 시도도 보고서에 포함됐다. 중국 정부 기관과 연계된 것으로 보이는 사용자들은 챗GPT를 이용해 대규모 소셜미디어 감시 도구를 설계하려 했다. 한 사용자는 X, 메타, 인스타그램 등을 스캔해 극단주의 발언과 민족·종교·정치 콘텐츠를 탐지하는 '프로브(탐침)' 개발을 위한 계획서 작성을 요청했다. 또 다른 사용자는 '고위험 위구르 관련 유입 인원 경보 모델' 제안서를 요청했는데, 이는 교통 예약 정보와 경찰 기록을 비교해 위구르족으로 분류된 고위험 인물의 이동을 조기 경보하는 시스템이었다.

그러나 긍정적인 측면도 있다. 오픈AI 조사 결과 챗GPT가 사기를 식별하고 사용자를 보호하는 데 사용되는 빈도가 사기 목적 악용보다 최대 3배 많은 것으로 나타났다. 매달 수백만 명이 의심스러운 메시지를 챗GPT에 입력해 사기 여부를 확인하고 있으며, 모델은 이를 정확히 판별하고 안전 조치를 조언하고 있다. 오픈AI는 "악의적 사이버 위협 활동 탐지와 차단에 적극 투자하고 있으며, 관련 정보는 위협 모델링 개선과 모델 정책 강화에 활용되고 있다"고 밝혔다.

보안 평가 기업 시큐리티스코어카드의 코리 케네디 최고 위협 정보 책임자는 "이번 보고서는 AI 악용 진화와 범죄 조직의 다중 모델 활용 전략을 드러냈다"며 "국가 주도 감시 체계 설계 시도는 AI의 위험 지점을 실증적으로 보여주는 사례"라고 평가했다. 

전시현 기자 jsh418@sporbiz.co.kr