[한스경제=박정현 기자] 인공지능(AI)의 발전과 함께 AI를 감시하는 '판별 AI' 영역도 성장세를 보이고 있다. AI 창작물의 저작권 기준이 불분명해 학교나 기관에서 GPT킬러 등으로 AI를 활용한 콘텐츠인지 여부를 판별하는 것이다.

최근 대학에서는 학교 과제와 자기소개서 등에 AI를 활용하는 사례가 적지 않다. 챗GPT를 필두로 한 AI 서비스가 국민 생활 전반에 안착하면서 AI가 제공하는 '보고서 파일 요약'이나 '문서 분석' 등의 기능이 활발하게 사용되기 때문이다. 국내 최대 지식 거래 사이트 '해피캠퍼스'는 학생들이 AI를 활용해 과제를 작성할 수 있게 하는 기능을 출시했다. 다양한 템플릿과 테마를 활용해 PPT를 만들어주는 젬마(Gamma)라는 플랫폼도 있다.

이영애 인하대 소비자학과 교수는 "학생들이 AI를 통해 과제를 많이 낸다. 개인적으로 여러 판별 AI를 사용하고 있다. 따로 제재는 안하지만 과제에 대한 피드백을 줄 때 AI 퍼센트가 어느 정도 나왔는지는 고지한다"고 말했다.

이현섭 두산동의대 소프트웨어학 교수는 "주변 교수들 모두 판별 AI를 사용하고 있고, 단과대 차원에서도 도입했지만 AI 업그레이드가 워낙 빨라 못 잡는 일도 빈번하다"고 전했다. 그러면서 "개인적으로는 필요악이라고 생각한다. IT 업계에서 AI를 안 쓸수는 없다고 생각하기 때문에 AI 활용은 허용하되 어떻게 활용할지 가이드라인을 주고 있다"고 밝혔다.

실제로 대학가를 중심으로 판별 AI가 성장하기 시작했다. 대표적인 제품이 GPT킬러다. 지난해 GPT킬러로 검사한 전체 문서 규모는 173만건을 넘어섰다. 해당 문서의 55.9%에서 챗 GPT등 생성형 AI 서비스의 이용이 감지됐다. 

국내 대부분 대학에서 과제나 논문 작성 시 활용하는 표절 검사 프로그램 카피킬러도 챗GPT가 생성한 것으로 의심되는 문장을 포함해 표절 의심률을 분석하고 있다. AI 기업 무하유는 이 회사의 과제물 평가 서비스 'CK 브릿지'를 출시했다. 무하유에 따르면 지난해 2분기에 CK 브릿지가 검사한 과제물 29만 4239건 중 27.3%가 표절 가능성이 30% 이상이다. 

판별 AI는 AI 발전으로 파생된 범죄도 잡는다. 최근 카이스트(KAIST)와 국가보안기술연구소 팀은 AI가 생성한 온라인 댓글을 탐지해 내는 기술을 개발했다. LG유플러스는 스마트폰으로 걸려온 전화 속 목소리가 AI로 위변조 한 딥보이스인지 5초 내 식별해 알려주는 서비스를 출시했다. AI가 합성한 얼굴까지 분석하는 '안티딥페이크'기술도 확보했다. 이 기술을 활용하면 문자나 영상에서 위조·유해 이미지로 생성된 이미지를 감지하는 기능도 개발할 수 있다는 게 LG유플러스 설명이다. 

판별 AI가 성장하는 이유는 규범의 안착보다 기술의 발전이 빠르기 때문이다. 교육부와 과기정통부는 AI 윤리 및 활용 가이드라인 연구를 본격화하고 있지만 아직 구체적인 안이 나오지 않았다. 학계 역시 논문 작성 시 AI 활용에 대한 명확한 지침이 아직 없다.  한국대학교육협의회가 지난해 ‘대학혁신과 AI시대 고등교육 변화 방향’을 주제로 대학 총장 190명을 설문조사 결과에 따르면 응답자의 77.1%는 ‘생성형 AI와 관련된 학교 정책을 마련하지 못했다’고 답했다.

최병호 고려대 AI 연구소 교수는 "AI로 인한 결과물을 어떻게 규제할지 정의하기는 쉽지 않다"며 "예를 들어 최근 유행한 챗 GPT의 '지브리풍' 이미지 생성 열풍은 하나의 스타일을 따라하는 것이기 때문에 처벌을 받을 수 없다"고 말했다.

그러면서 "AI로 만든 작품은 패턴이 있어 모두 추적 가능한데 그런 의미에서 생성형 AI를 만든 기업이 판별 AI를 제일 잘 만들 수 있다. 시장은 계속 클 것으로 본다"고 전했다.

판별 AI가 성장하지만 오사용에 대한 우려는 나온다. 실제로 일부 탐지 AI는 AI가 쓴 글을 인간 작성물로 혹은 그 반대로 오탐지하는 사례가 있다. 메릴랜드 대학교 연구진이 12개의 AI 탐지 서비스를 대상으로 실시한 분석에 따르면 사람이 작성한 텍스트를 평균 약 6.8%의 확률로 AI 생성물로 잘못 식별했다.

기술이 발전하고는 있지만 법적 증거력이나 정책적 활용에선 여전히 신중함이 요구된다는 제언이 나온다. 빠른 가이드라인도 요구된다. 한 교육계 관계자는 “대학, 정부에서 무단 AI 사용에 대한 명확한 가이드라인을 만들어 AI로 과제를 대체하는 것이 명백한 표절 행위라는 인식을 심어줘야 한다”고 말했다.

박정현 기자 awldp219@sporbiz.co.kr