“대규모 AI 인프라와 LLM 파트너와 엔터프라이즈AI 생태계 활용”
정부부처, 공기업, 금융사, 제조사 등 다양한 산업별 고객 발굴 추진
[한스경제=조나리 기자] SK텔레콤이 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 23일 발표했다.
SKT는 기업 및 공공기관 등의 요구에 맞춰 △통신사 기반 서비스를 중심으로 자체 개발한 에이닷 LLM △윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 엔트로픽(Anthropic)사의 LLM △한국어 데이터가 풍부한 코난 LLM 등을 조합해 관련 기술 및 사업 준비를 진행 중이다.
현재 국내 LLM 시장은 오픈AI를 필두로 다수 기업들이 자사 LLM 기반의 사업을 준비 중이다. SKT는 자체 LLM과 더불어 타사의 LLM까지 포함한 라인업으로 ‘멀티 LLM’ 사업을 추진할 계획이다.
이를 위해 우선 한국어 기반의 SKT 에이닷 LLM은 8월부터 엔터프라이즈(Enterprise)용 기본모델을 출시하고, 고객사 대상 모델을 학습시켜 최적화 작업을 진행하고 있다.
LLM 기본모델은 문서요약과 문서생성, Q&A 등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 기본 기능이 제대로 발휘 되려면 고객사의 실제 데이터(주로 문서형태)를 입력해 학습시키고 고객이 원하는 방향으로 조율하는 과정을 거쳐야 한다.
또한 SKT는 지분투자 이후 다양한 분야에서 협력을 진행 중인 코난의 LLM도 활용할 계획이다. 지난 13일 지분투자를 발표한 엔트로픽(Anthropic)의 LLM의 경우, SKT의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다. 서비스 제공은 기능 통합 작업이 완료되는 올해 4분기부터 가능할 것으로 보인다.
LLM을 포함한 AI 서비스는 안정적 서비스 제공을 위한 GPU 서버 인프라가 뒷받침돼야 개발시간 단축과 정교한 서비스 개발이 가능하다.
이에 대해 SKT는 “SKT는 대규모 GPU 시스템을 갖추고 있어 고객 요구에 맞는 안정적 사전 학습이 가능하다”면서 “또한 대규모 AI 개발자 풀도 보유하고 있어 하드웨어부터 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 ‘Full Stack 서비스(Approach)’가 가능할 것으로 보고 있다”고 말했다.
SKT가 제공하려는 기업공공(Enterprise) LLM 서비스는 각각의 LLM의 특장점을 가장 잘 발휘할 수 있는 분야에 각 LLM 서비스를 매칭하는 ‘산업별 특화 LLM 서비스’ 제공을 지향한다. 예를 들어 에이닷 LLM의 경우 서비스 성격상 주로 대화나 챗봇 등 통신사향에 장점이 있고, 엔트로픽 LLM의 경우 AI가 따라야 할 윤리원칙을 학습시켰기 때문에 사람이 정해놓은 윤리원칙에 맞는 답변을 얻을 수 있는 특징이 있다.
이에 SKT는 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고, 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.
SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 멀티 LLM 교육 과정에서 “중요한 것은 고객의 요구 사항”이라며 “다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 게 필요하다”라고 말했다.
조나리 기자 hansjo@sporbiz.co.kr



