SK텔레콤은 인공지능(AI) 기술·서비스 경쟁력을 바탕으로 AI 인프라 구축에 본격적으로 나서고 있다. 지난해 AI 사업 부서 매출이 2023년 대비 19% 성장했고, AI 비서 서비스 ‘에이닷(A.)’ 역시 지난해 말 기준 누적 가입자 800만명을 돌파했다. 미국 시장을 겨냥해 개발 중인 AI 비서 ‘에스터(A*, Aster)’도 올해 상반기 중 시범 운영을 시작할 예정이다.
자체 개발한 거대 언어 모델(LLM) 에이닷엑스(A.X)도 ‘에이닷 전화’의 AI 통화 요약 기능에 사용되던 해외 LLM을 100% 대체하는 등 빠르게 성능을 고도화하고 있다. SKT는 이처럼 압도적인 AI 기술과 글로벌 기업과의 협력을 통해 AI 혁신을 주도하겠다는 포부를 밝히고 있다.
SKT는 AI 데이터센터, GPU(그래픽처리장치) 클라우드 서비스(GPUaaS·GPU-as-a-Service), 에지AI(Edge AI)의 세 가지 축을 중심으로 전국적인 AI 인프라를 구축하고, 이를 기반으로 국내외 파트너들과 함께 글로벌 시장에도 진출한다는 목표다. 지난해 1월에는 미국의 GPUaaS 기업 람다와 전략적 파트너십을 맺고 3억2000만달러를 투자해, 엔비디아의 최신형 GPU를 구축한 AI 데이터센터 및 AI 클라우드 사업을 약 1년간 준비해 왔다. 지난해 12월에는 서울 가산 AI 데이터센터를 개소하고, AI 클라우드 서비스 ‘SKT GPUaaS’를 출시하며 AI 인프라 시장 공략에 본격적으로 나섰다. SKT의 가산 AI 데이터센터는 엔비디아의 주력 GPU H100을 기반으로 하고 있으며, 엔비디아 최신 GPU인 H200 도입도 준비 중이다.
GPUaaS는 기업 고객이 AI 서비스 개발이나 활용에 필요한 GPU를 직접 구매하지 않고, 클라우드를 통해 가상 환경에서 자원을 빌려 쓰는 서비스다. 공급이 부족하고 가격이 높은 GPU를 직접 구매하기 부담스러운 대기업이나 중소기업·스타트업이 상대적으로 저렴한 비용에 사용할 수 있어 국내 AI 생태계 발전에도 긍정적인 효과를 가져올 것으로 기대된다.
SKT는 중장기적으로 국내 지역 거점에 100MW(메가와트) 이상의 전력이 필요한 대규모 AI 데이터센터를 구축하고, 향후 그 규모를 GW(기가와트)급 이상으로 확장해 아시아·태평양 지역의 ‘AI DC 허브’로 도약한다는 구상이다.
한편 SKT가 자체 개발한 LLM ‘에이닷엑스’는 SKT뿐 아니라 SK그룹 전반이 쓰는 AI 모델로 고도화하며 활용도를 빠르게 높여가고 있다. SKT는 엔비디아 GPU A100 약 1500장으로 구축된 자체 수퍼컴퓨터 ‘타이탄’을 활용해 3년간 AI 모델을 학습·고도화하며 ‘에이닷엑스’를 개발했다. SKT는 AI 사업 초기에 자체 LLM을 개발했고, 동시에 오픈 AI 등 해외 기업의 여러 모델을 함께 쓰는 ‘멀티LLM’ 전략으로 빠른 AI 전환을 이뤘다.
최근에는 해외 LLM이 활용되던 서비스를 자체 LLM으로 대체해 가고 있다. 일례로 챗GPT, 클로드 등이 사용되던 ‘에이닷 전화’ AI 통화 녹음을 1년에 걸쳐 에이닷엑스만 사용하는 방식으로 전환했고 현재는 100% 에이닷엑스만 사용하고 있다. 에이닷 전화의 통화 요약 서비스는 하루 사용 횟수가 3000만~5000만 건에 달한다. 이를 통해 비용 절감과 성능 향상이라는 두 마리 토끼를 잡았다는 평가다.
