6월까지 AI 개발 완료할 예정
T멤버십 등 통신사 지침 학습
에릭 데이비스 SKT AI 테크 컬래버레이션 담당이 30일 T타워에서 열린 기자설명회에서 ‘텔코 LLM’에 대해 설명하고 있다.
SKT 제공
SKT 제공
텔코 LLM은 우리나라 통신 전문용어는 물론 인공지능(AI) 윤리 가치와 같은 통신사 내부 지침을 학습한 통신 특화 LLM으로 GPT나 클로드와 같은 범용 LLM과는 차이가 있다. SKT는 미국의 AI 기업 오픈AI(GPT-4)와 엔트로픽(클로드)을 비롯해 자사의 에이닷엑스(A.X) 등 다양한 범용 모델에 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등을 학습시키는 방식으로 텔코 LLM을 개발하고 있다.
에릭 데이비스 SKT AI 테크 컬래버레이션 담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”면서 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세 조정(파인튜닝)과 모델 평가(벤치마킹)를 거쳐 다양한 텔코 LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략”이라고 설명했다.
SKT는 텔코 LLM이 향후 ▲고객센터 업무 ▲네트워크 인프라 운용 ▲기업의 경영지원 업무 등에서 유용하게 활용될 것이라고 설명했다. SKT는 이날 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축·개발할 수 있는 ‘인텔리전스 플랫폼’도 공개했다. 이 플랫폼은 일종의 기업용 AI 개발·운용 패키지로 통신업에 특화한 다양한 LLM을 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트 등에 쉽고 효율적으로 사용할 수 있다.
2024-05-01 15면