SKT '텔코 LLM' 6월 출시..."AI가 고객 상담 돕고 상담원도 보호"

SKT, "통신업 맞춤형 거대언어모델 6월 공개"
GPT·클로드 등 AI모델 기반
다른 업종·해외 통신사에도 공급 검토

에릭 데이비스(왼쪽) SKT AI 기술협력 담당과 정민영 SKT AI 플랫폼 담당이 30일 열린 텔코 거대언어모델(LLM) 기자설명회에서 기자들의 질문에 답하고 있다. SK텔레콤 제공

SK텔레콤이 다양한 거대언어모델(LLM)을 바탕으로 통신 서비스를 잘 알도록 미세조정(파인튜닝)된 '텔코 LLM' 개발을 6월 중 끝내고 연내 자사 서비스에 적용한다. GPT-4와 클로드 등 세계 첨단 인공지능(AI) 모델에 통신 서비스 관련 데이터를 학습시켜 고객 센터의 상담사가 업무를 더 쉽게 수행할 수 있도록 돕겠다는 계획이다.

SKT는 30일 서울 중구 SKT타워에서 기자 설명회를 열고 '텔코 LLM' 활용 계획을 소개했다. 텔코 LLM은 자체 개발한 '에이닷엑스'와 오픈AI의 'GPT-4', 앤트로픽의 '클로드 3' 등 주요 범용 모델에 사내 주요 업무와 통신 관련 데이터를 입력해 제작한 '통신업 특화 LLM'이다.

SKT는 이 LLM을 고객센터의 상담 업무를 돕는 데 쓸 것이라고 밝혔다. 텔코 LLM은 통신 서비스와 상품, 멤버십 혜택에 대한 정보를 공부할 뿐 아니라 고객 상담 패턴, 과거 서비스 이용 이력 등도 참고해 고객을 위한 최적의 답변과 해결 절차 등을 제시한다. 상담사가 고객과 통화를 마치고 나서 상담 내용을 요약하고 업무를 처리할 때도 AI가 도움을 주기 때문에 업무 부담이 크게 줄어들고 처리 속도는 빨라질 것으로 회사 측은 기대하고 있다.

한편으로 텔코 LLM은 상담사 보호 역할도 하게 된다. AI가 상담 내용을 모니터링하면서 고객이 부적절한 발언을 하면 상담을 멈추고 경고 메시지를 내보내도록 한다는 것이다. 여기엔 윤리 학습을 거친 클로드의 '헌법 AI' 기술이 적용될 전망이다.

오픈AI도 '산업별 맞춤형 AI' 사례로 소개

에릭 데이비스(왼쪽) SKT AI기술협력담당이 텔코 LLM의 구축 과정을 설명하고 있다. SK텔레콤 제공

에릭 데이비스 SK텔레콤 AI기술협력담당은 "통신사의 LLM은 GPT나 클로드 같은 범용 LLM만으로는 다양한 서비스와 문제를 해결하기 쉽지 않다"면서 "통신 데이터와 노하우에 맞춘 미세 조정과 모델 평가를 거쳐 다양한 텔코 LLM을 만들고 골라 쓰는 것이 SK텔레콤의 전략"이라고 소개했다.

오픈AI도 5일 공식 블로그에서 산업 분야별 맞춤형 LLM이 만들어지고 있다면서 대표 사례로 SKT의 텔코 AI를 소개했다. 오픈AI는 "SKT와 협력을 통해 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 향상했다"고 밝혔다.

SK텔레콤은 개발을 마친 텔코 LLM을 고객센터 외에도 네트워크 인프라 운영, 마케팅, 법무, 홍보 등 다양한 영역에 적용할 계획이다. 또 기업간거래(B2B) 시장을 염두에 두고 금융·제조업·공공기관 등을 위한 맞춤형 LLM을 제공하는 방안도 검토하고 있다. 올해 초 글로벌 텔코 AI 얼라이언스(GTAA) 합작법인 설립을 발표한 SKT는 한국어 버전 텔코 LLM 출시를 마친 후 해외 통신사들과 함께 다국어 버전 텔코 LLM을 개발하는 작업을 준비하고 있다고 밝혔다.

인현우 기자 inhyw@hankookilbo.com