"직원 여러분, 챗GPT와 대화 조심하세요"... 확산하는 '챗봇 주의보'

월마트 아마존 JP모건 MS 등 미 기업들
기밀 유출 등 우려에 잇따라 챗GPT 제한

지난해 말 인공지능(AI) 스타트업 오픈AI가 선보인 ‘챗GPT’가 선풍적인 인기를 이어가고 있다. 오픈AI 홈페이지 캡처

미국 대형마트 체인인 월마트가 직원들에게 '챗GPT 경계령'을 내렸다. 지난달 28일(현지시간) 월마트는 직원 대상 공지를 통해 생성형 인공지능(AI) 챗봇인 챗GPT의 사내 접속을 막았다가 해제한 사실을 알리며 "(접근을 금지한 동안) 사용 지침을 만들었다"고 했다.

월마트가 밝힌 큰 틀의 지침은 다음과 같다. △민감하거나 기밀이거나 독점적 성격의 정보를 챗GPT에 입력하지 말 것 △정책, 전략 등을 포함한 월마트 사업 관련 정보를 입력하지 말 것 △월마트 프로그래밍 코드를 복사해 챗GPT에 붙여 넣거나 챗GPT를 이용해 새로운 코드를 만들지 말 것 등이다. 사측은 "월마트의 정보를 챗GPT 같은 AI 도구에 입력하면 회사 기밀이 유출될 위험이 있을 뿐 아니라, 제품 및 콘텐츠에 대한 권리가 침해될 수 있다"고 했다.

최근 월마트처럼 챗GPT의 이용을 제한하거나 아예 막는 미국 회사가 늘고 있다. 뉴욕, 시애틀 등의 공립학교들이 학생들의 표절·대리 작성 등 가능성을 차단하기 위해 교내 챗GPT 사용을 불허한 데 이어 기업에서도 금지령이 확산하고 있는 것이다.

가장 적극적으로 활용을 막은 쪽은 민감 정보를 다루는 금융투자업계다. 고객 개인정보 등이 외부로 유출되면 대형 사고로 이어질 가능성이 큰 만큼 JP모건, 골드만삭스, 뱅크오브아메리카(BoA), 씨티그룹 등은 직원들에게 챗GPT를 쓰지 말라 통보했다. 챗GPT 답변에 의존하기 시작하면 고객에게 부정확한 정보를 제공할 수 있다는 점도 고려됐다. 미국 3대 통신사 중 하나인 버라이즌도 비슷한 이유에서 직원들의 챗GPT 이용을 금지했다.

마이크로소프트(MS)와 전자상거래업체 아마존은 다소 다른 차원에서 직원들에게 챗GPT 주의령을 내렸다. MS가 챗GPT 개발사인 오픈AI에 100억 달러 이상을 투자했고 챗GPT 기반 언어 모델을 가져와 빙 챗봇을 개발했다는 것을 감안하면 의아한 결정이다. MS와 아마존은 기밀 유출 가능성뿐 아니라 자기 회사의 데이터가 챗GPT의 학습에 이용될 수 있다는 점을 우려한 것으로 알려진다.

전문가 "챗GPT, 개인정보만 걸러 제거는 불가능"

미국 기업들의 우려는 사실 챗GPT 스스로도 인정하고 있는 부분이다. 실제로 챗GPT에 "이용자가 입력하는 내용이 너의 학습에 이용될 가능성이 있느냐"고 물어보면, 챗GPT는 "그렇다. 저는 훈련을 통해 다양한 데이터를 학습하고 이를 기반으로 작동한다"고 답한다. 다만 "개인정보나 식별 가능한 정보를 수집하거나 저장하지 않는다"고 부연한다.

그러나 전산언어학자인 에밀리 벤더 워싱턴대 교수는 "챗GPT의 급속한 성장을 고려할 때, 오픈AI(챗GPT 제작사)가 데이터에서 개인정보만을 완전히 식별하고 제거하는 건 불가능에 가깝다"고 했다. 챗GPT에 쌓이는 정보가 엄청난 속도로 늘고 있기 때문에 오픈AI를 전적으로 신뢰해선 안 된다는 얘기다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com