중국 알리바바의 AI모델 큐원(Qwen)[신화 연합뉴스 자료사진]

중국의 대형 기술기업들이 정부의 인공지능 안전성 및 의인화 상호작용 서비스 규제 강화 움직임에 발맞춰 기존의 맞춤형 비서 서비스를 전격 폐지하기로 결정했다.

중국을 대표하는 거대 기술기업 바이트댄스의 대형언어모델 '더우바오'와 알리바바의 '큐원'이 제공하던 개인화 인공지능 에이전트 서비스가 이달 중순을 기점으로 전면 종료된다. 두 기업은 시스템 운영과 기능적 조정을 이유로 들며 오는 15일부터 해당 서비스를 더 이상 지속하지 않겠다고 일제히 발표했다. 이번에 막을 내리는 개인화 인공지능 에이전트는 이용자와 대화하며 단발성 정보를 제공하는 수준에 머물렀던 과거의 일반적인 챗봇 형태를 뛰어넘어, 명령권자의 고유한 정보와 성향을 기억하고 분석하여 복잡한 과업을 대행하던 한 단계 진화한 형태의 지능형 시스템이다.

서비스가 폐지된다는 소식이 알려지면서 그동안 축적된 이용 기록의 처리 방향에 사용자들의 이목이 쏠리고 있다. 더우바오를 운영하는 바이트댄스 측은 기능이 정지된 이후에도 일정 기한 동안은 인프라 내에 데이터가 남기 때문에, 이용자가 원할 경우 이 기간을 활용해 에이전트 세부 설정값과 대화 기록을 검토하고 외부 저장소로 내려받을 수 있도록 조치하겠다고 밝혔다. 그러나 이 역시 한시적인 임시 조치에 불과하여 중국의 경제 전문 매체 증권시보는 서비스 종료일로부터 정확히 3개월이 경과하는 시점에는 서버에 남은 모든 데이터가 영구적으로 지워질 예정이라고 덧붙였다.

맞춤형 가상 비서의 갑작스러운 퇴장 소식은 현지 온라인 공간에서 커다란 반발과 화제를 불러일으켰다. 웨이보를 비롯한 중국 내 주요 소셜네트워크서비스에서는 그동안 일상 업무나 정서적 동반자로 해당 기능을 유용하게 써왔던 수많은 사용자가 불만을 터뜨렸으며, 오랫동안 손때 묻은 서비스의 강제 중단에 반대 의사를 피력하는 게시글이 이어졌다. 중국 관영 영문 매체 글로벌타임스는 이 같은 기술적 후퇴 현상에 대해 국가적 차원에서 거세지고 있는 AI 안전성 표준화 요구를 충족하기 위한 준법 감시 목적과 함께, 천문학적인 비용에 비해 실질적인 상업적 수익성이 떨어지는 영역의 투자를 조화롭게 줄여나가려는 기업의 경영 효율화 판단이 복합적으로 작용한 결과라고 분석했다.

정보기술 업계에서는 이번 중단 선언이 중국 당국의 강력한 법적 규제 개시 시점과 정확히 일치한다는 점에 주목하고 있다. 중국 정부는 지난 4월 '인공지능 의인화 상호작용 서비스 관리 잠정 시행 방법'을 공식 제정해 대외에 공표했으며, 본격적인 효력 발휘일을 이달 15일로 못 박은 바 있다. 가상 개체와 인간 간의 과도한 몰입을 통제하기 위해 고안된 이 규정은 서비스를 제공하는 모든 플랫폼을 대상으로 디지털 중독 방지 시스템을 의무적으로 구축하도록 강제하고 있으며, 이용자의 연령대를 확인해 미성년자 진입을 차단하는 신원 인증과 유해 콘텐츠의 전면적인 내부 검수 프로세스 마련을 핵심 골자로 삼고 있다.

당국은 기술 확산 속도에 비해 안전장치가 부족하다는 점을 인지하고 제도적 경계선을 지속적으로 다듬어왔다. 지난 5월 정부가 추가로 내놓은 인공지능 에이전트 촉진 지침에서는 기계적 시스템과 인간 사용자 간에 발생하는 의사결정 권한의 한계를 역사상 최초로 법률화했다. 이 규정에 따라 인공지능이 스스로 판단을 내리더라도 실제 인간 사용자는 그 결정 과정을 명확히 알 수 있는 최종적 권리와 이를 거부할 수 있는 전권을 반드시 보장받아야 한다고 구체적으로 명시되었다.

실제로 규제 기관이 이처럼 강경하게 고삐를 죄는 것은 시장의 급격한 성장의 그늘에서 불법 행위가 양산되고 있기 때문이다. 글로벌타임스의 취재 결과에 따르면 현재 중국 내 인공지능 산업 생태계가 국가 전반으로 빠르게 파고들고 있으나, 그 이면에서는 정부 부처나 공공 기관을 속이는 위조 에이전트가 활개를 치고 있는 것으로 드러났다. 아울러 미풍양속을 해치는 저속하거나 과격한 대화를 나누는 변칙적인 역할극 서비스, 이용자의 민감한 개인정보를 악의적으로 탈취하는 보안 취약 사례 등 다양한 탈법 행위가 동시다발적으로 적발되는 실정이다. 이에 행정력을 동원한 압박도 가시화되어 상하이 인터넷정보판공실은 지난달에만 법적 기준을 충족하지 못한 불법 인공지네 에이전트를 최소 1만 4천 개 넘게 적발해 사이버 공간에서 강제로 퇴출했다.