[중국 AI의 진화, “행동이 아니라 의도를 예측한다”]

스티븐 스필버그 감독, 톰 크루즈 주연의 2002년작 영화 〈마이너리티 리포트〉(Minority Report)가 이제 중국에서 현실화될 것으로 보인다. 중국 공산주의라는 완벽한 국가체제 유지를 위해 개인의 자유와 인권을 철저하게 희생시킬 수 있다는 그 구상에 소름이 돋을 정도다. 실제로 중국 국가 연계 기업이 인공지능으로 시민의 일상 데이터를 분석해 미래의 반체제 인사를 사전에 식별하는 기술을 개발해온 사실이 대규모 내부 문서 유출로 드러나 충격을 주고 있다.

영국의 더타임스(The Times)는 3일, “미국 밴더빌트대학교 국가안보연구소(Institute of National Security at Vanderbilt University)는 최근 중국의 국가 연계 기술기업 지지네트웍스(Geedge Networks)의 내부 문서 약 10만 건을 분석한 보고서를 공개했다”면서 “보고서는 이 기업이 시민의 인터넷 이용 내역, 이동 동선, 통신 기록, 소셜미디어 활동을 인공지능(AI)으로 통합·분석해 장래에 정치적 위협이 될 가능성이 있는 인물을 미리 걸러내는 시스템을 개발 중임을 보여주는데, 현재는 연구·개발 단계로 보이며, 실제 완성되거나 현장에 배치됐다는 증거는 아직 확인되지 않았다”고 보도해 충격을 주었다.

더타임스는 이어 “연구팀은 이 기술의 핵심이 단순한 사후 감시를 넘어선다는 점을 강조했다”면서 “보고서는 ‘목표는 '해롭다'고 판단된 개인의 행동 프로필을 구축하는 것이었다. 그들이 이미 한 행동을 파악하는 데 그치지 않고, 앞으로 무엇을 할지, 누구와 함께할지를 예측하는 것이었다’고 분석했다”고 짚었다. 

연구팀을 이끈 밴더빌트대 정치학 교수 브렛 V. 벤슨(Brett V. Benson)은 “중국 지지네트웍스의 연구팀은 단순히 행동 패턴을 기록하는 수준을 넘어, 시민이 다음에 무엇을 할지, 누구와 접촉할지를 예측하려 했다”고 밝혔다. 일상적으로 축적되는 방대한 데이터가 곧 개인의 미래 행동을 규정하는 '원재료'가 된다는 논리다.

더타임스는 “지지네트웍스는 중국의 '만리방화벽(Great Firewall)'을 구성하는 감시·검열 소프트웨어의 상업용 버전을 판매해온 기업으로, 위치 데이터, 통신 기록, 인터넷 활동을 AI 모델과 결합해 잠재적인 정치 비판자를 사전에 식별하는 차세대 제품 개발에 나선 것으로 확인됐다”며 “회사의 수석과학자는 중국 인터넷 검열 아키텍처를 설계한 인물로 알려진 팡빈싱(方滨兴) 교수가 맡고 있다”고 밝혔다.

더타임스는 “연구자들에 따르면 지지네트웍스는 2024년부터 정부 지원 연구조직 메사랩(MESA Lab)과 함께 통신·소셜미디어·위치 데이터를 기반으로 행동 프로필을 구축하기 시작했으며, 목표는 개인을 분류하고 민감 정보를 식별하는 것을 넘어 미래 행동과 인간관계까지 예측하는 것이었다”고 짚었다. 

밴더빌트 연구팀은 분석 결과를 토대로 “이 시스템은 디지털 트래픽, 위치 데이터, 사회적 연결망을 하나의 개인 프로필로 통합하는 포괄적 감시 아키텍처의 증거를 담고 있다”고 밝혔다.

이 기술적 방향성은 2002년 스티븐 스필버그 감독, 톰 크루즈 주연의 SF 영화 '마이너리티 리포트'에 빗대어 설명되기도 한다. 영화 속 경찰 조직 '프리크라임(PreCrime)'은 예지 능력을 가진 존재의 예측에 의존해 범죄가 일어나기 전에 용의자를 체포한다. 그러나 현실의 중국형 모델은 인간의 직관 대신 방대한 데이터와 AI 알고리즘을 활용한다는 점에서 더욱 체계적이고 확장 가능하다. 밴더빌트대학교 국가안보연구소의 보고서는 “국가가 개입하는 계기는 더 이상 시민이 행한 무언가가 아니다. 그것은 국가가 시민이 '할 것'이라고 믿는 무언가다”라고 규정했다.

[만리방화벽의 진화: 감시에서 예측으로]

중국은 이미 수년 전부터 예측 감시 기술을 추구해 왔으며, AI 모델이 이러한 기술 개발 속도를 가속하고 있다. 지지네트웍스의 연구는 국가 연계 또 다른 기업 골락시(GoLaxy)의 작업과도 유사한 측면이 있다. 골락시는 AI 기반 소프트웨어로 표적 프로파간다를 확산하는 기술을 개발한 기업으로, 밴더빌트대와 뉴욕타임스가 앞서 그 실태를 보도한 바 있다. 두 기업 모두 중국과학원(Chinese Academy of Sciences)의 연구 체계를 모체로 설립된 스핀오프 기업으로 분류된다. 중국과학원은 국가 과학 연구 피라미드의 최상위 기관으로, 이들 기업은 국가안전부(Ministry of State Security)를 비롯한 정부 기관에 서비스를 판매하는 동시에 민간 기업과 해외 정부를 상대로도 영업한다.

밴더빌트대학교 국가안보연구소의 보고서는 “예측 감시는 권위주의적 통제의 성격을 근본적으로 바꾼다”면서 “이 시스템은 정부 개입을 훨씬 이른 단계로 끌어올린다. 잠재적 위협이 될 수 있는 사람과 네트워크를 사전에 식별하고, 의도를 추론하며, 반체제 움직임이 가시화되기 전에 선제적으로 개입한다”고 고 경고했다.

밴더빌트 연구소의 위키드 프라블럼스 랩 소장 브렛 J. 골드스타인(Brett J. Goldstein)은 “이것이 대규모 감시와 AI가 만날 때 벌어지는 일”이라며, “견제와 균형 없이 중국이 자국민에게 가하는 것은, 이 도구들이 통제되지 않는 어느 곳에서든 가능한 일의 예고편”이라고 경고했다.

중국 공산당이 정교한 여론 통제 기제를 개발하는 데 수십 년을 쏟아온 배경에는 1989년 천안문 광장 민주화 시위의 기억이 깊이 새겨져 있다. 대규모 시위대가 순식간에 결집해 당의 통제를 위협했던 그 경험은, 집단적 반대 움직임이 가시화되기 전에 선제 개입해야 한다는 당의 강박을 형성했다. 이후 중국 당국은 노동권이나 성희롱 등 당의 권력 기반에 직접적 위협이 되지 않는 사안에서도 무허가 활동에 반복적인 단기 구금을 부과하며, 모든 사회·정치적 활동은 반드시 공식 채널을 통해야 한다는 원칙을 제도화했다. 신장(新疆) 지역의 대규모 수용 시설망 역시 같은 맥락이다. 당국은 이를 '교육훈련' 시설로 규정하지만, 위구르족의 종교적·문화적 정체성이 반국가적 저항의 씨앗이 되기 전에 선제적으로 제거하려는 의도라는 것이 국제 인권 단체들의 공통된 평가다.

[해외로 번지는 디지털 권위주의]

밴더빌트의 보고서는 “지지네트웍스가 개발한 감시 시스템은 중국 국경 안에만 머물지 않는다”며 “유출된 문서는 이 기업이 미얀마, 파키스탄, 에티오피아, 카자흐스탄 등에 시스템을 수출했음을 보여준다”고 짚었다. 이 보고서는 이어 “해당 국가들은 모두 정치적 반대 세력이나 소수민족에 대한 강압적 통제로 인권 단체의 비판을 받아온 권위주의 성향의 정권들”이라면서 “이는 중국이 자국에서 구축한 디지털 감시 체계를 일종의 수출 상품으로 삼아 '권위주의 인터넷' 모델을 세계로 확산시키고 있음을 의미한다”고 밝혔다.

이 보고서는 이어 “유출된 기록에는 문서 교신, 회의 메모, 제품 기술 설계도, 보상 체계 및 인사 정보까지 포함된다”며 “문서를 분석한 보안 연구기관 인터섹랩(InterSecLab)은 지지네트웍스가 카자흐스탄, 에티오피아, 파키스탄, 미얀마 및 미확인 1개국 정부와 계약을 맺었음을 확인했다”고 밝혔다.

[GPU 수출통제, 유일한 제동장치인가]

역설적으로, 이 야심 찬 감시 체계의 확대를 현재로서 가장 효과적으로 늦추고 있는 것은 미국의 반도체 수출통제다. 예측 AI 모델을 실제로 가동하려면 엔비디아·AMD 같은 미국 기업만이 생산하는 최고 성능의 GPU(그래픽처리장치)가 대규모로 필요하다. 인터넷 검열 텍스트에서 금지어를 걸러내는 기존 작업은 적은 연산력으로 가능하지만, 수억 명을 상대로 통화·영상·위치 데이터를 통합해 미래 행동을 예측하는 작업은 차원이 다른 연산 인프라를 요구한다.

밴더빌트대 연구팀은 “지지네트웍스가 메사랩과 협력해 시민 프로필을 생성하고 정치적 위험 인물을 AI로 선별하는 기술을 개발했지만, 바이든 행정부 시절 도입된 미국산 AI 칩 수출통제로 인해 개발 속도가 저해됐다”고 분석했다. 미국 당국자들에 따르면 “지지네트웍스는 현재 제품 운용에 필요한 GPU는 보유하고 있으나, 가장 야심 찬 예측 시스템을 구현하기 위해서는 중국이 현재 확보하기 어려운 고성능 칩이 필요할 것”이라고 한다. 

유출 문서에는 지지네트웍스가 GPU 한계 상황에 처해 기존의 지식 그래프(knowledge graph) 방식으로 전환하거나, 보유한 엔비디아 A800을 최대한 활용하기 위한 '2단계 파인튜닝(two-stage fine-tuning)' 같은 우회 방법을 탐색한 정황이 담겨 있다. 수출통제가 개발을 완전히 막지는 못하더라도, 속도와 역량을 의미 있게 제한할 수 있음을 시사한다. 트럼프 행정부가 바이든 시대 수출통제의 일부를 완화하기는 했으나, 엔비디아의 최고 성능 프로세서에 대한 제한은 현재까지 유효하다.

[전망과 논평: 스크린 속 경고가 현실이 될 때, 역사는 무엇을 말하는가]

영화 '마이너리티 리포트'는 단순한 SF 스릴러가 아니다. 그것은 완벽한 예측 시스템이 어떻게 스스로의 무게에 짓눌려 붕괴하는가에 관한 이야기다. 영화 속 프리크라임 시스템은 처음에는 살인 범죄를 90% 줄이는 '완벽한 체계'로 칭송받는다. 그러나 시스템을 설계하고 운용한 사람들 자신이 그 예측에서 벗어나기 위해 진실을 은폐하고 조작하기 시작하면서, 시스템은 내부로부터 붕괴한다. 영화의 제목이 된 '마이너리티 리포트'는 완벽하다고 여겨지는 시스템 내부에 존재하는 의심의 파편을 뜻한다. 그 의심은 용납될 수 없었고, 그래서 은폐됐다. 그러나 은폐 자체가 시스템이 거짓 위에 세워져 있음을 증명했다. 

역사는 더 직접적인 증거를 제공한다. 동독의 국가보안부, 즉 슈타지(Stasi)는 인구 1,640만 명의 나라에서 9만 1,000명의 전업 요원과 17만 6,000명의 정보원을 운용하며 사회 전체의 신뢰 구조를 체계적으로 해체했다. 시스템은 수백만 명의 시민이 감시받는다는 믿음만으로도 스스로를 검열하도록 만드는 '슈퍼 파놉티콘' 효과를 발휘했다. 그럼에도 결말은 동일했다. 베를린 장벽이 무너지면서 슈타지는 억압적 정권의 잔재로 전락했고, 미엘케를 포함한 핵심 간부들은 법정에 섰다. 인간의 자유를 향한 의지는 결국 가장 정교한 감시망도 돌파했다.

중국의 AI 예측 감시 시스템이 지닌 구조적 모순은 바로 여기에 있다. 알고리즘은 과거의 패턴을 학습해 미래를 예측하지만, 인간의 의식과 저항은 그 패턴 자체를 비선형적으로 변화시킨다. 더 촘촘한 감시는 더 정교한 우회를 낳고, 더 강한 탄압은 더 깊은 분노를 축적한다. 예측 시스템이 완벽할수록, 그 시스템이 예측하지 못한 변수 하나가 전체를 무너뜨리는 치명적 취약점이 된다. 이것은 기술의 문제가 아니라 인간 본성의 문제다.

무엇보다 이 기술의 가장 큰 위험은 완성된 이후가 아니라, 완성을 향해 나아가는 과정에서 이미 시작된다는 점이다. 감시받는다는 공포 자체가 사회 전체의 발언과 사고를 위축시키고, 그 위축이 사회의 창의성과 적응력을 잠식하며, 결국 시스템을 운용하는 국가 자신의 장기적 역량까지 갉아먹는 역설로 이어진다. 역사 속 모든 전체주의 감시 국가들이 걸어간 길이 그것을 증명한다.

영화의 결말처럼, 그리고 역사의 결말처럼, 예측 불가능한 인간의 자유 의지는 언제나 가장 정교한 알고리즘의 마지막 변수로 남는다.