[AI 최전선에서 터진 경고…“이제 브레이크가 필요하다”]

미국 AI 최전선에서 뜻밖의 ‘브레이크론’이 터져 나왔다. 앤트로픽의 다리오 아모데이를 시작으로 오픈AI의 샘 올트먼, xAI의 일론 머스크, 구글 딥마인드의 데미스 허사비스까지 최첨단 AI 개발 속도를 조절해야 한다는 방향에 잇따라 공감했다. 그러나 도널드 트럼프 미국 대통령은 AI 안전을 둘러싼 최근 움직임을 ‘역겨운 음모’라고 일축했다. 미국이 먼저 브레이크를 밟는 순간 중국이 달아날 수 있다는 것이다. 중국 역시 AI 위험을 인정하면서도 개발 속도를 늦출 뜻은 보이지 않고 있다. 결국 미·중 AI 경쟁은 “위험한 줄 알지만 먼저 멈추는 쪽이 진다”는 새로운 안보 딜레마로 빠져들고 있다.

로이터통신은 14일(현지시간) “AI 발전에 대한 브레이크론은 다리오 아모데이 앤트로픽 최고경영자(CEO)가 불을 붙였다”면서 “아모데이는 지난 12일 공개한 장문의 에세이(‘We Must Pace the Frontier’)에서 AI의 능력이 안전 연구와 통제기술보다 빠르게 발전하고 있다면서 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다고 주장했다”고 보도했다  중단하자는 것이 아니라 안전기술이 AI의 능력 향상을 따라잡을 시간을 확보해야 한다는 주장이다.

이와 관련해 악시오스는 “아모데이가 가장 경계한 것은 AI가 인간의 도움을 받아 발전하는 단계를 넘어, 스스로 더 강력한 AI를 만드는 과정에 깊숙이 들어가는 상황”이라면서 “이 단계가 본격화되면 AI 발전 속도가 인간의 통제와 안전기술이 따라가기 어려울 정도로 빨라질 수 있다는 것”이라고 밝혔다. 

악시오스는 이어 “더 충격적인 것은 ‘6~12개월’이라는 시간표로, 아모데이는 잘못 정렬된 AI 에이전트 집단이 훨씬 강력한 능력을 갖추게 될 경우, 앞으로 6~12개월 안에 인터넷 전반에 지속적인 봇넷을 구축할 정도의 능력을 갖출 가능성이 있다고 우려했다”면서 “이는 확정적인 예측이 아니라 아모데이가 제시한 최악의 위험 시나리오지만, 그는 그 피해가 수천억 달러에 이를 가능성까지 거론했다”고 짚었다.

그래서 아모데이는 3단계 대응책을 내놓았다. “우선 AI 기업 내부 시스템에 외부 안전평가자가 직원 수준으로 접근해 안전절차와 사고를 독립적으로 검증하도록 하고, 이어 민주주의 국가들이 공통 안전기준을 마련한 뒤 궁극적으로 중국을 포함한 권위주의 국가들과도 국제적 합의를 모색하자”는 것이다. 그는 “냉전시대 핵군축과 비슷한 국제협력의 필요성을 제기하면서도 AI의 군사적·경제적 이점이 워낙 커 실제 합의는 쉽지 않을 것”이라고 인정했다.

그런데 아모데이는 동시에 “중국에는 최첨단 AI 칩을 팔아서는 안 된다”고 주장했다. “미국 기업들이 안전을 위해 속도를 조절하는 동안 중국이 계속 달린다면 미국만 전략적 우위를 잃을 수 있다”는 것이다. 결국 그의 주장은 ‘모두 멈추자’가 아니라 AI 위험은 줄이되 중국에 대한 미국의 기술우위는 유지하자는 데 가깝다.

놀라운 것은 경쟁자들의 반응이다. 워싱턴포스트(WP)는 “올트먼은 프론티어 AI의 속도를 조절해야 한다는 데 동의했고, 머스크는 아모데이의 글을 공유하며 ‘다리오가 옳다’라고 했다”면서 “허사비스 역시 아모데이의 에세이가 올바른 방향을 가리키고 있다고 평가했는데, AI를 가장 잘 알고, 가장 빠르게 개발하며, 막대한 돈을 걸고 경쟁하는 당사자들이 스스로 브레이크를 거론하기 시작했다는 점에서 이번 경고는 주목할 필요가 있다”고 짚었다.

[트럼프는 단칼에 잘랐다…“멈추면 중국이 이긴다”]

그러나 트럼프 대통령의 판단은 정반대다. 그는 아일랜드 방문 중 AI 안전 논란에 대해 “미국이 현재 중국보다 앞서 있으며 그 지위를 유지해야 한다”고 강조했다. 트럼프의 논리는 간단하다. “AI에서 이기는 쪽이 승리한다(Whoever wins AI wins). 안전 문제가 존재하더라도 미국이 먼저 개발 속도를 늦춰 중국에 추월당하는 선택은 할 수 없다”는 것이다.

트럼프는 이어 트루스소셜에서 공세 수위를 더욱 높였다. 트럼프는 “AI와 데이터센터를 겨냥한 최근 움직임은 ‘역겨운 음모(SICK conspiracy)’일 뿐”이라 규정하면서, “이를 가장 좋아할 나라는 중국뿐”이라고 주장했다. “미국에는 이미 AI 기업의 불법행위를 처벌하고 감독할 충분한 법적 수단이 있다”는 것이 트럼프의 판단이다.

트럼프는 더 나아가 AI에 필요한 안전장치는 자신과 같은 ‘강력하고 똑똑한 대통령’이라는 취지의 주장까지 내놓았다. 결국 트럼프에게 이번 논쟁은 단순한 기술윤리 문제가 아니다. 미국이 스스로 규제를 만들어 중국과의 AI 패권경쟁에서 손발을 묶을 것인가의 문제인 것이다.

[중국도 안 멈춘다…“속도조절론은 냉전식 책략”]

문제는 중국의 반응이다. 중국 외교부 궈자쿤 대변인은 14일 정례브리핑에서 “미국 AI 업계의 경고는 공포 조장, 대결, 악성 경쟁으로 글로벌 AI 거버넌스 과정을 방해할 뿐 누구의 이익에도 부합하지 않는다”고 반박했다. 즉 미국이 제기하는 중국발 AI 위협론 자체를 받아들이지 않겠다는 것이다.

중국 관영 글로벌타임스는 한발 더 나갔다. “아모데이의 주장이 겉으로는 AI 안전을 이야기하지만 실제로는 중국의 기술 발전을 억제하기 위한 ‘냉전식 각본(Cold War playbook)’”이라고 공격했다. 특히 “중국에 대한 AI 칩 수출통제 강화 주장을 미국이 최첨단 기술 독점권을 유지하려는 시도”라고 해석했다.

중국이 AI 개발을 늦출 생각이 없다는 사실은 시진핑 국가주석의 행보에서도 확인된다. 시진핑은 최근 BRICS 정상회의에서 “중국이 BRICS AI 오픈소스 공동체 구축을 선도하고, 대규모언어모델(LLM) 개발·응용 협력과 AI 교육을 확대하겠다”고 제안했다. 중국의 대답 역시 트럼프와 크게 다르지 않은 셈이다. AI 위험은 관리하되 개발 경쟁에서는 물러서지 않겠다는 것이다.

[중국 정보수장의 무서운 경고, “AI가 당 통치 흔들 수도”]

바로 여기서 흥미로운 반전이 나타난다. 중국의 경제매체인 차이신은 “중국 역시 AI를 전혀 두려워하지 않는 것이 아니다”면서 “오히려 중국 최고 정보기관인 국가안전부를 이끄는 천이신(陳一新) 부장이 AI가 중국의 정치·제도·이념안보에 새로운 위험을 가져올 수 있다고 공개적으로 경고했다”고 보도했다.

파이낸셜타임스(FT)도 “천이신은 생성형 AI를 이용한 딥페이크와 AI 생성 콘텐츠, 이른바 ‘지능형 트롤 부대’ 등이 정치적 루머와 분열적 여론을 확산시키는 ‘인지전(cognitive warfare)’에 사용될 수 있다고 경고했다”면서 “사이버 공격과 정보유출뿐 아니라 중국의 정치안보·제도안보·이념안보까지 흔들 수 있다는 것인데, 중국 국가안전부 수장이 AI 문제를 이처럼 직접적으로 체제안보와 연결한 것은 상당히 이례적”이라고 지적했다.

FT는 이어 “이 대목에서 미국과 중국이 AI를 바라보는 시각의 차이가 드러난다”면서 “미국 AI 업계가 던지는 질문은 주로 ‘인간이 AI를 계속 통제할 수 있는가’이지만, 반면 천이신의 경고에서 읽히는 중국의 질문은 ‘공산당이 AI 시대에도 정보와 사회를 계속 통제할 수 있는가’라는 체제안보 문제에 가깝다”고 지적했다. 뉴욕타임스(NYT) 역시 “천이신의 발언은 중국 최고위급에서 나온 가장 구체적인 AI 안보위험 평가 가운데 하나”라고 분석했다.

생성형 AI는 방대한 정보를 찾고 연결하고 추론하는 능력을 빠르게 확장하고 있다. 반면 중국 공산당의 통치체제는 정보의 접근과 유통을 강력하게 관리한다. 따라서 AI가 강력해질수록 중국은 미국을 따라잡기 위해 AI를 더욱 키워야 하는 국가적 필요와, 정보통제와 체제안정을 위해 AI를 더욱 철저하게 관리해야 하는 정치적 필요 사이의 긴장이 커질 가능성이 있다. 이는 천이신의 발언을 토대로 한 본지의 분석이다.

[위험한 줄 알아도 못 멈춘다…미·중의 ‘죄수의 딜레마’]

결국 이번 논쟁의 핵심은 AI가 정말 인류를 파괴할 것인가를 지금 판정하는 데 있지 않다. 더 중요한 사실은 AI를 가장 잘 아는 개발자들이 브레이크를 요구하기 시작했는데도 세계 양대 AI 강국인 미국과 중국 가운데 어느 쪽도 먼저 브레이크를 밟기 어렵다는 것이다.

미국이 늦추면 중국이 추월할 수 있다. 중국이 늦추면 미국이 격차를 더욱 벌릴 수 있다. 더구나 양국이 속도조절에 합의한다고 해도 상대방이 약속을 지키는지 확인하는 것은 핵무기보다 훨씬 어렵다. 알고리즘과 모델의 능력, 연산량, 데이터와 비공개 연구개발까지 완벽하게 검증하기 어렵기 때문이다. 결국 상대방이 계속 달릴 가능성이 있는 한 자신도 계속 달리는 것이 합리적 선택이 되는 전형적인 안보 딜레마가 만들어진다.

[Why Times Insight]

이번 사태를 단순히 ‘AI 위험론 대 AI 낙관론’의 충돌로 보면 핵심을 놓치게 된다. 아모데이와 올트먼, 머스크, 허사비스가 우려하는 미래가 실제로 닥칠지는 아직 누구도 단정할 수 없다. 특히 이번에는 규제기관이나 시민단체가 아니라 AI 개발 경쟁의 최전선에 서 있는 당사자들이 직접 경고음을 울렸다는 점이 이전의 막연한 AI 공포론과 다르다.

그러나 국제정치의 논리는 기술자들의 우려와 다르게 움직인다. 미국도 AI가 두렵다. 중국도 AI가 두렵다. 그런데 미국은 중국 때문에 멈출 수 없고, 중국은 미국 때문에 멈출 수 없다. 더욱 역설적인 것은 중국이다. 중국은 AI를 미국과의 패권경쟁에서 반드시 확보해야 할 전략기술로 판단하면서 동시에 최고 정보기관 수장은 AI가 정치·제도·이념안보를 위협할 가능성을 공개적으로 경고했다. 미국은 AI가 인간의 통제를 벗어날 가능성을 걱정하고, 중국은 거기에 AI가 공산당의 정보통제 체제를 흔들 가능성까지 걱정해야 하는 상황이다.

그럼에도 어느 쪽도 먼저 멈출 수 없다. 이 때문에 AI 경쟁은 갈수록 냉전시대 핵군비 경쟁과 닮아갈 가능성이 있다. 하지만 AI는 핵무기보다 검증이 훨씬 어렵다. 핵탄두와 미사일은 숫자를 세고 시설을 사찰할 수 있지만, AI 모델의 능력과 알고리즘, 데이터, 연산자원, 비밀 연구의 진척도까지 상대방이 완벽하게 들여다보기는 어렵다.

그래서 AI 시대의 가장 위험한 순간은 어쩌면 AI가 인간에게 반란을 일으키는 순간보다 먼저 찾아올 수도 있다. 위험하다는 사실을 모두 알고 있으면서도 상대방에게 뒤처지는 것이 두려워 아무도 가속페달에서 발을 떼지 못하는 순간. 미국과 중국은 지금 바로 그 문턱에 서 있다.