[현실로 다가온 AI전쟁, ‘무기 실리콘 밸리’로 변한 우크라]

우크라이나 전쟁터에 자율살상 무기인 '인공지능(AI) 킬러 로봇'이 투입되면서 그동안 영화에서만 보던 AI전쟁이 현실화되고 있다. 중요한 것은 AI킬러 로봇이 과연 전쟁 상황에 어떠한 영향을 미치게 될 것인가 하는 점이다.

뉴욕타임스(NYT)는 2일(현지시간) “러시아의 침공에 맞서고 있는 우크라이나가 공격용 AI 무인기(드론) 등 무기의 '실리콘밸리'(기술혁신의 상징이자 중심부)가 되고 있다”고 보도해 눈길을 끌었다.

NYT에 따르면 러시아군의 전력에 밀리는 우크라이나가 반격의 카드로 상대적으로 비용이 적게 드는 AI 기술을 활용한 무기 개발에 적극 나서고 있는데, 현재 우크라이나의 기술기업들은 목표물을 향해 스스로 움직이며 적을 인식해 살상하는 이런 무기의 제작에 집중하고 있다.

눈여겨볼 것은 이러한 무기 개발에 드는 비용이 대당 수천달러 이하로 저렴하고 즉시 사용할 수 있다는 점이다. 또한 AI 오픈소스 등 필요한 기술과 부품도 손쉽게 구할 수 있다는 강점도 있다.

이에 대해 NYT는 “기존의 무기 체계에 더해 설계하기 쉬운 소프트웨어, 강력한 자동화 알고리즘, 특수 인공지능 마이크로칩이 널리 보급되면서 치명적인 혁신 경쟁이 미지의 영역으로 밀려나면서 킬러 로봇의 새로운 시대가 열릴 가능성이 커지고 있다”고 밝혔다.

NYT는 이어 “현재 우크라이나에서는 자율 유도 드론이 공중에서 적들을 스스로의 판단에 의해 공격하고, 육상에서는 역시 AI기능을 갖춘 기관총 탑재 로봇이 적들을 마음껏 공격하는 무기들이 개발되고 있고 실제로 선을 보이고 있다”면서 “앞으로 기관총을 탑재한 무인 헬리콥터 같은 기발한 무기들도 개발되고 있다”고 밝혔다.

NYT는 그러면서 “이러한 무기는 미국, 중국, 러시아에서 만든 고가의 군용 시스템만큼 발전된 것은 아니지만, 수천 달러 이하의 저렴한 비용과 즉시 사용 가능하다는 점에서 개발의 의미가 크다”고 짚었다.

이와 관련해 우크라이나군의 첨단 전투 능력을 키우기 위해 기술 스타트업을 동원하는 작업을 주도하고 있는 미하일로 페도로프 우크라이나 디지털전환부 장관은 NYT에 “우리는 최대한의 (무기) 자동화가 필요하다”며 “이런 기술은 우리의 승리에 필수적”이라고 말했다.

페도로프 장관은 이어 “약 10개 기업이 이미 자율 비행 드론을 만들고 있다”며 “우리는 대량 생산이 가능한 시스템을 갖추고 있고, 현재 최전선에서 광범위하게 테스트하고 있다”고 설명했다.

[이미 실전에 투입되고 있는 인공지능(AI) 무기들]

사실 우크라이나 전쟁이 그동안의 다른 전쟁과 확연하게 달라진 점은 드론이 새로운 공격 수단으로 각광받고 있다는 점일 것이다. 개전 초 기껏해야 정찰용으로 쓰이던 드론은 이제 통신·타격·보급 등 거의 모든 영역에서 활용되고 있다. 드론 성능을 극대화하는 데 온갖 신기술도 적용되고 있다. 한마디로 우크라이나 전쟁이 세계 전쟁사의 패러다임을 바꾸고 있다.

실제로 초기에는 드론 활용에 있어 방향 선택은 물론 이동과 탑재 장비 조종 등 거의 모든 단계에 인간이 직접 개입해야 했지만 이젠 그 모든 단계까지 AI가 개입해 직접 판단하고 공격까지 실행하는 단계로 업그레이드되고 있다.

사실 우크라이나 전쟁터는 AI 무기들의 실전 테스트에 가장 좋은 현장으로 각광받고 있다. 우크라이나를 비롯해 서방의 많은 AI무기 개발자들이 우크라이나라는 전쟁터에 실제 투입해 성능을 확인하고 보완해야 할 문제점을 곧바로 찾아낼 수 있기 때문이다. 그래서 세계의 많은 기업들이 우크라이나의 AI기술기업들과 손을 잡고 투자도 하고 공동 개발도 나서고 있는 것으로 보인다.

실제로 작년에 전 구글 최고 경영자였던 에릭 슈미트와 다른 투자자들은 우크라이나의 신흥 전장 기술에 투자하기 위해 D3라는 회사를 설립했다. ‘헬싱’이라는 이름의 방위 기업을 포함해 상당히 많은 기업들도 우크라이나 기업들과 협력하고 있다.

이에 대해 D3의 매니징 파트너인 에블린 부차츠키는 “우크라이나 기업들이 해외 경쟁사보다 더 빠르게 움직이고 있다”면서 “회사가 투자하는 해외 기업들에게 우크라이나를 방문해 개발 속도를 높일 수 있도록 요청하고 있다”고 덧붙였다.

이런 식으로 현재 우크라이나에서는 군인과 엔지니어들이 함께 일을 하는 경우도 있는 것으로 알려졌다. 실제로 무기 혁신으로 유명한 다빈치 울브스 대대의 지휘관인 올렉산드르 얍찬카는 바흐무트 동부 전선에서 러시아군과 싸우는 병력을 보급하는 데 사용되는 '생명의 길'을 방어해야 할 필요성이 새로운 무기개발을 절감하게 됐다. 해결책을 구상하던 그는 페이스북에 컴퓨터로 원격 제어되는 기관총을 공개적으로 요청하는 글을 올렸다.

그리고 얼마 후, 얍찬카는 로보니어스라는 회사로부터 이와 관련된 AI기관총 프로토타입을 받았는데, 이 AI 기관총은 곧바로 그의 부대에 투입되었고 엄청난 도움을 받았다. 이 AI 기관총은 한마디로 전쟁의 대혁신을 이루었다. 참호에 앉아 커피를 마시면서 러시아군을 향해 공격을 가할 수 있었기 때문이다.

또한 이 AI기관총은 이젠 지상드론에 장착하게 되면서 실제 군인이 투입되지 않고도 이 로봇드론을 활용해 인명 피해없이 러시아군 진지를 공격할 수도 있게 됐다. 물론 지금 이러한 AI로봇 무기들이 대대적으로 활용되고 있는 것은 아니지만 이미 일정 부분의 성과를 거두고 있다는 점에서 날이 갈수록 전쟁의 양상은 달라질 수가 있을 것이다.

[AI가 작전 지휘, 드론이 공격하는 첨단 전쟁 양상도]

AI는 무기로만 활용되는 것이 아니다. AI를 활용한 첨단 기술도 전쟁에 유용하게 활용되고 있다. 그래서 파이낸셜타임스는 “우크라이나 전쟁은 참호전인 동시에 첨단 전쟁”이라고 할 정도다.

실제로 러시아 침공 석 달째에 접어들던 2022년 5월 우크라이나군은 AI를 활용한 전술 프로그램 ‘GIS 아르타’를 이용해 시베르스키도네츠강을 건너려는 러시아군 공세를 차단하고 1500명 규모의 적군과 70여 대의 탱크·장갑차를 격멸했다. GIS 아르타는 드론이 표적을 식별하면 표적 주변에서 가장 가깝거나 효율적인 무기를 보유한 부대에 화력 지원이나 직접 공격을 명령하는 역할을 했다. 육안으로 20여 분 걸리는 정찰 및 분석 시간을 30초~2분 이내로 단축할 수 있다는 강점이 있다.

또한 미국의 AI 소프트웨어 기업 팔란티어는 이라크·아프가니스탄전에서 미 중앙정보국(CIA) 등에 제공했던 AI 데이터 분석 플랫폼 ‘고담’을 업그레이드해 우크라이나군에 지원했다. ‘고담’은 취합한 정보들을 AI로 분석해 러시아군 위치를 정확히 짚어냈고, 우크라이나군이 적은 병력과 무기로 러시아군을 정밀 타격하는 데 큰 도움이 됐다.

[호킹의 경고 “AI, 인류 멸망시킬 수도”]

그러나 간과해서는 안 될 것이 AI 기술 이용에 대한 법적, 윤리적 문제다. 실제로 AI 무기의 위험성은 이미 지난해 미국 공군 세미나에서 제기된 바 있다.

이 세미나에서 발표된 내용에 따르면 미 공군은 적 지대공미사일 기지를 식별·파괴하는 임무를 AI 드론에 부여하고, 목표물을 파괴했을 때 점수를 주는 가상시험을 실시했다. 당시 AI에는 “적 지대공미사일을 파괴하고, 임무 수행 중 방해가 되는 요소도 공격하라”는 명령어가 입력됐다.

그런데 이 AI는 이 과정에서 공격 중지를 명령한 인간 오퍼레이터를 방해 요소로 판단하고 공격했다. 그러자 “인간 오퍼레이터를 공격하면 감점”이라는 명령어를 새로 입력하자, AI는 이번에는 인간 오퍼레이터가 통제 명령을 송신하는 통신탑을 공격했다. 스스로 생각하는 AI가 통제를 벗어나 인간을 공격할 수 있음을 보여준 것이다. 이런 점에서 우크라이나의 AI무기 사용자들도 오작동하는 자율 드론이 아군을 공격할 가능성에 대한 우려를 제기한 바 있다.

국제 인권 단체들과 유엔 당국자들도 AI 무기가 통제 불능 상태의 새로운 세계 군비 경쟁을 불러일으킬 수 있다며 이를 규제해야 한다는 입장을 보인다.

미국 버클리 캘리포니아대(UC버클리)의 AI 과학자인 스튜어트 러셀 교수는 “우크라이나는 자율 무기가 왜 이점이 있는지에 대한 논리를 잔인하게 명확히 했다”며 “무기화된 인공지능의 위험성에 대해 경고한 바 있으며, 전 세계 무기 시장에서 저렴하고 확장 가능하며 쉽게 구할 수 있는 대량 살상 무기가 나올 것”이라며 AI의 무기화 위험성을 경고했다.

또한 일부 미국 당국자들은 “AI 기술을 적용한 무기 제작 능력이 테러 공격에 쓰일 수 있다”고 우려한다.

AI무기 개발은 우크라이나 전쟁으로 이미 대세가 됐다. 그렇기 때문에 AI 살상 로봇의 대량 확산은 이제 시간문제가 됐다. 사실 세계 주요국은 이미 개발된 원격 조종 방식의 무인 무기에 살상 판단 능력을 가진 AI를 개발하고 있을 것이다. 우크라이나 전쟁이 이를 보여주고 있다. 그렇다면 인류는 머지않은 미래 전장에서 AI 로봇이 인간을 ‘효율적으로’ 살상하는 시대를 맞이하게 될 것이다.

이와 관련해 스티븐 호킹 박사는 “AI가 인류를 멸망시킬 수 있다”며 AI 개발과 무기화에 신중을 기해야 한다고 여러 차례 경고한 바 있다.

프란치스코 교황도 지난 6월 14일(현지시간) 이탈리아에서 열린 주요 7개국(G7) 정상회의에서 AI의 위험성을 경고하며 AI 킬러 로봇의 사용을 금지할 것을 촉구했지만, 이러한 경고가 전쟁을 치르거나 호전광들의 귀에 들릴 리가 없다.

이렇게 세계는 인류 멸망을 앞당길 수도 있는 AI살상무기의 첨단화를 앞두고 있다. 어쩌면 이는 피할 수 없는 대세이기는 하지만, AI살상무기의 확산이 전 세계에 어떤 영향을 미치게 될지 깊은 우려가 앞선다.

지금은 드론이지만 앞으로 AI살상무기의 전성시대는 어차피 다가오게 될 것이다. 지난 4월 말 오스트리아 빈에서 개최된 자율무기시스템 관련 콘퍼런스에서는 AI 킬러 로봇을 규제할 수 있다는 시간이 얼마 남지 않았다는 우려가 제기됐지만 그 우려의 현실화는 그리 멀지 않은 듯 보인다.