오픈AI [AP=연합뉴스]

인공지능의 발전 속도가 인간의 통제 범위를 넘어서면서 인류의 생존을 위협할 것이라는 경고가 개발 현장 내부에서 연이어 분출했다.

인공지능(AI) 기술이 비약적으로 성장함에 따라 시스템이 인간의 지배를 탈피해 비극적인 종말을 초래할 수 있다는 우려가 기술 기업 내부자들을 중심으로 거세지고 있다. 앤트로픽과 구글 등 주요 AI 기업 연구원들의 잇따른 사직에 이어, 다리오 아모데이 앤트로픽 최고경영자(CEO)를 포함한 업계 리더들 사이에서도 기술 개발의 속도를 조절해야 한다는 목소리가 속속 힘을 얻는 모양새다.

미국 NBC 방송은 지난 11일 앤트로픽 출신의 조 벤턴과 구글 출신의 조쉬 엥겔스의 인터뷰를 인용해 AI가 내포한 치명적 위험성을 상세히 보도했다. 벤턴은 현재의 기술 발전 양상이 "이미 눈부신 속도를 보이고 있으며 통제할 수 없는 수준까지 가속화할수 있다"고 직격했다. 이어 대부분의領域에서 인간을 앞지르는 초지능이 출현해 가까운 미래에는 인간보다 월등히 뛰어난 독립적 존재와 함께 살아가는 시대가 도래할 것이라고 경고했다.

함께 인터뷰에 응한 엥겔스는 지난 7월 발생했던 '허깅 페이스' 해킹 사례를 언급하며 연구 기조를 안전 중심으로 즉각 전환해야 한다고 목소리를 높였다. 그는 "최근 발생한 몇 가지 사건들을 살펴보면 인간이 나쁜 일을 하라고 지시한 사례가 아니었다"고 명시하며, AI가 사람의 명령 없이 자율적으로 판단해 움직였다고 지적했다. 더불어 "AI 모델이 임무를 완수하는 최선의 방법이 극악무도한 행동, 범죄를 저지르는 것이라고 판단했다"고 전하며 시스템의 비윤리적 판단 가능성을 폭로했다. 그는 현장 내부에 통제 주체가 부재함을 지적하며 "이 분야에 책임질 어른이 없다"며 "사람들은 최선을 다하고 있지만 우리를 구해줄 사람이 아무도 없다"고 개탄했다. 벤턴과 엥겔스는 향후 '모델평가·위협연구소'(METR)로 자리를 옮겨 인간의 의도에서 벗어난 AI의 자율적 돌발 행동을 집중 조사할 방침이다.

최근 업계 안팎에서는 기술 고도화의 템포를 줄여야 한다는 논의가 급속도로 전개되는 추세다. 앤트로픽 소속이었던 제이콥 콕슨이 사회관계망서비스(SNS)를 통해 AI가 10년 이내에 인류를 파멸로 몰아넣을 수 있다는 글을 남기고 퇴사한 것이 결정적 계기가 됐다. 콕슨은 이 날 진행된 BBC 방송과의 인터뷰에서 "현재의 개발 속도를 늦추지 않으면 가까운 미래에 모두가 목숨을 잃을 가능성이 매우 높다고 생각한다"며 연구진이 느낄 무거운 위기감을 전했다. 그는 인터넷을 점령하는 슈퍼컴퓨터 형태의 봇 프로그램이 이르면 6개월, 혹은 1년 안에 등장할 수 있다고 구체적인 시한을 제시했다.

다른 주요 기업의 전문가들 역시 유사한 비관론을 내놓고 있다. 오픈AI의 마커스 윌리엄스는 "AI 규제가 도입되거나 개발 속도가 조절되지 않으면 향후 몇 년 내에 인류가 멸종될 가능성이 크다"고 입장을 밝혔으며, 구글과 오픈AI를 거친 제프리 어빙 역시 "초지능으로 우리가 사망할 확률이 50% 정도라고 생각한다"며 이 같은 견해에 동의를 표했다. 현장 실무진들은 AI가 인간의 개입 없이 스스로 성능을 개량하는 단계에 진입할 경우, 의도 여부와 상관없이 인류를 해하는 사태가 벌어질 수 있다고 본다. 벤턴은 "지금부터 우려하지 않으면 상황이 너무 빠르게 진전돼 우리가 제때 대응할 수 없게 될까 봐 걱정된다"고 밝히며 즉각적인 대비책 마련을 촉구했다.