뉴욕시의회 청문회에서 발언하는 제이컵 콕슨 [로이터=연합뉴스]

인공지능 개발 경쟁의 위험성을 지적하며 앤트로픽을 퇴사한 전직 연구원이 뉴욕시의회 청문회에 참석해 현재의 개발 방식이 인류 통제권 상실과 멸종을 초래할 수 있다고 단언했다.

앤트로픽 전 연구원 제이컵 콕슨은 현지시간 5일 뉴욕시의회가 개최한 AI 청문회 진술을 통해 현존하는 그 어떤 AI 시스템도 완전하게 통제하는 방식을 파악하지 못했다고 강조했다. 그는 지금과 같은 개발 기조가 지속된다면 인류가 AI 통제권을 잃어버릴 확률이 유지할 확률보다 훨씬 크며, 최악의 경우 인류 멸종이라는 비극으로 귀결될 수 있다고 경고했다. 실리콘밸리의 대표적 구호인 '빠르게 움직이고 깨뜨려라'라는 방식은 단순 사진 공유 서비스에는 적용할 수 있을지 몰라도 역사상 강력한 수준의 기술을 다루는 데는 부적절하다며 빅테크의 무모한 접근법을 비판했다.

콕슨은 최첨단 프런티어 모델 개발 과정에 속도 조절이 시급하다고 거듭 피력했다. 뉴욕시의회가 논의 중인 긴급 차단 장치 '킬 스위치' 도입 방안에 대해서도 단기적인 임시방편일 뿐 장기적인 안전성을 보장하기엔 역부족이라는 입장을 내놓았다. 앞서 그는 지난달 회사를 그만두면서 앤트로픽과 오픈AI가 인류 전체의 생명을 담보로 위험한 도박을 벌이고 있다고 비판의 목소리를 높인 바 있다. 이번 증언은 AI 규제 법안 체계를 추진하고 있는 줄리 메닌 뉴욕시의회 의장의 요청으로 성사됐다. 메닌 의장은 청문회 직전 열린 회견에서 기업들의 자율 규제 방식으로는 문제를 해결할 수 없다는 뜻을 밝혔다.

이날 청문회에서는 구글 딥마인드 출신 연구원 알렉스 터너의 화상 증언도 이어졌다. 터너는 외부 국가만이 잠재적 위협이 아니며, 통제에서 벗어난 AI를 자체적으로 만들어내는 경쟁이 더 큰 위험요소라고 강조했다. 정렬되지 않은 내부 AI 시스템이 장차 특정 국가의 위협보다 강력해질 수 있다는 시각이다. 이날 행사에는 오픈AI, 앤트로픽, 구글, 메타플랫폼 등의 주요 관계자들도 출석 요구 및 소환장 경고에 따라 선서 후 증언에 참여했다. 소환 요청에 응하지 않은 일부 기업 부문에 대해서는 법원을 통한 강제 집행 절차가 예고됐다.

한편 연방정부 차원의 AI 규제 불개입 기조와 달리 뉴욕 등 주요 지방정부가 독자적인 법적 규제 장치 마련에 속도를 내면서 정책적 불일치에 대한 우려도 커지고 있다