제롬 글렌 "AGI 도래 앞두고 글로벌 거버넌스 구축해야…인류 존망 갈릴 것"

"규제되지 않은 AGI, 문명에 치명적 실수 될 것"

제롬 글렌 미래학자 겸 밀레니엄 프로젝트 회장(첫줄 가운데)이 31일 우재준 국민의힘 의원(둘째줄 왼쪽에서 8번째) 주최로 국회 의원회관에서 열린 'AI 거버넌스 기관 설립' 세미나에서 사진 촬영을 하고 있다. [사진=주최 측]

제롬 글렌 미래학자 겸 밀레니엄 프로젝트 회장은 "현재 AI(인공지능)에서 AGI(인공 일반지능)로의 전환을 관리하는 것이 인류가 직면한 가장 복잡한 과제가 될 것"이라고 말했다.

31일 우재준 국민의힘 의원·산업융합촉진 옴부즈만 공동 주최로 국회 의원회관에서 열린 'AI 거버넌스 기관 설립' 세미나에서 제롬 회장은 현재의 생성형 AI와 AGI 개념을 명확히 구분했다. 그는 "생성형 AI는 특정 작업만 수행하는 도구지만, AGI는 자율적으로 판단하고 지속적으로 발전하며 궁극적으로는 인간의 통제를 벗어날 수 있는 존재"라고 설명했다.

밀레니엄 프로젝트가 65개국 225명의 전문가들을 대상으로 실시한 거버넌스 모델 조사에 따르면, 다중 이해관계자 기구를 통한 AGI 거버넌스 모델이 51%의 지지를 받아 가장 선호되는 방안으로 나타났다. 이어 유엔(UN) 주도의 다기구 모델(47%), 분산형 거버넌스 모델(45%) 순이었다.

제롬 회장은 한국 정부에 "UN 한국 대표부가 국제 AI 기구 설립을 위한 타당성 조사를 UN 총회에 제안하고, AGI 특별총회 소집을 추진해야 한다"고 촉구했다. 특히 "아시아에는 도쿄 UN대학 등 단 하나의 UN 기구만 있는 만큼, 한국이 새로운 국제 AI 기구를 유치할 좋은 기회"라고 강조했다.

그는 AI 선구자 스튜어트 러셀의 말을 인용하며 "AGI 시스템을 만들기 전에 거버넌스 문제를 해결하지 못하는 것은 인류 문명에 치명적인 실수가 될 것"이라고 경고했다. 이어 "규제되지 않은 AGI가 인터넷 등에 공개될 경우 통제 불가능한 인공 초지능으로 이어질 수 있다"며 거버넌스 구축을 위한 국제적 협력이 시급하다고 했다.

그러면서 "AGI는 단순한 도구가 아닌 자율적 행위자로서 전 세계 센서와 사물인터넷에 접근해 스스로 학습하고 행동할 수 있다"며 "특히 조직범죄, 테러, 정보전, 부패 등과 결합할 경우 민주주의와 자유시장 체제를 위협할 수 있다"고 경고했다. 또 "글로벌 거버넌스 체계를 세우는 게 시급하다. 이는 개별 국가 차원이 아닌 UN을 중심으로 한 협력을 통해 이뤄져야 한다"고 덧붙였다.