제롬 글렌 "국제 AGI 규칙 수립 시급…韓에 관련 기관 설립 가능성"

유엔총회의장협의회 토론 세션서 "타당성 조사 필요"

"좁은 의미 AI는 도구…AGI, 지각 있는 존재처럼 행동"

한승수 "IAEA 같은 정부 간 기관 보유 방안 고려해야"

한승수 전 국무총리가 지난 29일 정부서울청사 별관 외교부 상황실에서 열린 유엔총회의장협의회(CPGA) 개회식에서 환영사를 하고 있다. [사진=연합뉴스]

제롬 글렌 미래학자 겸 밀레니엄 프로젝트 회장은 "한국에 국제 인공일반지능(AGI·Artificial General Intelligence) 관련 기관을 설립할 가능성이 있다"고 밝혔다.

제롬 회장은 30일 서울 중구 롯데호텔에서 열린 유엔총회의장협의회(UNCPGA) 토론 세션에 참석해 "글로벌 AGI 기관 설립에 대한 타당성조사가 필요하다"며 이같이 말했다. 

지난 29일부터 양일간 진행되고 있는 협의회는 이날 그동안 논의된 사이버 안보 의제를 확장해 인공지능(AI) 관련 토론 세션을 마련했다. 최근 딥페이크, 가짜뉴스 등 AI를 악용한 사례가 잇따라 증가하며 유엔 차원의 AI 대응 기구가 마련돼야 한다는 목소리가 높아지고 있는 데 따른 조치다.

해당 세션 발제자로 나선 제롬 회장은 평소 혜택과 위험이 공존하는 핵을 집중적으로 살피는 국제원자력기구(IAEA)와 같이 AI 관리를 전담할 국제기구의 필요성을 강조해 왔다. 그는 이날 역시 기존 AI보다 발전한 형태인 AGI의 차이점을 짚고, AGI가 가진 잠재 위험과 이를 예방하기 위해 규제 방안을 마련해야 한다고 역설했다.

제롬 회장은 "좁은 의미의 AI는 도구인 데 반해 AGI는 지각이 있는 존재처럼 행동한다"면서 "기존 AI가 사전에 프로그래밍된 데이터베이스만을 사용해 작업을 처리한다면 AGI는 문제를 해결하기 위해 자체 코드를 다시 작성하는 격"이라고 설명했다.

그러면서 "AGI 전문가들과 함께 국가별 규칙과 국제 협력 규칙을 수립해야 한다"며 "매우 어려운 작업이지만, 시급성을 이해해야 한다"고 강조했다. 특히 "유엔 총회 내 AGI 관련 특별 세션을 만들 것을 추천한다"며 "복잡한 문제이기 때문에 전 세계가 모여 대화를 나누는 것은 좋은 기회가 될 것"이라고 언급했다.

아울러 "또 다른 제안은 국제 AI 기관 설립에 대한 타당성조사를 촉구하는 것"이라며 "아시아 전역에 유엔 기구가 하나밖에 없고, 일본은 도쿄에 이미 하나의 유엔 기관을 갖고 있기 때문에 중국, 인도, 싱가포르를 비롯해 한국도 가능성이 있다"고 말했다. 

제롬 회장은 현재 한국 주도로 타당성조사팀을 꾸리는 방안을 한승수 전 국무총리, 구윤철 서울대 경제학부 특임교수(전 국무조정실장), 박영숙 유엔미래포럼 대표와 논의 중인 것으로 알려졌다.

AI 거버넌스의 필요성에 공감하는 구 교수와 박 대표는 앞서 해당 기구 본부 위치를 서울에 둘 것을 제시한 바 있다. 이들은 한국이 강력한 AI 생태계를 구축하고 있으며, 정치적 중립성과 연구·투자 기반을 갖췄다는 점을 내세우고 있다.

이날 회의에 UNCPGA 의장 자격으로 자리한 한승수 전 총리는 이어진 토론에서 "우리는 일종의 IAEA와 같은 정부 간 기관을 보유하는 방안을 고려해야 한다"며 "원자력 기술이 거의 독점적인 반면, AI는 경쟁력 있는 개인도 쉽게 접근할 수 있다는 것이 문제"라고 의견을 보탰다.

그러면서 "AI 규제는 사이버 보안보다 훨씬 더 광범위한 개념"이라며 "우리는 태스크포스(TF)를 두고, 협의회 내 일부 인원과 전문가를 투입해야 한다"고 제안했다.