[강시철의 AI 인문학] ⑰ 인간보다 더 인간다운 존재가 만들어진다면?

[사진=게티이미지뱅크]

기술 발달에 대한 인간의 상상은 한계가 없다. 인공지능(AI)이 인간 지능을 능가하여 인류는 암울한 미래를 맞이할 수도 있다는 이야기들이 유행하면서 1980년대 초반 신선한 철학적 주제를 던진 영화가 등장해 AI 인문학에 대한 새로운 고민을 제안했다. 그것은 "인공적으로 만들어진 존재가 인간성을 가지거나 혹은 그 이상의 모습을 보여준다면 어떻게 해석해야 하고, 우리가 지니고 있는 인간성은 어떻게 정의해야 하는가?"였다.

1982년 스콧(Ridley Scott, 1937~) 감독은 '블레이드 러너(Blade Runner)'라는 역사적인 명작 SF 영화를 개봉했다. 딕(Philip Kindred Dick, 1926~1982)의 SF 소설 '안드로이드는 전기양을 꿈꾸는가?(Do Androids Dream of Electric Sheep?)’를 원작으로 만들어진 이 영화는 그 후 만들어진 '2001 스페이스 오디세이' '공각기동대' '매트릭스' 등과 더불어 사이버펑크 원조로 평가되었다. 영화 줄거리를 보자.
 

인간과 동일한 인공생명체

미래 어느 날 과학자들은 유전자 복제 기술로 인조인간을 만들어 낸다. 이들의 역할은 노예. 인간과 동등한 지적 능력에 인간을 앞서는 신체 능력을 갖췄으나 격리된 채 전투원이나 우주 개발, 또는 섹스 인형 등으로 사용되는 상태였다. 이 인조인간은 인간처럼 사고할 수 있었기 때문에 자신들 처지에 불만을 품고 있었고, 식민지 행성에서 폭동을 일으킨 뒤엔 이들이 지구에서 거주하는 것 자체가 불법이 된 상황.

지구에 불법적으로 들어온 인조인간을 찾아내고 처형하기 위해 '블레이드 러너'라 불리는 특수 경찰 팀이 만들어진다. 그런데 블레이드 러너가 이들을 가려내는 방식이 기발하다. 블레이드 러너는 감정 반응 테스트를 통해 인간과 인조인간을 구별해 내고 인조인간을 사살하는데 이 행위를 처형이라 부르지 않고 '폐기(retirement)'라고 부른다. 인간과 동일한 생명체인 인조인간을 살아 있는 인간으로 보지 않는 것이다.

극 중에서 인조인간은 신의 위치까지 올라간 인간의 기술에 의해 창조된 또 다른 인간이며, 창조주의 낙원인 지구에서 쫓겨나 4년 남짓 한정된 수명밖에 살 수 없도록 강요받았다. 이에 로이 배티(Roy Batty)라는 걸출한 인조인간이 등장해 자신의 창조주를 살해하기도 하지만 자기 손에 못을 박아 가면서까지 인간을 구출한다. 이런 에피소드에서 "신은 죽었다"고 외친 니체의 모습과 십자가에 못 박히면서까지 인류를 구원하고자 했던 예수의 모습이 오버랩된다.

미래에 첨단 과학기술로 인류는 신을 초월하는 능력을 지니게 되리라는 것은 누구도 의심하지 않는다. 앞으로 인류가 만들어 내는 슈퍼 AI를 포함해 인공 생명체들은 인간의 능력을 초월하게 될 것도 자명한 사실이다. 그때가 되면 인간의 피조물인 인공생명체들은 그들의 조물주인 우리에게 "인간은 죽었다"고 외칠 수도 있다.

인공생명체가 인류에게 대적하는 골칫거리가 아니라 인류를 가난과 고통에서 구원하는 메시아 역할을 하게 하려면 우리는 어떤 준비를 해야 할까?
 

수천 년 전부터 꿈꾼 자율주행

알아서 움직이는 운송 수단에 대한 상상은 그리스 신화로 거슬러 올라간다. 신화에 등장하는 반인반수 켄타우로스는 하체를 이용해 원하는 장소로 자율적 이동을 할 수 있었다. 옛날 동양의 유명한 자율 운행 수단은 손오공의 근두운이 있다. 손오공이 명령만 하면 근두운은 지정한 장소로 이동했다. 서양의 옛날이야기 속에선 알라딘의 마법 양탄자가 자율 운전 비행체였다. 우리나라에선 삼국유사에 등장하는 김유신 말이 기생집으로 자율 운행을 했다가 봉변을 당한 에피소드가 등장한다.

자동차가 상용화되자 인류는 본격적으로 자율 운전을 현실화하고자 했다. 로봇처럼 자율적으로 움직이면 편리함은 물론 교통사고도 현저히 줄어들 것으로 생각했다. 자율주행시스템 실험은 적어도 100여 년 전부터 진행됐다. 1920년대에 자동차가 대량 보급되면서 교통사고 사망자가 많이 발생했다. 그러자 운전자가 필요 없는 자동차에 대한 아이디어가 나왔다.

1925년 후디나(Francis Houdina)라는 발명가가 무선조종 자동차로 뉴욕 맨해튼을 질주한 바 있다. 나란히 있는 자동차 두 대 중 한 대에 원격 송수신기를 설치하고 운전자가 없는 다른 자동차를 조종하는 방식이었다. 운전자가 없는 차의 주행이라는 면에서 자율 주행을 한 것처럼 보이나 유사 자율 주행이라 할 수밖에 없었다. 원래 자율성이란 '실제 세계의 환경 속에서 시스템이 장시간 외부의 제어 없이 작동할 수 있는 것'을 의미하기 때문이다.

1980년대 들어 딥러닝으로 AI도 학습 가능성이 열리면서 이 상상은 구체적으로 실행에 들어갔다. 1984년 미국 정부 조직인 국방고등연구계획국(Defense Advanced Research Projects Agency·DARPA)은 자율 운전 육상차량(Autonomous Land Vehicle·ALV) 프로젝트를 마련해 각 대학과 연구소에 지원하면서 새로운 자율 운전 기술들이 나오게 되었다.
 

ALV [사진=록히드마틴 웹사이트 갈무리]

카네기멜런대학의 내브랩(Navlab)은 이 지원을 받아 트럭을 개조하여 최초의 완전 자율 운전에 성공했다. 개조된 트럭은 컬러 비디오 카메라와 레이저 센서, 내비게이션 컴퓨터를 장착하고 시속 31㎞ 정도인 걸음마 수준의 자율 운전을 했다. 그러나 당시 컴퓨터 기술 수준을 감안하면 놀라운 연구 성과였다.

사실 1977년 일본 쓰쿠바대학 기계공학연구소에서 자율 운전 자동차를 개발했으나 이는 완전 자율 운전이 아닌 반자율 운전이었다. 이 차량은 카메라 두 개를 이용하여 차선을 감지하고 최고 32㎞로 주행할 수 있었으나 운전자 개입이 필요했다.

1987년에는 벤츠와 뮌헨대학이 장애물 회피 기능과 오프로드 주행 능력을 실험했다. 1995년에는 '내브랩5'가 자율주행으로 미국 횡단에 성공했고, 2015년에는 네바다, 플로리다, 캘리포니아, 버지니아, 미시간주와 워싱턴DC가 자율주행차 공도 테스트를 허가했다.

(이미지) 1993년 고려대 산업공학과 한민홍 교수가 록스타를 개조해 만든 자율주행차.

우리나라는 대전엑스포가 열린 1993년에 자율주행 자동차가 처음으로 개발되어 도심 구간 주행 시연까지 했다. 고려대 산업공학과 한민홍 교수가 아시아자동차 '록스타'를 개조해 만든 자율주행차는 차선 변경 기술은 적용하지 못했지만 카메라를 통해 영상을 수집하고 분석하여 앞차와 거리를 유지하는 방식으로 서울 시내 약 17㎞ 구간을 자율주행하는 데 성공했다.
 

완전 자율주행 상용화를 위한 선결 과제

이렇게 시작된 자율 운전 기술은 이제 운전자가 필요 없는 레벨5 자율주행을 논의할 정도로 발전했다. 5단계에선 '모든 상황에서 자동차가 모든 주행을 할 수 있으며 인간 탑승자는 승객일 뿐 절대 운전에는 관여할 필요가 없다'고 정의하고 있다. 기본적으로 완전 자율 운전 자동차는 운전대와 운전석조차 필요 없다.

완전한 자율 운전 자동차는 카메라나 레이더, 라이다(LIDAR), 초음파 센서, GPS, 컴퓨터 비전, 심층 신경망에서 나온 AI 정보 등으로 주위 환경을 인식하고, 목적지를 지정하는 것만으로 자율적으로 주행한다. 그러나 완전 자율 운전 앞에는 과학적, 법적, 도덕적, 사회적, 철학적 문제들이 즐비하게 놓여 있다.

완전 자율주행 자동차에서는 사고 발생 시 이를 책임질 운전자가 없다. 그렇다고 모든 사고에 대한 책임을 자동차 제조업체에 돌린다면 어떤 기업도 완전 자율주행 차량을 출시하려고 하지 않을 것이다. 그래서 3단계 이하 자율주행 자동차를 출시한 기업들은 여전히 AI가 실수할 때 대처할 수 있는 안전 운전자를 배치한다. 위급 상황이 발생하게 되면 운전자가 운행을 관리해야 하기 때문이다.

완전 자율 운전이 해결해야 할 가장 큰 문제는 샌델(Michael J. Sandel, 1953~)이 '정의란 무엇인가'에서 자주 인용한 '트롤리 딜레마'다. 만약 자율주행 차량이 앞서가던 차량에서 화물이 떨어지는 돌발 상황에 직면해 핸들을 오른쪽으로 꺾으면 노인 보행자를, 왼쪽으로 틀면 어린이 보행자를 칠 수밖에 없는 상황에 직면하게 된다면 자율주행 AI는 어떤 결정을 내려야 할까? 또 그 결정에 따르는 모든 책임은 누가 지게 될까?

자율 운전 차량은 사람이 아니라 AI가 운전한 것이므로 사고 책임과 보상은 AI 판단의 적절성, 네트워크 장애 여부, 주행 데이터에 따라 궁극적인 책임을 따지게 될 것으로 전망된다. 그렇게 되면 자율주행 AI의 윤리적 기준이 책임과 보상 논의에서 중요한 쟁점이 될 것이다. 이렇게 되면 트롤리 딜레마와 같은 불가항력적인 상황에 대한 윤리적 판단도 가차 없이 내려져야 할 것이다.

그동안 트롤리 딜레마는 대학교의 정치 철학 강의나 시민들을 위한 교양서적에서만 볼 수 있는 지적 유희에 해당했다. 그런데 자율 운전차 등장으로 현실적인 문제가 되어 버렸다. 이제 자동차 기업과 행정당국은 이런 철학적 딜레마를 프로그래밍할 수 있어야 한다.

아마도 자동차 메이커들은 '최대 다수의 최대 행복'이라는 공리주의나 롱테일 법칙을 근거로 완전 자율 자동차 출시를 옹호할 것이다. 공리주의는 모든 판단에 대해 손익계산 가능성을 전제로 한다. 이익이 많은 쪽을 택해야 정당성이 확보된다. 계산이란 수치화가 가능해서 AI의 판단을 가능케 한다. 이 대목에서 공리주의란 철학은 도덕에서 과학으로 전환될 수밖에 없다.

그러나 공리주의 판단 역시 딜레마를 극복할 수 없다. 예를 들면 '장애인과 비장애인, 노인과 아이, 미국인과 한국인, 정치인과 일반인 중 누구를 살리는 게 이익일까?'와 같은 인간의 존엄성이나 인권 문제는 코딩으로 해결될 수 없기 때문이다. 자율 운전차는 이런 철학적 난제에 대한 결정권을 AI에 위임해야 거리에 나설 수 있다. 과연 인류는 자신의 생사를 AI에 맡기게 될까?

인류는 100년 넘게 자동차를 로봇으로 만들어 노예처럼 부리는 유토피아적 상상을 해왔고 이제는 실현을 목전에 두고 있다. 그러나 마지막 관문인 윤리의 미궁에서 헤어 나오지 못하고 있다.
 

강시철 비엔씨티코리아 회장[사진=강시철 비엔씨티코리아 회장 제공]