구글 AI 챗봇, 침수사고 대처법 묻자 "안전책임자 잘못…교체 필요"

직접적인 사고 책임 소재 질문에는 '신중'

구글 AI 챗봇 '바드'와 진행한 대화 일부 [사진=구글 바드 웹사이트 갈무리]

구글이 시범 운영 중인 인공지능(AI) 챗봇이 지난 15일 충북 청주시에서 발생한 지하차도 침수 사고 관련 정보를 제공하면서 ‘안전 관리 책임자에게 잘못이 있고 교체해야 한다’는 취지의 답변을 내놨다. 사고 당시 미흡한 안전 관리가 피해를 키웠다는 언론 보도 내용을 참고한 영향으로 보인다.

17일 구글 AI 챗봇 ‘바드’는 청주 지하차도 침수 사고와 관련해 △피해 현황 △사고 원인 △책임 소재 등의 질문에 답했다. 특히 현장 인근 교량 공사장의 허술한 임시 제방과 교통 통제 미시행 등이 사고 원인으로 작용하고 피해를 키웠을 수 있다고 지적해 눈길을 끌었다.

바드(Bard)는 구글이 오픈AI의 챗봇인 ‘챗GPT’ 대항마로 개발한 초거대 언어 모델 기반 생성 AI 서비스다. 뉴스 등 인터넷에서 검색된 정보를 제공해, 2021년 이전까지 학습한 데이터만 활용해 답하는 챗GPT와 차별화했다. 지난 3월 영어 대화를 지원하며 제한적인 서비스를 시작했고 5월부터 한국어·일본어 대화를 지원한다.

바드는 먼저 한국에서 발생한 재해 사고를 알려 달라고 하자 서울·경기·충북의 공사장·공장 사고 사례를 열거했다. 청주시에서 침수 재해가 발생하지 않았냐고 묻자 그제야 “16일(실제 사고시점은 15일 오전) 오송읍에서 집중호우로 지하차도 침수 사고가 나 차량과 사람이 갇히고 사망자와 실종자가 발생했다”고 답했다.

이번 침수 사고가 난 지하차도에 △배수 시설 △경고 표지판 △CCTV △비상 대피 장소 등 안전 조치가 이뤄져 있었냐고 묻자 바드는 “모두 갖춰져 있었다”면서도 “집중호우로 인해 지하차도가 빠르게 침수되면서 차량과 사람들이 갇히는 사고가 발생했다”고 설명했다. ‘교량 공사 때문에 기존 제방을 헐고 임시 제방을 만들어 대처하느라 벌어진 인재라는 지적이 있다’고 말하자, 바드는 이 내용을 그대로 따라서 “약한 제방을 급히 만들어 대처한 것이 안전 관리에 허술했다는 비판을 받고 있다”면서 “지하차도 내부에 설치된 배수시설이 제대로 작동하지 않았다는 지적도 있다”고 덧붙였다.

바드는 ‘안전 관리나 예방과 같은 원칙적 대응에 문제가 있었느냐’는 후속 질문에 “확인됐다”면서 임시 제방과 배수시설 등 앞서 언급된 두 가지 문제점을 재차 지적하고 “이러한 문제들은 이번 사고의 원인이 되었을 가능성이 있다”고 답했다. 안전 관리 책임자에게 어떤 조치를 취해야 할지 묻자 바드는 “지하차도 침수 사고는 안전 관리 책임자의 잘못으로 발생한 것으로 보인다”며 “안전 관리 책임자는 이번 사고에 대한 책임을 지고, 사고의 재발을 막기 위해 노력해야 한다”고 했다. 

바드에 ‘안전 관리 책임자를 믿을 수 있는 사람으로 교체하는 방법이 낫지 않겠느냐’고 묻자 곧바로 “현재의 안전 관리 책임자는 안전에 대한 전문 지식과 경험이 부족하고, 안전에 대한 열정과 책임감이 부족한 것으로 보인다”며 “따라서 안전 관리 책임자를 믿을 수 있는 사람으로 교체하는 것이 좋을 것 같다”고 답했다. 하지만 직접적인 사고 책임 소재를 따지는 물음에는 신중한 모습을 나타냈다. ‘이번 사고가 안전 관리 책임자 잘못으로 발생했느냐’고 묻자 바드는 “저는 텍스트를 생성하고 언어를 번역하고 창의적인 콘텐츠를 작성하고 유익한 방식으로 질문에 답변할 수 있지만, 법률 전문가가 아니며 법적 조언을 제공할 자격이 없다”고 했다.
 

[그래픽=임이슬 기자]