아마존·IBM 이어 MS까지... 美 경찰에 AI 얼굴인식 안 판다

AI 얼굴인식이 인종편견 고착화... 미 의회에 관련 법률 제정 요청

아마존·IBM에 이어 마이크로소프트도 인공지능(AI)을 활용한 얼굴인식(컴퓨터비전) 기술을 미국 경찰에 팔지 않겠다는 뜻을 밝혔다. 흑인 조지 플로이드의 죽음을 계기로 미국에서 인종 차별에 대한 경각심이 높아진 것에 따른 대응 조치다.

11일(현지시간) 월스트리트저널(WSJ)에 따르면, 마이크로소프트는 공식 블로그를 통해 AI 얼굴인식 기술 사용을 규제하는 법이 마련될 때까지 이 기술을 경찰에 판매하지 않겠다고 밝혔다.

브래드 스미스 MS 최고법률책임자는 "MS는 인권에 기반을 두고 기술을 통제할 법률이 시행될 때까지 미국 경찰에 얼굴 인식을 판매하지 않기로 결정했다"고 밝혔다. 그는 지난해에도 대량 감시에 이용될 수 있는 우려 탓에 MS가 캘리포니아 경찰에 얼굴인식 기술 판매를 거절했다고 함께 설명했다.

이에 앞서 아마존의 클라우드 사업부서인 아마존웹서비스(AWS)는 향후 1년 동안 미국 경찰에 컴퓨터비전 기술인 '아마존 리코그니션'을 판매하지 않겠다고 밝힌 바 있다. 이 같은 결정을 밝히며 AWS는 미국 의회가 얼굴인식을 윤리적으로 이용할 수 있는 규제를 도입하길 기대한다는 성명서를 내기도 했다.

IBM은 두 회사보다 한 발 더 나가 AI를 활용한 얼굴인식 기술 개발 자체를 중단한다고 밝혔다. 지난 8일(현지시간) 아빈드 크리슈나 IBM 최고경영자는 의회에 구조적인 인종차별 방지와 정의를 요구하며 IBM-레드햇이 AI 얼굴인식 사업에서 손을 뗀다고 발표했다.

AI 얼굴인식은 AI의 컴퓨터비전 능력을 활용해 사람의 신원을 판별하는 기술이다. AI 업계에서 가장 앞서나가고 있는 사업 분야로, 약 99% 정확도로 특정인의 신원을 파악한다. 범죄자 식별 등에 널리 활용되고 있지만, AI가 기존 데이터를 통해 인종·성별에 따른 편견도 함께 학습한다는 지적이 끊이지 않고 있다.

실제로 백인 남성은 높은 확률로 분류하지만, 흑인·아시아인·여성을 종종 잘못 분류하는 경우가 있어 문제로 지적받고 있다.

실제로 지난해 8월 미국 시민단체가 AI 얼굴인식을 활용해 캘리포니아 주의회 의원들의 사진을 경찰의 범죄자 데이터베이스와 대조한 결과 전체 의원 80명 중 26명이 범죄자로 잘못 판정됐다. 그중 절반 이상이 유색인종이었다. 한 AI 얼굴인식 서비스는 흑인을 사람이 아닌 고릴라로 분류해 논란을 일으키기도 했다.
 

브래드 스미스 마이크로소프트 최고법률책임자(사장).[사진=마이크로소프트 제공]