고위험 AI 규제 '알고리즘법'...법조계, 기대와 우려 교차

[사진=게티이미지뱅크]

인간의 기본권을 침해하는 '고위험 인공지능(AI)'을 규제하는 법안이 발의된 가운데 법조계와 재계에서는 "인공지능 산업을 위축시킬 수 있다"며 법안 통과를 우려하고 있다.

26일 법조계에 따르면 지난해 말 처음 발의된 '알고리즘 및 인공지능에 관한 법률안(알고리즘법)'이 국회에 계류 중이다. 법안은 '고위험 AI'을 규제하는 것이 골자다.

법안을 발의한 윤영찬 더불어민주당 의원은 본지와 통화하면서 "고위험군 AI에 한해서 제한하지만 아무래도 첫 주장이다 보니 우려가 많은 건 사실"이라며 "하지만 대선이 끝나고 본격적으로 법안 통과를 추진할 것"이라고 전했다.

고위험군 AI를 대상으로 한 규제 방식은 크게 네 갈래다. △고위험 AI 심의위원회 설치 △알고리즘 투명화 △손해배상 청구 △기업 내 윤리위원회 설치 등이다.

'고위험군 AI'는 국민의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 인공지능으로, △생체인식 △교통·수도·가스·난방·전기 등 주요 사회기반시설의 운용 △채용 등 인사 평가 또는 직무 배치의 결정 △응급서비스, 대출 신용평가 등 필수 공공‧민간 서비스 등과 관련된 AI가 포함된다.

이 밖에도 △수사 및 기소 등 기본권을 침해할 수 있는 국가기관의 권한 행사 △문서의 진위 확인, 위험평가 등 이민, 망명, 출입국관리와 관련된 AI도 고위험군이다.

법조계에서는 알고리즘법에 대한 기대와 우려가 교차하고 있다.

신용우 변호사(법무법인 지평)는 "알고리즘 및 AI 기술의 사회적 수용성을 높이기 위해 안전성과 신뢰성 확보가 필수적"이라며 "기술의 부정적 영향을 최소화하면서 산업 육성 기반이 마련될 것으로 기대되는 만큼 국회 소관 상임위원회에서 법률안 입법 추진이 필요하다"고 말했다.

사전 규제가 아닌 사후 규제를 강화해야 한다는 주장도 나왔다. 박민철 김앤장 변호사는 "인공지능·알고리즘과 같은 혁신적 서비스는 결과물을 예측할 수밖에 없다"며 "하지만 예측만으로 규제를 하는 건 위험성이 있다"고 지적했다.

재계에서는 '고위험 AI'에 대한 정의가 불분명하고 결국 이는 인공지능 산업의 발전을 저해한다는 지적이 나온다.

이준열 엔키스 대표는 "코로나19 이후 국민의 이동 정보를 얻어 여러 서비스를 제공해왔다"며 "이로 인해 한국이 코로나19 감염예방 우수국가로 인정받았다. 하지만 제정안에는 응급서비스를 고위험 인공지능으로 분류하고 있다"고 말했다.

강용성 와이즈넛 대표는 "스타트업은 많은 것을 준비해야 한다는 부담이 앞선다"며 "법의 관점이 스타트업보단 이미 단계에 올라간 기업을 향하고 있다는 느낌을 받는다"고 지적했다. 그러면서 "모든 것을 '고위험'으로 분류하는 것이 아니라 구체적인 조건이 있어야 한다"고 강조했다.

이재형 과학기술정보통신부 인공지능기반정책과장은 "규제 적용 시점을 연기해야 한다"는 견해를 밝혔다. 정부의 기조는 인공지능 산업을 고려하면서 국민 안전과 인권 침해를 모두 고려하는 방향이란 것이다.

이 과장은 "산업 진흥 관련 부분에선 외국보다 앞서야 하지만, 규제 부분은 외국과 궤를 같이해야 한다"며 "진흥법안은 바로 도입해도 되지만 고위험 AI 관련 책무는 시기를 맞출 필요가 있다"고 말했다.