박윤규 과기정통부 2차관 "AI 가상인간, 진짜 사람에 영향… 윤리·신뢰 중요"

[사진=아주경제 DB]

박윤규 과학기술정보통신부 제2차관이 인공지능(AI) 윤리와 신뢰성 인식을 높이기 위해 AI 분야별 대표기업 방문 일정을 지속하고 있다. 이번엔 실사 기반 ‘AI 휴먼’을 생성하고 활용하는 데 자체 AI 윤리강령을 적용하고 있는 이스트소프트를 찾았다.

과기정통부는 박 차관이 28일 서울 서초구 이스트소프트 사옥에 방문해 AI 윤리와 신뢰성 준수 현황을 파악하고 이행을 독려했다고 밝혔다. 이스트소프트는 AI 휴먼을 활용해 제작한 방송, 금융, 교육 관련 영상 콘텐츠를 제공하고 있다. 이 과정에 △인간을 존중하는 AI △사회에 공헌하는 AI △공정한 AI △윤리적 AI △안전한 AI 등 자체 수립한 5대 윤리강령을 적용하고 있다.

정상원 이스트소프트 대표는 AI 휴먼 개발에 챗GPT를 활용해 고객과 실시간 질의응답하고 신문기사와 뉴스 등 데이터를 활용해 환각 현상을 완화했으며 이용자에게 AI 휴먼과 대화하고 있음을 나타내 사람으로 오인되지 않게 했다고 설명했다. 생성 AI가 딥페이크 등에 활용돼 사회 문제를 일으킬 수 있다는 우려에 대응해 AI를 활용한 생성물 탐지 기술 개발에 나섰다고 덧붙였다.

박 차관은 “AI 휴먼은 사람과 직접 소통하고 언행에 영향을 미칠 수 있다는 점에서 AI 윤리·신뢰성 확보가 특히 중요한 영역”이라고 말했다. 이날 박 차관은 이스트소프트 AI 휴먼 촬영 스튜디오를 참관하고 사업자와 AI 윤리·신뢰성 확보 애로사항과 건의사항을 논의했다.