오픈AI, 챗GPT가 쓴 에세이 감별 툴 선보여

[사진=AFP·연합뉴스]

챗GPT 출시 두 달여 만에 일선 교육 현장에서 ‘AI 작성 에세이’에 대한 우려가 커지고 있다. 오픈AI는 우려를 덜기 위해 챗GPT가 작성한 텍스트를 판별하는 기능을 선보였다. 
 
31일(현지시간) CNN비즈니스에 따르면 오픈AI는 이날 ‘AI 텍스트 분류기(AI text classifier)’라는 새 기능을 발표했다. 해당 기능은 에세이를 사람이 작성했는지 아니면 AI가 작성했는지 여부를 판단한다.
 
머신러닝시스템으로 작동되는 해당 기능에 에세이 등 텍스트 본문을 돌리면, ‘AI가 생성했을 가능성이 큼’부터 ‘가능성이 매우 작음’까지 총 5단계로 분석 결과가 나온다. 오픈AI는 학생들의 에세이와 작문 스타일 등을 참조해서 해당 기능을 만들었다.
 

이날 열린 시연에서는 소설 ‘피터 팬’에서 발췌한 텍스트를 AI 텍스트 분류기로 돌렸다. 분류기는 해당 텍스트가 “AI가 작성했을 가능성이 없다”고 판단했다.
 
그러나 오픈AI는 해당 기능이 "완전하지 않다"고 인정했다. 오픈AI의 정책 연구 책임자인 라마 아마다는 교육자들이 ‘AI 텍스트 분류기’와 같은 기능을 요청했다면서도, 교사들에게 해당 기능을 “곧이곧대로 받아들여서는 안 된다”고 경고했다.

그는 이어 “우리는 해당 기능이 때때로 틀릴 수 있다는 점을 알고 있다”며 교사들이 매우 신중하게 사용할 것을 당부했다. 텍스트 분류기가 제시한 결과를 맹신해서는 안 된다는 설명이다. 오픈AI 블로그에 따르면, 해당 기능은 인간이 작성한 텍스트의 약 9%를 AI가 썼다고 잘못 판단했다.
 
지난 11월 말 출시된 대화 전문 AI챗봇 챗GPT는 독창적인 에세이, 스토리, 노래 가사 등을 만들어 세계를 깜짝 놀라게 했다. 사람의 대화를 모방하는 수준을 넘어 전문 작가를 대체할 수준의 텍스트를 생성한다는 평을 받는다.
 
한 실험에서 챗GPT가 미네소타대 로스쿨, 펜실베이니아 와튼 경영대학원, 미국 의사 면허 시험 등에 합격하면서, 챗GPT 사용에 대한 윤리 문제가 불거졌다. 뉴욕시와 시애틀은 학생들이 챗GPT를 통해 에세이를 작성할 수 있다는 우려에 공립학교에서 학생과 선생님의 챗GPT 사용을 차단했다.
 
표절 예방프로그램 턴잇인(Turnitin) 등 회사들은 챗GPT로 에세이가 작성됐는지를 확인하는 표절 방지 기능을 적극 개발하고 있다. 프린스턴 대학생인 에드워드 투안이 개발한 챗GPT 감지 기능인 '제로GPT(ZeroGPT)'도 주목을 받는다. 투안은 “교사들의 수요가 엄청나다”며 9만5000명에 달하는 사람들이 제로GPT 베타버전을 사용했다고 밝혔다.
 
그러나 챗GPT로 작성된 에세이의 표절 여부를 확인하는 일은 쉽지 않을 것이란 분석이 많다. 오픈AI의 얀 레이케는 AI가 작성했더라도 이를 숨기기 위해 사람들이 텍스트를 편집하면 AI 작성 여부를 파악하기 어려울 것으로 봤다. 또한 답이 너무 뻔한 텍스트, 1000자 미만의 짧은 텍스트 역시 사람 혹은 AI가 작성했는지를 파악하는 것은 쉽지 않다는 설명이다.
 
오픈AI는 AI 검사 기능을 확인하기 위해 일선 학교 교사들과 하버드대, 스탠퍼드디자인스쿨 등과 논의를 이어가고 있다고 밝혔다. 대중들도 적극 기능을 사용한 후 피드백을 공유하길 기대한다고 했다.