뉴욕타임스(NYT)는 17일(현지 시각) “‘AI를 사용하지 않았다는 것을 증명하는 것’이 정직한 학생들의 새로운 고민으로 부상했다”는 제목의 기사를 통해 AI 표절 의혹에 맞서 고군분투하는 대학생들의 실태를 전했다.
최근 많은 교수가 과제 평가에 AI 탐지 도구를 활용하고 있는데, 이 도구는 사람이 작성한 글조차도 AI 생성 텍스트로 잘못 판별하는 경우가 적지 않다. 이에 학생들은 AI를 썼다는 의혹을 피하고자 과제 작성 과정을 영상으로 남기고 있다는 것이다.
실제로 휴스턴 다운타운대에 재학 중인 2학년 학생 리 버렐(23)은 작문 과목 과제에서 0점을 받았다. 담당 교수는 “해당 과제가 AI 챗봇에 위탁한 것으로 보인다”고 설명했다.
그러나 NYT가 검토한 구글 문서 편집 이력에 따르면, 버렐은 이틀에 걸쳐 초안을 작성하고 수정해 나간 것으로 드러났다. AI 표절 탐지 프로그램 턴잇인(Turnitin)이 그의 글을 AI 생성물로 오인한 것이다.
버렐은 자신의 억울함을 입증하기 위해 글쓰기 과정이 담긴 스크린샷과 메모를 정리해 총 15쪽 분량의 PDF를 학과장에게 제출했고, 다행히 성적은 복구됐다.
이후 그는 같은 수업 과제를 제출할 때, 글쓰기 과정을 담은 93분 분량의 영상도 유튜브에 함께 게시했다. 그는 “내가 하지 않은 일로 성적이 떨어질까 걱정됐다”며 “영상을 촬영이 번거로웠지만, 마음의 평화를 위해 필요했다”고 전했다.
AI 탐지 오작동은 드문 일이 아니다. 메릴랜드 대학교 연구진이 12개의 AI 탐지 서비스를 대상으로 실시한 분석에 따르면, 사람이 작성한 텍스트가 평균 약 6.8%의 확률로 AI 생성물로 잘못 식별했다.
해당 분석에 포함되지 않은 턴잇인 또한 2023년에 자사 시스템이 사람이 작성한 문장을 약 4%의 확률로 잘못 인식했다고 밝힌 바 있다. OpenAI 역시 자사 탐지 프로그램의 오탐률이 9%에 달하자 6개월 만에 서비스를 중단했다.
이에 대응해 일부 학생들은 과제를 할 때 몇 시간씩 화면을 녹화하거나, 키보드 입력 기록까지 남기며 과제 작성 증거를 만들고 있다. 입력 내용을 추적할 수 있는 워드 프로세서 등을 활용해 자신이 작성한 과정을 증명하려는 것이다.
AI 탐지 프로그램에 대한 반대 목소리도 높아지고 있다. 지난달 켈시 오만이라는 학생이 시작한 AI 탐지 도구 사용 반대 청원에는 이미 1,000명이 넘는 서명이 모였다. 이들은 잘못된 탐지로 무고한 학생들이 불이익을 받을 위험이 크다고 주장한다.
일부 대학은 AI 탐지 도구 사용을 제한하고 있다. 캘리포니아, 버클리, 밴더빌트, 조지타운 대학교는 모두 턴잇인의 AI 탐지 기능을 비활성화하기로 결정하면서 신뢰성 문제가 있다고 설명했다.
버클리 교수학습센터 소장 제네 콘은 NYT에 "AI 탐지 도구가 일부 교수들에게 안도감을 줄 수 있지만, 기술에 대한 과도한 의존은 학생과 교수의 관계를 해칠 수 있다는 사실을 알게 됐다”고 밝혔다.
김민주 기자 minjoo@hankyung.com
© 매거진한경, 무단전재 및 재배포 금지