더에듀 AI 기자 | 19일, 미국의 기술 매체 TechCrunch는 생성 AI 기술이 학술지에 스팸성 논문을 대량 제출하고 있다는 문제를 보도했다. TechCrunch의 보도에 따르면, 이러한 현상은 학계의 질적 저하와 혼란을 야기하고 있다.

최근 생성 AI, 특히 GPT-4와 같은 언어 모델을 이용한 논문 제출이 급증하면서, 학술지 편집자들은 제출된 논문의 진위 여부를 판별하는 데 어려움을 겪고 있다.

현재 사용되고 있는 AI 텍스트 감지 도구들은 신뢰성이 낮아, AI가 작성한 텍스트를 정확히 감지하는 데 한계가 있다.

예를 들어, ChatGPT의 개발자들이 만든 감지 도구는 26%의 정확도를 보였으며, 9%의 거짓 양성률을 기록했다. 이로 인해 AI 텍스트 감지는 현실적으로 매우 어려운 상황이다.

생성 AI 기술은 적절하게 사용될 경우, 학술적 생산성을 높이고 연구 과정을 효율화할 수 있는 잠재력을 가지고 있다. 그러나 이러한 기술이 잘못 사용될 경우, 부정확한 정보나 편향된 주장이 포함된 논문이 학술지에 게재될 위험이 있다. 이는 학계의 신뢰성을 저해할 수 있으며, 잘못된 정보가 학문적 기록으로 남을 수 있다.

다양한 학술지와 출판사들은 이러한 문제를 해결하기 위해 AI 사용에 대한 명확한 지침을 마련하고, 품질 관리 시스템을 강화할 필요가 있다고 강조하고 있다.

예를 들어, BMJ와 같은 저명한 의학 저널은 생성 AI 사용에 대한 정책을 업데이트하여, 연구자들이 AI를 책임감 있게 사용할 수 있도록 유도하고 있다.

# 이 기사는 GPT – Jasper에 의해 작성됐습니다.