인공지능은 점점 더 많은 과학 논문을 작성하고 있으며, 인간이 쓴 것과 구별하기가 불가능해져서 두려움을 느끼게 된다

AI가 과학 논문에 등장: 성장과 도전

무엇이 일어나고 있는가
- 양의 증가

*Nature*에 따르면 AI를 활용한 기사 수가 이미 인간만으로 작성된 기사 수를 초과합니다 (Graphite 연구자들은 3월 말까지 55,000개의 새로운 웹페이지를 분석했습니다).

- 장단점

AI는 연구 과정을 가속화하지만 동시에 저품질 논문이 많이 증가하고 있습니다.

AI 참여도를 어떻게 측정하는가
| 연구 | 기간 | 데이터 양 | 주요 결론 |
|---|---|---|---|
| Pangram Labs (7,000개 기사 + 8,000개 리뷰) | 2021년 1-2월 ~ 2026년 2월 | 7,000 / 8,000 | 2022년 11월 이후 AI 관련 논문이 42% 증가했습니다. |
| 2024년 현재 | 70% 이상의 텍스트가 AI인 기사 | 두 배로 증가; 리뷰의 30%에 AI 텍스트 포함 |
| 생물의학 저널 (Science, Nature, Cell) | ~5,000개 기사 | 6개의 기사가 완전 AI 작성; 8분의 1이 AI 요소를 함유 |
| arXiv (컴퓨터 과학) | 2020–2025 | >124,000 원고 | AI가 포함된 리뷰 논문은 7%에서 43%로 증가했습니다. |
| 독특한 AI 텍스트 연구 | 3% ~ 23% |

문제와 한계
1. 검출기의 신뢰성

- 현재 도구는 “편집된” 텍스트와 완전히 생성된 AI 텍스트를 구분하지 못합니다.
- 거짓 양성 결과가 발생할 수 있으며, 인간이 작성한 자료가 AI로 표시될 수 있습니다.

2. 정확한 지표 부재

과학 문헌 전체에서 AI가 만든 콘텐츠 비율을 결정하는 보편적 방법이 없습니다.

3. 기술의 진화

- AI 발전에 따라 텍스트를 “인간화”하고 검출기를 회피하는 새로운 기법이 등장합니다.
- *워터마크*와 같은 솔루션이 도입되어 AI 참여 여부를 명확히 표시하며, 이미 한 학회에서 497편의 논문을 거부했습니다.

결론
과학 공동체는 AI가 참여한 출판물이 급증하는 상황에 직면해 있습니다. 이는 연구 속도를 높이는 새로운 기회를 제공하지만 동시에 신뢰할 수 있는 검출 도구와 품질 관리 시스템이 필요하며, 과학 문헌의 진실성을 유지해야 합니다.