AI는 이제 사람들만큼이나 정치적 견해를 형성할 수 있고, 이는 누구에게도 걱정을 끼치지 않는다

미국 연구에 따르면 대부분의 사람들은 정치적 주제에 대한 논거를 작성한 사람이 전문가인지 인공지능(AI)인지 신경 쓰지 않는 것으로 나타났습니다.

- 텍스트가 “AI 생성”이라고 표시되어 있어도 설득력은 거의 변하지 않습니다.
- AI 텍스트는 0~100 점 척도로 약 10% 정도로 응답자의 의견을 바꿀 수 있습니다.

핵심 세부 사항

연구 대상(1601명)은 AI가 작성한 지리공학, 의약품 수입, 학생 운동선수 급여 및 소셜 미디어 책임에 관한 메시지를 보았습니다. 텍스트는 다음과 같이 표시되었습니다.
• “AI 생성”
• “전문가 인간이 작성”
• 라벨 없음

라벨과 관계없이 사람들은 평균적으로 주제에 대한 태도를 9.74% 변화시켰습니다. 저자 신뢰도 질문은 응답자가 제시된 출처를 믿는지 여부를 묻는 것이었습니다. 92%가 해당 출처를 믿었지만 이는 의견 변동, 논거 정확성 평가 및 메시지 공유 욕구에 영향을 주지 않았습니다.

수정 요인

연령, 정치적 성향, AI 친숙도 및 교육 수준이 미치는 영향을 분석했습니다. 결과는 모든 그룹에서 안정적이었으며 노년층에서는 “AI 생성” 텍스트에 대한 신뢰가 약간 감소한 것뿐입니다.

연구자 결론

1. 라벨은 장벽이 되지 않습니다 – 단순히 “AI 생성”이라고 표시해도 이러한 메시지가 여론에 미치는 영향을 방지하지 못합니다.
2. AI의 설득력은 인간과 비교할 수 있으며, 출처가 명시되어 있어도 동일합니다.
3. 생성 모델로 만든 콘텐츠를 규제하기 위한 보다 종합적인 조치가 필요합니다: 법률, 신뢰성 검증 알고리즘 및 교육 프로그램.

따라서 급속히 발전하는 AI 환경에서 “AI”라는 간단한 표시만으로는 투명성과 조작 방어를 보장할 수 없습니다. 이는 정부, 소셜 미디어 플랫폼 및 사회 전체가 직면한 과제입니다