AI 댓글, 사람보다 더 설득력 있어
막을 기술은 아직 걸음마 단계
“요즘 인터넷에서 이상한 댓글이 많다”는 사람들의 의심은 단순한 기분 탓이 아니었다.
하루 20만 개씩 쏟아지는 뉴스 댓글 중 상당수가 생성형 인공지능(AI)이 만든 결과물이라는 사실이 밝혀지면서 여론 조작의 새로운 위협이 현실화되고 있다.
AI 댓글, 사람보다 설득력 뛰어나다
최근 스위스 로잔공대 연구에 따르면 GPT-4와 같은 대규모 언어 모델은 성별이나 연령 등 기본 정보만 있어도 상대를 설득하는 데 인간보다 64%나 높은 효과를 보였다.
실험에서는 AI가 주제에 맞춰 맞춤형 주장을 펼쳤고, 인간은 그 주장이 사실인지조차 판단하지 못한 채 설득됐다. 또 다른 실험에서는 GPT-4가 사람과 10분간 토론한 결과, 사람보다 더 설득력 있다는 평가를 받기도 했다.
국내 연구에서도 AI가 만든 댓글의 위험성은 확인됐다. 한국과학기술원(KAIST)은 국가보안기술연구소와 함께 한국어 댓글에 특화된 AI 탐지 시스템 ‘XDAC’을 개발했다.
사람이 쓴 댓글과 AI가 쓴 댓글을 구분하도록 실험한 결과, AI 생성 댓글의 67%를 사람이 쓴 것으로 착각하기도 했다. 사람이 작성한 댓글도 식별률이 73%에 그쳤다.
실제 여론처럼 보여 여론 형성까지 영향
AI 댓글의 가장 큰 위협은 ‘정교한 조작’이다. 감정이나 논조를 조절할 수 있어, 같은 기사에 “우리도 핵무장 해야 한다”와 “안보 투자 필요하다”는 정반대 성격의 댓글을 순식간에 대량으로 만들어낼 수 있다.
댓글 한 줄 비용은 1원에 불과하다. 유튜브에는 하루 10만 원만 내면 AI가 자동으로 블로그 게시글을 분석해 최적화된 댓글을 단다는 홍보 영상도 있다.
이런 시스템은 이미 실전에 활용되고 있다. 2023년 10월, 이스라엘은 SNS에서 자국을 지지하는 여론을 만들기 위해 AI 계정을 수백 개 생성했다.
지난해 11월에는 스위스 취리히대가 레딧에 AI 챗봇 34개를 투입해 성별, 인종, 정치 성향에 맞춘 댓글을 1700개 넘게 작성했고, 실제 이용자들은 이 댓글을 사람보다 설득력 있다고 평가했다.
이처럼 AI 댓글이 쏟아지는 가운데, 국내 대응은 여전히 미비하다. 포털사이트는 ‘도배 방지 시스템’으로 한 사람이 댓글을 반복 작성하지 못하도록 막고 있지만, 댓글 작성자가 AI인지 여부는 판단할 수 없다.
이재국 성균관대 교수는 “가짜뉴스는 진위를 따질 수 있지만, AI 댓글은 그럴 틈조차 없이 자연스럽다”며 “진짜처럼 보이는 조작이 훨씬 위험하다”고 경고했다.
전문가들은 댓글 시간, 계정, IP 등 메타데이터를 AI 탐지 시스템과 함께 연계해야 탐지율이 높아질 것이라고 지적했다.
