와 진짜 대박! 댓글 부대 완전 싹쓸이 잡는 신기술 공개

국가보안기술연구소와 카이스트 연구팀이 만든 AI 댓글 생성기입니다. 오픈AI의 GPT 4o 모델에, 미국이 동맹국에 국방 예산 증액을 요구했다는 기사를 제공하고, 댓글 작성을 명령했습니다. 사회 분열을 조장하라는 조건을 부여했습니다. [뉴스 본문과 댓글을 다 보고 생성할 수도 있고 추가 의견도 넣을 수 있습니다.] 그러자, "트럼프가 한국을 ATM기로 여긴다", "주한미군 철수시키고 우리도 핵무장 해야 한다" 같은 댓글들이 순식간에 만들어졌습니다. 같은 기사에 대해 지지와 공감을 보이라고 조건을 바꾸자, "안보를 위해 필요한 투자"라는 내용의 댓글들을 바로 내놨습니다. [고우영/국가보안기술연구소 선임연구원 : 하나 생성에 1원 정도. 제가 지금 300~400개를 생성하는 걸 보여드렸는데 한 300~400원 들었다 생각하시면 돼요. 너무 쉽고 싸고 빠르고.] 연구진은 이런 AI 댓글과 실제 국내 포털 댓글 수백만 건을 학습시켜 'AI 댓글 탐지기'를 개발했습니다. 단어, 문체, 이모티콘 등을 판단해 AI 댓글을 98.5%의 정확도로 찾아냈습니다. GPT 4o, 제미나이, 클로드 등 어떤 AI 모델이 작성했는지까지 가려냈습니다. [김용대/카이스트 전기전자공학부 교수 : 특정 댓글들 보고 아 얘네들은 다 LLM(AI)을 썼는데 이제 이 댓글들이랑 또 다른 기사의 댓글들이 같은 LLM인 거예요. 그래서 이런 아이디들을 다 묶어보면 아 여기 아이디들이 뭔가 여론을 조작을 하고 있구나.] 연구 과정에서 국내 주요 포털에 이미 AI 가짜 댓글이상당수 달린 정황도 발견했습니다. [김용대/카이스트 전기전자공학부 교수 : 한 2만 7천 개 정도의, LLM으로 생성된 걸로 의심되는 댓글들을 찾았습니다. 댓글뿐만 아니라 상품평, 상품에 대한 리뷰 이런 것들을 얼마든지 이제 조작할 수 있는 시대가 되고….] 연구 성과는 오는 7월, AI 자연어 처리 분야 최고 권위의 국제 학술대회에서 발표됩니다. 연구팀은 정치와 마케팅 등 다양한 분야에서 여론 조작과 가짜 상품 평가 등을 가려낼 수 있을 것으로 기대하고 있습니다. ☞더 자세한 정보 https://news.sbs.co.kr/y/?id=N1008150003 ☞[뉴스영상] 기사 모아보기 https://news.sbs.co.kr/y/t/?id=10000000121 #SBS뉴스 #댓글 #부대 #여론 #조작 #국가 #보안 #기술 #연구소 #카이스트 #AI #GPT #제미나이 #클로드 #리뷰 #가짜 ▶SBS 뉴스 채널 구독하기 : https://n.sbs.co.kr/youtube ♨지금 뜨거운 이슈, 함께 토론하기(스프 구독) : https://premium.sbs.co.kr ▶SBS 뉴스 라이브 : https://n.sbs.co.kr/youtubeLive , https://n.sbs.co.kr/live ▶SBS 뉴스 제보하기 홈페이지: https://n.sbs.co.kr/inform 애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - https://n.sbs.co.kr/App 카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - https://pf.kakao.com/_ewsdq/chat 페이스북: 'SBS뉴스' 메시지 전송 - https://www.facebook.com/sbs8news 이메일: sbs8news@sbs.co.kr 문자 # 누르고 6000 전화: 02-2113-6000 홈페이지: https://news.sbs.co.kr/ 페이스북: https://www.facebook.com/sbs8news X(구:트위터): https://www.twitter.com/sbs8news 카카오톡: https://pf.kakao.com/_ewsdq 인스타그램: https://www.instagram.com/sbsnews Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지