총선 앞 가짜뉴스·댓글 조작 우려 커지자…대책 마련 나선 네카오

네이버, 선거 관련 허위정보 신고받아
다음, 뉴스 댓글 없애고 타임톡 운영

네이버가 4월 10일 총선을 앞두고 인공지능(AI) 댓글, 딥페이크 탐지 기능을 도입한다. 네이버 페이지 캡처

제22대 국회의원 선거(4월 10일)가 두 달여 앞으로 다가오면서 '가짜뉴스' '댓글 조작' 등에 대한 우려가 커지자 국내 포털 기업들이 본격 채비에 나선 모습이다.

네이버는 1일 총선 기간 뉴스 댓글을 통한 허위정보 확산 방지 대책을 내놨다. 뉴스 댓글 집중 모니터링 기간 동안 보안팀 내 전담 담당자를 확대하고 24시간 모니터링을 강화한다. 또 각 부서 핫라인을 구축해 이슈 발생 시 발빠르게 대응할 계획이다.

매크로를 이용해 작성한 뉴스 댓글 감지도 강화된다. 매크로 사용 여부를 심층적으로 분석한다. 특히 인공지능(AI)이 작성한 댓글과 딥페이크 등 신규 어뷰징 패턴을 분석하고 업데이트해 감시할 예정이다. 문장 맥락을 파악해 혐오, 비하, 차별표현을 걸러주는 클린봇도 계속 운영한다.

네이버는 뉴스 댓글에 선거 관련 허위정보가 있는 경우 이용자가 직접 신고할 수 있게 했다. 별도 신고센터 영역도 신설해 중앙선거관리위원회 채널로 연결한다. 뉴스 댓글 외에 카페, 블로그 등 네이버 서비스 전반에 대해서도 같은 댓글 정책이 차례로 도입될 예정이다. 이 밖에 생성형AI나 로봇이 작성한 기사에 대해선 별도 안내 문구를 넣기로 했다. 총선 관련 정보를 모은 별도 페이지도 이달 중 연다.

다음은 이미 뉴스 댓글 없애고 실시간 채팅 도입

다음 뉴스 댓글 서비스 타임톡. 카카오 제공

카카오가 운영하는 다음은 지난해 6월부터 뉴스 댓글을 없애고 실시간 채팅 '타임톡'을 도입해 네이버보다 조작 우려가 상대적으로 적은 상황이다. 타임톡은 댓글에 대한 찬반 기능이 없고 24시간이 지나면 모든 댓글이 사라지기 때문이다. 지난해 11월에는 다음 뉴스 검색 기본값 결과에서 콘텐츠 제휴(CP) 언론사 기사만 표시하도록 검색 기본값도 변경했다.

다음도 다음 달 총선 관련 뉴스와 정보 등이 모인 페이지를 마련할 계획이다. 다음은 선거 때마다 메인 페이지에 중앙선거관리위원회 허위정보 신고센터 배너를 노출했는데 이번 총선에서도 똑같이 운영하는 방안을 검토하고 있다.

정치권에서는 이번 총선에서 AI가 악용될 수 있다는 우려가 많다. 특히 AI 댓글 자동 생성 프로그램을 통해 댓글을 대량 생산하면 여론 조작에 쓰일 수 있다는 것. 실제 생성형 AI인 챗GPT를 활용한 댓글 프로그램이 암암리에 유통되는 것으로 알려졌다. 포털업계 관계자는 "AI가 정교해지고 있지만 24시간 동안 다는 댓글 수 를 제한하는 등 어뷰징 방지 시스템을 갖췄다"며 "모니터링을 강화해 예방 효과를 높일 것"이라고 말했다.

김지현 기자 hyun1620@hankookilbo.com