중국 AI가짜뉴스 첫 구금까지 챗GPT 의 대단한 무서움

중국에서 인공지능(AI) 챗봇 ‘챗GPT’ 사용과 관련해 첫 구금이 이뤄졌다. 9일 홍콩 명보 등에 따르면 중국 간쑤성 경찰은 지난 7일 성명을 통해 AI 기술을 이용해 가짜 정보를 날조한 혐의로 훙모 씨를 구금했다고 발표했다.

 

반응형

발표에 따르면 간쑤성 경찰은 지난달 25일 현지에서 열차가 공사 작업 중이던 노동자들을 치어 9명이 숨졌다는 가짜 뉴스가 온라인에서 퍼지는 것을 발견했다.

 

경찰은 중국 최대 검색 엔진 바이두가 운영하는 블로그 스타일 플랫폼 바이자하오의 21개 계정에서 동시에 해당 가짜 뉴스가 퍼지는 것을 발견했다. 그 가짜 뉴스는 1만5000건 이상의 조회수를 기록했다.

 

 

가짜 뉴스를 추적해 들어간 결과 훙 씨가 소유하고 있는 회사에서 처음으로 만들어진 것이 확인됐다. 훙 씨는 광둥성 선전시에 등록된 1인 미디어 플랫폼을 운영하고 있다.

 

훙 씨는 최근 몇년간 중국에서 주목받은 사건들의 요소를 챗GPT에 입력해 동일한 가짜 뉴스의 여러 다른 버전을 신속히 만들었고 이를 돈 주고 산 여러 바이자하오 계정에 올렸다. 조회 수를 올려 수익을 챙기려는 목적이었다.

 

훙 씨의 사례는 또한 중국이 지난 1월 딥페이크(deepfake)를 규제하는 새로운 규정을 시행한 후 경찰이 그와 관련해 처음으로 조사한 사건이다.

앞서 중국 국가인터넷정보판공실, 공업정보화부, 공안부가 공동으로 만든 ‘인터넷 정보 서비스 딥 합성 관리 규정’이 지난 1월 10일 발효됐다.

 

중국 당국은 챗GPT 열풍이 일자 생성형 AI 챗봇의 위험에 대해 누차 경고하고 있다. 지난 2월 베이징 경찰은 챗GPT가 만들어내는 루머에 주의하라고 경고했다.