선거 앞둔 美·英, AI 경보…"대규모 가짜뉴스 유통 위험" 초비상
상태바
선거 앞둔 美·英, AI 경보…"대규모 가짜뉴스 유통 위험" 초비상
  • 인터넷팀 admin@cstimes.com
  • 기사출고 2023년 05월 21일 20시 20분
  • 댓글 0
이 기사를 공유합니다

전문가들 "내년 봄 되면 유권자 맞춤형 허위정보·사진·음성 등장"
트럼프 체포? "AI가 만든 가짜사진"
[엘리엇 히긴스 트위터. 재판매 및 DB 금지]

민주주의 선진국인 미국과 영국에서 최근 급속도로 발달 중인 생성형 인공지능(AI)을 두고 허위정보 범람에 대한 우려가 커지고 있다고 영국 일간 가디언이 20일(현지시간) 보도했다.

주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 주요 선거에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기되면서다.

지난 16일 샘 올트먼 오픈AI 최고경영자(CEO)는 미 의회 청문회에서 "가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력"이라고 경고했다.

리시 수낵 영국 총리가 지난 18일 영국이 AI 위험을 제한하는 데에 앞장서겠다고 공언하고 나서는 등 최근 전세계에서 동시다발적으로 AI 기술에 대한 경계의 목소리가 커지고 있다.

챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 '딥페이크' 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다.

특히 이런 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 가디언은 짚었다.

대만해협 갈등, 성소수자 권리, 기후변화 등 논쟁적 주제에 대한 관련한 특정 논점을 반복하도록 훈련된 AI의 메시지가 수천개의 소셜미디어 계정을 통해 전파될 경우 정치적 반대파의 목소리를 억누르고, 관망하는 이들의 귀를 솔깃하게 하는 식으로 생산적 공론 과정을 차단할 수 있다는 것이다.

챗GPT

영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수는 "AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리"라고 말했다.

그는 "영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다"며 "생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다"고 경고했다.

아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다.

실제 오픈AI와 구글의 챗봇이 특정 질문에 그럴싸한 오답을 꾸며내는 사례는 심심찮게 보고되고 있다.

지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다.

<연합뉴스>


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
투데이포토