딥페이크와 허위정보, 2024년 대선의 위협 요소로 부각

2024년 미국 대선을 맞아 소셜미디어에서의 허위정보가 선거 결과에 미칠 영향에 대한 우려가 커지고 있다. 특히 생성형 인공지능(AI)의 발전으로 인해 후보자들의 딥페이크 영상이 범람하고 있는데, 이로 인해 진짜와 가짜를 구별하기 어려운 상황이 발생하고 있다. 한국언론진흥재단은 15일 서울 중구에 위치한 한국프레스센터에서 '2024 KPF 저널리즘 컨퍼런스'를 개최하고, "AX x Journalism: 저널리즘, AI를 품다"라는 주제로 AI 기술이 언론 환경에 미치는 영향을 논의했다.

컨퍼런스의 한 세션에서 하버드대의 앤 마리 리핀스키 큐레이터는 "딥페이크의 사회적 영향력이 매우 크다"고 강조하며, 특히 이번 선거에서 이 문제의 중요성이 부각되었다고 말했다. 그는 기술의 발전으로 인해 대선 후보자의 음성을 거의 똑같이 복제할 수 있는 수준에 도달했으며, 예를 들어 일론 머스크가 딥페이크 영상을 소셜미디어에 게시하는 사례를 들었다. 이러한 콘텐츠들은 실제와 구별하기 어려운 경우가 많아 문제가 되고 있다.

리핀스키는 지난주 진행된 워싱턴포스트의 리서치를 인용하며 딥페이크가 투표에 큰 영향을 미치지는 않았지만, "상식이 무너질 수 있다"는 우려도 표명했다. 그는 사람들이 더 이상 팩트에 관심을 두지 않게 될 수 있다고 경고하며, 언론의 역할이 더욱 중요해질 것이라고 언급했다. 그는 언론사들이 AI 관련 규약을 마련해야 한다고 강조했다.

SBS 탐사보도부의 박수진 기자는 미국에서의 취재 결과를 공유하며, 많은 사람들이 무엇이 가짜인지 제대로 인지하지 못하고 있다고 밝혔다. 또한 그는 사람들의 감정적 반응이 팩트보다 더 중요시되고 있으며, 이미 자신의 정치적 성향이 확고한 사람들은 딥페이크 영상의 진위 여부에 별다른 신경을 쓰지 않는다는 점을 지적했다. 딥페이크 영상이 단순한 정치적 선택을 넘어서 사람들의 편향적 믿음을 강화할 우려가 있음을 덧붙였다.

토론 패널로 참석한 이승철 KBS 기자는 딥페이크 기술이 전문가의 영역을 넘어 일반인에게까지 확산되고 있다고 말했다. 10대 사이에서는 딥페이크를 이용한 놀이 문화가 활성화되고 있으며, 이는 기술을 활용하지 않으면 뒤떨어진다는 인식을 초래한다고 설명했다. 그는 딥페이크 기술의 교육이 우선 필요하다고 주장하며, 논의의 방식을 변화시켜야 한다고 강조했다.

이러한 논의들은 현재의 미디어 환경에서의 진실성과 신뢰성을 유지하기 위한 노력이 필수적임을 시사한다. AI가 만들어내는 콘텐츠에 대한 이해를 높이고, 사람들의 정보 소비 습관을 변화시키기 위한 교육과 연구가 절실하게 요구된다.

│

이 포스트는 피시아(PHYSIA) 사에서 운영하는 게임메이커.KR 게임 개발 뉴스 블로그에서 작성되었으며, 공공의 이익에 기여하는 목적을 제외한 다른 용도의 무단 배포 및 수정을 금합니다. 참조 - 피시아(PHYSIA), 게임메이커.KR, 게임투비즈(GameToBiz), 게임S/W에이전시, 저널CTL코리아