딥페이크 피해 예방을 위한 교육, 규제, 기술 개발의 필수성 강조

2025 ICT 산업전망 컨퍼런스에서 이정수 딥브레인AI 사업총괄이사는 딥페이크 피해를 방지하기 위해 교육 강화, 규제 마련, 기술 개발이 필수적이라고 강조했다. 그는 이 세 가지 요소가 동시에 이루어져야만 피해를 줄일 수 있다고 말했다. 딥브레인AI는 가상인간 제작 기술을 바탕으로 딥페이크 탐지 솔루션에서도 눈에 띄는 성과를 내고 있는 스타트업이다.

딥페이크는 인공지능의 딥러닝 기술을 활용해 가짜 콘텐츠를 생성하는 기술로, 초기에는 인물 중심의 콘텐츠가 주로 다루어졌으나 현재는 사물과 배경을 포함한 다양한 영역으로 확장되고 있다. 긍정적인 측면으로는 마케팅, 광고, 엔터테인먼트 등에서 새로운 콘텐츠 형태를 창출하거나 방송, 교육 분야에서 효율성을 높이는 데 기여하고 있다. 예를 들어, 고인을 추모하기 위한 콘텐츠 제작 서비스도 긍정적인 반응을 얻었다.

반면, 딥페이크의 부작용도 크다. 정치 분야에서 유력 정치인의 가짜 영상이 생성되고 확산되며, 유명인사 사칭 광고로 인한 금전적 피해 사례가 증가하고 있다. 특히 청소년들이 딥페이크 음란물 제작에 노출되는 경우가 많아 사회적 문제로 대두되고 있다.

딥페이크 기술은 급속도로 발전하고 있으며, 이정수 이사는 기술 발전 속도에 맞춘 대응책이 필요하다고 지적했다. LLM 기술이 발전함에 따라 딥페이크 생성 과정이 더 빠르고 효율적으로 이루어질 수 있게 되었고, 이에 대한 예방 교육과 법적 규제가 시급하다고 강조했다. 아동 성착취물 제작을 불법으로 규정하는 등의 규제도 필요하다.

또한, 인터넷 플랫폼 사업자들에게 는 선제적 탐지를 통한 내용 표기와 게시 금지 조치를 요구했다. 딥페이크 탐지 솔루션 등 기술 강화의 필요성도 언급되었으며, 특히 소셜 미디어에서의 AI 생성 콘텐츠 탐지 기술의 중요성이 강조되었다.

딥브레인AI는 이미 위와 같은 관점을 반영하여 딥페이크 탐지 솔루션을 개발하고 있으며, 성인용 채널 탐지, 실시간 알림, 유포 채널 추적 기능 등을 구현하고 있다. 이 솔루션은 24시간 모니터링이 어렵기 때문에 효과적인 대응이 가능하다는 기대를 모으고 있다.

마지막으로 이정수 이사는 딥페이크 기술과 관련된 사회적 이슈를 사전에 준비하지 못한 점에 대한 아쉬움을 표명했다. 그는 초기에 발생할 문제들을 미리 식별하고 대응책을 마련했다면 현재의 사회적 이슈가 발생하지 않았을 것이라고 의견을 밝혔다.

│

이 포스트는 피시아(PHYSIA) 사에서 운영하는 게임메이커.KR 게임 개발 뉴스 블로그에서 작성되었으며, 공공의 이익에 기여하는 목적을 제외한 다른 용도의 무단 배포 및 수정을 금합니다. 참조 - 피시아(PHYSIA), 게임메이커.KR, 게임투비즈(GameToBiz), 게임S/W에이전시, 저널CTL코리아