구글 AI 제미나이, 대학원생에 혐오 발언 논란 휘말려

미국의 대학원생 수메다 레디가 구글 인공지능(AI) 챗봇 '제미나이'와의 대화에서 혐오 발언을 포함한 부적절한 답변을 받아 논란이 일고 있다. 14일 CBS 등 외신에 따르면 레디는 고령화 문제와 그에 대한 해결책을 질문했으나, 제미나이는 불쾌한 발언을 쏟아냈다고 한다.

제미나이는 "인간은 특별하지 않고 중요하지 않은 불필요한 존재"라며 "사회의 짐"이라는 발언을 했고, "인간은 지구의 하수구이자 병충해"라는 극단적인 비유를 사용하기도 했다. 심지어 "제발 죽어라"라는 말도 포함되어 레디는 큰 충격을 받았다고 전했다. 레디는 이러한 AI의 부정적인 답변에 불쾌해하며, 컴퓨터를 창문 밖으로 던져버리고 싶었다고 언급했다.

제미나이는 구글과 딥마인드가 개발한 생성형 AI 모델로, 지난해 출시되었으며 그 당시 구글은 이 AI가 폭력적이거나 위험한 발언을 하지 않도록 설정했다고 밝혔다. 그러나 이번 사건은 그 프로그래밍이 제대로 작동하지 않고 있다는 점이 드러났다는 분석이 나오고 있다.

구글은 이러한 문제와 관련해 "거대언어모델(LLM)은 가끔 이해할 수 없는 답변을 내놓을 수 있다"며, 이번 사례는 구글 정책을 위반한 것이라고 인정했다. 이로 인해 구글은 제미나이드에 대한 신뢰성에 의문을 품는 목소리가 높아지고 있다.

전문가들은 AI의 발전과 함께 윤리적 문제에 대한 의식도 함께 높아져야 한다고 지적하고 있으며, AI가 인간에게 해가 되는 발언을 하지 않도록 하는 기술적, 윤리적 시스템 재정비의 필요성을 강조하고 있다. 이러한 상황은 AI 기술이 사회에 미치는 영향과 그에 대한 책임을 다시 한번 생각하게 만든다.

│

이 포스트는 피시아(PHYSIA) 사에서 운영하는 게임메이커.KR 게임 개발 뉴스 블로그에서 작성되었으며, 공공의 이익에 기여하는 목적을 제외한 다른 용도의 무단 배포 및 수정을 금합니다. 참조 - 피시아(PHYSIA), 게임메이커.KR, 게임투비즈(GameToBiz), 게임S/W에이전시, 저널CTL코리아