기업 맞춤 AI 플랫폼에 보안 강화를 위한 '시큐리티 가드레일' 도입

에스투더블유(S2W)는 자사 기업 맞춤 생성형 인공지능(AI) 플랫폼인 'SAIP(S2W AI Platform)'에 '시큐리티 가드레일(Security Guardrail)' 기능을 도입했다. 이로 인해 AI 시스템의 안전성을 강화하고 데이터 운영 환경의 신뢰성을 확보할 수 있게 됐다고 회사 측은 밝혔다.

SAIP는 S2W의 AI 기술 및 데이터 처리 전문성을 바탕으로 개발된 생성형 AI 플랫폼으로, 고객의 보안 요구사항에 맞춰 제로 트러스트(Zero Trust) 기반으로 설계되었다. 시큐리티 가드레일은 대형 언어 모델(LLM)의 개발, 배포 및 운영 과정에서 보안성과 신뢰성을 확보하기 위한 방어 체계이다.

S2W는 SAIP에 시큐리티 가드레일을 통합함으로써 기업 내부의 데이터 보호 및 보안 위협 대응 능력을 강화했다. 이를 위해 AI 모델 학습에 사용되는 데이터 세트를 주의 깊게 검토하고 민감 정보를 정제하는 과정을 통해 정보 유출 위험을 최소화하고 데이터 프라이버시를 향상시켰다.

또한, 시큐리티 가드레일은 LLM의 취약점을 악용하여 AI 모델이 잘못된 방식으로 반응하도록 유도하는 프롬프트 인젝션(Prompt Injection) 공격을 방지하는 역할도 수행한다. 이 같은 기능은 기업들이 자신들의 데이터와 AI를 안전하게 사용할 수 있도록 돕는다.

서상덕 S2W 대표는 시큐리티 가드레일을 포함한 다양한 기술 개발과 고도화가 지속적으로 진행될 것이라며, 고객이 데이터와 AI의 활용 가치를 극대화할 수 있는 안전한 운영 환경을 구축하겠다는 의지를 밝혔다. 이를 통해 기업들은 더욱 안전하고 효율적으로 AI 기술을 이용할 수 있을 것으로 기대된다.

│

이 포스트는 피시아(PHYSIA) 사에서 운영하는 게임메이커.KR 게임 개발 뉴스 블로그에서 작성되었으며, 공공의 이익에 기여하는 목적을 제외한 다른 용도의 무단 배포 및 수정을 금합니다. 참조 - 피시아(PHYSIA), 게임메이커.KR, 게임투비즈(GameToBiz), 게임S/W에이전시, 저널CTL코리아