AI 보안 혁신: S2W, SAIP에 시큐리티 가드레일 추가

인공지능(AI) 기술의 채택이 빠르게 증가하면서 보안 체계의 중요성이 커지고 있다. S2W는 자사 AI 플랫폼인 'SAIP'에 보안 방어 체계를 추가하여 사용자들이 보다 안전하게 AI 기능을 활용할 수 있도록 하고 있다. S2W는 기업용 생성형 AI 플랫폼인 SAIP에 시큐리티 가드레일을 구현할 것이라고 19일 발표했다.

SAIP는 S2W의 AI 기술과 데이터 처리 노하우를 바탕으로 설계되었으며, 고객의 보안 요구에 맞춰 제로트러스트 모델을 적용하고 있다. 이를 통해 해당 기업의 도메인 특화된 거대언어모델(LLM)과 지식그래프 기술을 접목하여, 개별 산업의 특성이나 사용 목적에 적합한 사실 기반의 답변과 데이터를 제공할 수 있도록 하고 있다.

그러나 LLM의 도입은 데이터 운영의 효율성과 생산성을 높이는 동시에, 데이터 유출과 변조 등 보안 문제를 야기할 수 있다. 이러한 보안 문제를 방어하기 위한 기술의 필요성이 증가하고 있으며, 이는 글로벌 시장에서도 보안 없는 AI 기술은 무의미하다는 인식이 확산되는 배경이 되고 있다. 매년 미국 등 주요국에서 개최되는 'AI 리스크 서밋'과 같은 글로벌 행사도 이러한 맥락에서 열리고 있다.

S2W는 SAIP에 시큐리티 가드레일을 적용하여 기업 내부 데이터를 보호하고 보안 위협에 대응할 수 있다고 강조하고 있다. 시큐리티 가드레일은 거대언어모델의 개발, 배포 및 운영 과정에서 보안성과 신뢰성을 확보하기 위한 방어 체계로 설정되어 있다.

S2W는 시큐리티 가드레일을 통해 AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감한 정보를 제거하는 검증 및 정제 과정을 거쳐 정보 유출 위험을 최소화할 수 있다고 설명하고 있다. 더불어, AI 모델이 오류를 범하도록 유도하는 '프롬프트 인젝션' 공격을 방지하는 기능도 수행하고 있다.

서상덕 S2W 대표는 "시큐리티 가드레일이 포함된 다양한 기술을 지속적으로 개발하고 고도화하여 고객들이 데이터와 AI를 안전하게 활용할 수 있는 환경을 만들어 나갈 것"이라고 말했다.

│

이 포스트는 피시아(PHYSIA) 사에서 운영하는 게임메이커.KR 게임 개발 뉴스 블로그에서 작성되었으며, 공공의 이익에 기여하는 목적을 제외한 다른 용도의 무단 배포 및 수정을 금합니다. 참조 - 피시아(PHYSIA), 게임메이커.KR, 게임투비즈(GameToBiz), 게임S/W에이전시, 저널CTL코리아