AI 배포 보안을 위한 모범 사례

조직이 생성형 AI를 도입함에 따라 효율성 및 생산성 향상부터 비즈니스 속도 향상, 제품 및 서비스 혁신 강화에 이르기까지 이러한 프로젝트를 통해 다양한 이점을 기대할 수 있습니다. 그러나 이러한 AI 혁신의 중요한 부분을 형성하는 한 가지 요소는 신뢰입니다. 신뢰할 수 있는 AI는 AI의 작동 방식과 의사 결정 방식을 이해하는 데 달려 있습니다.

IBM 기업가치연구소(IBV)의 최고 경영진 대상 설문조사에 따르면, 응답자의 82%가 안전하고 신뢰할 수 있는 AI가 비즈니스 성공에 필수적이라고 답했지만 현재 생성형 AI 프로젝트 중 24%만이 보안을 확보하고 있다고 답했습니다. 이로 인해 알려진 AI 프로젝트를 보호하는 데 엄청난 격차가 생깁니다. 여기에 조직 내에 존재하는 '섀도 AI'까지 더해지면 AI에 대한 보안 격차는 더욱 커집니다.

조직에는 생성형 AI를 활용하는 완전히 새로운 프로젝트 파이프라인이 구축되고 있습니다. 데이터 수집 및 처리 단계에서는 모델에 공급하기 위해 대량의 데이터를 수집해야 하며 데이터 과학자, 엔지니어, 개발자 등 다양한 사람들에게 액세스 권한을 제공해야 합니다. 이는 모든 데이터를 한 곳에 중앙 집중화하고 많은 사람들이 데이터에 액세스할 수 있게 함으로써 본질적으로 위험을 초래합니다. 즉, 생성형 AI는 기존 조직 데이터를 기반으로 새로운 데이터를 생성할 수 있는 새로운 유형의 데이터 저장소입니다. 모델을 학습시키든, 미세 조정하든, RAG(벡터 DB)에 연결하든, 해당 데이터에는 PII, 개인정보 보호 문제 및 기타 민감한 정보가 포함되어 있을 수 있습니다. 이 민감한 데이터 더미는 공격자들이 접근을 시도하는 빨간 불이 깜박이는 표적입니다.

모델 개발 과정에서 새로운 애플리케이션이 새로운 취약점을 가진 새로운 방식으로 구축되고 있으며, 이는 공격자가 악용할 수 있는 새로운 진입점이 됩니다. 개발은 종종 HuggingFace나 TensorFlow Hub와 같은 온라인 모델 저장소에서 사전 학습된 오픈 소스 머신 러닝 모델을 다운로드하고 재활용하는 데이터 과학 팀에서 시작됩니다. 오픈 소스 모델 공유 리포지토리는 내재된 데이터 과학의 복잡성, 실무자 부족, 생성형 AI 도입에 필요한 시간과 노력을 획기적으로 줄여 조직에 제공하는 가치로 인해 탄생했습니다. 그러나 이러한 리포지토리에는 포괄적인 보안 제어 기능이 부족할 수 있으며, 이는 궁극적으로 기업에 위험을 전가할 수 있으며, 공격자들은 이를 신뢰하고 있습니다. 이러한 모델 중 하나에 백도어나 멀웨어를 주입하고 감염된 모델을 모델 공유 리포지토리에 다시 업로드하여 모델을 다운로드하는 모든 사람에게 영향을 미칠 수 있습니다. ML 모델에 대한 보안이 전반적으로 부족하고 ML 모델에 노출되는 데이터가 점점 더 민감해지면서 이러한 모델을 표적으로 하는 공격이 피해를 입힐 가능성이 높습니다.

또한 추론 및 실시간 사용 중에 공격자는 프롬프트를 조작하여 가드레일을 탈옥하고 편향된, 허위 및 기타 유해한 정보를 포함하는 유해한 프롬프트에 대해 허용되지 않는 응답을 생성하여 모델 오작동을 유도하고 평판에 피해를 줄 수 있습니다. 또는 공격자가 모델을 조작하고 입력-아웃풋 쌍의 분석을 통해 대리 모델을 학습시켜 대상 모델의 동작을 모방함으로써 해당 모델의 기능을 효과적으로 '도용'하고 기업의 경쟁 우위를 빼앗을 수 있습니다.

AI 보안을 위한 표준과 프레임워크가 발전함에 따라 조직마다 AI 보안에 다양한 접근 방식을 사용하고 있습니다. IBM의 AI 보안 프레임워크는 AI 배포의 핵심 원칙인 데이터 보안, 모델 보안, 사용 보안을 확보하는 것을 중심으로 합니다. 또한 AI 모델이 구축되고 실행되는 인프라를 보호해야 합니다. 또한 AI 거버넌스를 수립하고 공정성, 편향성, 시간 경과에 따른 편향성을 지속적으로 모니터링하여 변경 사항이나 모델 편향성을 추적해야 합니다.

• 데이터 보안: 조직은 생성형 AI를 최대한 활용하고 가치를 극대화하기 위해 방대한 양의 데이터를 중앙 집중화하고 대조해야 합니다. 중요한 데이터를 한곳에 통합하고 중앙 집중화하기 시작하면 상당한 위험에 노출되므로 중요한 데이터를 식별하고 보호하기 위한 데이터 보안 계획이 필요합니다.
• 모델 보안: 많은 조직에서 개발 노력을 가속화하기 위해 오픈 소스에서 모델을 다운로드하고 있습니다. 데이터 과학자는 이러한 블랙박스 모델의 작동 방식을 파악하지 못한 채 다운로드하고 있습니다. 공격자는 이러한 온라인 모델 리포지토리에 동일한 액세스 권한을 가지며 이러한 모델 중 하나에 백도어 또는 멀웨어를 배포하고 감염된 모델을 다운로드하는 모든 사람의 진입점으로 리포지토리에 다시 업로드할 수 있습니다. 배포 시 취약점과 잘못된 구성을 이해해야 합니다.
• 사용 보안: 조직은 AI 배포의 안전한 사용을 보장해야 합니다. 위협 행위자는 악성 프롬프트를 사용하여 모델을 탈옥하거나, 부당한 액세스 권한을 얻거나, 민감한 데이터를 훔치거나, 아웃풋을 편향시키는 프롬프트 인젝션을 실행할 수 있습니다. 공격자는 또한 입력을 조작하여 아웃풋을 수집하고, 대량의 입출력 쌍 데이터 세트를 축적하여 대상 모델의 동작을 모방하도록 대리 모델을 학습시켜 해당 모델의 기능을 효과적으로 '도용'할 수 있습니다. 안전한 사용을 보장하기 위해 모델 사용법을 이해하고 평가 프레임워크와 매핑해야 합니다.

이 모든 것은 규제 준수를 유지하면서 이루어져야 합니다.

조직이 기존의 위협과 증가하는 데이터 유출 비용에 대처함에 따라 AI 보안은 중요한 이니셔티브가 될 것이며, 많은 조직에 지원이 필요할 것입니다. IBM은 조직이 안전하고 신뢰할 수 있는 AI를 사용할 수 있도록 IBM Guardium AI Security를 출시했습니다. IBM Guardium의 데이터 보안 분야에서 수십 년간 쌓아온 경험을 바탕으로 구축된 이 새로운 오퍼링을 통해 조직은 AI 배포를 보호할 수 있습니다.

이를 통해 민감한 AI 데이터 및 AI 모델의 보안 위험과 취약성을 관리할 수 있습니다. AI 모델의 취약점을 식별 및 수정하고 민감한 데이터를 보호하는 데 도움이 됩니다. 데이터 보안 분야의 신뢰할 수 있는 리더와 함께 AI 구성 오류를 지속적으로 모니터링하고, 데이터 유출을 감지하고, 액세스 제어를 최적화하세요.

이 새로운 제품의 일부인 IBM Guardium Data Security Center는 통합 워크플로, 데이터 자산에 대한 공통 보기, 중앙 집중식 규정 준수 정책을 통해 보안 및 AI 팀이 조직 전체에서 협업할 수 있도록 지원합니다.

AI 보안은 하나의 여정이며 보안 팀, 위험 및 규정 준수 팀, AI 팀 등 교차 기능 팀 간의 협업이 필요하며, 조직은 AI 배포를 보호하기 위해 프로그래밍 방식의 접근 방식을 통해 작업해야 합니다.

Guardium AI Security가 조직에 어떻게 도움이 될 수 있는지 확인하고, 자세한 내용을 알아보려면 웨비나에 등록하세요.