전략적 목표와 운영 요구 사항을 달성하는 데 필수적인 엔터프라이즈 기능은 생성형 AI 아키텍처 기능 모델에 요약되어 있습니다. 여기에는 효과적인 생성형 AI 구현에 필요한 고유 기능과 지원 기능을 보여주는 6가지 주요 범주가 있으며, 다른 아키텍처에서도 포괄적인 문서를 이용할 수 있습니다.
- 생성형 AI 운영은 기업 안에서 사용할 생성형 AI 모델을 관리, 배포 및 사용자 지정하는 데 필요한 기능입니다. 모델 학습 및 조정, 배포 후 모델의 수명 주기 관리, 기업 내 사용자가 사용할 수 있는 모델 및 데이터 세트 관리 기능이 이에 해당합니다.
- 생성형 AI 애플리케이션 개발은 엔터프라이즈 및 도메인별 솔루션에 사용할 일반 파운데이션 모델을 조정하고 모든 기능을 갖춘 생성형 AI 애플리케이션을 개발하는 데 필요한 기능입니다. 에이전틱 AI 애플리케이션을 생성 및 배포하고 프롬프트를 테스트 및 조정하는 데 필요한 기능이 이에 해당합니다.
- 생성형 AI 거버넌스는 프로덕션에 배포된 모델을 효과적으로 모니터링하고 관리하는 데 필요한 기능 모음입니다. 모델이 정확하고 적절하게 응답하는지 지속적으로 모니터링하는 기능, 부적절하거나 악의적인 인풋으로부터 모델을 보호하는 기능, 기업 관련 위험을 관리하고 규정 준수 및 보고 요구 사항을 지원하는 거버넌스 기능이 이에 해당합니다.
- 생성형 AI 보안 관리는 AI 시스템을 보호하고, 윤리적이고 책임감 있는 배포를 보장하는 데 필요한 기능에 중점을 둡니다. AI 스택 전체를 보호하고 모델과 사용 방식, 모델이 의존하는 데이터를 모두 보호합니다.
나머지 기능 그룹들은 생성형 AI 기능을 지원하며, 생성형 AI에 국한되지 않고 이를 엔터프라이즈 기능으로서 지원할 때 꼭 필요합니다. 이 그룹들은 다음과 같습니다.
데이터 관리는 데이터를 저장, 관리, 생성형 AI 모델의 조정 및 학습에 적합한 형태로 변환하는 기능 그룹입니다. 감사 용도, 추가 모델 조정 및 개선을 위한 인풋 차원에서 모델의 응답을 기록하고 평가하는 기능이 포함됩니다.
지원 기능은 기업이 생성형 AI 솔루션을 성공적으로 배포하고 관리하는 데 필요한 애플리케이션, 통합 및 IT 운영 기능을 포괄적으로 그룹화한 것입니다.
생성형 AI 리소스는 생성형 AI 모델과 솔루션을 효율적이고 효과적으로 개발, 조정, 배포 및 관리하는 데 필요한 하드웨어와 플랫폼 기능을 제공합니다.
기능 범주 각각이 하나 이상의 기능 그룹으로 구성됩니다. 이 섹션에서는 생성형 AI의 핵심 그룹과 기능을 소개합니다.
모델 허브 기능 그룹은 가져온 모델과 기업에서 조정하거나 학습한 모델을 관리하는 데 필요한 기능들을 압축합니다. 이를 통해 기업은 조직 안에서 사용할 수 있는 모델과 데이터 세트를 관리하고, 모델과 데이터 세트 접근권을 기업 내 특정 사용자 또는 그룹으로 제한할 수 있습니다. 모델 가져오기와 데이터 가져오기는 기업이 Hugging Face와 같이 점점 늘어나는 공개 모델 리포지토리에서 모델을 가져오는 데 필요한 핵심 기능입니다.
모델 호스팅 일반 모델과 조정된 모델을 기업 안에서 API 지원 서비스로 배포하고, 리소스 활용도를 최적화하고, 독립적인 개선 및 교체를 허용하고, 거버넌스를 간소화하는 기능을 제공합니다. 이를 위한 핵심은 모델 접근 정책 관리로, 모델 접근권을 권한이 있는 사용자와 그룹으로 제한하여 무단 사용을 방지합니다.
모델 맞춤 설정은 기업이 특정 비즈니스 요구 사항에 맞게 생성형 AI 모델을 조정하고 학습할 때 사용하는 기능 그룹입니다. 일반적으로 클라우드의 종량제 모델은 조정 및 교육 리소스 수요의 '폭발적' 특성에 적합하기 때문에, 이 기능은 클라우드 플랫폼을 사용하여 실현합니다.
모델 및 데이터 거버넌스는 기업이 생성형 AI 모델을 광범위하게 활용하는 데 있어 중요한 기능 세트입니다. 특히 기업이 모델 응답에 편향이 도입되는 등의 위험을 모니터링 및 관리하고, 모델 투명성과 공정성에 대한 규제와 규정 준수 요건을 해결하는 데 필요한 인사이트를 제공합니다.
모델 모니터링은 모델 거버넌스와 유사한 운영 방식입니다. 모델 거버넌스가 장기 모델과 위험 관리를 다루는 반면, 모델 모니터링에서는 기업이 모델 운영을 실시간으로 모니터링하고 관리할 수 있습니다. 모델 모니터링은 다음 기능들로 구성됩니다.
- 편향 탐지 모델의 반응이 설정된 반응이나 이상적 반응에서 벗어나서 특정 결과 집합을 다른 결과 집합보다 선호하기 시작할 때 이를 감지하고 표시하는 기능입니다.
- 혐오, 학대, 욕설 감지는 사용자가 제출한 프롬프트 및 모델이 생성한 응답에서 혐오, 학대, 욕설을 감지하고 필터링하는 기능입니다. 이는 '기본' 기능으로 간주합니다. 기업은 주제 필터링 범위를 확장하여 사업에 적절하지 않은 주제까지 필터링하거나(대출 사무실에서 선정적인 주제를 다루는 등) 표적 고객의 사회적 규범을 적용하기도 합니다.
- 프롬프트 모니터링 및 보안은 모델을 손상시키거나 기업이 설정한 모델 제어를 우회하도록 설계된 프롬프트 인젝션 같은 공격으로부터 배포된 모델을 보호하는 데 필요한 새로운 기능입니다.
생성형 AI 규정 준수 관리는 애플리케이션 스택을 통해 AI '사용을 보호'하고 '애플리케이션 자체를 보호'하는 데 필요한 제어를 구현합니다. AI 시스템이 인간의 가치와 권리를 존중하도록 윤리적 기준과 지침을 준수합니다.
- AI 앱 규정 준수. AI '애플리케이션'이 확립된 지침, 규정, 표준을 준수하게 합니다. AI 앱 태세 관리와 규정 준수, 신뢰할 수 있는 AI 시스템 테스트 수행 등의 제어 기능을 제공합니다.
- AI 모델 규정 준수는 확립된 지침과 규정, 표준에 따라 AI 모델을 관리하고 준수하게 하는 기능입니다. 모델 드리프트 추적, 모델 태세 관리와 규정 준수 같은 핵심적인 통제를 구현합니다.
- 법률 및 규정 준수 관리. 조직이 규제 환경에서 최신 규정을 지키고(규제 감시) AI 개발, 배포, 모니터링 및 사용에 적용되는 법적 요건, 규칙과 표준(지속적인 규정 준수 & 규제 감시 등)을 지키게 합니다.
AI 애플리케이션 보안 관리. 애플리케이션 스택을 통해 AI '사용을 보호'하고 '애플리케이션 자체를 보호'하는 데 필요한 제어를 구현합니다. AI 시스템이 인간의 가치와 권리를 존중하도록 윤리적 기준과 지침을 준수합니다.
- AI 앱 위협 관리. 보호는 AI 애플리케이션의 보안이나 기능, 안정성에 영향을 미칠 수 있는 잠재적 위험과 취약성을 식별, 평가 및 완화하는 기능이며 예상치 못한 사건, 장애, 중단이 발생해도 효과적으로 적응, 복구하여 작동을 지속하게 합니다. 또한 라이프사이클 전반에 걸쳐 AI 시스템의 견고성, 보안 및 안정성을 보장합니다.
- AI 앱 상호작용 안전성 및 보안은 AI 시스템과 사용자, 다른 시스템, 환경 간의 상호작용이 철저한 보안 아래 안전하게 이루어지도록 보장하는 메커니즘입니다(입력 조작 방지, 과도한 질의 제한, 유해한 결과 방지 등).
- AI 앱 안전. AI 시스템을 안전하게 신뢰할 수 있는 방식으로 운영하기 위한 기능과 관행입니다. AI 애플리케이션으로 인해 발생하는 의도치 않은 결과, 오류와 피해를 방지하는 전략이 포함됩니다(신뢰할 수 있는 AI 구축 노력, 공정성 평가 기록 등).
AI 모델 보안 관리. '모델 보안' 계층에 필요한 제어 기능을 활성화하고 모델 사용을 보호하는 기능을 제공합니다. 모델 학습과 검증, 평가에 대한 모범 사례를 구현하여 성능과 안정성을 높입니다.
- 프롬프트 안전 및 보안은 AI 모델에 제공되는 입력 프롬프트가 안전하고 악의적이지 않으며 모델의 의도된 동작에 부합하는지 확인하고 무단 접근, 변조, 공격으로부터 모델을 보호하는 기능입니다. 응답 프롬프트가 개인 식별 정보(PII)와 같이 의도치 않게 노출될 수 있는 내용 측면에서 안전하고 보안이 유지되는지 동등하게 확인해야 합니다(프롬프트 주입 방지, 추론 공격 방지/쿼리 응답 최소화, 유해한 결과 방지 등).
- AI 모델 위협 탐지는 AI 모델의 무결성, 보안 또는 성능을 손상시킬 수 있는 잠재적 위험 또는 취약점을 식별하고 완화하는 기능입니다. 해당 모델과의 상호작용(모델 보안 테스트, 모델 취약점 완화 등)이 이에 해당합니다.
- AI 모델 접근 관리. 오용 및 공격 벡터 가능성을 차단하기 위해 생성형 AI 모델, 모델 매개변수, 교육 데이터, API에 대한 접근을 제한합니다. 이 기능은 AI 애플리케이션을 포함하여 엔터프라이즈 사용에 노출되는 모델에 대한 접근을 통제합니다. 내부 모델 레지스트리를 보호하고 프로덕션 모델에 대한 내부 접근을 제한합니다. 이러한 접근 통제 시 누가 어디에서 와서 언제 무엇을 하는지를 고려해 상황에 맞는 정책을 세워야 합니다.
AI 데이터 보안 관리. 제어를 통해 '데이터 보안' 계층을 구현하는 기능입니다. 데이터 품질을 보장하고 편향을 완화하기 위해 데이터 수집, 저장 및 사용에 대해 명확한 지침을 수립합니다. 데이터 보안이 생성형 AI에만 있는 것은 아니지만, 데이터 관점에서 생성형 AI가 특별한 주의를 기울여야 하는 영역에만 초점을 맞춥니다.
- 데이터 프라이버시 및 기밀성은 민감한 정보를 보호하여 적절하게 처리하고 권한이 있는 시스템과 사용자만 접근할 수 있도록 비공개로 유지하는 기능입니다(개인 정보 보호, 민감한 데이터 보안, 데이터 기밀성 등)
에이전틱 AI는 에이전틱 AI 애플리케이션을 만들고 배포하는 데 필요한 기능 그룹입니다. 여기에는 라우팅과 오케스트레이션, 도구 관리, 도구 호출 같은 핵심 기능이 포함됩니다.
생성형 AI 조정은 범용 생성형 모델을 기업의 필요에 맞게 '맞춤 설정'하는 데 필요한 기능 그룹입니다. 광범위한 지식을 바탕으로 훈련한 모델은 특정 업계의 전문 용어와 프로세스에 대한 지식이 부족할 수 있습니다. 그래서 대부분의 기업은 프롬프트 엔지니어링, 프롬프트 조정, 모델 미세 조정 같은 기능을 사용하여 기업의 업무 용어와 프로세스를 이해하는 모델을 만들어야 합니다.
생성형 AI 애플리케이션 기능을 통해 기업은 고급 생성형 AI 애플리케이션을 개발할 수 있습니다. 사용자 쿼리에 응답하는 함수를 동적으로 생성하는 기능이 이에 해당합니다. 생성형 AI 애플리케이션이 대화형 방식으로 이전 상호 작용을 유지하고 참고할 수 있게 하는 대화형 메모리와 모델 라우팅을 통해, 애플리케이션이 응답에 가장 적합한 모델로 쿼리를 동적으로 라우팅하게 합니다.