단일 툴킷으로 AI를 지시하고, 관리하고, 모니터링하여 책임감 있고 투명하며 설명 가능한 AI를 더 빠르게 구현하세요.
Gen AI는 생산성을 높이고 수조 달러의 경제적 가치를 창출할 수 있는 잠재력을 가지고 있습니다. 그러나 이러한 모델에는 새로운 복잡성과 위험이 따릅니다. Gen AI 모델을 사용하든 기존 ML 모델을 사용하든, 모든 모델에는 거버넌스가 필요합니다.
AI 거버넌스를 위한 IBM® watsonx.governance 툴킷은 사용자에게 모델 선택권과 유연성을 제공합니다. 이 툴킷은 다음과 같은 기능을 제공합니다.
Gen AI를 효과적으로 관리하려면 모델, 사용자, 데이터 세트, 규제에서 발생하며 새롭게 증폭되는 위험을 모니터링하고 완화하는 것이 필수적입니다. watsonx.governance는 이를 달성하기 위한 세 가지 주요 기능을 제공합니다.
watsonx.governance는 팩트 시트를 사용하여 모델 팩트를 자동으로 기록하고 모니터링합니다. 모든 관련 정보의 저장소가 포함되어 있어 IBM에서는 이 팩트 시트를 '영양 성분표'라고 부릅니다. 이러한 문서는 모델 라이프사이클 전반에 걸쳐 성능 및 위험 관리를 포괄적으로 볼 수 있도록 지원하며 개발 활동 및 성능 메트릭을 기록하는 역할을 합니다. 사용자는 팩트 시트를 다운로드할 수 있으며, 이해관계자와 공유하거나 감사 지원을 위해 첨부 파일로 전송할 수 있습니다.
평가 메트릭은 텍스트 요약, 텍스트 분류, 언어 번역, 콘텐츠 생성, 검색 증강 생성(RAG), Question and Answer 등과 같은 다양한 사용 사례에 이용할 수 있습니다. AI 라이프사이클 전반에 걸쳐 프롬프트 성능을 확인하여 정확한 성능을 보장하고 잠재적으로 유해하거나 부적절한 콘텐츠의 생성을 방지할 수 있습니다. 팩트 시트는 이러한 평가 메트릭을 문서화하는 데 사용됩니다.
드리프트, 품질, 안전 관련 문제를 방지하기 위해 성능 메트릭을 모니터링합니다. 사전 설정된 임계값은 생성형 AI의 입력과 출력을 모두 모니터링하며 모델의 입력과 출력에서 유해한 언어, 혐오 발언, 욕설, 비속어가 감지되면 알림을 보냅니다. watsonx.governance는 데이터 크기, 지연 시간, 처리량 변화를 모니터링합니다.