홈
Granite
Granite 3.0 소개
3세대 AI 언어 모델을 만나보세요. 목적에 적합하며 오픈 소스로 제공되는 이 엔터프라이즈 지원 모델은 사이버 보안에서 RAG에 이르기까지 광범위한 엔터프라이즈 작업에서 안전 벤치마크에 대한 탁월한 성능을 제공합니다.
모델
상담원 워크플로, RAG, 텍스트 요약, 텍스트 분석 및 추출, 분류, 콘텐츠 생성을 위해 설계된 기본 및 명령어 조정 언어 모델입니다.
코드 생성, 코드 설명, 코드 편집 등 코드 생성 작업을 위해 설계된 디코더 전용 모델로, 116개 프로그래밍 언어로 작성된 코드로 학습되어 있습니다.
시계열 예측을 위해 사전 학습된 가벼운 모델로, 다양한 하드웨어 구성에서 효율적으로 실행되도록 최적화되어 있습니다.
Granite Guardian으로 AI를 보호하고, 엔터프라이즈 데이터 보안을 보장하며, 다양한 사용자 프롬프트 및 LLM 응답에서 위험을 완화하고, 15개 이상의 안전 벤치마크에서 최고의 성능을 발휘합니다.
Apache 2.0에서 오픈 소스로 제공되는 10억 개 미만의 매개변수에서 340억 개 매개변수에 이르기까지 적합한 모델을 선택하세요.
비용을 쫓아가다가 성능을 놓치지 마세요. Granite는 다양한 엔터프라이즈 작업에서 다른 모델1보다 우수한 성능을 발휘합니다.
포괄적인 위험 및 피해 탐지 기능, 투명성 및 IP 보호를 통해 책임감 있는 AI를 구축하세요.
Granite로 구축하기
Red Hat Enterprise Linux AI 및 watsonx를 사용하여 프로덕션에 오픈 소스 Granite 모델을 배포하고, 대규모로 AI를 자신 있게 배포하는 데 필요한 지원과 툴을 제공합니다. 툴 호출, 12개 언어, 멀티 모달 어댑터(출시 예정) 등과 같은 기능으로 더 빠르게 구축하세요.
질문에 답할 수 있는 AI 에이전트 구축 방법 알아보기
이 튜토리얼에서는 이제 watsonx.ai에서 사용 가능한 IBM Granite-3.0-8B-Instruct 모델을 사용하여 사용자 지정 함수 호출을 수행할 수 있습니다.
몇 가지 다양한 방법으로 사전 훈련된 모델을 양자화하여 모델의 크기를 표시하고 작업에서 어떻게 수행되는지 비교합니다.
LangChain을 사용하여 Python에서 검색 증강 생성(RAG) 평가를 위한 Ragas 프레임워크 사용
TinyTimeMixer(TTM) Granite 모델을 통한 학습에 기반하여 미래 예측
텍스트를 구조적인 표현으로 변환하고 의미론적으로 올바는 SQL Query 생성
긍정적인 고객 후기와 부정적인 고객 후기가 포함된 합성 데이터 세트를 사용하여 Python에서 Granite 모델 프롬프트 조정
뉴스 속 Granite
이 보고서는 Granite 3.0을 소개하고 개방형 파운데이션 모델의 개발을 가속화하기 위한 사전 및 사후 교육에 대한 세부 기술 정보를 공개합니다.
12개 언어와 116개 프로그래밍 언어로 훈련된 새로운 Granite 3.0 8B 및 2B 모델이 출시되었습니다. 성능, 안전 및 보안에 대한 새로운 벤치마크와 최신 튜토리얼을 살펴보세요.
이제 SAP 사용자는 SAP 비즈니스 기술 플랫폼(SAP BTP)의 SAP AI 코어에 있는 생성형 AI 허브를 통해 사용할 수 있는 Granite.13b.chat 대규모 언어 모델부터 IBM watsonx 및 IBM Granite의 강력한 기능을 활용할 수 있습니다.
스탠포드 대학교 파운데이션 모델 연구 센터에서 새로 발행한 보고서에 따르면 IBM의 모델은 개방형 모델의 실제 수준을 측정하기 위해 고안된 여러 범주에서 100% 만점을 기록했습니다.
IBM은 엔터프라이즈 전반을 책임감 있게 혁신하는 AI 모델 생성, 배포 및 활용이 가능하다고 믿습니다. IBM watsonx AI와 데이터 플랫폼은 파운데이션 모델과 생성형 AI를 구축하고 테스트하기 위한 엔드투엔드 프로세스를 갖추었습니다. IBM에서 개발한 모델의 경우, 모델 학습 전에 중복을 찾아 제거하고 URL 차단 목록, 유해한 콘텐츠 배제 및 문서 품질 관리를 위한 필터, 문장 분할, 토큰화 기법을 모두 적용합니다.
데이터 학습 과정에서는 모델 아웃풋의 오정렬을 방지하고 감독형 미세 조정을 활용하여 더 면밀한 지침 준수를 가능하게 함으로써 프롬프트 엔지니어링을 통해 엔터프라이즈 작업을 완료하는 데 모델을 사용할 수 있도록 합니다. 기타 모달 기능(Modality), 산업별 콘텐츠, 학습용 데이터 주석 추가 등 다양한 방향으로 Granite 모델의 개발을 이어 나가고 있으며, 동시에 IBM이 개발한 모델에 대해 정기적이고 지속적인 보호장치를 배포하고 있습니다.
생성형 AI 기술 환경이 급속히 변화하는 만큼 엔드투엔드 프로세스 또한 지속적으로 진화하고 개선되어야 합니다. IBM은 IBM 하드웨어 및 소프트웨어 제품에 제공하는 것과 유사하게 IBM에서 개발한 모델에 표준 계약 지적 재산권 배상을 제공합니다. 이는 IBM이 파운데이션 모델의 개발과 테스트에 투입하는 막대한 노력의 증명입니다.
더 나아가 IBM은 일부 대형 언어 모델 제공자와 달리 고객이 IBM에서 개발한 모델을 사용할 때 IBM에 배상하도록 요구하지 않습니다. 이는 IBM의 배상에 관한 표준 접근법에 부합하는 것입니다. 또한 IBM은 자사의 배상 의무에 대한 접근법에 부합하도록 IBM에서 개발한 모델의 배상 책임에 한도를 적용하지 않습니다.
현재 이러한 보호가 적용되는 watsonx 모델은 다음과 같습니다.
(1) Slate 인코더 전용 모델 제품군
(2) Granite 디코더 전용 모델 제품군
1IBM Research에서 학술 벤치마크 및 엔터프라이즈 벤치마크 모두에서 주요 개방형 모델과 비교하여 수행한 Granite 모델의 성능 - https://ibm.com/new/ibm-granite-3-0-open-state-of-the-art-enterprise-models