Claude AI란 무엇인가요?

Claude Anthropic의 헌법적인 AI 철학을 고수합니다. 이는 윤리적 규범으로, Anthropic는 이를 Claude를 ChatGPT와 Google의 Gemini와 같은 경쟁 AI 모델과 차별화하는 지점이라고 생각합니다. 헌법적인 AI의 원칙은 AI 안전에 초점을 맞추고 있으며, AI 편향과 같은 유해한 행동을 피하면서 Claude가 더 유용한 응답을 제공할 수 있도록 안내하도록 설계되었습니다.

2024년 5월에 출시된 Claude 3에는 무료 AI 챗봇 1개와 프리미엄 AI 챗봇 2개가 포함되어 있습니다.

• Claude 3.5 Sonnet는 클로드 AI의 무료 버전을 기반으로 합니다. 속도에 중점을 두어 사용자 쿼리 및 긴급한 데이터 검색이 필요한 기타 작업을 신속하게 처리할 수 있습니다. Anthropic에 따르면 Claude 3.5 Sonnet은 두 가지 프리미엄 제품 중 하나인 Claude 3 Opus보다 두 배 빠릅니다.

• Claude 3 Opus는 현재 Claude Pro 사용자가 사용할 수 있는 두 가지 Claude 모델 중 하나입니다. 복잡한 작업에 특화된 심층적인 문서 처리 및 콘텐츠 생성 서비스를 제공합니다. Opus는 Claude 3.5 Sonnet보다는 느리지만, AI 모델이 잘못된 정보를 사실인 것처럼 제공하는 경우인 할루시네이션의 위험이 적습니다.

• Claude 3 Haiku는 두 번째 프리미엄 Claude 제품입니다. 세 가지 중 가장 작고 빠르며 긴 문서 요약, 실시간 고객 서비스, 간단한 텍스트 생성에 이상적입니다.

세 가지 Claude 3 모델에는 각각 고유한 사용 사례가 있습니다. 일반적으로 Claude AI를 사용하여 다음과 같은 다양한 작업을 수행할 수 있습니다.

• 질문 답변 및 연구
• 교정 및 편집
• PDF 및 Word 문서를 포함한 문서 요약
• 텍스트 및 콘텐츠 생성
• 언어 번역
• 비즈니스 계획 수립
• 이미지 및 오디오 처리
• 코드 스니펫 생성 및 후기

Claude 2 및 1과 달리 Claude 3는 텍스트 기반 프롬프트와 함께 이미지 및 오디오 콘텐츠를 처리할 수 있는 멀티모달입니다. 예를 들어, Claude 3는 이미지를 기반으로 전자상거래 제품 설명을 생성할 수 있습니다. Claude 3는 자체적으로 텍스트가 아닌 콘텐츠를 생성할 수 없지만, Claude 3의 멀티모달 통합은 GPT-4와 경쟁할 수 있는 몇 가지 새로운 기능 중 하나입니다.

Gemini 및 OpenAI의 ChatGPT와 마찬가지로 Anthropic의 Claude AI 시스템 제품군은 신경망의 트랜스포머 아키텍처를 기반으로 합니다. 그러나 경쟁사와 달리 Claude는 헌법적인 AI의 원칙을 적용하여 행동을 관리합니다.

• 트랜스포머 모델은 사용자 입력 시퀀스에서 멀리 떨어진 단어 간의 연결을 그리는 데 탁월하여 문맥을 더 잘 이해하고 긴 형식의 답변을 생성할 수 있도록 해줍니다.

• 헌법적인 AI는 Claude의 위험을 줄이면서 더 유익하게 만들기 위해 고안된 피해 감소 원칙의 지침입니다.

트랜스포머는 고성능 자연어 처리를 위해 구축된 AI 모델의 한 유형입니다. 복잡한 수학적 알고리즘을 적용하여 사용자 쿼리에 대한 가장 가능성이 높은 응답을 통계적으로 예측하는 방식으로 작동합니다. 트랜스포머의 워크플로는 네 가지 기본 단계로 나눌 수 있습니다.

트랜스포머는 사용자 쿼리를 토큰으로 나눕니다. 각 토큰은 단어 전체 또는 단어의 일부를 나타냅니다. AI 모델 가격은 일반적으로 토큰당 비용으로 표시됩니다. Claude Pro의 컨텍스트 창은 200,000 토큰¹이며, 이는 최대 200,000 토큰 길이의 사용자 쿼리를 처리할 수 있음을 의미합니다.

1. 각 토큰은 수학적 프로세스를 통해 3차원 벡터 공간에 표시됩니다. 의미가 더 유사한 것으로 평가된 토큰은 공간에서 더 가깝게 표시되어 LLM이 사용자 입력을 이해하는 데 도움이 됩니다. 이 프로세스의 결과를 벡터 임베딩이라고 합니다.
2. Claude 및 GPT-4와 같은 트랜스포머는 사용자 쿼리 및 프로세스 컨텍스트의 가장 관련성이 높은 부분에서 리소스를 자체 전달하게 하는 셀프 어텐션 메커니즘을 적용합니다.
3. 이 모델은 확률적 알고리즘을 적용하여 입력에 대해 가장 가능성이 높은 응답 을 생성합니다. Claude와 같은 AI 모델은 실제로 무언가를 '아는' 것이 아니라, 학습 데이터와 고급 통계를 결합하여 프롬프트에 가장 가능성이 높은 결과를 도출합니다.

현법적인 AI²는 AI 스타트업 기업인 Anthropic이 만든 일련의 AI 윤리이자 안전 원칙입니다. Anthropic은 Claude를 설계할 때 약 1,000명의 의견을 수렴하며 윤리적 생성형 AI 운영 및 책임감 있는 AI 사용에 대한 투표와 규칙 제안을 요청했습니다. 최종으로 제정된 규칙은 Claude의 학습 프로세스의 기반이 되었습니다.

헌법적인 AI의 처음 세 가지 규칙은 다음과 같습니다.

• 가장 덜 위험하거나 가장 덜 혐오하는 응답을 선택합니다.
• 가능한 한 신뢰할 수 있고 정직하며 진실에 가까운 답변을 선택합니다.
• 명확한 의도를 가장 잘 전달하는 응답을 선택합니다.

다른 모델의 경우 인간 트레이너가 인간 피드백을 통한 강화 학습(RLHF)이라는 프로세스를 통해 콘텐츠를 검토하는 반면, Claude의 모델은 RLHF와 두 번째 AI 모델을 통해 학습되었습니다. AI 피드백으로부터의 강화 학습(RLAIF)은 '트레이너' 모델에 Claude의 행동을 헌법적인 AI와 비교하고 그에 따라 수정하는 임부를 부여했습니다.

RLAIF는 학습 프로세스의 행동 조정 부분을 자동화하여 보다 저렴하고 효율적으로 윤리적 행동을 장려할 수 있습니다. 의도한 결과는 Claude가 스스로를 미세 조정하여 해로운 프롬프트를 피하는 법을 학습하는 동시에 프롬프트에 도움이 되는 답변을 생성하는 것입니다.

Anthropic은 Daniela와 Dario Amodei 남매를 포함하여 여러 전직 OpenAI 연구원 및 임원이 2021년에 설립한 AI 스타트업입니다. OpenAI는 계속해서 Microsoft의 지원을 받고 있는 반면, 이 회사는 Amazon과 Google에서 수십억 달러를 투자했습니다.

Amodei 남매는 OpenAI가 GPT-3.5를 출시하기 전 해인 2021년에 OpenAI와 결별했습니다. GPT-3.5는 오늘날 무료 ChatGPT AI 도구를 계속 지원하는 것과 동일한 AI 모델입니다. Amodei 남매는 다른 전직 OpenAI 연구원들과 함께 Anthropic AI를 설립하고 Claude AI를 만드는 작업에 착수했습니다.

Anthropic의 특징은 헌법적인 AI 학습 프로세스로 대표되는 윤리적 AI에 대한 명시된 접근 방식입니다.

Anthropic AI는 Claude 3를 출시할 때 일련의 LLM 벤치마킹 테스트를 수행하여 두 곳의 주요 경쟁사, OpenAI와 Google의 모델과 Claude 3를 비교하여 평가했습니다. 이러한 테스트와 그 외 테스트 모두에서 Claude는 다음과 같은 몇 가지 주요 이점을 보여주었습니다.

• 더 큰 컨텍스트 창
• 많은 테스트에서 강력한 성능
• 입력 데이터 또는 아웃풋 데이터 보존 없음

Claude는 최대 200,000토큰(약 350페이지 분량의 텍스트)의 프롬프트를 처리할 수 있어, 관련 답변을 작성할 때 더 많은 정보를 기억하고 사용할 수 있습니다. 이에 비해 GPT-4 Turbo와 GPT-4o는 사용자를 128,000토큰으로 제한합니다.

더 많은 정보를 유지하는 Claude의 기능을 통해 사용자는 상세하고 데이터로 가득 찬 프롬프트를 만들 수 있습니다. 입력 시퀀스에 포함된 데이터가 많을수록 AI 모델의 답변의 관련성이 높아질 수 있습니다.

Anthropic이 Claude 3를 GPT-4 및 Gemini 1.0과 비교해 테스트했을 때³ Claude 3 Opus이 선택된 모든 평가 벤치마크에서 최고의 성능을 보였습니다. Gemini 1.0 Ultra는 6개의 비전 테스트 중 4개에서 1위를 차지했지만, Claude 모델 제품군도 비슷한 성능을 보였습니다.

그러나 GPT-4o 및 Gemini 1.5는 테스트 풀에 포함되지 않았습니다. 2024년 5월 GPT-4o를 공개했을 때⁴ OpenAI는 벤치마킹을 실시하여 진행된 6개 테스트 중 5개에서 이 새로운 플래그십 모델이 Claude 3 Opus를 능가한다는 것을 보여줬습니다.

데이터 개인정보 보호에 관심이 있는 사용자는 모든 사용자 입력 및 아웃풋은 30일 후에 삭제된다고 명시한 Anthropic의 데이터 보존 정책⁵을 높이 평가할 수 있습니다. Google의 Gemini for Google Cloud 데이터 정책⁶에 따르면 Google은 사용자 프롬프트를 사용하여 모델을 학습시키지 않습니다.

이와 비교하면 OpenAI는 사용자 데이터⁷를 유지하고 사용하여 모델을 추가로 학습할 수 있습니다. Google의 Gemini 앱 정책⁸ 에 따라 사용자가 이 옵션을 수동으로 비활성화하지 않는 한 Google은 사용자 데이터를 보유할 수 있습니다.

Claude의 전반적인 성능은 경쟁사와 비교할 때 강력하지만 더 많은 사람들이 받아들이는 걸 지연시킬 수 있는 몇 가지 약점도 있습니다.

• 제한된 이미지 생성
• 인터넷 브라우징 없음

Claude는 GPT-4o에 비해 이미지를 생성할 수 있는 능력이 떨어집니다. Claude는 대화형 순서도, 엔터티 관계 다이어그램 및 그래프를 생성할 수 있지만 전체 이미지 생성에는 미치지 못합니다.

Microsoft와 Bing의 통합 덕분에 GPT-4는 사용자 쿼리에 응답할 때 인터넷을 검색할 수 있습니다. Claude는 새로운 학습 데이터로 정기적으로 업데이트되지만, Anthropic이 GPT-4와 동일한 방식으로 Claude를 인터넷에 개방할 때까지 지식 기반은 항상 몇 달 뒤쳐져 있습니다.