생성형 AI 모델은 복잡한 언어를 파악하고 신경망을 통해 방대한 양의 데이터를 처리할 수 있는 트랜스포머 아키텍처를 기반으로 구축됩니다. AI 프롬프트 엔지니어링은 모델의 아웃풋을 형성하는 데 도움이 되어 인공 지능이 의미 있고 일관성 있게 응답하도록 합니다. 토큰화, 모델 매개변수 튜닝, 상위 k 샘플링 등 여러 가지 프롬프트 기술을 통해 AI 모델이 유용한 응답을 생성하도록 합니다.

프롬프트 엔지니어링은 생성형 AI를 구동하는 파운데이션 모델의 잠재력을 최대한 발휘하는 데 필수적인 것으로 입증되고 있습니다. 파운데이션 모델은 트랜스포머 아키텍처를 기반으로 구축된 대규모 언어 모델(LLM)로, 생성형 AI 시스템에 필요한 모든 정보가 담겨 있습니다.

생성형 AI 모델은 자연어 처리(NLP)를 기반으로 작동하며 자연어 입력을 사용하여 복잡한 결과를 생성합니다. 기본 데이터 과학 준비, 트랜스포머 아키텍처 및 머신 러닝 알고리즘을 통해 이러한 모델은 언어를 이해한 다음 대규모 데이터 세트를 사용하여 텍스트 또는 이미지 아웃풋을 생성할 수 있습니다.

DALL-E 및 Midjourney와 같은 텍스트 이미지 생성형 AI는 텍스트 설명에서 이미지를 생성하는 데 탁월한 모델인 안정적인 확산과 함께 LLM을 사용합니다. 효과적인 프롬프트 엔지니어링은 기술 지식과 자연어, 어휘 및 문맥에 대한 깊은 이해를 결합하여 수정이 거의 필요 없는 최적의 결과물을 만들어냅니다.

프롬프트 엔지니어링의 주요 이점은 생성 후 최소한의 노력으로 최적화된 아웃풋을 달성할 수 있다는 점입니다. 생성형 AI 아웃풋은 품질이 혼합되어 숙련된 실무자가 검토하고 수정해야 하는 경우가 많습니다. 정확한 프롬프트를 작성함으로써 프롬프트 엔지니어는 AI 생성 아웃풋이 원하는 목표 및 기준과 일치하는지 확인하여 광범위한 후처리의 필요성을 줄입니다.

또한 시중에 나와 있는 다양한 생성형 AI 모델에서 최상의 결과를 얻는 방법을 이해하는 것도 프롬프트 엔지니어의 몫입니다. 예를 들어 Open AI의 GPT-3 또는 GPT-4에 대한 프롬프트 작성은 Google Bard에 대한 프롬프트 작성과 다릅니다. Bard는 Google 검색을 통해 정보에 액세스할 수 있으므로 최신 정보를 결과에 통합하도록 지시할 수 있습니다. 그러나 ChatGPT는 기본 디자인 기능인 텍스트를 수집하고 요약하는 데 더 나은 도구입니다. 잘 만들어진 프롬프트는 AI 모델이 보다 관련성이 높고 정확하며 개인화된 응답을 생성하도록 안내합니다. AI 시스템은 사용과 함께 진화하기 때문에 고도로 설계된 프롬프트는 AI와의 장기적인 상호작용을 더욱 효율적이고 만족스럽게 만들어 줍니다.

오픈소스 환경에서 일하는 영리한 프롬프트 엔지니어들은 생성형 AI를 통해 초기 설계 범위에 포함되지 않았던 놀라운 작업을 수행하고 있으며, 놀라운 실제 결과를 만들어내고 있습니다. 예를 들어, 연구자들은 병렬 텍스트를 학습하지 않고도 언어를 번역할 수 있는 새로운 AI 시스템을 개발했고, 엔지니어들은 게임에 생성형 AI를 내장하여 인간 플레이어가 진정으로 반응하는 스토리텔링에 참여하도록 하고 블랙홀의 천문학적 현상에 대한 정확하고 새로운 인사이트를 얻고 있습니다. 생성형 AI 시스템의 범위와 복잡성이 커짐에 따라 프롬프트 엔지니어링의 중요성은 더욱 커질 것입니다.

대규모 기술 조직에서는 새롭고 창의적인 콘텐츠를 개발하고, 복잡한 질문에 답하고, 기계 번역 및 NLP 작업을 개선하기 위해 프롬프트 엔지니어를 고용하고 있습니다. 엔지니어가 갖추어야 할 기술에는 대규모 언어 모델에 대한 친숙함, 강력한 의사소통 기술, 기술 개념을 설명하는 능력, 프로그래밍 전문 지식(특히 Python), 데이터 구조 및 알고리즘에 대한 확고한 이해가 포함됩니다. 이 역할에서는 창의성과 신기술의 이점과 위험에 대한 현실적인 평가도 중요합니다.

모델은 여러 언어로 학습되지만, 생성형 AI 학습에는 주로 영어가 기본 언어로 사용되는 경우가 많습니다. 프롬프트의 모든 단어가 결과에 영향을 미칠 수 있으므로 프롬프트 엔지니어는 어휘, 뉘앙스, 표현, 맥락 및 언어학에 대한 깊은 이해가 필요합니다.

프롬프트 엔지니어는 필요한 컨텍스트, 지침, 콘텐츠 또는 데이터를 AI 모델에 효과적으로 전달하는 방법도 알고 있어야 합니다.

코드를 생성하는 것이 목표라면 프롬프트 엔지니어는 코딩 원칙과 프로그래밍 언어를 이해해야 합니다. 이미지 생성기로 작업하는 사람들은 미술사, 사진 및 영화 용어를 알아야 합니다. 언어 맥락을 생성하는 사람들은 다양한 서술 스타일이나 문학 이론을 알아야 할 수도 있습니다.

프롬프트 엔지니어는 광범위한 커뮤니케이션 기술 외에도 생성형 AI 도구와 의사 결정을 안내하는 딥 러닝 프레임워크를 이해해야 합니다. 프롬프트 엔지니어는 다음과 같은 고급 기술을 사용하여 모델의 이해도와 아웃풋 품질을 향상시킬 수 있습니다.

• 제로샷 프롬프트는 머신 러닝 모델에 명시적으로 학습되지 않은 작업을 제공합니다. 제로샷 프롬프트는 이전 예제에 의존하지 않고 모델의 관련성 있는 아웃풋 생성 능력을 테스트합니다.
• 퓨샷 프롬프트 또는 컨텍스트 내 학습은 모델이 요청자가 원하는 작업을 학습할 수 있도록 몇 가지 샘플 아웃풋(샷)을 제공합니다. 학습 모델에 참고할 컨텍스트가 있으면 원하는 아웃풋을 더 잘 이해할 수 있습니다.
• CoT(연쇄적 사고 프롬프트)는 모델이 따라야 할 단계별 추론을 제공하는 고급 기법입니다. 복잡한 작업을 중간 단계, 즉 '추론의 사슬'로 나누면 모델이 언어를 더 잘 이해하고 더 정확한 아웃풋을 생성하는 데 도움이 됩니다.