프로그래밍이 가능한 미래: 생성형 컴퓨팅이 소프트웨어를 재창조하는 방법

이 아이디어는 순간적으로 탄생한 것이 아닙니다. 기계가 추론하는 방식에 대한 조용한 재고는 심야의 Slack 스레드와 복도에서 오가는 대화들 사이에서 서서히 모습을 드러냈습니다. 혼란스러운 프롬프트와 자동화에 대한 열망 사이 어딘가에서 새로운 개념이 형성되었습니다. 이 개념은 인공 지능뿐만 아니라 소프트웨어 자체를 재정의할 수도 있습니다.

가정은 대담합니다. 대규모 언어 모델을 챗봇처럼 취급하지 않고 프로그래밍 가능한 인프라처럼 취급하기 시작하면 어떨까요? IBM은 이 새로운 분야를 생성형 컴퓨팅이라고 부릅니다. 이는 연구자들이 AI 모델을 다루는 새로운 접근 방식을 정의하기 위해 개발된 용어이자 프레임워크입니다. 핵심은 AI 모델을 시스템에 통합하는 방식을 재설계하는 것, 즉 AI를 예측 불가능한 신탁이 아니라 제어 가능하고 모듈화된 소프트웨어 구성 요소로 만드는 것입니다. 이 프로젝트가 성공하면 AI 개발, 소프트웨어 설계 및 엔터프라이즈 기술의 전환점이 될 수 있습니다.

IBM Research의 책임자인 David Cox는 IBM Think와의 인터뷰에서 AI 개발에서 일어나고 있는 변화를 설명하기 위해 생성형 컴퓨팅이라는 용어를 만들어냈다고 말했습니다. 생성형 컴퓨팅은 브랜드나 제품이 아니라, 대규모 언어 모델을 영리한 대화 상대가 아닌 프로그래밍 가능한 요소로 취급하는 방향으로의 전환입니다. 마법이 아닌, 소프트웨어 엔지니어링의 결과물입니다.

"LLM이 프로그래밍을 대체하는 것은 아닙니다."라고 그는 말합니다. "오히려 LLM은 새로운 종류의 프로그래밍 프리미티브가 되고 있습니다."

오늘날 대규모 언어 모델과의 상호작용은 종종 변덕스러운 신탁을 소환하는 것처럼 느껴집니다. 프롬프트에서 문장을 약간 변경하면 아웃풋이 자연스럽게 바뀝니다. 에세이 길이의 프롬프트를 작성하고, 희망하고, 기도하고, 회유해 보세요. 프롬프트는 점성학이 그렇듯 교묘하며, 애매모호하고 해석적이며, 때로는 심오합니다. 하지만 은행, 병원, 정부의 경우에는 신비주의가 확장되지 않습니다.

IBM Research의 수석 과학자 Ruchir Puri는 IBM Think와의 인터뷰에서 "무언가를 입력하면, 어떻게 표현했느냐에 따라 다른 답변이 나옵니다."라고 말했습니다. "검색 초기 시절과 같습니다. 우리는 여전히 쉼표로 아웃풋을 변경할 수 있는 시대에 살고 있습니다. 기업은 그런 식으로 운영할 수 없습니다."

Puri는 기업이 할루시네이션뿐만 아니라 모델이 예외 상황을 처리하는 방식의 신뢰성 부족으로 어려움을 겪는 세상을 묘사합니다. "우리는 할루시네이션에 대해 많이 이야기하지만, 더 깊은 문제는 모델이 지침을 따르지 않을 것이라는 점입니다. 프롬프트에서 단어를 변경하면 무엇을 얻게 될지 알 수 없습니다. 그는 이러한 점이 엔지니어링의 정반대라고 주장합니다.

물론 현대 모델의 힘을 무시하는 사람은 아무도 없습니다. Cox는 문제는 우리가 모델을 사용하는 방식이라고 말했습니다. “프롬프트 엔지니어링은 엔지니어링이 아니라, 조정하는 작업입니다. 우리는 모델이 우리가 의도한 대로 작동하기를 바랄 필요가 없고, 우리가 의도한 대로 작동하도록 프로그래밍할 수 있는 시스템이 필요합니다.

생성형 컴퓨팅의 전제는 간단합니다. 즉 모델을 함수로 취급하는 것입니다. 개발자는 장황한 에세이로 명령을 내리는 것이 아니라, 프롬프트를 원자 단위로 분할하고, 라우팅하고, 조건을 확인하고, 실패를 재작성하는 오케스트레이션 계층을 사용합니다. 논리는 단순히 암시되는 것이 아니라 강제됩니다. 제어가 명확해지고, 구조가 반환됩니다.

"인터넷을 생각해 보세요."라고 Cox는 말했습니다. "원시 데이터를 유선으로 전송하고 데이터가 나타나기를 바라는 것이 아닙니다. 프로토콜, 재시도 및 라우팅이 있습니다. 이것이 바로 우리가 AI에 추가하는 것입니다." 실제로 이는 복잡한 작업을 더 작고 관리하기 쉬운 지침으로 분류하고 각 지침을 진행하기 전에 확인하는 계층화된 시스템을 구축하는 것을 의미합니다. "모델에 길고 복잡한 하나의 프롬프트가 아닌 20개의 작고 집중된 프롬프트가 있을 수 있습니다."라고 Puri는 말합니다. "하지만 이제 하나하나 기록할 수 있습니다. 다시 시도할 수 있습니다. 폴백을 구축할 수 있습니다. 바로 이것이 기업들이 필요로 하는 것입니다."

또한 이러한 구조는 생성형 AI에서 오랫동안 부재했던 두 가지 원칙, 즉 테스트와 검증을 가능하게 합니다. "코드를 작성할 때와 똑같은 방식으로 LLM 동작에 대한 어설션을 작성할 수 있습니다."라고 Cox는 말합니다. "원하는 동작이 이루어지지 않으면 모델에 다시 시도하도록 요청하거나 다른 서브루틴으로 라우팅할 수 있습니다."

이 아이디어는 안전에 적용할 때 특히 더 강력해집니다. Puri는 AI 에이전트의 잠재력을 좋아하지만, 예측 불가능성에 대해 주저하는 CTO들의 이야기를 자주 듣는다고 말합니다. "CTO들은 AI 에이전트가 스스로 무언가를 하도록 내버려 두는 것을 두려워합니다. 즉 할루시네이션을 일으키거나, 잘못된 메시지를 보내거나, 잘못된 거래를 승인하면 어떻게 될까 두려워합니다."

이에 대한 답을 찾기 위해 생성형 컴퓨팅에는 할루시네이션, 컨텍스트 검증, 규정 준수 인식 처리와 같은 도구가 도입되었습니다. "런타임을 사용하면 메인 모델의 아웃풋을 확인하는 가디언 모델을 삽입할 수 있습니다."라고 Cox는 말합니다. 의심스러운 것이 보이면 신고하거나 다시 시도하도록 요청할 수 있습니다."

이러한 종류의 계층화를 통해 오늘날의 프롬프트 엔지니어링으로는 제공할 수 없는 수준의 재현성과 신뢰성을 확보할 수 있습니다. 개발자는 기존 코드를 LLM 응답과 혼합하여 제어 권한을 양보하지 않고도 더 큰 시스템에 아웃풋을 임베드할 수 있습니다.

"이것은 챗봇이 아닙니다."라고 Cox는 말합니다. "이것은 소프트웨어 스택의 일부입니다. 다른 모듈을 테스트하는 것처럼 테스트할 수 있습니다."

Cox는 이 순간이 컴퓨팅의 이전 시대와 비교된다고 말합니다. 1980년대에 MVC(Model-View-Controller)와 같은 소프트웨어 디자인 패턴이 도입되면서, 개발자는 로직과 인터페이스를 분리하여 애플리케이션 구축을 위한 모듈식 재사용 가능한 기반을 만들 수 있게 되었습니다. 그는 생성형 컴퓨팅도 비슷한 변곡점이 될 수 있다고 생각합니다.

"우리는 패턴을 찾아낼 것입니다."라고 그는 말합니다. “MVC가 UI 개발에서 어디에나 있는 것처럼, LLM을 오케스트레이션하기 위한 프레임워크를 보게 될 것입니다. 이는 소프트웨어 스택의 새로운 계층의 시작입니다."

그러한 구조에 대한 비전은 생성형 컴퓨팅 운동의 많은 부분을 뒷받침합니다. 개발자는 대규모 언어 모델의 모든 뉴런을 이해하려고 노력하는 대신, 기업의 제약 조건에 맞는 가드레일을 구축합니다. "우리는 책임을 만들어냅니다."라고 Puri는 말합니다.

Cox는 투명성이 단순성을 의미할 필요는 없다고 말합니다. "자동차의 엔진은 복잡합니다."라고 그는 말합니다. "하지만 안전한 외피 안에 내장되어 있습니다. 무언가가 고장 나면 절차가 있습니다. 이것이 바로 우리가 원하는 AI의 모습입니다. AI는 수수께끼가 아니라, 엔지니어링입니다."

기술적으로 이는 모델의 의사 결정의 중간 단계를 노출하는 것을 의미합니다. 생성형 컴퓨팅에 사용되는 런타임은 로그를 생성하고 메타데이터를 첨부하고 모든 단계에서 유효성 검사를 수행할 수 있습니다.

"설명은 하나의 기능입니다."라고 Cox는 말합니다. "사후 고려 사항이 아닙니다."

이미 IBM의 Granite 모델은 이러한 종류의 모듈식 오케스트레이션을 지원하도록 조정되었습니다. 이 모델은 빠르고 메모리 효율적인 추론에 최적화되어 있어, 하나의 대규모 프롬프트 대신 여러 개의 작은 쿼리를 수행할 수 있습니다. 따라서 런타임 기반 접근 방식에 매우 적합합니다.

"이는 빌딩 블록이라고 생각할 수 있습니다."라고 Puri는 말합니다. "한 번에 모든 작업을 수행하려고 하는 대신 특정 하위 작업을 위해 여러 번 호출합니다. 더 빠르고, 더 저렴하고, 더 안정적입니다."

혜택은 기술적 측면뿐만 아니라 조직적 측면에서도 얻을 수 있습니다. 한 파일럿 프로젝트에서 기업 고객은 생성형 컴퓨팅을 사용하여 문서 분류 파이프라인을 구축했습니다. 법률 개요를 요약할 때 하나의 프롬프트에 의존하는 대신 분류, 세분화, 추출, 검증, 위험 평가, 요약, 서식 지정, 검토 및 승인의 9단계로 작업을 나누었습니다.

"각 단계가 격리되고 모니터링되었습니다."라고 Cox는 말합니다. "문제가 발생하면 재시도하거나 수정할 수 있습니다. 단 하나의 프롬프트로는 이 작업을 수행할 수 없었습니다."

Puri는 이러한 구조가 표준이 될 것이라고 믿습니다. "우리는 LLM을 엔드투엔드 마법처럼 생각하지 않고 이를 인프라로 취급할 것입니다."라고 그는 말했습니다. "개발자를 대체하는 것이 아닙니다. 새로운 도구를 제공하는 것입니다."

Cox는 이러한 도구 중 하나가 특수 모델 함수가 런타임에 직접 노출되어 더 심층적인 통합과 실시간 적응을 가능하게 하는 새로운 개념의 LLM 내장 기능이라고 말합니다. "모델 작동 방식을 변경하는 어댑터를 부착할 수 있습니다."라고 그는 말합니다. "이를 통해 어조를 바꾸고, 위험을 줄이고, 할루시네이션을 즉각적으로 감지할 수도 있습니다."

이러한 발전은 소프트웨어 작성 방식을 변화시킬 수 있습니다. Cox는 런타임 오케스트레이션 템플릿, 프롬프트를 검증하는 단위 테스트, 모델 동작을 추적하는 버전 관리 시스템을 포함하는 IDE를 상상합니다.

"소프트웨어 엔지니어는 새로운 기술을 배워야 할 것입니다."라고 그는 말합니다. "하지만 입력, 아웃풋, 정확성, 관측 가능성 등 기본은 여전히 존재합니다. 우리는 소프트웨어 엔지니어링을 포기하지 않습니다. 우리는 이를 업그레이드하고 있습니다."

연구자들은 생성형 컴퓨팅이 현재의 틈새 사용 사례를 넘어 확장될 것으로 예상합니다. 이 분야가 성숙함에 따라 새로운 추상화 계층, 새로운 표준 및 새로운 직무 역할이 등장할 것입니다.

그는 잠시 말을 멈춥니다. "우리는 이러한 시스템을 지능적으로 만드는 방법을 10년 동안 배웠습니다."라고 그는 말합니다. "이제 우리는 그들에게 행동하는 방법을 가르쳐야 합니다."