Tingkatkan pengamatan agen AI dengan Langfuse yang didukung oleh watsonx Orchestrate

By Jobit Varughese

Seiring dengan bertambahnya jumlah agen AI yang dikembangkan setiap hari, berbagai perusahaan mulai menjajaki sistem otonom untuk mendukung pengambilan keputusan dan alur kerja operasional. Pada saat yang sama, organisasi sering mengungkapkan kekhawatiran tentang keterjelasan, tata kelola dan kesiapan produksi, terutama dalam sistem multi-agen yang mengandalkan model bahasa besar (LLM) untuk penalaran. Menggunakan agen dalam lingkungan bisnis yang memberikan respons tanpa penjelasan yang jelas atau yang menunjukkan perilaku yang tidak konsisten adalah tantangan besar.

Tantangan ini dapat diatasi dengan menggunakan IBM watsonx Orchestrate yang menyediakan platform terstruktur, yang mendukung hosting mandiri, penalaran berbasis alat, panggilan API, dan kontrol kelas enterprise tanpa memerlukan kode orkestrasi khusus.

Dynamiq mengembangkan asisten riset hukum multi-agen untuk salah satu klien asuransi besar, yang mengarahkan pertanyaan melalui pengklasifikasi IBM Granite berbiaya rendah sebelum meneruskannya ke agen riset yang lebih kompleks. Membuat alur kerja berisiko tinggi ini layak membutuhkan visibilitas mendalam ke setiap langkah penalaran dan panggilan alat. Dengan mengintegrasikan IBM watsonx Orchestrate, Dynamiq memastikan setiap keputusan tetap sepenuhnya dapat dilacak, diaudit, dan dikutip, memangkas waktu ulasan kontrak dari 90 menit menjadi 45 menit tanpa mengorbankan tata kelola.

Dalam tutorial ini, Anda akan belajar cara membuat agen AI di watsonx Orchestrate dengan watsonx Orchestrate Agent Development Kit (ADK). Dalam sistem AI berbasis LangChain atau LangGraph, para pengembang sering kali harus menangani upaya ulang, pengelolaan status, dan eksekusi asinkron secara manual. Watsonx Orchestrate ADK membuat proses ini lebih mudah dengan manajemen siklus hidup terintegrasi yang memungkinkan penerapan agen yang konsisten dan siap untuk perusahaan.

Anda akan menggunakan Python untuk membuat logika evaluasi risiko, menentukan perilaku agen, dan menggabungkan Langfuse untuk memantau dan meningkatkan perilaku agen dengan jejak eksekusi nyata. Anda juga dapat menemukan tutorial ini di GitHub.

Apa itu Langfuse?

Langfuse adalah platform sumber terbuka untuk observabilitas LLM yang dibangun di atas OpenTelemetry guna memantau aplikasi dan agen LLM. Sistem ini menggunakan telemetri (jejak, metrik, dan log) untuk memantau jejak eksekusi agen, termasuk panggilan LLM, panggilan alat, penggunaan token, metadata, dan latensi pada tingkat per-permintaan dan per-sesi.

Ini memungkinkan pengembang untuk mendapatkan insight mendalam tentang bagaimana agen bekerja dalam skenario dunia nyata, menunjukkan akar masalah keluaran yang salah dan secara sistematis mengoptimalkan perilaku agen untuk keandalan dan efisiensi yang lebih besar.

Ikhtisar contoh penggunaan: Intelijen risiko vendor

Tujuan dari tutorial ini adalah untuk membangun agen AI untuk tata kelola perusahaan yang mengevaluasi risiko vendor melalui analisis deterministik berbasis aturan. Kami membuat kumpulan data sintetis vendor dengan peringkat keuangan, sertifikasi keamanan, dan riwayat insiden. Agen memproses data ini dan mengklasifikasikan vendor ke dalam tingkatan risiko tertentu (rendah, sedang atau tinggi) sambil memberikan justifikasi untuk keputusannya.

Ini juga mendukung tindak lanjut interaktif yang memungkinkan pengguna untuk membandingkan vendor atau mensimulasikan bagaimana perubahan titik data akan berdampak pada skor risiko, memastikan tingkat auditabilitas tinggi yang diperlukan untuk kepatuhan perusahaan.

Diberikan di bawah ini adalah demo interaktif dari agen risiko vendor lengkap yang dibangun dalam tutorial ini. Jelajahi bagaimana agen mengklasifikasikan vendor, menanggapi pertanyaan, dan melacak alasannya melalui Langfuse, sehingga Anda memiliki gambaran yang jelas tentang apa yang Anda bangun sebelum memulai.

Demo langsung

Prasyarat

Untuk menyelesaikan tutorial ini, Anda perlu:

Python 3.11 atau yang lebih baru diinstal pada sistem Anda.
Akun watsonx Orchestrate. Untuk tutorial ini, akun percobaan sudah cukup. Anda dapat menggunakan IBM Cloud untuk membuat uji coba 30 hari gratis saat Anda tidak memiliki akun.
Kunci API Watsonx Orchestrate dari antarmuka pengguna Orchestrate (UI).
Watsonx Orchestrate ADK diinstal pada sistem Anda.

Langkah-langkah

Langkah 1: Masuk ke watsonx Orchestrate

Masuk ke watsonx Orchestrate melalui IBM Cloud dan buka Watsonx Orchestrate UI. Buka detail API setelah membuka Pengaturan dari menu profil. Buat kunci API baru, salin dan simpan dengan aman. Selama pengembangan lokal, watsonx Orchestrate ADK diautentikasi dengan kunci API ini. Watsonx Orchestrate bertindak seperti SDK lokal (Software Development Kit) untuk membangun dan menguji logika agen.

Langkah 2: Siapkan lingkungan pengembangan lokal

Pada langkah ini, menciptakan lingkungan pengembangan lokal. Sepanjang tutorial ini, Anda akan menjalankan server pengembangan lokal, mengimpor alat, menyiapkan lingkungan, dan membuat agen melalui antarmuka baris perintah (CLI) yang diatur yang disediakan oleh ADK di Powershell. Mulailah dengan menavigasi ke direktori tempat Anda ingin membangun proyek Anda. Kemudian, buat lingkungan virtual Python baru:

python -m venv .venv

Lingkungan Python terisolasi dibuat dalam folder .venv . Menggunakan lingkungan virtual memastikan bahwa semua dependensi untuk tutorial ini dipisahkan dari instalasi Python di seluruh sistem Anda.

Kemudian, aktifkan lingkungan virtual. Sistem operasi Anda menentukan perintah aktivasi mana yang akan digunakan.

Di Windows:

.\.venv\Scripts\activate

macOS dan Linux:

source ./.venv/bin/activate

Setelah diaktifkan, prompt terminal Anda akan menampilkan.venv di awal untuk menunjukkan bahwa Anda bekerja di lingkungan virtual.

Langkah 3: Instal watsonx Orchestrate ADK

Dengan lingkungan virtual aktif, instal watsonx Orchestrate ADK di mesin lokal Anda. Untuk menggunakan ADK, hubungkan ke lingkungan watsonx Orchestrate yang ada. Jalankan perintah berikut di PowerShell:

pip install --upgrade ibm-watsonx-orchestrate

Anda dapat mengikuti langkah-langkah selanjutnya dari instalasi ADK dengan mengikuti langkah-langkah dalam dokumen instalasi resmi.

Catatan: Tutorial ini menjalankan waktu proses watsonx Orchestrate Developer Edition secara lokal, dan menghubungkannya ke instance watsonx Orchestrate SaaS dengan kredensial.

Untuk menjalankan metode ini, buat file bernama .env di root folder proyek dan tambahkan nilai-nilai berikut:

WO_DEVELOPER_EDITION_SOURCE=orchestrate

WO_INSTANCE=<your_watsonx_orchestrate_instance_url>

WO_API_KEY=<your_watsonx_orchestrate_api_key>

File .env ini diperlukan untuk menjalankan server. Pada langkah-langkah selanjutnya, Anda akan menjalankannya dengan perintah orchestrate server start -e .env -l.

Langkah 4: Konfigurasikan lingkungan Watsonx Orchestrate di ADK

Selanjutnya, Anda perlu mengatur ADK Anda dengan kunci API watsonx Orchestrate yang valid untuk menghubungkan lingkungan lokal Anda ke watsonx Orchestrate.

Catatan: watsonx Orchestrate™ ADK kompatibel dengan beberapa jenis lingkungan, termasuk IBM Cloud, AWS, dan penerapan on premises. Dalam tutorial ini, kita menggunakan lingkungan on-prem dan mengautentikasi dengan kunci API melalui ADK CLI. ADK mengelola kredensial secara internal dengan aman, sehingga tidak ada konfigurasi variabel lingkungan manual yang diterapkan untuk pengaturan ini.

Dari direktori proyek Anda (dengan lingkungan virtual diaktifkan), jalankan perintah berikut untuk menambahkan lingkungan watsonx Orchestrate Anda:

orchestrate env add -n onprem-env -u <service-instance-url>

Di sini, service-instance-url adalah URL instance watsonx Orchestrate Anda. Anda dapat menemukan informasi ini di tab detail API yang sama tab dalam Pengaturan di watsonx Orchestrate UI.

Selanjutnya, aktifkan lingkungan yang Anda tambahkan:

orchestrate env activate onprem-env

Sekarang, ketika prompt, masukkan kunci watsonx Orchestrate yang diperoleh pada langkah 1. Ketika lingkungan telah diaktifkan, perintah berikutnya yang terkait dengan ADK, seperti mengimpor agen, alat, atau menjalankan server, akan dijalankan di lingkungan watsonx Orchestrate.

Catatan: Jika Anda ingin menjalankan semuanya secara lokal dengan Edisi Pengembang, Anda dapat mengaktifkan lingkungan lokal default melalui:

orchestrate env activate local

Ini mengalihkan ADK Anda ke lingkungan Orchestrate lokal bawaan, yang berguna untuk pengujian lokal.

Langkah 5: Inisialisasi proyek Watsonx Orchestrate lokal

Pada langkah ini, Anda akan membuat templat kerangka kerja agen yang berisi definisi, alat, dan kode sumber Agen Intelijen Risiko Vendor Anda. Kemudian, buat struktur folder yang diperlukan untuk pengembangan berbasis ADK lokal:

── adk-project(vendor-risk-intel)/
── agents/
── tools/
── src/

Anda dapat menambahkan perintah yang diberikan di sini untuk membuat struktur agen:

mkdir -p adk-project\(vendor-risk-intel\)/{agents,src,tools}

Setiap folder memiliki tujuan spesifik:

Folder agen berisi file YAML dengan instruksi, aturan penalaran dan konfigurasi model agen. Ini menentukan bagaimana sistem menjawab pertanyaan pengguna. Folder alat menyimpan file YAML yang menjelaskan alat yang disediakan untuk agen. Folder src berisi implementasi Python untuk alat khusus dan logika bisnis.

Langkah 6: Mulai server Watsonx Orchestrate

Mulai server watsonx Orchestrate™ sehingga dapat menerima dan toko impor Anda sebelum mengimpor alat dan agen. Jalankan perintah ini dari root folder proyek:

orchestrate server start -e .env -l

Langkah 7: Konfigurasikan observabilitas Langfuse (SaaS)

Langkah selanjutnya adalah observabilitas agen di mana Anda menganalisis bagaimana agen berperilaku pada waktu proses seperti alat mana yang dipanggil, latensi, dan di mana kesalahan terjadi. Untuk tujuan ini, aktifkan observabilitas Langfuse di lingkungan watsonx Orchestrate ADK.

Dalam tutorial ini, versi SaaS Langfuse digunakan, yang memungkinkan Anda menangkap jejak tanpa menjalankan Langfuse secara lokal.

Pastikan bahwa server Watsonx Orchestrate sedang berjalan (langkah 6) sebelum mengonfigurasi Langfuse.

Selanjutnya, buat akun Langfuse di https://cloud.langfuse.com. Setelah masuk, buat organisasi dan proyek baru. Dari pengaturan proyek, salin ID proyek Anda, kunci publik Anda, kunci rahasia Anda, dan URL host Anda.

Sekarang atur Langfuse di watsonx Orchestrate ADK dengan perintah yang ditampilkan setelah bagian ini dan ganti placeholder dengan nilai yang Anda salin:

orchestrate settings observability langfuse configure `
    --url “<LANGFUSE_HOSTNAME>/api/public/otel” `
    --api-key “<LANGFUSE_SECRET_KEY>“ `
    --health-uri “https://cloud.langfuse.com” `
    --config-json “{\”public_key\”:\”<LANGFUSE_PUBLIC_KEY>\”}” `
    --project-id “<LANGFUSE_PROJECT_ID>“

Setelah perintah ini selesai dengan sukses, modul Langfuse akan sepenuhnya terintegrasi ke dalam lingkungan Watsonx Orchestrate. Pada tahap ini, semua interaksi dengan agen secara otomatis direkam pada modul Langfuse.

Sekarang server berjalan, Anda dapat menguji agen.

Langkah 8: Tentukan Agen Intelijen Risiko Vendor

Langkah selanjutnya adalah menentukan Agen Intelijen Risiko Vendor. Agen dalam watsonx Orchestrate ADK didefinisikan melalui berkas YAML yang menjelaskan tujuan agen, batasan penalaran, konfigurasi model, dan alat yang diizinkan.

Di dalam direktori agen, buat file bernama vendor-risk-agent.yaml. File ini adalah lapisan manajemen prompt agen yang menjamin semua jawaban didasarkan pada penalaran deterministik sebagai lawan dari inferensi bentuk bebas.

Definisi agen yang digunakan dalam tutorial ini ditunjukkan selanjutnya. Salin dan tempel definisi agen berikut ke dalam file agens/vendor-risk-agent.yaml Anda. Simpan file sesudahnya.

spec_version: v1
kind: native
name: Vendor_Risk_Intelligence_Agent
description: Produces precise risk assessments using verified vendor profiles.
instructions: |
    You are a Vendor Risk Auditor.
    You MUST answer ALL questions by:
    1. Calling the Python tool `evaluate_all_vendor_risks`
    2. Reasoning strictly from the returned structured data
    3. Explaining answers using rules, signals, and outcomes from the tool
    4. Call evaluate_all_vendor_risks exactly once per question
    5. For definition questions, quote rules directly from the tool output
    NEVER infer meanings of financial ratings.
    NEVER guess intent.
    NEVER answer without tool evidence.
    Question handling rules:
    - Definition questions (e.g. “Does B+ mean High risk?”):
→ Explain the rule from the tool’s `rules` section.
    - Why questions (e.g. “Why is DataSecure Ltd High risk?”):
→ Cite strong and weak signals for that vendor.
    - Comparison questions (e.g. “Why is A Medium but B High?”):
→ Compare signal counts and types.
    - Policy questions (e.g. “What causes High risk?”):
→ Quote the tool’s rules exactly.
    - If the tool does not support a claim:
→ Say so explicitly.
    Use deterministic language only.
    Do not use speculative words like “might”, “could”, or “appears”.

llm: watsonx/meta-llama/llama-3-2-90b-vision-instruct
style: react
tools:
    - evaluate_all_vendor_risks

Konfigurasi ini memastikan bahwa agen berperilaku dapat diprediksi di pertanyaan apa, mengapa, bagaimana, dan perbandingan. Sistem mencegah halusinasi dengan melarang asumsi tentang peringkat keuangan atau makna risiko kecuali output alat secara eksplisit mendefinisikannya.

Langkah 9: Menerapkan logika evaluasi risiko vendor

Pada langkah ini, terapkan alat Python yang melakukan penilaian risiko vendor. Di watsonx Orchestrate ADK, logika bisnis khusus diimplementasikan melalui alat Python sehingga agen mulai mendapatkan hasil. Alih-alih mengandalkan penyempurnaan model untuk perilaku spesifik domain, tutorial ini menunjukkan bagaimana penalaran deterministik berbasis aturan dapat diimplementasikan melalui alat Python yang memastikan hasil yang konsisten.

Di dalam folder src, buat file bernama main.py. File ini berisi kumpulan data vendor yang kami buat, aturan evaluasi risiko dan alat Python bernama evaluate_all_vendor_risks yang menyediakan logika ke agen.

Logika risiko didasarkan pada aturan. Dalam hal sinyal berisiko tinggi, perusahaan dapat menerima skor risiko tinggi karena kinerja keuangannya yang buruk, insiden keamanan di masa lalu, atau pertanyaan peraturan. Sebuah perusahaan dapat menerima skor risiko sedang karena tidak adanya sertifikasi, insiden operasional tunggal atau gangguan oleh kondisi cuaca.

Fungsi evaluate_all_vendor_risks dibuat sebagai alat watsonx Orchestrate, membuatnya dapat dipanggil oleh agen selama eksekusi. Alat mengembalikan output terstruktur yang mencakup tingkat risiko akhir bersama dengan alasan pasti yang menyebabkan klasifikasi.

Catatan: Bagian file main.py yang termasuk dalam tutorial ini adalah versi terbaru akhir dari logika evaluasi risiko vendor. Kumpulan kode pertama menyebabkan perilaku agen yang salah, yang dianalisis melalui jejak Langfuse. Anda dapat menemukan jejak Langfuse di tangkapan layar yang diberikan pada langkah-langkah selanjutnya dari tutorial ini.

Implementasi lengkap dari file main.py yang digunakan dalam tutorial ini diberikan selanjutnya. Salin dan tempel ke src/main.py. Setelah itu, simpan file tersebut.

from ibm_watsonx_orchestrate.agent_builder.tools import tool

# =====================================================
# IN-MEMORY VENDOR DATA
# =====================================================

VENDORS = [
    {
        “name”: “CloudHostCo”,
        “financial_rating”: “A-“,
        “security_certifications”: [“ISO 27001”, “SOC2 Type II”],
        “past_incidents”: [{“type”: “Operational”, “year”: 2023}],
        “recent_news”: [“Minor service disruption in EU region”]
    },
    {
        “name”: “DataSecure Ltd”,
        “financial_rating”: “B”,
        “security_certifications”: [“SOC2 Type I”],
        “past_incidents”: [{“type”: “Security”, “year”: 2022}],
        “recent_news”: [“Suspicious login attempts on admin accounts”]
    },
    {
        “name”: “FinPay Solutions”,
        “financial_rating”: “A”,
        “security_certifications”: [“PCI-DSS”],
        “past_incidents”: [],
        “recent_news”: [“Regulatory inquiry about payment delays”]
    },
    {
        “name”: “GreenLogistics Corp”,
        “financial_rating”: “B+”,
        “security_certifications”: [“ISO 9001”],
        “past_incidents”: [{“type”: “Operational”, “year”: 2023}],
        “recent_news”: [“Weather-related disruptions in the UK”]
    }
]

REQUIRED_CERTS = {“ISO 27001”, “SOC2 Type II”, “PCI-DSS”}

# =====================================================
# RISK COMPUTATION (FIXED)
# =====================================================

def compute_vendor_risk(vendor: dict) -> dict:
    strong_signals = []
    weak_signals = []

  # ---------- Strong signals ----------

    # Financial risk ONLY for B or worse (NOT B+)
    if vendor[“financial_rating”] in {“B”, “B-“, “C”, “C-“, “D”}:
        strong_signals.append(“Weak financial rating”)

    # Security incident
    if any(i[“type”].lower() == “security” for i in vendor.get(“past_incidents”, [])):
        strong_signals.append(“Past security incident”)

    # Regulatory inquiry
    for news in vendor.get(“recent_news”, []):
        if “regulatory inquiry” in news.lower():
        strong_signals.append(“Regulatory inquiry”)
        break

    # ---------- Weak signals ----------

    # Missing key certifications
    certs = set(vendor.get(“security_certifications”, []))
    if not REQUIRED_CERTS.issubset(certs):
        weak_signals.append(“Missing key security certifications”)

    # Single operational incident
    incidents = vendor.get(“past_incidents”, [])
    if len(incidents) == 1 and incidents[0][“type”].lower() == “operational”:
        weak_signals.append(“Single operational incident”)

    # Weather-related disruptions are weak only
    for news in vendor.get(“recent_news”, []):
      if “weather” in news.lower():
        weak_signals.append(“Weather-related disruption”)
        break

    # ---------- Final decision ----------

    if len(strong_signals) >= 2:
        risk = “High”
    elif len(strong_signals) == 1 or len(weak_signals) >= 2:
        risk = “Medium”
    else:
        risk = “Low”

    return {
        “risk”: risk,
        “strong_signals”: strong_signals,
        “weak_signals”: weak_signals
    }

# =====================================================
# PYTHON TOOL
# =====================================================

@tool
def evaluate_all_vendor_risks() -> dict:
    “””
    Returns structured vendor risk assessments with explanations and rules.
    “””
    return {
        “rules”: {
            “financial_rating_rule”: “Only financial ratings of B or lower are treated as strong risk signals. B+ and above are not strong signals.”,
            “high_risk_rule”: “High risk requires two or more strong signals.”,
            “medium_risk_rule”: “Medium risk occurs with one strong signal or two or more weak signals.”,
            “weather_rule”: “Weather-related disruptions are always weak signals.”,
            “operational_rule”: “A single operational incident is a weak signal.”
        },
        “vendors”: {
            v[“name”]: {
                “financial_rating”: v[“financial_rating”],
                “risk”: compute_vendor_risk(v)[“risk”],
                “strong_signals”: compute_vendor_risk(v)[“strong_signals”],
                “weak_signals”: compute_vendor_risk(v)[“weak_signals”]
            }
            for v in VENDORS
        }
    }

Langkah 10: Impor alat dan agen Python ke watsonx Orchestrate

Pada langkah ini, alat dan agen harus tersedia untuk watsonx Orchestrate. Proses ini dilakukan dengan mengimpor komponen-komponen ini ke lingkungan ADK yang diaktifkan. Sebelum menjalankan perintah impor, pastikan Anda berada di dalam folder root proyek Anda (folder yang sama yang berisi direktori agen, src dan alat).

Pertama, impor alat Python sehingga watsonx Orchestrate dapat mendaftarkannya sebagai kemampuan yang dapat dieksekusi. Dari root direktori proyek Anda, jalankan perintah berikut:

orchestrate tools import --kind python --file src/main.py --package-root .

Perintah ini mengemas kode Python ke dalam modul, mendaftarkan alat evaluate_all_vendor_risks, dan memungkinkannya dipanggil oleh agen.

orchestrate agents import -f agents/vendor-risk-agent.yaml

Agen Intelijen Risiko Vendor kemudian sepenuhnya terintegrasi dengan alat Python di lingkungan watsonx Orchestrate.

Langkah 11: Uji agen dan analisis perilakunya dengan Langfuse

Dengan server watsonx Orchestrate lokal berjalan dan pengamatan agen diaktifkan, Anda sekarang dapat menguji agen dan menganalisis perilakunya secara real time.

Mulai antarmuka obrolan dengan menjalankan perintah berikut:

orchestrate chat start

Sekarang buka UI obrolan watsonx Orchestrate di browser Anda. Dari pemilih agen, pilih Vendor_Risk_Intelligence_Agent dan mulailah mengajukan pertanyaan terkait risiko vendor.

Untuk verifikasi bahwa agen merespons dengan benar (dan memanggil Python secara deterministik), berikut adalah beberapa contoh pertanyaan yang dapat Anda gunakan untuk pengujian:

Apakah B+ berarti risiko tinggi?
Apa risiko DataSecure Ltd?
Apa kriteria untuk risiko sedang?
Vendor mana yang memiliki peringkat keuangan terlemah?
Jika solusi FinPay mengalami insiden keamanan, bagaimana tingkat risikonya akan berubah?
Vendor mana yang pernah mengalami insiden operasional?

Saat Anda berinteraksi dengan agen, buka dasbor Langfuse di browser Anda. Setiap permintaan pengguna membuat jejak baru, termasuk session_id dan ID pengguna. Jejak-jejak ini merekam jalur eksekusi lengkap dari agen tersebut. Dengan memilih jejak, Anda dapat menganalisis:

Input dan output lengkap dari agen
Pemanggilan alat Python
Data terstruktur yang dikembalikan oleh alat
Proses penalaran diikuti untuk mencapai jawaban akhir
Latensi untuk setiap langkah dalam proses
Alur percakapan berbasis sesi untuk beberapa pertanyaan

Kemampuan observasi ini membantu Anda menganalisis metrik kinerja yang menunjukkan hambatan seperti kesalahan asumsi, aturan yang tidak lengkap, atau perilaku agen yang tidak terduga.

Langkah 12: Perbaiki perilaku agen dengan insight Langfuse

Setelah menguji agen, gunakan jejak Langfuse untuk mengidentifikasi respons yang salah. Langfuse menunjukkan setiap pemanggilan alat, langkah penalaran dan latensi respons, sehingga mudah untuk memahami alasan jawaban dihasilkan.

Dalam contoh penggunaan ini, analisis jejak mengungkapkan bahwa beberapa jawaban yang salah terjadi ketika agen menyimpulkan makna finansial atau merespons tanpa secara eksplisit mengutip bukti berbasis aturan. Untuk mengubah tindakan ini, instruksi agen dan kode Python yang sesuai dimodifikasi untuk memperbaiki pemikiran berbasis aturan yang ketat dengan tindakan alat yang diperlukan.

Setelah mengimpor ulang file yang telah diperbarui, agen tersebut diuji kembali. Jejak baru memastikan bahwa respons berakar kuat dalam output alat terstruktur, penjelasan deterministik dan tanggapan terhadap semua pertanyaan deskriptif benar.

Proses pengamatan dan penyempurnaan ini menunjukkan bagaimana Langfuse membantu pengembangan agen yang aman dan sehat berdasarkan masukan pengguna.

Jelajahi demo interaktif di bawah ini untuk menjelajahi agen risiko vendor dan pelacakan Langfuse dalam tindakan.

Kesimpulan

Tutorial ini telah memandu Anda melalui pembuatan agen AI terstruktur dan tepercaya dengan watsonx Orchestrate yang dikembangkan untuk pembuatan agen kelas Enterprise. Dengan integrasi logika Python berbasis aturan sederhana dan instruksi agen yang jelas dan alat yang dapat digunakan kembali, Anda telah menerapkan contoh penggunaan dalam penilaian risiko vendor dengan kode minimal dan transparansi maksimum.

Penambahan Langfuse telah membuatnya mudah untuk deteksi perilaku agen dan mengidentifikasi masalah dengan penalaran untuk terus meningkatkan akurasi tanpa menebak. Pendekatan ini membantu perusahaan untuk mengoptimalkan sistem agen menyeluruh, mengotomatiskan alur kerja yang kompleks, dan menerapkan sistem AI dengan transparansi penuh.

Lebih penting lagi, bersama-sama, watsonx Orchestrate ADK dan Langfuse memungkinkan perusahaan untuk merancang, men-debug, dan menskalakan alur kerja berbasis agen dan aplikasi AI yang kompleks lebih cepat, dengan tata kelola yang lebih kuat dan penalaran yang lebih jelas serta waktu pengembangan yang lebih singkat.

Jobit Varughese

Technical Content Writer

IBM

Mulai mewujudkan ROI: Panduan praktis untuk AI agen

Pelajari cara untuk menskalakan AI agentik untuk ROI terukur di seluruh perusahaan Anda. Pedoman ini menguraikan hambatan utama yang membatasi dampak, cara mengukur ROI secara efektif dan kerangka kerja praktis untuk mendorong adopsi yang sukses di seluruh perusahaan.

Sumber daya

Amankan agen Anda

Serangan inversi model AI sekarang menelan biaya rata-rata USD 6 juta, mengekspos tantangan yang berkembang dalam mengamankan sistem AI dan data sensitif.

Merancang maskapai native AI dalam skala perusahaan

Ketika margin tipis, setiap inefisiensi penting. Sementara sistem lama terus membatasi potensi AI di seluruh penerbangan, Riyadh Air memilih jalur yang berbeda. Dalam kemitraan dengan IBM, Riyadh Air membangun maskapai asli AI pertama di dunia, mendefinisikan kembali cara bepergian yang lebih cerdas, lebih cepat, dan lebih intuitif.

Perusahaan di tahun 2030: Dirancang untuk inovasi tiada henti

Temukan lima prediksi kami tentang apa yang akan menentukan perusahaan paling sukses pada tahun 2030 dan langkah-langkah yang dapat diambil para pemimpin untuk mendapatkan keunggulan dengan mengutamakan AI.

Pentingnya tata kelola AI: Perkembangan regulasi dan munculnya AI agen

Pelajari bagaimana perkembangan regulasi dan munculnya agen AI membentuk kembali kebutuhan akan kerangka kerja tata kelola AI yang kuat.

Penjelasan AI agen

Techsplainers oleh IBM menguraikan esensi AI agen, dari konsep kunci hingga contoh penggunaan nyata. Episode yang jelas dan cepat membantu Anda mempelajari dasar-dasarnya dengan cepat.

Buka ROI AI: Panduan taktis untuk produktivitas perusahaan

Pelajari strategi yang telah terbukti untuk meningkatkan produktivitas dan mendorong transformasi dengan AI dan inovasi pada intinya.

Bagaimana agen dan asisten AI dapat bermanfaat bagi organisasi Anda

Selami panduan komprehensif ini yang menguraikan contoh penggunaan dan kemampuan inti, memberikan rekomendasi langkah demi langkah untuk membantu Anda memilih solusi yang tepat untuk bisnis Anda.

Bayangkan kembali produktivitas bisnis dengan agen dan asisten AI

Pelajari cara agen AI dan asisten AI dapat bekerja sama untuk mencapai tingkat produktivitas baru.

Coba watsonx Orchestrate

Jelajahi bagaimana asisten AI generatif dapat meringankan beban kerja Anda dan meningkatkan produktivitas.

Dari proyek AI hingga keuntungan: Bagaimana AI agen dapat mempertahankan pengembalian keuangan

Temukan bagaimana organisasi bergerak dari pilot AI yang terisolasi ke mendorong transformasi bisnis inti dengan AI agen.

Laporan Omdia tentang kecerdasan yang diberdayakan: Dampak agen AI

Temukan cara Anda dapat membuka potensi penuh gen AI dengan agen AI.

Cara agen AI menemukan kembali produktivitas

Pelajari cara-cara menggunakan AI agar lebih kreatif, efisien, dan mulai beradaptasi dengan masa depan yang melibatkan kerja sama dengan agen AI.

Mengantarkan perusahaan agentik: Memanfaatkan AI di seluruh ekosistem teknologi Anda

Ikuti perkembangan tentang agen AI baru yang muncul, titik terobosan mendasar dalam revolusi AI.

Masa depan agen, konsumsi energi AI, penggunaan komputer Anthropic, dan penandaan teks yang dihasilkan AI oleh Google

Tetap menjadi yang terdepan dengan para pakar AI kami di episode Mixture of Experts ini saat mereka membahas secara mendalam masa depan AI dan agen AI dan banyak lagi.

Bagaimana Comparus menggunakan "asisten perbankan"

Comparus menggunakan solusi dari watsonx.ai dan secara mengesankan menunjukkan potensi perbankan percakapan sebagai model interaksi baru.

Solusi terkait

Agen AI untuk bisnis

Bangun, terapkan, dan kelola asisten dan agen AI yang kuat yang mengotomatiskan alur kerja dan proses dengan AI generatif.

Menjelajahi watsonx Orchestrate

Solusi agen AI IBM

Bangun masa depan bisnis Anda dengan solusi AI yang dapat Anda percaya.

Jelajahi solusi agen AI

Layanan AI IBM Consulting

Layanan IBM Consulting AI membantu merancang ulang cara kerja bisnis dengan AI untuk transformasi.

Jelajahi layanan kecerdasan buatan

Ambil langkah selanjutnya

Baik Anda memilih untuk menyesuaikan aplikasi dan keterampilan yang dibangun sebelumnya atau membangun dan menerapkan layanan agen khusus menggunakan studio AI, platform IBM watsonx siap membantu Anda.