“Kok bisa sih AI tiba-tiba nyelesaiin kerjaan sendiri, kayak ada manusia yang eksekusi?”

Gue yakin pertanyaan itu pernah lewat di kepala lo, apalagi setelah nonton demo AI agent yang bisa buka browser, klik sana-sini, isi form, dan ngelaporin hasilnya. Kelihatannya seperti robot yang lagi gerak sendiri. Padahal di baliknya gak ada yang mistis: yang ada cuma model bahasa, daftar alat (tools), dan satu loop eksekusi yang jalan berulang-ulang.

Artikel ini gue bongkar layer demi layer, biar lo ngerti apa yang sebenarnya terjadi setiap kali AI agent “kerja”. Bukan dari sisi hype, tapi dari sisi arsitektur: komponen apa aja yang wajib ada, gimana masing-masing ngomong satu sama lain, dan kenapa sistem ini bisa dipercaya jalan di production.

Chatbot vs Agent: Bedanya di Akses, Bukan Kecerdasan

Cara paling gampang ngebedain chatbot sama agent: bayangin dua karyawan di kantor.

Yang pertama resepsionis. Dia pinter jawab pertanyaan, tahu banget alur prosedur, tapi gak punya akses ke sistem inti. Lo tanya “saldo rekening gue berapa?”, dia jawab “maaf, gue gak bisa lihat data itu”. Bukan karena dia bodoh, tapi karena dia emang gak dikasih kunci.

Yang kedua staf operasional. Dia dikasih akses ke sistem, punya daftar menu yang bisa dieksekusi, dan boleh ngambil tindakan dalam batas tertentu. Lo bilang “cek saldo, kalau kurang dari 1 juta, transfer dari tabungan”, dia bisa ngerjain itu dari awal sampai selesai, dan laporin hasilnya.

Chatbot itu resepsionis. Agent itu staf yang megang kunci gudang. Perbedaannya bukan di kepintaran modelnya, tapi di akses ke tools dan kemampuan buat eksekusi dalam satu loop.

Apa Itu Agentic AI, Sebenarnya

Istilah “agentic AI” sering dipake asal-asalan, jadi gue mulai dari definisi yang bisa dipegang. Salah satu referensi yang paling jelas datang dari Anthropic lewat artikel Building Effective Agents. Mereka ngebedain dua kategori di dalam istilah besar “agentic systems”:

  • Workflow - sistem di mana LLM dan tools diorkestrasi lewat kode yang udah ditentukan. Alurnya fixed: step A dilakuin, hasilnya dikirim ke step B, dan seterusnya. Model cuma ngejalanin peran di tiap step, tapi yang megang kendali alurnya adalah kode.
  • Agent - sistem di mana LLM secara dinamis ngarahin prosesnya sendiri. Model yang mutusin langkah berikutnya, milih tool mana yang dipanggil, dan nentuin kapan dianggap selesai. Control flow-nya dipegang model, bukan kode.

Intinya: agent itu sistem yang modelnya megang kendali. Kode cuma nyediain arena (tools, aturan, batas), tapi keputusan “ngapain selanjutnya” datang dari model di setiap langkah. Justru ini yang bikin agent terasa “hidup” dan bisa adaptif pas ada hal yang gak terduga.

Sekarang gue bongkar komponennya satu per satu.

Anatomi Agentic AI: Layer demi Layer

Arsitektur agentic AI: enam layer dari model sampai guardrail

Layer 1: Model, Si Otak

Fondasinya tetap LLM. Ini yang mikir: baca instruksi, baca konteks, dan ngasih keputusan.

Tapi ada satu perbedaan teknis penting sama chatbot biasa: model agent dilatih buat ngeluarin structured output, bukan cuma teks bebas. Ketika model mutusin mau ngapain, dia ngeluarin JSON yang isinya “gue mau panggil tool X dengan argumen Y”. Bentuknya kira-kira begini:

{
  "tool_call": {
    "name": "get_transaction",
    "arguments": {
      "account_id": "ACC-1024",
      "limit": 10
    }
  }
}

Ini titik baliknya. Selama model cuma ngeluarin teks, hasilnya cuma bisa dibaca manusia. Begitu model ngeluarin structured output, hasilnya bisa dibaca dan dieksekusi mesin. Dari situ semua hal lain nyambung.

Layer 2: Tool, Si Tangan

Model cuma bisa mikir. Buat nyentuh dunia nyata, dia butuh tangan: tools. Tools itu API, query database, browser, file system, kalkulator, sampai sistem internal perusahaan.

Cara model milih tools-nya gampang: setiap tool didefinisikan dengan nama, deskripsi, dan skema argumen. Waktu model ngerasa butuh data yang gak ada di konteksnya, dia pilih tool yang paling cocok dari daftar itu. Runtime-nya yang ngejalanin, bukan modelnya.

Masalahnya, tiap tool punya cara integrasi beda-beda. Di sinilah MCP (Model Context Protocol) masuk. MCP itu standar terbuka yang bikin koneksi antara agent dan tools jadi plug-and-play. Arsitekturnya tiga lapis:

  • Host - aplikasi tempat agent jalan (misal aplikasi chat atau IDE). Dia yang ngatur izin dan kebijakan keamanan.
  • Client - koneksi 1:1 dari host ke satu server. Dia yang negosiasiin protokol dan ngejaga isolasi antar server.
  • Server - penyedia capability: expose tools, resources, dan prompts ke agent.

Kenapa MCP penting? Karena dia bikin ekosistem tools jadi standar. Satu server MCP bisa dipake di banyak host, dan agent gak perlu integrasi custom buat tiap tool baru. Ini kayak USB buat AI: colok, langsung kebaca.

Layer 3: Agent Loop, Si Jantung (Jawaban dari “kok bisa jalan otomatis”)

Ini bagian yang paling sering bikin orang heran, jadi gue kasih perhatian ekstra.

Agent gak jalan otomatis karena dia “punya nyawa”. Dia jalan karena ada loop yang ketat dan berulang:

  1. Perceive - model baca instruksi dan konteks yang ada
  2. Decide - model milih tindakan berikutnya, dalam bentuk tool call
  3. Act - runtime ngejalanin tool call itu beneran (panggil API, query database, dll)
  4. Observe - hasil eksekusi dimasukkin balik ke context window model
  5. Repeat - model mikir lagi berdasarkan hasil barusan, sampe dia mutusin task selesai

Loop ini yang dikenal dengan pola ReAct (Reasoning + Acting): model mikir, action, liat hasil, mikir lagi. Bukan cuma satu kali, tapi berulang sampai tujuan tercapai atau batas iterasi kesampen.

Analogi yang gue suka: model itu kayak manajer yang nulis surat perintah, runtime itu kayak kurir yang ngejalanin surat perintahnya. Manajer gak megang mouse, dia gak ngeklik sendiri. Dia cuma nulis instruksi yang jelas (“panggil get_transaction dengan account ACC-1024, ambil 10 baris terakhir”), dan kurir yang beneran lari ke sistem, eksekusi, trus bawa hasilnya balik. Manajer baca hasilnya, trus nulis surat perintah berikutnya.

Jadi “otomatis” itu bukan karena model gerak sendiri, tapi karena keputusan dan eksekusi dipisah, dan keduanya dirangkai dalam loop.

Layer 4: Memory, Si Catatan Kerja

Task multi-step butuh ingatan. Ada dua level:

  • Short-term memory - isi context window. Ini “RAM” agent: instruksi, hasil tool call, pemikiran sejauh ini. Semua yang ada di sini hilang pas sesi berakhir.
  • Long-term memory - data yang disimpen di luar context: vector database, ringkasan percakapan, file catatan, preferensi pengguna. Ini “hard disk” agent.

Tanpa short-term memory, agent gak konsisten dalam satu task. Tanpa long-term memory, agent mulai dari nol tiap sesi dan gak bisa belajar dari pengalaman sebelumnya. Sistem agent yang serius biasanya dua-duanya.

Layer 5: Orkestrasi, Si Manajer

Task sederhana cukup satu agent. Tapi task kompleks kayak “audit transaksi mencurigakan, susun laporan, terus kirim ke compliance” biasanya dipecah ke beberapa agent yang masing-masing spesialis. Pola yang umum dipake:

  • Orchestrator-workers - satu agent koordinator yang ngepecah task, ngasih sub-task ke worker spesialis, trus ngerangkum hasilnya.
  • Evaluator-optimizer - dua peran: yang bikin output dan yang nge-review output. Satu generate, satu koreksi, loop sampai kualitasnya masuk.

Framework yang nyediain pola-pola ini udah banyak: Claude Agent SDK, OpenAI Agents SDK, LangGraph, sampe Microsoft Agent Framework (yang dulu dikenal sebagai AutoGen). Tapi inget, framework itu cuma perancah. Pola dasarnya tetep sama: model, tools, loop, dan kontrol.

Trade-off multi-agent jelas: makin banyak agent, makin mahal (tiap langkah ada biaya inference), makin lambat, dan makin susah di-debug. Multi-agent itu keputusan arsitektur, bukan pemanis.

Layer 6: Guardrail, Si Pengawas

Nah, ini layer yang bikin agent aman dipake di production, terutama di industri kayak perbankan. Empat pilar utamanya:

  • Human-in-the-loop - approval gate buat aksi berisiko. Agent boleh draft, tapi manusia yang pencet tombol final buat eksekusi yang nggak bisa ditarik balik.
  • Permission & sandbox - agent cuma bisa akses tool dan data yang diizinkan. Kaya karyawan: dikasih akses sesuai peran, bukan akses universal.
  • Observability - setiap keputusan dan tool call tercatat. Audit trail ini yang bikin sistem bisa dicek balik kalau ada masalah.
  • Guardrail konten - filter input/output, proteksi dari prompt injection, dan redaksi data sensitif.

Kenapa Ini Bisa Dipercaya di Production

Di perbankan, pola yang paling banyak dipake bukan “biarin agent full-auto”, tapi “agent proposes, human disposes”: agent yang kerja berat, manusia yang pegang keputusan final. Beberapa contoh yang udah jalan:

  • JPMorgan nge-deploy asisten AI ke ratusan ribu karyawan, dan di 2026 bank ini bilang bakal nge-deploy AI agents yang lebih powerful lagi. Di laporan tahunannya, mereka nge-frame AI agents sebagai bagian dari transformasi menuju bank yang fully AI-powered.
  • Morgan Stanley punya tool GenAI bernama Debrief buat financial advisors: ngerangkum rapat sama klien dan nyusun draft tindak lanjut, dengan advisor yang review tiap output sebelum dipake.
  • Klarna ngejalanin AI assistant yang handle 2,3 juta percakapan dalam sebulan pertama, setara kerja 700 agen manusia, dan bisa ngambil aksi otomatis kayak refund.
  • Vendor core banking kayak Avaloq udah punya lini AI agents buat operasional bank, dari client services sampe back-office, yang mereka klaim jalan tanpa mengorbankan akurasi, compliance, dan trust.

Pola umumnya konsisten: agent buat kerja yang high-volume dan reversible, manusia buat keputusan yang high-value dan irreversible. Ini bukan kebetulan, tapi jawaban atas tekanan regulasi. Di Uni Eropa, AI yang dipake buat evaluasi kredit masuk kategori high-risk di EU AI Act, artinya wajib ada pengawasan manusia dan audit trail. Di AS, model risk management (SR 11-7) dan NIST AI RMF jadi acuan. Di Indonesia, OJK udah punya aturan IT dan cyber resilience buat bank umum (POJK 11/2022) dan regulatory sandbox buat inovasi teknologi sektor keuangan (POJK 3/2024). Semua itu mendorong pola yang sama: agent boleh kerja, tapi harus bisa dijelasin, dicatat, dan dihentiin manusia kapan aja.

Kapan Pake Agent, Kapan Nggak

Ini pesan yang sering kelewat gara-gara hype: agent bukan jawaban buat semua masalah. Rekomendasi Anthropic sendiri tegas: mulai dari solusi paling sederhana, dan cuma naik kompleksitas kalau perlu. Seringnya, satu LLM call dengan retrieval yang bagus udah cukup.

Panduan kasarnya:

  • Gak perlu agent - task yang alurnya udah jelas dan bisa didefinisikan: prompt chaining atau workflow biasa lebih murah, lebih cepet, dan lebih gampang di-test.
  • Pake agent - task yang butuh fleksibilitas dan model-driven decision: ada banyak jalur yang mungkin, kondisi berubah-ubah, dan gak semua skenario bisa ditulis kodenya dari awal.
  • Trade-off yang harus dibayar - agent itu nambah latency dan biaya. Tiap iterasi loop = satu atau lebih panggilan model. Buat yang butuh respons milidetik, agent bukan pilihan pertama.

Kesimpulan

Agentic AI itu bukan sihir dan bukan juga “chatbot yang dinaikin level dikit”. Secara arsitektur, dia adalah kombinasi dari: model yang bisa ngeluarin keputusan terstruktur, tools yang ngasih dia akses ke dunia nyata, loop yang merangkai keputusan dan eksekusi, memory biar konsisten, orkestrasi buat task kompleks, dan guardrail biar aman di production.

Yang bikin dia “jalan otomatis kayak ada eksekusi manusia” itu sederhana: keputusan dipisah dari eksekusi, dan keduanya dirangkai dalam loop yang ketat. Model mikir, runtime eksekusi, hasil balik, model mikir lagi. Sampai task selesai.

Kalo lo ngerti layer-layer ini, lo gak bakal gampang dibohongi hype, dan lo punya bahasa yang sama pas diskusi arsitektur di kantor. Semoga artikel ini ngebantu. Makasih udah baca, dan sampai ketemu di artikel berikutnya.