Arsitektur

Kalau lo pernah bikin sistem RAG, lo tahu rasanya. Chunking, embedding, vector store, retriever, reranker, prompt. Semua itu ditulis di kode, tersebar di beberapa file, dan saling terikat. Mau naikkan top_k dari 5 ke 8? Ubah kode, jalanin test, deploy ulang. Mau ganti model embedding? Siapkan waktu buat rebuild index yang bisa berjam-jam. Padahal yang berubah cuma satu angka. Ada pola lain yang dipakai beberapa framework besar: definisikan flow-nya sebagai data, di file YAML. Haystack menyimpan pipeline-nya begitu. Prompt Flow dari Microsoft menyimpan satu flow sebagai satu folder berisi flow.dag.yaml. Google ADK memakai root_agent.yaml yang punya JSON Schema, sehingga editor bisa memvalidasi sambil lo menulis. Artikel ini bukan buat bilang YAML lebih baik dari kode. Gue mau nunjukin perbandingannya dengan RAG yang biasa kita tulis di kode, di mana masing-masing menang, dan jebakan yang bikin sebagian tim balik lagi ke kode. ...

Empat tahun terakhir, hampir semua orang di industri ini kerja ke satu arah: bikin model yang makin enak diajak ngobrol. Metriknya jelas, demonya enak dilihat, dan hasilnya terasa. Dari RLHF yang ngajarin model menuruti selera manusia, sampai RLVR yang ngasih reward dari jawaban yang beneran terverifikasi. Puncaknya cuma satu: percakapan jadi antarmuka default buat segalanya. Termasuk buat hal yang sebenernya cukup dijawab satu kata. Terus 15 September 2026 keluar model yang nggak mau ngomong sama sekali. Namanya Jev, dibikin TypeSafe AI. Yang bikin rame di Hacker News bukan cuma modelnya, tapi siapa yang bikin: Diogo Almeida, orang yang sekitar empat tahun kerja di OpenAI di balik RLHF, InstructGPT, ChatGPT, dan GPT-4. Thread peluncurannya nyangkut di 1.977 poin dengan 513 komentar. ...

Satu agent itu kayak satu karyawan generalis. Bisa ngerjain banyak hal, tapi ada plafonnya. Gue pernah lihat pola yang sama berulang: satu agent awalnya pinter, terus kerjaannya meluas, konteks yang harus dibaca makin banyak, dan hasilnya perlahan mulai ngaco. Reaksi pertama hampir selalu sama: tambah agent. Satu buat riset, satu buat verifikasi, satu buat nulis. Kelihatannya logis, persis kayak nambah orang di tim. Masalahnya, di sistem AI nambah agent itu nggak otomatis nambah kualitas. Anthropic pernah ngukur sistem multi-agent mereka, dan hasilnya 90,2% lebih baik dari single agent di evaluasi riset internal mereka. Tapi catatan yang sama pentingnya ada di paragraf sebelahnya: sistem itu pakai token sekitar 15x lebih banyak dibanding chat biasa. Di sisi lain, ada studi yang nyamain anggaran token antara single agent dan multi-agent, dan di kondisi itu single agent setara atau justru lebih baik di tugas penalaran bertahap. ...

“Kok bisa sih AI tiba-tiba nyelesaiin kerjaan sendiri, kayak ada manusia yang eksekusi?” Gue yakin pertanyaan itu pernah lewat di kepala lo, apalagi setelah nonton demo AI agent yang bisa buka browser, klik sana-sini, isi form, dan ngelaporin hasilnya. Kelihatannya seperti robot yang lagi gerak sendiri. Padahal di baliknya gak ada yang mistis: yang ada cuma model bahasa, daftar alat (tools), dan satu loop eksekusi yang jalan berulang-ulang. ...