Posts

Kalau lo pernah bikin sistem RAG, lo tahu rasanya. Chunking, embedding, vector store, retriever, reranker, prompt. Semua itu ditulis di kode, tersebar di beberapa file, dan saling terikat. Mau naikkan top_k dari 5 ke 8? Ubah kode, jalanin test, deploy ulang. Mau ganti model embedding? Siapkan waktu buat rebuild index yang bisa berjam-jam. Padahal yang berubah cuma satu angka. Ada pola lain yang dipakai beberapa framework besar: definisikan flow-nya sebagai data, di file YAML. Haystack menyimpan pipeline-nya begitu. Prompt Flow dari Microsoft menyimpan satu flow sebagai satu folder berisi flow.dag.yaml. Google ADK memakai root_agent.yaml yang punya JSON Schema, sehingga editor bisa memvalidasi sambil lo menulis. Artikel ini bukan buat bilang YAML lebih baik dari kode. Gue mau nunjukin perbandingannya dengan RAG yang biasa kita tulis di kode, di mana masing-masing menang, dan jebakan yang bikin sebagian tim balik lagi ke kode. ...

Empat tahun terakhir, hampir semua orang di industri ini kerja ke satu arah: bikin model yang makin enak diajak ngobrol. Metriknya jelas, demonya enak dilihat, dan hasilnya terasa. Dari RLHF yang ngajarin model menuruti selera manusia, sampai RLVR yang ngasih reward dari jawaban yang beneran terverifikasi. Puncaknya cuma satu: percakapan jadi antarmuka default buat segalanya. Termasuk buat hal yang sebenernya cukup dijawab satu kata. Terus 15 September 2026 keluar model yang nggak mau ngomong sama sekali. Namanya Jev, dibikin TypeSafe AI. Yang bikin rame di Hacker News bukan cuma modelnya, tapi siapa yang bikin: Diogo Almeida, orang yang sekitar empat tahun kerja di OpenAI di balik RLHF, InstructGPT, ChatGPT, dan GPT-4. Thread peluncurannya nyangkut di 1.977 poin dengan 513 komentar. ...

Satu agent itu kayak satu karyawan generalis. Bisa ngerjain banyak hal, tapi ada plafonnya. Gue pernah lihat pola yang sama berulang: satu agent awalnya pinter, terus kerjaannya meluas, konteks yang harus dibaca makin banyak, dan hasilnya perlahan mulai ngaco. Reaksi pertama hampir selalu sama: tambah agent. Satu buat riset, satu buat verifikasi, satu buat nulis. Kelihatannya logis, persis kayak nambah orang di tim. Masalahnya, di sistem AI nambah agent itu nggak otomatis nambah kualitas. Anthropic pernah ngukur sistem multi-agent mereka, dan hasilnya 90,2% lebih baik dari single agent di evaluasi riset internal mereka. Tapi catatan yang sama pentingnya ada di paragraf sebelahnya: sistem itu pakai token sekitar 15x lebih banyak dibanding chat biasa. Di sisi lain, ada studi yang nyamain anggaran token antara single agent dan multi-agent, dan di kondisi itu single agent setara atau justru lebih baik di tugas penalaran bertahap. ...

“Kok bisa sih AI tiba-tiba nyelesaiin kerjaan sendiri, kayak ada manusia yang eksekusi?” Gue yakin pertanyaan itu pernah lewat di kepala lo, apalagi setelah nonton demo AI agent yang bisa buka browser, klik sana-sini, isi form, dan ngelaporin hasilnya. Kelihatannya seperti robot yang lagi gerak sendiri. Padahal di baliknya gak ada yang mistis: yang ada cuma model bahasa, daftar alat (tools), dan satu loop eksekusi yang jalan berulang-ulang. ...

“Gue mau pake AI buat bisnis. Pake GPT aja, kan?” Kalo lo pernah denger pertanyaan kayak gini di kantor, lo pasti tau masalahnya. Orang langsung loncat ke nama model, padahal pertanyaan yang lebih penting: model jenis apa, sebesar apa, dijalanin di mana, dan dibungkus arsitektur kayak gimana. ...

Lo udah deploy RAG system. Retrieval-nya jalan, generation-nya lancar, user puas. Tapi pernah mikir gak - berapa banyak pintu yang kebuka buat attacker? Vector DB yang gak diamankan. Prompt injection lewat dokumen yang di-retrieve. Data sensitif yang lolos ke output. RAG punya surface area yang lebih luas dari LLM standalone, dan banyak orang baru sadar setelah kejadian. ...

Lo nulis API, yang lo pake cuma 5 method: GET, POST, PUT, DELETE, PATCH. Dan itu sih udah cukup buat 99% kasus sehari-hari. API REST pada umumnya cuma butuh itu. ...

Lo developer backend. Dapet request: bikin search API dengan 15 parameter filter, sorting, pagination, aggregation - plus user bisa milih field mana aja yang mau dikembaliin. Nulis GET endpoint? Query string-nya jadi super panjang, url-encoded complex values, error-prone, dan browser/load balancer punya batas panjang URL (biasanya 8KB). ...

Semua database pada awalnya kecil. Berapa GB aja masih muat di satu server, query jalan dalam milidetik, backup selesai sebelum sempat ngopi. Tapi data tumbuh, query makin kompleks, dan tiba-tiba storage hampir penuh, slow log penuh query yang dulunya cepet, backup molor sampe jam kantor. ...

Bayangin lo tinggal ngetik: “POS dengan fitur transaksi, inventory management, kategori produk, dan rekap harian otomatis.” Terus dalam hitungan menit : jadi web app beneran. Ada login, ada form input produk, ada report harian. Tinggal pake. ...