LLM

Empat tahun terakhir, hampir semua orang di industri ini kerja ke satu arah: bikin model yang makin enak diajak ngobrol. Metriknya jelas, demonya enak dilihat, dan hasilnya terasa. Dari RLHF yang ngajarin model menuruti selera manusia, sampai RLVR yang ngasih reward dari jawaban yang beneran terverifikasi. Puncaknya cuma satu: percakapan jadi antarmuka default buat segalanya. Termasuk buat hal yang sebenernya cukup dijawab satu kata. Terus 15 September 2026 keluar model yang nggak mau ngomong sama sekali. Namanya Jev, dibikin TypeSafe AI. Yang bikin rame di Hacker News bukan cuma modelnya, tapi siapa yang bikin: Diogo Almeida, orang yang sekitar empat tahun kerja di OpenAI di balik RLHF, InstructGPT, ChatGPT, dan GPT-4. Thread peluncurannya nyangkut di 1.977 poin dengan 513 komentar. ...

Satu agent itu kayak satu karyawan generalis. Bisa ngerjain banyak hal, tapi ada plafonnya. Gue pernah lihat pola yang sama berulang: satu agent awalnya pinter, terus kerjaannya meluas, konteks yang harus dibaca makin banyak, dan hasilnya perlahan mulai ngaco. Reaksi pertama hampir selalu sama: tambah agent. Satu buat riset, satu buat verifikasi, satu buat nulis. Kelihatannya logis, persis kayak nambah orang di tim. Masalahnya, di sistem AI nambah agent itu nggak otomatis nambah kualitas. Anthropic pernah ngukur sistem multi-agent mereka, dan hasilnya 90,2% lebih baik dari single agent di evaluasi riset internal mereka. Tapi catatan yang sama pentingnya ada di paragraf sebelahnya: sistem itu pakai token sekitar 15x lebih banyak dibanding chat biasa. Di sisi lain, ada studi yang nyamain anggaran token antara single agent dan multi-agent, dan di kondisi itu single agent setara atau justru lebih baik di tugas penalaran bertahap. ...

“Kok bisa sih AI tiba-tiba nyelesaiin kerjaan sendiri, kayak ada manusia yang eksekusi?” Gue yakin pertanyaan itu pernah lewat di kepala lo, apalagi setelah nonton demo AI agent yang bisa buka browser, klik sana-sini, isi form, dan ngelaporin hasilnya. Kelihatannya seperti robot yang lagi gerak sendiri. Padahal di baliknya gak ada yang mistis: yang ada cuma model bahasa, daftar alat (tools), dan satu loop eksekusi yang jalan berulang-ulang. ...

“Gue mau pake AI buat bisnis. Pake GPT aja, kan?” Kalo lo pernah denger pertanyaan kayak gini di kantor, lo pasti tau masalahnya. Orang langsung loncat ke nama model, padahal pertanyaan yang lebih penting: model jenis apa, sebesar apa, dijalanin di mana, dan dibungkus arsitektur kayak gimana. ...

Lo udah deploy RAG system. Retrieval-nya jalan, generation-nya lancar, user puas. Tapi pernah mikir gak - berapa banyak pintu yang kebuka buat attacker? Vector DB yang gak diamankan. Prompt injection lewat dokumen yang di-retrieve. Data sensitif yang lolos ke output. RAG punya surface area yang lebih luas dari LLM standalone, dan banyak orang baru sadar setelah kejadian. ...

Lo download model Llama, Mistral, atau Qwen. Di halaman Hugging Face ada puluhan file: .gguf, .awq, .gptq, .exl2, .safetensors. Lo bingung milih yang mana. Gue juga dulu gitu. Masalahnya: salah pilih format = buang resource. Format yang salah bikin GPU lo nganggur, CPU lo overload, atau model lo gak bisa jalan sama sekali. ...

🎣 Hook Lo lagi asyik ngobrol sama ChatGPT, Claude, atau DeepSeek. Di awal, jawabannya tajam. Detail. Nyambung terus sama konteks yang lo kasih. Tapi makin panjang percakapan, mulai aneh. Dia lupa lo udah bilang apa 10 pesan lalu. Mulai ngulang informasi yang udah pernah dikasih. Tiba-tiba jawabannya jadi generik, kayak lagi ngobrol sama orang yang baru dateng di tengah diskusi. ...

Masalahnya: Lo Install, Trus ?? Ollama itu tools keren. Install gampang, model jalan, API siap dipake. Tapi ada satu fakta yang jarang disebut tutorial instalasi cepet: Ollama gak punya built-in authentication. ...