LLM | Reynaidi Siburian — Catatan, Opini & Artikel

Ilustrasi RAG system hardening - 3 fase pipeline security

Hardening RAG System: 3 Fase Mengamankan Dari Input Sampe Output

Lo udah deploy RAG system. Retrieval-nya jalan, generation-nya lancar, user puas. Tapi pernah mikir gak - berapa banyak pintu yang kebuka buat attacker? Vector DB yang gak diamankan. Prompt injection lewat dokumen yang di-retrieve. Data sensitif yang lolos ke output. RAG punya surface area yang lebih luas dari LLM standalone, dan banyak orang baru sadar setelah kejadian. ...

Ilustrasi perbandingan format model LLM - GGUF, AWQ, GPTQ, EXL2

GGUF, AWQ, GPTQ, EXL2 - Pilih yang Mana Buat Model LLM lo?

Lo download model Llama, Mistral, atau Qwen. Di halaman Hugging Face ada puluhan file: .gguf, .awq, .gptq, .exl2, .safetensors. Lo bingung milih yang mana. Gue juga dulu gitu. Masalahnya: salah pilih format = buang resource. Format yang salah bikin GPU lo nganggur, CPU lo overload, atau model lo gak bisa jalan sama sekali. ...

Ilustrasi AI yang mulai ngaco di tengah percakapan panjang - token attention bocor ke awal percakapan

Lo Ngobrol Sama AI Lama-Lama Kok Makin Ngaco? Ini Sebabnya - Bukan Lo Aja Yang Ngerasain

🎣 Hook Lo lagi asyik ngobrol sama ChatGPT, Claude, atau DeepSeek. Di awal, jawabannya tajam. Detail. Nyambung terus sama konteks yang lo kasih. Tapi makin panjang percakapan, mulai aneh. Dia lupa lo udah bilang apa 10 pesan lalu. Mulai ngulang informasi yang udah pernah dikasih. Tiba-tiba jawabannya jadi generik, kayak lagi ngobrol sama orang yang baru dateng di tengah diskusi. ...

Diagram arsitektur 6 layer hardening Ollama di AWS/GCP

Hardening Ollama di Cloud: Panduan Bertahap Biar AI Lo Gak Dipake Orang

Masalahnya: Lo Install, Trus ?? Ollama itu tools keren. Install gampang, model jalan, API siap dipake. Tapi ada satu fakta yang jarang disebut tutorial instalasi cepet: Ollama gak punya built-in authentication. ...