Siri Vibe Coding #4: Bina "AI Box" Sendiri — Local AI Power Bawah RM8K, Bil Elektrik Tak Meletup!

Ini artikel KEEMPAT dalam siri Vibe Coding saya. Kalau belum baca Artikel 1-3, sila baca dulu. Artikel ni khas untuk yang dah "naik tingkat" — nak local AI yang JAUH lebih power dari laptop, tapi tak nak bakar duit atau bil elektrik.

😄 Nota jenaka: Artikel ni ada banyak nombor dan jadual — bukan sebab saya suka Excel, tapi sebab beli hardware tanpa kira-kira teliti tu macam masuk pasar tanpa senarai barang. Balik-balik beli benda yang tak perlu, lupa benda yang penting.

📑 Kandungan (Table of Content)

Kenapa Perlu "AI Box" Berasingan?

Dalam Artikel 2, kita setup local AI terus di laptop — tapi laptop ada had: RAM terhad, GPU (kalau ada) kecil, dan awak perlukan laptop tu untuk kerja lain. "AI Box" pula PC/server berasingan yang khas jadi "otak" AI — laptop awak jadi ringan (thin client), semua kerja berat dihantar ke box ni melalui rangkaian.

😄 Fikir macam ni: laptop tu "meja kerja" awak (ringan, mudah alih), AI box tu "gudang mesin berat" — awak hantar "order kerja" ke gudang, dapat hasil balik, tanpa perlu bawa mesin berat tu ke mana-mana.

BAHAGIAN 1: Pilih GPU — NVIDIA vs AMD vs Intel, dan Kenapa VRAM Penting

Ini soalan paling asas sebelum beli apa-apa — GPU jenama mana, dan kenapa VRAM besar jadi topik "debat" dalam komuniti AI.

1.1 Perbandingan 3 Jenama GPU untuk Local AI

Jenama	Sokongan AI/LLM	Pros	Cons
NVIDIA	Paling matang — CUDA jadi standard industri, hampir SEMUA tool AI (Ollama, PyTorch, dll) optimize untuk NVIDIA dulu	Sokongan software terluas, paling "senang jalan terus", komuniti besar	Harga premium berbanding AMD untuk VRAM/prestasi sama
AMD	Sedang membangun (ROCm), tapi masih di belakang NVIDIA dari segi kematangan software untuk AI	Harga/prestasi gaming lebih baik, VRAM besar lebih murah (contoh RX 7900 XTX 24GB)	Sokongan Ollama/tool AI kurang stabil, terutama di Windows — banyak isu compatibility dilaporkan komuniti
Intel (Arc)	Paling baru dalam bidang ni, sokongan AI masih terhad	Harga paling murah untuk VRAM tertentu	Paling sedikit dokumentasi/pengalaman komuniti untuk local AI, risiko tinggi untuk pemula

Kesimpulan Pilihan Jenama

Untuk pemula dan kestabilan (matlamat siri artikel ni), NVIDIA tetap pilihan paling selamat — walaupun bayar sikit lebih mahal, awak jimat masa dan frustration sebab hampir semua tutorial/tool AI (termasuk semua yang kita setup dalam Artikel 1-3) diuji dan optimize untuk NVIDIA dahulu.

😄 AMD/Intel tu macam kereta baru dalam pasaran — berpotensi bagus, harga menarik, tapi bengkel/spare part (baca: dokumentasi/komuniti) belum sebanyak Toyota/Honda (baca: NVIDIA). Untuk pemula, jangan jadi "guinea pig" dulu.

1.2 Kenapa VRAM Besar Penting?

Ingat formula dari Artikel 2/3: VRAM (GB) ÷ 2 = anggaran saiz model (Billion parameter) maksimum selesa. Ini sebabnya:

Model AI "lebih besar" (lebih banyak parameter, contoh 70B berbanding 7B) secara umum ada lebih "pengetahuan" dan reasoning yang lebih baik — tapi perlukan lebih ruang VRAM untuk simpan "berat" (weights) model tu
Kalau VRAM tak cukup, model terpaksa "melimpah" ke RAM sistem/CPU (ingat isu "spill to CPU" dalam sesi troubleshooting kita) — jadi jauh lebih perlahan
VRAM besar = boleh jalankan model lebih pintar DAN context window lebih besar (ingat isu "amnesia" dari awal siri ni) serentak

1.3 Single GPU vs Multi-GPU (Sehingga 4 GPU)

Setup	Kelebihan	Kekurangan	Sesuai Untuk
1 GPU	Simple, murah, senang maintain, cukup untuk kebanyakan keperluan vibe coding	VRAM terhad kepada 1 kad sahaja	90% pengguna individu (macam siri artikel ni)
2-4 GPU	VRAM gabungan boleh jalankan model jauh lebih besar (contoh 4x 16GB = 64GB "kolam" VRAM)	Perlukan motherboard dengan banyak slot PCIe, PSU lebih besar, casing lebih besar, kerumitan setup (perlu software sokong "multi-GPU split")	Team/pejabat, atau individu yang betul-betul kerap jalankan model 70B+

💡 Tips & Trick: Jangan terus fikir "lagi banyak GPU lagi power" untuk keperluan individu. Multi-GPU perlukan software yang support "split model" merentas kad (Ollama ada sokongan asas untuk ni, tapi lebih kompleks setup). Untuk 95% pembaca siri ni, 1 GPU dengan VRAM secukupnya (16GB) jauh lebih praktikal dari 4 GPU kecil.

🎮 Cheat Code: Formula pilih GPU untuk pemula — NVIDIA + VRAM setinggi bajet boleh capai + 1 kad sahaja. Simpan pertimbangan AMD/Intel/multi-GPU untuk selepas awak dah biasa dan tahu betul-betul apa keperluan awak.

🆘 Jika Tersekat (Bahagian 1)

Saya keliru nak pilih GPU antara NVIDIA/AMD/Intel untuk AI box saya. 
Bajet saya RM[nyatakan]. Tolong cadangkan pilihan GPU spesifik (model) 
yang sesuai dengan bajet dan keperluan vibe coding saya.

BAHAGIAN 2: 10 Misi/Keperluan Sebelum Beli Apa-Apa

Sebelum sentuh mana-mana kedai komputer, tentukan dulu apa sebenarnya awak nak:

Jimat elektrik jangka panjang — bukan macam rig mining crypto
Ada pilihan tahap (entry/medium/high) dan alternatif AIO
Parts modular — bukan proprietary, senang cari ganti tempatan
Boleh campur baru + used — dengan sumber dan harga jelas
Ringan/mudah alih (bawah 10kg)
Headless — jalan tanpa monitor/keyboard
100% software open source
Storan/RAM boleh upgrade kemudian
Bajet mesra poket — target bawah RM10,000
Rangkaian laju, tiada bottleneck

🎮 Cheat Code: Print/screenshot senarai ni, bawa bila pergi beli parts — setiap kali tergoda beli sesuatu yang "over budget", check balik — adakah ia betul-betul perlu untuk salah satu 10 misi ni?

BAHAGIAN 3: Contoh Sebenar — Build Entry Level (Dengan Perbandingan Harga Pasaran)

Ini spec sebenar yang saya beli dan pasang sendiri. Total: RM7,693.46. Kali ni saya tambah kolum "Anggaran Harga Pasaran Baru" supaya awak nampak berapa jimat (atau tidak) setiap keputusan beli used vs baru.

#	Komponen	Harga Saya (Sebenar)	Baru/Used	Anggaran Harga Pasaran BARU	Jimat?
CPU	Ryzen 5 7600	RM499	Used	~RM750-850	✅ Jimat ~RM250-350
Motherboard	MSI MAG B850M Mortar WiFi	RM740	Used	~RM899-999	✅ Jimat ~RM160-260
RAM	Kingston Fury Beast DDR5 6000MHz 32GB kit x2	RM2,000	Used	~RM1,900-2,300*	🟡 Setanding/sikit jimat
Storan	Samsung 990 Pro 2TB	RM1,699	BARU	~RM1,650-1,750	— (memang beli baru, harga pasaran)
PSU	MSI MAG A750GL	RM433	BARU	~RM420-460	— (memang beli baru, harga pasaran)
Casing	Jonsbo C6	RM80	Used	~RM250-300	✅ Jimat besar (~RM170-220)
GPU	RTX 5060 Ti 16GB	RM2,050	Used	~RM2,050-2,300	🟡 Hampir sama dengan harga BARU termurah — kemungkinan unit masih ada baki waranti
Lain-lain	Fan, thermal paste, dll	~RM192	Campuran	~RM250-350	✅ Jimat sikit

*Harga RAM DDR5 agak turun naik disebabkan isu bekalan memori global sepanjang 2026 — semak harga semasa sebelum beli.

😄 Perasan tak GPU saya "used" tapi harga hampir sama dengan baru? Itu sebenarnya nasib baik — dapat unit yang seller jual "murah sikit" walaupun masih ada baki waranti. Kalau ada antara pembaca yang kebetulan seller-seller dalam senarai atas ni... IYKYK. 😉 Terima kasih sebab jual dengan harga yang boleh nego!

Jumlah Keseluruhan Jimat

Berdasarkan perbandingan atas, saya anggarkan jimat kasar RM600-1,000 berbanding kalau beli semua baru sepenuhnya — lumayan, tapi bukan penjimatan drastik (sebab item paling mahal iaitu GPU, storan, dan PSU sama ada dibeli baru atau harga used hampir sama dengan baru).

💡 Tips & Trick: Perhatikan corak ni — komponen "pasif" (casing, motherboard, CPU) selalunya jimat besar kalau used, tapi komponen "power/berkaitan prestasi tinggi" (GPU, storan, PSU) selalunya kurang jimat sebab permintaan tinggi dan risiko lebih tinggi untuk seller (mereka pun tahu part ni "berharga", jarang jual murah sangat).

🆘 Jika Tersekat (Bahagian 3)

Saya nak bina AI box dengan bajet bawah RM[nyatakan bajet]. Tolong 
bantu saya nilai adakah spec contoh dalam artikel ni sesuai untuk 
saya, dan cadangkan penambahbaikan dalam bajet yang sama.

BAHAGIAN 4: Perbandingan 3 Tahap — Entry vs Medium vs High

Kriteria	🟢 Entry (Contoh Saya)	🟡 Medium	🔴 High
Anggaran Kos	~RM7,700	~RM13,000-16,000	~RM25,000+
GPU	RTX 5060 Ti 16GB	RTX 4070 Ti Super 16GB / RTX 5070 Ti 16GB	RTX 4090/5090 24-32GB
CPU	Ryzen 5 7600 (6-core)	Ryzen 7 7700X/9700X (8-core)	Ryzen 9 9900X/9950X (12-16 core)
RAM	32-64GB DDR5	64GB DDR5	128GB DDR5
Model AI Max Selesa	14B-32B (Q4)	32B-70B (Q4)	70B+
Anggaran Kuasa (Full Load)	~250-300W	~350-450W	~550-700W

🎮 Cheat Code: VRAM GPU (GB) ÷ 2 = anggaran saiz model (Billion) maksimum selesa. 16GB VRAM → ~14-16B model.

🆘 Jika Tersekat (Bahagian 4)

Saya nak tentukan tahap mana sesuai untuk saya. Keperluan saya: 
[nyatakan]. Bajet saya: RM[nyatakan]. Tolong cadangkan tahap yang sesuai.

BAHAGIAN 5: Pilihan AIO (All-In-One) — DGX Spark dan Sejenisnya

Produk	Harga (anggaran)	Memory	Berat	Pros	Cons
NVIDIA DGX Spark	~USD $4,699 (~RM20,000)	128GB unified	~1.2kg	Siap pasang, CUDA penuh, model sampai 200B	Jauh atas bajet RM10K, bandwidth memori jadi bottleneck untuk model besar
ASUS Ascent GX10	~RM13,000	128GB unified	Ringan	Lebih murah dari DGX Spark asli	Storan lebih kecil (1TB)
Mac Studio	RM12,000-30,000+	Sampai 512GB unified	~3.6kg	Unified memory besar, senyap, jimat elektrik	BUKAN open source, GPU bukan NVIDIA
Custom Build Entry	~RM7,700	16GB VRAM + 32-64GB RAM	~6-8kg	Termurah, 100% modular, 100% open source	Perlu masa pasang sendiri

🆘 Jika Tersekat (Bahagian 5)

Saya bimbang nak pasang PC sendiri, tertarik dengan pilihan AIO tapi 
bajet saya RM[nyatakan]. Tolong bandingkan custom build vs AIO untuk 
keperluan saya: [nyatakan].

BAHAGIAN 6: Baru vs Used — Bahagian Mana Boleh Jimat, Mana TAK Boleh

Komponen	Boleh Used?	Sumber Disyorkan
CPU	✅ Boleh	FB Marketplace, Carousell
Motherboard	✅ Boleh (test dulu)	FB Marketplace
RAM	✅ Boleh	FB Marketplace, Lazada
Storan (NVMe)	❌ TAK DISYORKAN — isu TBW	BARU sahaja — Lowyat, Shopee
PSU	❌ TAK DISYORKAN — risiko rosakkan komponen lain	BARU sahaja
Casing	✅ Boleh	FB Marketplace, Carousell
GPU	✅ Boleh, periksa teliti	FB Marketplace (COD, test dulu)

🎮 Cheat Code: Ada bahagian dalaman boleh "senyap-senyap rosak" (elektronik berkuasa tinggi, storan data) = BARU. Bahagian yang "nampak" kalau rosak = boleh USED.

🆘 Jika Tersekat (Bahagian 6)

Saya jumpa [nama komponen] used di FB Marketplace dengan harga RM[harga]. 
Tolong nasihatkan adakah harga ni munasabah, dan apa perlu diperiksa 
sebelum bayar.

BAHAGIAN 7: Kos Elektrik — Kira Betul-Betul

Tahap	Beban Penuh	Idle
Entry	~250-300W	~30-50W
Medium	~350-450W	~40-60W
High	~550-700W	~50-80W

Contoh untuk build Entry (300W), 4 jam kerja berat + 20 jam idle sehari:

Beban penuh: 0.3kW x 4 jam x 30 hari = 36 kWh
Idle: 0.04kW x 20 jam x 30 hari = 24 kWh
Jumlah: ~60 kWh/bulan → anggaran RM13-25/bulan

😄 Berbanding rig mining crypto 24/7 full load (boleh RM200-400/bulan), AI box kita jauh lebih berpatutan.

🆘 Jika Tersekat (Bahagian 7)

Saya risau AI box saya akan naikkan bil elektrik banyak. Spec saya: 
[nyatakan]. Corak guna saya: [nyatakan jam sehari]. Tolong bagi 
anggaran kos bulanan yang lebih tepat.

BAHAGIAN 8: Kenapa Platform AMD? EXPO, dan Isu Bottleneck

8.1 Kenapa AMD (CPU/Motherboard), Bukan Intel?

Nota pembetulan dulu: Build saya bukan "semuanya" AMD — CPU dan motherboard AMD (Ryzen + chipset B850), tapi GPU NVIDIA. Kombinasi ni sebenarnya strategi biasa dalam komuniti — "AMD untuk platform, NVIDIA untuk AI":

Sebab Pilih AMD (CPU/Motherboard)	Penjelasan
Harga/prestasi	AMD Ryzen selalunya bagi lebih "core" untuk harga sama berbanding Intel setanding
Platform AM5 tahan lama	Socket AM5 disokong pelbagai generasi CPU — boleh upgrade CPU kelak tanpa tukar motherboard
Bukan bottleneck untuk kerja AI	Untuk inference AI (jalankan model, bukan LATIH model), kerja berat 90% di GPU, CPU cuma "penyelaras" — jadi tak perlu CPU Intel paling power pun

8.2 Apa Itu "EXPO" (Yang Awak Nampak Pada RAM)?

EXPO (Extended Profiles for Overclocking) ialah versi AMD untuk profil overclock RAM automatik — setanding dengan XMP (Intel punya versi). RAM Kingston Fury Beast DDR5 6000MHz CL30 yang saya beli support EXPO, bermaksud:

Motherboard AMD boleh "baca" profil ni dan set RAM ke kelajuan optimum (6000MHz) automatik, tanpa perlu configure manual dalam BIOS
Tanpa EXPO/XMP diaktifkan, RAM DDR5 selalunya jalan pada kelajuan default lebih rendah (contoh 4800MHz) — "membazir" potensi RAM yang awak dah bayar mahal untuk

💡 Tips & Trick: Lepas pasang RAM baru, masuk BIOS (tekan Del/F2 semasa boot) dan aktifkan EXPO (untuk motherboard AMD) secara manual — ini selalunya TAK automatik aktif dari kilang.

8.3 Isu Bottleneck — Di Mana Selalu Berlaku, dan Kenapa AI Sensitif?

Bottleneck bermaksud satu komponen "menahan" prestasi keseluruhan sistem, walaupun komponen lain power. Untuk kerja AI khususnya, ini titik-titik kritikal:

Titik Bottleneck	Kesan pada AI	Cara Elak
VRAM (paling kritikal)	Model tak muat → "melimpah" ke RAM/CPU → SANGAT perlahan	Pilih GPU dengan VRAM cukup (rujuk Bahagian 1.2)
Bandwidth Memori (RAM/VRAM)	Kelajuan "baca" data model — makin laju, makin pantas token dijana	RAM kelajuan tinggi (EXPO/XMP aktif), GPU dengan bandwidth memori tinggi (GDDR7 lebih laju dari GDDR6)
Storan (SSD)	Masa load model dari disk ke RAM/VRAM — SSD perlahan = tunggu lama setiap kali "wake up" model	NVMe Gen4/Gen5, bukan SATA SSD lama
Rangkaian (untuk akses jauh)	Kalau laptop sambung AI box melalui WiFi perlahan, respons AI terasa "lag" walaupun box tu sendiri power	Guna kabel LAN (Ethernet) untuk AI box, bukan WiFi — atau motherboard dengan port 2.5GbE
CPU	Kurang kritikal untuk inference (GPU buat kerja berat), tapi penting untuk local AI CPU-only (macam laptop tanpa GPU dalam Artikel 2)	Untuk AI box dengan GPU dedicated, CPU pertengahan (Ryzen 5) dah cukup

Jawapan Terus: "AI Sensitif dengan Bottleneck?"

Ya, sangat — tapi secara spesifik pada VRAM dan bandwidth memori, bukan semestinya CPU/rangkaian (walaupun dua ni pun penting). Ini beza besar AI berbanding kerja komputer biasa (contoh gaming, office work) — AI "lapar" data secara berterusan (setiap token perlu "baca" seluruh model), jadi laluan data (VRAM↔GPU, RAM↔CPU) jauh lebih menentukan berbanding kelajuan pemprosesan (clock speed) semata-mata.

🎮 Cheat Code: Susunan keutamaan bottleneck AI (paling kritikal ke kurang kritikal): VRAM > Bandwidth Memori > Storan > Rangkaian > CPU. Kalau bajet terhad, letak duit paling banyak pada VRAM dulu.

🆘 Jika Tersekat (Bahagian 8)

Saya nak faham lebih lanjut pasal bottleneck dalam setup AI box saya. 
Spec saya: [nyatakan CPU/GPU/RAM]. Tolong kenal pasti di mana 
kemungkinan bottleneck utama saya, dan cadangkan penambahbaikan.

BAHAGIAN 9: Setup Headless + Software Open Source

Apa Itu "Headless"?

AI box tak perlukan monitor, keyboard, atau mouse selepas setup awal — akses sepenuhnya dari laptop melalui rangkaian.

Senarai Software Open Source

Kegunaan	Software	Open Source?
Sistem Operasi	Ubuntu Server / Linux	✅ Ya
AI Engine	Ollama	✅ Ya
Container	Docker	✅ Ya
Chat Interface	Open WebUI	✅ Ya
Rangkaian Jauh	Tailscale	🟡 Sebahagian
Router AI	FreeLLMAPI	✅ Ya

⚠️ Nota jujur: Driver NVIDIA BUKAN sepenuhnya open source — realiti untuk sesiapa guna GPU NVIDIA. Untuk 100% tulen open source termasuk driver, perlu GPU AMD (tapi sokongan AI kurang matang, rujuk Bahagian 1).

🆘 Jika Tersekat (Bahagian 9)

Saya nak setup AI box saya secara headless. Sistem operasi saya: 
[nyatakan]. Tolong bantu langkah asas setup headless dan akses jauh 
yang selamat.

BAHAGIAN 10: AI Box untuk Pejabat/Team — Sekilas Pandang

Ada pembaca tanya pasal setup AI box untuk sekumpulan IT/team di pejabat, bukan sekadar peribadi. Ini berbeza cukup ketara dari setup individu (artikel ni), jadi saya beri sinopsis ringkas sahaja — topik penuh layak jadi artikel/siri berasingan.

Beza Utama Setup Pejabat vs Individu

Aspek	Individu (Artikel Ni)	Pejabat/Team
Bilangan pengguna serentak	1	Ramai (perlu uruskan `OLLAMA_NUM_PARALLEL` dan kuota)
VRAM diperlukan	16GB dah cukup	Mungkin perlu 24-48GB+ (multi-GPU atau kad lebih besar)
Uptime	Boleh tutup bila tak guna	Selalunya perlu jalan berterusan (jam pejabat, mungkin 24/7)
Access control	Tak perlu	WAJIB — siapa boleh akses, log penggunaan, dll
Bajet realistik	Bawah RM10K	Boleh RM20K-50K+ ikut bilangan pengguna
Perbandingan dengan HP/Dell AI Server	N/A	Package rasmi HP/Dell/Lenovo untuk AI server jauh lebih mahal (boleh berlipat ganda) berbanding DIY custom build dengan hardware setanding — tapi package rasmi ada sokongan/waranti enterprise yang DIY tiada

Cadangan Awal (Sebelum Artikel Penuh)

Kalau team IT awak nak explore ni, mula dengan skala kecil dulu — satu AI box (macam contoh Entry Level artikel ni) untuk test dengan 3-5 pengguna, nilai keperluan sebenar (berapa kerap semua orang guna serentak), baru scale up ikut data sebenar, bukan tekaan.

💡 Tips & Trick untuk respons kepada rakan yang bertanya: Boleh kongsi artikel siri ni (1-4) sebagai asas, dan terangkan yang setup penuh untuk pejabat perlukan pertimbangan tambahan (access control, uptime, bajet lebih besar) yang akan dibahas dalam artikel akan datang — supaya mereka tahu awak serius pertimbangkan, bukan sekadar "tak tahu nak jawab".

😄 Setup pejabat tu macam masak untuk 50 orang berbanding masak untuk diri sendiri — resipi asas sama, tapi kuantiti, logistik, dan "apa jadi kalau seorang tak suka pedas" jadi soal besar yang perlu perancangan berasingan.

🆘 Jika Tersekat (Bahagian 10)

Rakan sekerja saya nak setup AI box untuk team IT kami (anggaran 
[bilangan] orang pengguna). Bajet kami RM[nyatakan]. Tolong beri 
cadangan awal spec dan pertimbangan yang perlu kami fikirkan sebelum 
mula.

BAHAGIAN 11: Bacaan Lanjut

PCPartPicker — https://pcpartpicker.com — semak compatibility parts
NVIDIA DGX Spark — Laman Rasmi — https://www.nvidia.com/en-us/products/workstations/dgx-spark/
r/LocalLLaMA (Reddit) — komuniti antarabangsa berkongsi build dan pengalaman local AI hardware
Rujuk juga Artikel 1-3 siri ni untuk software stack yang akan jalan di atas AI box ni

Penutup

Membina AI box sendiri bukan sekadar beli komponen mahal — ia pasal imbangan: kuasa AI yang cukup, kos terkawal, dan fleksibiliti untuk upgrade. Contoh Entry Level (RM7,700) yang saya kongsi bukti local AI power tak perlu bajet besar untuk mula — dan sekarang awak faham juga kenapa setiap keputusan (jenama GPU, platform AMD, EXPO, bottleneck) dibuat, bukan sekadar ikut je apa saya beli.

😄 Kalau laptop tu "basikal" dan cloud AI tu "Grab premium", AI box ni pula "motosikal sendiri" — modal awal ada, tapi lepas tu jimat dan awak yang punya sepenuhnya.

Nantikan Artikel 5 — setup rangkaian jauh (Tailscale) dan AI Berbayar untuk lengkapkan perbandingan 4 pilihan otak AI!

Artikel ini sebahagian dari siri "Vibe Coding". Spec dan harga dalam artikel ini adalah pembelian SEBENAR penulis di Lembah Klang, boleh berbeza ikut lokasi dan masa pembelian. Harga pasaran adalah anggaran semasa penulisan, sila semak harga semasa sebelum membeli.

Developer Mode