Skip to main content

Siri Vibe Coding #2: Setup Local AI (Ollama) di Laptop Windows 11 — Walaupun Tiada GPU Power!

Siri Vibe Coding #2: Setup Local AI (Ollama) di Laptop Windows 11 — Walaupun Tiada GPU Power!

Ini artikel KEDUA dalam siri Vibe Coding saya. Kalau belum baca Artikel 1 (Setup VSCode + Cline + MCP + MSSQL), sila baca dulu — panduan ni anggap awak dah ada VSCode + Cline terpasang, dan sekarang nak sambungkan "otak" AI local yang sebenar.

😄 Amaran kecil: Dalam artikel ni saya cuba selit sikit jenaka — sebab tutorial panjang boleh buat mata mengantuk. Kalau jenaka saya "tak sampai", jangan risau, skip je bahagian tu terus ke arahan teknikal. Yang penting kod jalan, bukan lawak jalan. 😅


📑 Kandungan (Table of Content)


Kenapa Perlu Local AI?

Dalam Artikel 1, kita setup Cline dengan AI — tapi kita tak sentuh secara mendalam pasal local AI (AI yang jalan terus di laptop awak, bukan cloud). Ini sebab kenapa ramai orang (termasuk saya) tetap nak ada local AI walaupun cloud AI lagi pintar:

  1. Percuma sepenuhnya — tiada bil bulanan, tiada had token
  2. Privasi — kod/data awak tak pernah keluar dari laptop
  3. Boleh jalan tanpa internet — dalam kereta, flight, atau bila WiFi hotel tak stabil (kita semua pernah kena)
  4. Backup — bila cloud AI down atau internet putus tiba-tiba, local AI tetap boleh awak guna

😄 Fikir macam ni: cloud AI tu kawan pandai yang perlu awak jemput datang rumah (perlu internet, kadang mahal traktir dia). Local AI tu adik sendiri — kurang pandai sikit, tapi sentiasa ada di rumah, tak payah bayar apa-apa.


BAHAGIAN 1: Minimum Requirement Untuk Vibe Coding

Sebelum install apa-apa, jom semak dulu laptop awak layak ke tidak. Ini jadual jujur (bukan cakap "boleh je" je semua, nanti awak kecewa):

Komponen Minimum Mutlak Disyorkan Selesa (Contoh Laptop Saya)
RAM 8GB 16GB 32GB
Storan 10GB kosong 30GB+ kosong (SSD) SSD disyorkan KUAT
CPU 64-bit dengan sokongan AVX2 Ryzen 5/Intel i5 generasi 5 tahun terkini Ryzen 7 5700U ✅
GPU Tiada diperlukan GPU dedicated (NVIDIA/AMD) 8GB+ VRAM iGPU sahaja (~500MB-2GB) — OK juga!

Cara Semak CPU Awak Sokong AVX2 (Wajib untuk Ollama)

  1. Buka PowerShell
  2. Taip:
    Get-CimInstance Win32_Processor | Select-Object Name
    
  3. Google nama CPU awak + "AVX2" untuk confirm. (Hampir semua CPU Intel/AMD sejak 2015 ke atas support AVX2 — laptop awak hampir pasti okay.)

💡 Tips & Trick: Kalau laptop awak macam saya (tiada GPU dedicated, cuma iGPU kecil), jangan risau. Ollama akan jalan guna CPU sepenuhnya — lebih perlahan dari GPU, tapi tetap berfungsi. RAM 32GB awak (lepas upgrade) sebenarnya kelebihan besar — banyak "ruang" untuk model dan aplikasi lain jalan serentak.

🎮 Cheat Code: RAM (GB) ÷ 2 = saiz model (Billion parameter) paling selesa untuk CPU-only. Contoh: RAM 32GB → selesa sampai ~14-16B (walaupun kelajuan tetap bergantung CPU, rujuk Bahagian 3). RAM 8GB → kekal bawah 4B sahaja.

🎯 CHEAT CODE Bahagian 1: "Tiada GPU? Tak payah risau — RAM besar, CPU AVX2 = boleh gi!" Ingat je 3 benda: RAM cukup (16GB+), CPU moden (5 tahun terkini), SSD (bukan HDD lama). Kalau 3-3 tu ada, awak lepas syarat, teruskan terus ke Bahagian 2.

🆘 Jika Tersekat (Bahagian 1)

Saya nak pastikan laptop saya [nyatakan spec: CPU, RAM] layak untuk 
jalankan local AI (Ollama) untuk vibe coding. Tolong nilai sama ada 
spec saya cukup, dan cadangkan tahap model AI (saiz parameter) yang 
sesuai untuk spec ni.

BAHAGIAN 2: Install Ollama di Windows 11

  1. Pergi ke https://ollama.com
  2. Klik Download for Windows
  3. Buka fail .exe, install macam biasa (Next → Next → Finish) — tiada setting rumit semasa install
  4. Lepas install, Ollama akan jalan automatik di background (nampak ikon kecil di system tray, bawah kanan skrin)

📸 [AMBIL SCREENSHOT DI SINI] — halaman download ollama.com

  1. Test ia berfungsi — buka PowerShell, taip:
    ollama --version
    
    Hasil sebenar yang patut keluar (contoh):
    ollama version is 0.x.x
    

😄 Kalau keluar nombor versi, tahniah — awak dah rasmi jadi "pemilik AI sendiri". Tak payah bayar sewa, tak payah risau AI tu "moody" hari ni.

🎮 Cheat Code: 3 command WAJIB ingat sepanjang guna Ollama:

ollama pull <nama-model>     ← download model
ollama run <nama-model>      ← chat terus dalam terminal
ollama list                  ← senarai semua model yang dah download

Hafal 3 ni, awak dah boleh survive 80% keperluan harian Ollama.

🆘 Jika Tersekat (Bahagian 2)

Saya install Ollama di Windows 11 tapi "ollama --version" [nyatakan 
masalah: "not recognized", "keluar error"]. Sistem saya: [nyatakan]. 
Tolong bantu diagnosa punca dan cara fix.

BAHAGIAN 3: Pemilihan Model AI — Mana Sesuai Untuk Laptop Tanpa GPU Khas

Ini bahagian paling penting — pilih model salah, awak akan rasa laptop "sesak nafas" (lag teruk). Pilih betul, pengalaman jadi lancar walaupun tanpa GPU power.

Fahami Dulu: Kenapa Saiz Model Penting

Tanpa GPU khas, semua "pemikiran" AI berlaku di CPU — dan CPU jauh lebih perlahan dari GPU untuk kerja ni (boleh 5-30 kali lebih perlahan). Jadi untuk laptop macam kita, model kecil adalah kunci kepada pengalaman yang selesa.

Jadual Cadangan Model (Khas untuk CPU-Only, RAM 16-32GB)

Model Saiz Kelajuan Anggaran (CPU) Sesuai Untuk
phi4-mini 3.8B ~12 token/saat Chat harian, jawapan pantas
llama3.2:3b 3B ~10-15 token/saat Chat umum, seimbang
gemma3:2b (kalau ada) atau gemma2:2b 2B Paling laju Bila perlukan respons SUPER pantas
qwen2.5-coder:7b 7B ~5-8 token/saat Coding (sesuai untuk Cline)
qwen2.5-coder:3b 3B ~10-12 token/saat Coding, lebih laju tapi kurang tepat

Cara Download (Pull) Model

ollama pull phi4-mini
ollama pull qwen2.5-coder:7b

😄 "Pull" ni bukan tarik tali, tapi download model AI. Nama Ollama guna terma Docker punya — kalau awak pernah dengar Docker, awak dah faham. Kalau tak pernah, tak apa, ingat je "pull = download".

💡 Tips & Trick: Jangan terus download model besar (14B ke atas) walaupun RAM awak 32GB. RAM besar bagi awak ruang, tapi kelajuan ditentukan CPU — model besar pada CPU sahaja boleh jadi seperti "3-5 token/saat" sahaja untuk 32B (rujuk jadual di atas), rasa macam AI tu "menaip perlahan-lahan sambil berfikir dalam-dalam". Mula dengan model kecil dulu, upgrade hanya kalau rasa perlu.

🎮 Cheat Code: Nombor kecil = laju. Nombor besar = pintar tapi perlahan. Untuk laptop TANPA GPU khas, jangan lebih 8B untuk kerja harian yang perlukan respons pantas. Simpan model besar (14B+) untuk task yang awak boleh tunggu (contoh analisa panjang semasa awak buat kopi).

🆘 Jika Tersekat (Bahagian 3)

Saya dah pull model [nama model] tapi bila run, ia [nyatakan masalah: 
"sangat perlahan", "laptop jadi lag teruk", "keluar error out of 
memory"]. Spec laptop saya: [RAM, CPU]. Tolong cadangkan model yang 
lebih sesuai atau cara optimize.

BAHAGIAN 4: Setting Ollama untuk Prestasi Optimum

Ada beberapa "environment variable" yang boleh tingkatkan prestasi Ollama pada CPU-only:

4.1 Keep Model "Panas" (Elak Reload Berulang)

Secara default, Ollama buang model dari memori lepas 5 minit tak digunakan — bila awak guna balik, ia perlu load semula (lambat, boleh ambil 10-30 saat). Untuk elak ni:

  1. Buka PowerShell as Administrator
  2. Set environment variable:
    [System.Environment]::SetEnvironmentVariable('OLLAMA_KEEP_ALIVE', '30m', 'User')
    
  3. Restart Ollama (klik kanan ikon system tray → Quit, buka semula dari Start Menu)

4.2 Optimize Bilangan Thread CPU

[System.Environment]::SetEnvironmentVariable('OLLAMA_NUM_THREADS', '8', 'User')

(Tukar 8 ikut bilangan core CPU awak — Ryzen 7 5700U ada 8 core/16 thread, jadi 8 adalah pilihan munasabah. Boleh cuba 12 atau 16 juga, test mana paling laju untuk awak.)

😄 Ini macam bagi lebih ramai "tukang masak" dalam dapur — sampai satu tahap, lebih ramai tak semestinya lebih laju (dapur jadi sesak), tapi untuk CPU moden 8-core, angka 8 biasanya "sweet spot".

💡 Tips & Trick: Lepas ubah environment variable, WAJIB restart Ollama (bukan sekadar tutup app) untuk perubahan berkesan. Boleh confirm setting terpakai dengan run ollama serve manual dalam terminal dan tengok log semasa startup.

🎮 Cheat Code: 2 setting WAJIB untuk laptop CPU-only:

OLLAMA_KEEP_ALIVE = 30m        ← elak model "reload" berulang kali
OLLAMA_NUM_THREADS = (bilangan core CPU awak, contoh 8)

Set sekali, restart Ollama, lupakan terus — awak dah "optimize" tanpa perlu faham kerumitan teknikal di sebalik dia.

🆘 Jika Tersekat (Bahagian 4)

Saya dah set OLLAMA_KEEP_ALIVE dan OLLAMA_NUM_THREADS tapi [nyatakan 
masalah: "tak nampak beza", "tak tahu macam mana nak confirm setting 
terpakai"]. Tolong bantu saya verify setting ni betul-betul aktif.

BAHAGIAN 5: Ollama vs LM Studio vs Msty vs GPT4All — Mana Terbaik?

Awak tanya kenapa Ollama, bukan yang lain. Jom banding:

Tool Jenis Kelebihan Kekurangan Sesuai Untuk
Ollama CLI + API (background service) Ringan, ekosistem besar, senang integrate (Cline, Open WebUI, dll) Tiada GUI chat terbina — perlu tambah (Bahagian 6) Vibe coding, integrasi dengan tool lain
LM Studio Desktop app dengan GUI penuh Semua-dalam-satu (download model + chat terus dalam satu app), senang untuk pemula Lebih "berat" (app besar), kurang fleksibel untuk automate Nak chat terus tanpa setup tambahan
Msty Desktop app dengan GUI UI cantik, boleh split-chat banding 2 model serentak Kurang popular, komuniti lebih kecil Suka bandingkan jawapan pelbagai model
GPT4All Desktop app dengan GUI Sangat ringan, senang untuk laptop lemah Pilihan model lebih terhad Laptop sangat basic, nak simple sahaja

Kenapa Saya Cadangkan Ollama (untuk siri vibe coding ni)

Sebab dalam Artikel 1, kita dah sambungkan Cline terus ke Ollama (http://localhost:11434). Ollama paling senang diintegrasikan dengan tool lain (VSCode, Open WebUI, malah aplikasi awak sendiri nanti) sebab ia sediakan API yang boleh dipanggil dari mana-mana. LM Studio/Msty/GPT4All lebih untuk "chat sendiri", kurang sesuai jadi "enjin" di belakang tabir untuk vibe coding.

😄 Ollama tu macam dapur professional — tak cantik nak tengok, tapi semua chef (Cline, Open WebUI, apps lain) boleh masuk masak. LM Studio/Msty tu macam restoran siap — cantik, senang makan terus, tapi susah nak "pinjam dapur" untuk buat kerja lain.

Tapi — tiada salah cuba LM Studio/Msty jugak kalau nak rasa GUI chat yang cantik terus, tanpa perlu setup tambahan. Boleh install kedua-dua, guna ikut keperluan.

🎮 Cheat Code: Nak automate/sambung tool lain (Cline, apps sendiri) → Ollama. Nak chat terus je, tak perlu setup lain → LM Studio/Msty. Kalau tak pasti — mula dengan Ollama (sebab siri artikel ni semua bina atas dia), tambah GUI lain lepas ni kalau rasa perlu.

🆘 Jika Tersekat (Bahagian 5)

Saya keliru nak pilih antara Ollama, LM Studio, atau Msty untuk mula 
local AI saya. Keperluan saya: [nyatakan — contoh "nak chat je" atau 
"nak sambung dengan VSCode Cline"]. Tolong cadangkan pilihan terbaik.

BAHAGIAN 6: Setup Chatbot GUI — Open WebUI

Ollama sendiri tiada antara muka chat cantik (cuma command line). Kalau nak rasa macam ChatGPT (chat box, history, dll), Open WebUI adalah pilihan popular.

Kenapa Perlu Open WebUI?

  • Antara muka chat cantik, macam ChatGPT/Claude.ai
  • Boleh simpan history perbualan
  • Boleh tukar antara model AI dalam satu tempat
  • Ada ciri tambahan (web search, upload dokumen, dll) — bergantung setup

Cara Install (Cara Paling Senang untuk Pemula — Guna Python)

  1. Pastikan Python dah terpasang (check: python --version dalam PowerShell). Kalau belum, download dari https://python.org
  2. Dalam PowerShell:
    pip install open-webui
    
  3. Tunggu install selesai (ambil beberapa minit)
  4. Jalankan:
    open-webui serve
    
  5. Buka browser, pergi ke http://localhost:8080

📸 [AMBIL SCREENSHOT DI SINI] — antara muka Open WebUI dengan kotak chat

  1. Daftar akaun local (email/password — ini tak keluar dari laptop awak, cuma untuk login ke app tempatan)
  2. Dalam dropdown model (biasanya atas kiri), pilih model Ollama yang awak dah pull tadi (contoh phi4-mini)
  3. Mula chat!

😄 Sekarang awak ada ChatGPT sendiri, percuma, tanpa had mesej, tak payah risau bil bulanan. Cuma... dia tak sepandai ChatGPT/Claude yang sebenar. Tapi hey, free is free!

💡 Tips & Trick: Kalau pip install open-webui lambat/gagal, cuba tambah --no-cache-dir:

pip install open-webui --no-cache-dir

Untuk auto-start Open WebUI setiap kali buka laptop (tak perlu run command manual setiap kali), boleh explore Windows Task Scheduler — tapi ini topik lanjutan, boleh kita bahas dalam artikel akan datang kalau ramai yang berminat.

🎮 Cheat Code: 3 langkah, hafal dan lupakan:

pip install open-webui   ← sekali sahaja
open-webui serve          ← setiap kali nak guna
localhost:8080             ← alamat dalam browser

(Alternatif) Install Guna Docker

Kalau awak dah selesa dengan Docker (dari artikel lanjutan kita nanti), boleh guna:

docker run -d -p 8080:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:latest

Tapi untuk pemula, cara pip install di atas lebih senang, tak perlu install Docker Desktop dulu.

🆘 Jika Tersekat (Bahagian 6)

Saya cuba install Open WebUI guna "pip install open-webui" tapi 
[nyatakan masalah: error, tak boleh akses localhost:8080, dll]. 
Ni error sebenar: [paste]. Tolong bantu selesaikan.

BAHAGIAN 7: Ujian — Test Local AI Anda

Ujian 1: Test Kelajuan Asas

Dalam Open WebUI (atau terus dalam PowerShell guna ollama run phi4-mini), taip:

Kira 15 x 23, dan terangkan cara pengiraan tu step by step.

Perhatikan: berapa lama untuk jawapan mula keluar, dan berapa laju teks streaming keluar.

📋 Contoh "Expected Result" (jawapan sebenar mungkin lain perkataan, tapi konsep/jawapan akhir patut sama):

15 x 23 boleh dikira macam ni:
15 x 23 = 15 x (20 + 3)
        = (15 x 20) + (15 x 3)
        = 300 + 45
        = 345

Jawapan: 345

Tanda berjaya: Jawapan akhir 345 (betul secara matematik), dan AI tunjuk langkah pengiraan (bukan terus lompat ke jawapan). Kalau AI awak jawab terus "345" tanpa langkah, cuba tegur dia: "tunjukkan step by step" — kadang model kecil perlu diarah lebih spesifik.

Ujian 2: Test Kualiti Coding

Tulis function Python untuk check sama ada satu nombor adalah nombor 
perdana (prime number), dengan comment penjelasan.

📋 Contoh "Expected Result":

def is_prime(n):
    # Nombor kurang dari 2 BUKAN nombor perdana
    if n < 2:
        return False
    # Check dari 2 sampai punca kuasa dua n sahaja (lebih efisien)
    for i in range(2, int(n**0.5) + 1):
        if n % i == 0:
            return False  # Boleh dibahagi, jadi BUKAN perdana
    return True  # Tiada faktor dijumpai, jadi IA perdana

# Contoh guna
print(is_prime(7))   # True
print(is_prime(10))  # False

Tanda berjaya: Function tu betul secara logik (7 = perdana, 10 = bukan), ada comment, dan tak crash bila di-run. Struktur exact boleh berbeza (contoh guna while loop bukan for) — itu okay, yang penting logik betul.

Ujian 3: Test Bahasa Melayu

Terangkan konsep "recursion" dalam pengaturcaraan menggunakan bahasa 
yang mudah, macam nak terangkan pada budak sekolah menengah.

📋 Contoh "Expected Result" (idea konsep patut sama, ayat pasti berbeza):

Recursion tu macam bila awak berdiri antara dua cermin — imej awak 
"terpantul" berulang-ulang dalam cermin tu sampai jadi kecil sangat 
dan hilang.

Dalam pengaturcaraan, recursion ialah bila satu function "panggil 
dirinya sendiri" untuk selesaikan masalah kecil, sehingga sampai ke 
titik paling asas (base case) yang tak perlu panggil lagi.

Contoh: nak kira 5! (5 faktorial) = 5 x 4 x 3 x 2 x 1
Function tu boleh panggil dirinya: 5! = 5 x 4!, dan 4! = 4 x 3!, 
dan macam tu terus sampai 1! = 1 (base case, berhenti di sini).

Tanda berjaya: Ada analogi (cermin/tangga/dll — analogi lain pun okay), konsep "function panggil dirinya sendiri" dan "base case" disebut. Kalau jawapan bercampur English-Malay pelik atau tak masuk akal, itu had model kecil — cuba model lebih besar atau cloud AI (rujuk Artikel 1, Bahagian 10) untuk Bahasa Melayu yang lebih fasih.

🆘 Jika Tersekat (Bahagian 7)

Saya jalankan ujian [nombor ujian] dalam Open WebUI/Ollama tapi 
[nyatakan masalah]. Tolong bantu diagnosa.

BAHAGIAN 8: Sambung Balik ke VSCode + Cline

Ingat Artikel 1? Sekarang dengan model baru yang lebih sesuai untuk laptop awak (phi4-mini untuk chat, qwen2.5-coder:7b untuk coding), pergi balik ke:

  1. VSCode → panel Cline → Settings ⚙️
  2. Profile Ollama yang dah ada → tukar Model ID ke qwen2.5-coder:7b (untuk kerja coding)
  3. Save, dan cuba ujian dari Artikel 1 semula — rasa beza kelajuan/kualiti dengan model yang lebih sesuai spec laptop awak.

BAHAGIAN 9: Bacaan Lanjut

  1. Dokumentasi Rasmi Ollama — https://ollama.com — senarai penuh model yang boleh di-pull
  2. Open WebUI — Laman Rasmi — https://openwebui.com — dokumentasi lanjut ciri Open WebUI
  3. Local AI Master — Ollama System Requirements 2026 — panduan mendalam keperluan hardware untuk pelbagai saiz model (cari di Google: "Ollama System Requirements 2026 Local AI Master")
  4. Rujuk juga Artikel 1 siri ni untuk sambungan Cline + MCP MSSQL

Penutup

Tahniah — sekarang awak ada local AI sendiri, percuma, privasi terjaga, jalan terus di laptop walaupun tiada GPU power. Ini bukan AI paling pintar di dunia, tapi ia cukup untuk vibe coding harian, dan milik awak sepenuhnya.

😄 Macam kereta proton lama — tak laju macam sports car, tapi boleh bawa awak ke destinasi, dan awak tak payah risau bayar Grab setiap hari.

Nantikan artikel seterusnya dalam siri ni — setup Server GPU Berasingan, FreeLLMAPI, dan AI Berbayar untuk bandingkan dengan setup local yang kita buat hari ni!


Artikel ini sebahagian dari siri "Vibe Coding" — sambungan dari Artikel 1 (Setup VSCode + Cline + MCP + MSSQL). Semua arahan telah diuji pada laptop tanpa GPU dedicated, RAM 32GB, AMD Ryzen 7 5700U.

Comments

Popular posts from this blog

AI Tools 12 For Marketing

 AI Tools 12 For Marketing

Visual Studio 2022 & IIS 10 dalam Localhost dev. dengan error ERR_HTTP2_PROTOCOL_ERROR

 Salam geng. Pening seharian aku, selepas hari semalam aku update semua NuGet Packages dalam VS, tiba2 buka project dan run F5 dalam debug mode keluar error ERR_HTTP2_PROTOCOL_ERROR. Ah sudah naya pak karim. Apa dah jadi selepas update VS NuGet? Puas mencari solution untuk fix masalah tu. Aku tenung2, aku rasa VS aku tak ada masalah sebab aku boleh Build/Rebuild Solution aku without error. Aku mula syak IIS10 aku kaput. Tapi aku test dengan cara yang paling simple. Aku create satu subdirectory dan letak satu fail default.asp. File simple asp classic je. Try cuba run page tu. Masih lagi keluar ERR_HTTP2_PROTOCOL_ERROR. So aku rasa betullah IIS aku kaput. So aku mula nak baiki IIS. Terpikir aku dulu2 aku pernah repair dengan cara run ".../aspnetreg.exe -i". Tapi untuk kes ni, aplikasi tu tak mau jalan sebab aku pakai framework .NET 4.8. Kes aspnetreg tu hanya untu FW 2.0 atau 3.5 aje. Aku rehat sekejap, bertenang minum air masak. Semasa solat aku berdoa kat Allah supaya ber...

AI Tools 10

 AI Tools 10