Banyak dari diantara kita yang berpikir, dengan teknologi secanggih AI, pastinya harus berjalan di PC yang mumpuni pula. Tapi, anggapan semacam itu bisa saja dipatahkan berbagai pihak. Jika PC bertenaga adalah hal yang tidak wajib, lantas spesifikasi semacam apa yang diperlukan?
Tak disangka-sangka, ada LLM yang bisa berjalan di PC jadul dengan spek yang tidak seharusnya. Pasalnya, spesifikasi yang dimaksud adalah PC dengan Windows 98. Loh, apa tidak salah nih?
Llama AI Bisa Berjalan di PC Pentium II dan RAM 128MB
Uji coba ini dilakukan oleh EXO Labs yang menggunakan PC dengan spesifikasi Elonex Pentium II yang berjalan di @350MHz dan RAM 128MB. Ya, benar kalian tidak salah baca. RAM yang digunakan masih 128MB. Tapi, itu tidak menghentikan PC dengan OS Windows 98 ini untuk menjalankan LLM Llama.
Orang tersebut menjalanka sebuah engine yang ditulis dalam bahasa C dan berdasarkan Llama.2c milik Andrej Karpathy. AI ini pun diminta untuk menuliska sebuah kisah tentang Sleepy Joe. Hasilnya, cukup mengejutkan. AI tersebut mampu berjalan dengan kecepatan yang lumayan.
Tantangan Terbesar Adalah Kompilasi Code
Menurut EXO, tantangan terbesar yang mereka alami adalah kompilasi code C modern untuk mesin Windows 98. Untungnya, mereka menemukan Llama.2c yang hanya berisikan 700 baris kode dalam bahasa C.
Memang, AI ini tidak memerlukan power dan spesifikasi yang tinggi. Terlihat kalau PC yang sangat jadul ini pun mampu menjalankannya. Ia mampu berjalan dengan kecepatan 35,9 tok/detik dan semua itu berjalan di Windows 98.
Gimana menurut kamu? Apakah AI tidak melulu harus menggunakan layanan kelas atas seperti ChatGPT, Gemini, dan teman-temannya? Apakah kamu tertarik menjalankan AI pribadi dengan PC Jadul?
Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tidak kalah seru dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.