Bagi banyak orang, menjalankan AI lokal di PC gaming dengan GPU kelas menengah adalah sebuah kompromi. Perangkat keras memang bisa menjalankan perintah, tapi ada perasaan tidak mengenakkan saat Anda menyadari bahwa rig mahal itu hanya dipakai untuk memproses model yang relatif kecil. Kini, pengalaman serupa justru terbalik: ponsel mulai menjadi titik masuk yang lebih masuk akal untuk AI lokal.
Dari PC Gaming ke Saku Celana
Eksperimen yang dilakukan selama sebulan penuh ini menguji berbagai model LLM yang bisa dijalankan langsung di perangkat Android dan iOS. Hasilnya, performa yang ditawarkan oleh chip ponsel flagship terbaru—seperti seri Snapdragon 8 atau Apple Silicon—mampu menangani tugas-tugas AI dasar tanpa hambatan berarti.
Yang menarik, beban kerja yang sama justru terasa 'canggung' dijalankan di PC desktop dengan RAM 8GB. Di atas kertas, PC lebih bertenaga, tapi dalam praktiknya, efisiensi daya dan optimasi perangkat lunak di ponsel justru memberikan pengalaman yang lebih mulus untuk penggunaan sehari-hari.
Batasan yang Justru Membebaskan
Selama ini, menjalankan LLM di PC rumahan terasa seperti "kemenangan setengah hati". Perangkat keras memang bisa dipaksa bekerja, tapi ada batasan yang jelas—terutama pada model dengan parameter besar yang langsung membuat GPU tersendat. Di ponsel, batasan itu justru lebih jujur.
Pengguna tidak perlu berpura-pura bahwa perangkat mereka adalah rig AI serius. Mereka cukup menjalankan model kecil yang memang dirancang untuk perangkat seluler, dan hasilnya—meski tidak secanggih GPT-4—sudah cukup untuk membantu menulis email, merangkum artikel, atau menjawab pertanyaan sederhana tanpa perlu koneksi internet.
Dampak bagi Pengguna Indonesia
Bagi pengguna di Indonesia, temuan ini memiliki implikasi yang cukup signifikan. Infrastruktur cloud AI masih belum merata, dan biaya langganan layanan seperti ChatGPT Plus atau Claude Pro cukup memberatkan jika dikonversi ke rupiah (sekitar Rp 200-300 ribu per bulan).
Dengan menjalankan LLM lokal di ponsel, pengguna bisa menikmati AI tanpa biaya berlangganan dan tanpa khawatir soal latensi koneksi. Ini adalah solusi yang lebih demokratis, terutama bagi mereka yang tidak memiliki akses ke PC kelas atas atau koneksi internet stabil.
Bukan Soal Spesifikasi, Tapi Konteks
Eksperimen ini menegaskan satu hal: kebutuhan AI lokal tidak selalu harus dipenuhi dengan perangkat keras paling mahal. Ponsel, dengan segala keterbatasannya, justru menawarkan pendekatan yang lebih pragmatis.
Jangan heran jika dalam waktu dekat, tren "AI di saku" akan semakin populer—bukan karena teknologinya lebih canggih, tapi karena ia menjawab kebutuhan nyata pengguna dengan cara yang lebih sederhana dan mudah diakses.
