Harianpapuanews.id – Karena booming layanan AI, GPU H100 dan A100 sangat diminati dan kehabisan stok. Namun, ada pengguna Reddit yang memodifikasi prosesor AMD agar berfungsi seperti chip AI Nvidia.

Seorang pengguna Reddit bernama Chain-77 telah memodifikasi Ryzen 5 4600G, unit pemrosesan yang dipercepat (APU) AMD, untuk menangani komputasi AI. Pada dasarnya, ini “menginstruksikan” Linux untuk melihat APU sebagai GPU dengan RAM 16GB.

Tentu saja, kinerjanya sangat berbeda dengan chip AI-only, terutama di sisi CPU. Namun, komputasi AI lebih menekankan pada memori, dan APU memiliki keuntungan karena dapat dengan bebas mengalokasikan kapasitas RAM.

Chain-77 mengalokasikan setengah dari sistem RAM 32GB, 16GB, ke APU. Memang di beberapa motherboard kapasitas yang dialokasikan mungkin lebih tinggi, namun seperti dikutip detikINET di Techspot, Senin (21 Agustus 2023), saya belum mengujinya di chain-77.

Perbaikan ini memungkinkan Seri 77 membuat sistem AI “bundel” yang mendukung platform AMD ROC dan dapat menjalankan Pytorch dan TensorFlow. Saat diuji pada Stable Diffusion, 4600G dapat menghasilkan gambar 50 langkah 512 x 512 piksel dalam waktu kurang dari dua menit.

Fastchat, MiniGPT 4, dan Whisper juga berfungsi, tetapi APU sulit dijalankan di LLaMA. Pilihan lain untuk ini adalah Ryzen 5 5600G terbaru.

APU 4600G ini harganya hanya $95 dan hanya mengkonsumsi energi 0,35 kWh per hari. Sebagai perbandingan, chip AI khusus seperti H100 saat ini berharga antara $25.000 dan $30.000, sementara chip kecil lainnya mencapai ratusan dolar.

Sebelumnya, Nvidia dikatakan meraup untung besar hingga 1000% untuk setiap GPU H100 yang terjual.

Sebagai referensi, H100 adalah GPU pusat data yang digunakan sebagai akselerator AI. Dan GPU ini sekarang menjadi tujuan banyak perusahaan, startup, dan siapa saja yang ingin bekerja di pusat data AI. Bahkan stoknya sudah menipis. Sudah menjadi incaran konsumen, dan konon Nvidia mendapat banyak uang setiap kali H100 terjual. Menurut penulis teknis Barron Tae-Tae Kim, Nvidia menghabiskan $3.320 hanya untuk memproduksi chip H100.