Bahkan DGX Spark yang relatif terjangkau menunjukkan daya komputasi seperti ini. Mungkin sesuatu seperti 4090 akan dua kali lebih cepat.. Pekerjaan yang sebelumnya memakan waktu berjam-jam di Mac Pro sekarang dapat diselesaikan dalam hitungan menit dengan CUDA. (Data mencakup sekitar 10 tahun catatan transaksi dan ratusan data evaluasi lembaga..)
CUDA memang luar biasa. Tapi, bahkan dengan kecepatan komputasi ini, LLM hanya bisa mencapai kinerja dasar, sungguh mengerikan. ㅋ
Sepertinya AGI membutuhkan sesuatu yang lebih kuat daripada RTX PRO 6000, mungkin sekitar RTX 12000. Saya tidak tahu berapa banyak kinerja komputasi yang dibutuhkan.
