https://github.com/jundot/omlx/pull/3161
Jika Anda melihat PR ini, penggunaan memori puncak 2 bit adalah 37gb.
Cara ini adalah dengan menempatkan nmap di ssd dan hanya model yang berada di ram.
Saya memiliki MacBook 64GB, jadi sepertinya saya bisa menggunakan 2 bit haha.
Tapi jika melihat kecepatannya, M5Max adalah 30t/s, jadi diperkirakan M5Pro akan setengahnya, sekitar 15t/s.
Jika A6B 2 bit tidak lebih pintar daripada 27B, sepertinya tidak ada gunanya menggunakannya.
Sayang sekali.
