amd ai max 395를 사용함미다
rocm 드라이버가 안 나와서 제대로 사용을 못 했었는데
제미나이와 대화 하다 이런식으로 해서 불편하다 하니 레모네이드를 추천해 줬슴미다
불칸이라는것도 추천해 줬었는데 레모네이드가 더 편해 보여서 이걸로 설치하고 벤치도 돌려봤슴미다
23% 향상
qwen3-30b 같은건 moe 모델이라 토큰이 90개가 나왔지만 granite4.1:30b 이건 덴스 모델이라 그냥 쌩 통으로 된검미다
12토큰이라 쌓이면 20%면 크죠
램 대역폭 문제라 지금당장은 이정도에서 만족해야 할 거 같슴미다
