확실히 로컬에서 프론티어급 모델은 이래저래 삽질이긴 하군요

222.217.***.***
64

지금 딥식이 0731 Q2KL로 돌리고 있는데,

얘가 돌아갈때 100W정도 먹고, 초당 10토큰 정도 내 뱉는데

1M토큰 내 뱉는데 27시간이 걸립니다 -_-ㅋ

근데 오픈라우터에서 쓰면 0.0x불이면 후다닥 처리 할 수 있어요

전기세가 더 나올거 같습니다 ㅋㅋㅋ

빡세게 봐도 Qwen 3.6 27B Q6, 35B A3B Q6 나 Step 3.7 Q4가 마지노선 같습니다;

물론 딥식이 Q2KL도 잘 하긴 합니다.

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
7.83 0.01

2026.08.24 KEB 하나은행 고시회차 1022회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!