QWEN3.8-FLASH-NEXT를 DGX SPARK에서 테스트 해 봤슴미다

119.128.***.***
3

nvfp4 + vllm으로 했슴미다 mtp3 버전임미다

mtp 2로 설장했슴미다

뭔가 조금 더 토큰생성이 좋아진거 같은데 많은 차이는 아님미다

그래도 mtp2가 3보다 안정적이겠죠????????

아직 최적화 레시피가 만들어 지지 않은 상태인데

qwen 122b-a10b가 최적화로 60토큰 나왔었슴미다 이것도 최적화만 잘 되면 더 토큰생성이 좋아 질 수 있을거라 믿슴미다

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
7.78 -0.01

2026.08.28 KEB 하나은행 고시회차 575회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!