맥 스튜디오 울트라가 너무 비싸서 쳐다만 보다가.. 이래선 안되겠다 싶어서 급하게 DGX SPARK 를 질렀습니다.
문제점 :
맥북프로 (24GB) 에 코덱스 데스크탑을 설치해서 자동화 + 퀀트 시장분석 용으로 잘 쓰고 있었는데 이게 들고다녀야 되는 물건인데 스케쥴링 작업하느라 박아놓고 쓰다보니 너무 아깝네요? 맥북프로를 맥미니처럼 쓰고 있었습니다.
설치 :
세상 좋아졌다고 느낀게, 일단 터미널 하나 뚫고 나서 코덱스 데스크탑한테 딸깍 시키니까 셋팅을 다 해주네요. 코덱스 한테 터미널 열어주고 nvidia 홈페이지 주고 hermes 랑 vLLM이랑 WebUi 설치해줘 한마디면 끝이 나네요.
그렇게 하루만에 Qwen3.6과 헤르메스 자동화를 깔고 돌려보니 토큰 속도는 약 100T/s 이상.. 살짝 감동하고 클로드 코드에 qwen 붙여서 쓰고서 한번 더 감동. 그리고 헤르메스한테 시켜서 기존에 코덱스에서 쓰던 mcp 다 끌고와서 초월이식 해서 끝.
소감 :
Qwen3.6을 넘어설만한 Ai모델을 아직 못 찾았습니다. 다들 실망이군요!
헤르메스는 설치가 너무 쉽네요. 사실 쉬운 작업이 아닌데 스스로 상처를 고치는 의사같은 느낌.
설치형 Ai는 그냥저냥한 수준에서 정체가 되어있는것 같긴 한데, Quant에는 그렇게 고수준의 추론은 필요가 없으니 오히려 지금같은 안정적인 환경이 좋네요.
참고로 코덱스는 말을 드럽게 안들어서 힘들었는데(시킨거와 다르게 계산함, 지적해도 그게 맞다고 발뺌), Qwen은 사기치다 걸려도 쿨하게 아닌거 인정하고 넘어가서 생산성이 오히려 좋네요. -_-
결론 :
깊은 Ai 추론을 원한다면 그냥 클라우드로, 반복적인 대량의 계산과 태스크 작업등, 클라우드 비용이 월 200달러짜리 플랜으로도 부족하다면, 충분히 고려해볼만 하다. 128GB짜리면 120B까지가 한계이니 정말 높은 추론을 원한다면 맞는 선택은 아닙니다.
