이전에 3.6-q8 버전을 썼는데,
저보다 똑똑하긴 했지만, 시킨 일이 제대로 마무리되지 않거나
이상하게 처리하는 일이 종종있었습니다.
물론 그래도 같이 놀기에는 좋았습니다.
이번에 3.8이 나와서 처음에 16bf(?) 버전을 써보니,
뭔가 똑똑해진것 같은데 너무 느리더라구요...
그래서 "역시 8비트 양자화정도..." 생각했죠.
그래서 8비트 양자화를 써보니, 그것도 좀 느린 감이 있더라구요...
결국 "뭐 내가 코딩할 것도 아니고, 좀 빠릿빠릿하게 돌려보자!" 라고 생각을 굳히고
q4 버전으로 돌리고 있는데, 생각보다 너무 좋네요.
"추론을 길게해서 억지로 답을 찾더라", 라는 평도 있긴 한데,
제 입장에서는 시간이 걸려도 훨씬 일을 잘해주는게 느껴져서 마냥 좋습니다.
이전에 ComfyUI 를 이용해 이미지 생성해달라고 했더니,
이것저것 했지만 결국 원하는 사진을 만들어주지 못해서 그냥 보류시켜놨는데,
지금은 "앗! 이걸 찾았습니다!" 이러면서 열심히 돌리고 있어요.
(물론 결과물은 아직 안나와서 평가가 어렵긴 합니다만...)
뭔가 열심히 일하는 것 같아서, 퇴근후 결과 보는 것을 기대하고 있습니다.
Codex/Claudecode 에 머리만 qwen넣어서도 써볼건데,
살짝 시켜보니 스타일이 다르게 일을 하더라구요.
암튼 돈안들이고 업그레이드한 기분이라 뿌듯합니다.후후후...
