얼마전에 레딧에 베타 한다고 올라와서 써봤습니다.
그냥 패키지 하나에 llamacpp부터 SDF, 임베딩, 컴피에 서비스오 오픈웹UI, 에르메스 등등 다 박아둔거고,
웹대시 보드도 상당히 유려해서 레모네이드에서 한번 갈아타보려고 갔는데, 어음…버그가…
몇번 업데이트 했는데, 고질적인 부분이 안고쳐 져서 일단 내려놓고 다시 레모네이드 쓰고 있습니다.
이게 좋은게, comfyui가 통합되어서, comfy 돌면 추론 멈추고 연동해서 도니까 좋긴하더라구요
접근하기도 편하고, 근데 너무 많은걸 하려고 하다보니
systemd에 서비스들 꼬이고, llamacpp도 ROCmFPX 계열로 밀다보니 오늘은 그게 충돌나서 모델들 다 로드 불가;
설치했다가 밀었다만 10번은 한듯. 당분간은 포기하고 레모네이드 써야겠습니다.
비슷한류 괜찮은거 쓰시는 분 있으신가요?
▶ 원문 출처: https://hal0.dev/