나름 보급형인 DGX Spark마저 이런 연산력을 보여줍니다. 아마 4090 같은건 이거보다 2배는 빠르겠고.. 기존에 맥프로로 몇시간 걸리는 작업이 CUDA로는 몇십분이내로 끝나네요. (데이타는 대략 10년여간의 거래기록과 기관 평가 데이타 수백기가 정도..)
CUDA는 신이 맞습니다. 하지만 이 연산속도를 가지고도 LLM에서는 기초적인 성능밖에 내지 못하다니, 악마같네요. ㅋ
AGI가 오려면 RTX PRO 6000이 아니라 RTX 12000 정도는 되어야 가능할 거같아요. 얼마마늠의 연산 성능이 필요할지 감도 안옵니다.