리처드 서튼 교수는 현대 AI 의 기반인 강화학습이라는 것을 학문적으로 정립한 사람이예요.
2019년 존카맥과 리처드서튼은 AGI 를 연구중이였는데 그때는 지금같은 챗gpt 도 없고
다른 방식으로 연구했었데요.
이번에 리처트 서튼은 퇴사하면서 OAK 연구소를 설립했다는 기사가났어요.
7월 14일 기사
https://officechai.com/ai/father-of-reinforcement-learning-richard-sutton-starts-oak-lab-to-work-on-new-approaches-to-ai/
서튼의 LLM에 대한 오랜 비판
서튼은 지난 1년 동안 oak 랩의 핵심 주장을 펼치는 데 많은 시간을 할애했습니다.
팟캐스트에서 그는 대규모 언어 모델(LLM)은 현실 세계의 피드백을 받지 않고
스스로 목표를 설정할 수 없기 때문에 LLM과 그 위에 구축된 모든 모델은 진정으로 지능적이라고 볼 수 없다고 주장했습니다.
LLM 을 넘어선 OAK 아키텍쳐 소개
저희 알고리즘은 데이터를 저장하거나 재생하지 않고 실시간으로 학습합니다.
이러한 알고리즘을 이벤트 기반 신경망과 결합하면 기존 방식보다 컴퓨팅 자원과
에너지 소비를 몇 자릿수나 줄여 학습하는 시스템을 구현할 수 있습니다.
높은 계산 효율성 덕분에 지속적인 실시간 학습이 가능해집니다.
우리의 목표는 에이전트가 거대한 환경에서 목표를 달성할 수 있도록 하는 알고리즘을 발견하고 구현하는 것 입니다.
우리의 초점은 선별된 데이터 세트가 아닌 경험을 통해 직접 배우게 하는 데 있습니다.
아직은 연구단계지만 지금의 데이터 센터만으로도 더 똑똑한의 지능이 찾아오는걸까요?
LLM은 메모리도 GPU 도 엄청나게 쓰고있는데 말이죠..
