1. 도입부: 업무 자동화의 미래 LLM 메신저
매일같이 쏟아지는 데이터와 복잡한 비즈니스 프로세스 속에서 현대 직장인들은 늘 효율적인 관리 도구에 목말라 있습니다. 과거의 자동화가 정해진 규칙에 따라 움직이는 단순 매크로에 불과했다면, 이제 우리는 AI가 스스로 판단하고 도구를 교체하며 실행까지 완수하는 '자율 에이전트'의 시대로 접어들고 있습니다.
몇달간 고생해서 '트로이(Troy)'라는 이름의 완성형 에이전트 관리 프로그램을 만들었습니다. 사용자의 명령을 수신하는 것부터 복잡한 파이프라인 에디팅, 그리고 업무 흐름을 스스로 최적화하는 지능형 비즈니스 파트너로서의 역할을 수행합니다.
2. 한 지붕 아래 여섯 식구, 로컬에서 돌아가는 6개의 LLM
트로이 시스템의 가장 독보적인 특징은 거대한 클라우드 서버나 비싼 구독료에 의존하지 않는다는 점입니다. 대신 사용자의 로컬 네트워크 안에서 6개의 서로 다른 언어 모델(SLM, 개발자는 이를 LLM이라 부릅니다)이 동시에 구동됩니다. 사용자는 목적에 따라 Fast, Quality, Deep, Minai, Silicon, Flower 등 최적화된 모델을 자유롭게 선택하여 사용할 수 있습니다.
이러한 혁신이 가능한 이유는 'Llama.cpp' 서버를 독립적으로 활용하여 로컬 네트워크 안에서 AI 환경을 구축했기 때문입니다. 클러스터링을 해서 외부 인터넷 연결 없이도 강력한 성능을 보장하며, 데이터 유출 걱정 없는 보안성과 빠른 반응 속도라는 두 마리 토끼를 모두 잡았습니다.
3. 스스로 진화하는 '실험실', AB 테스트를 수행하는 에이전트
전통적인 소프트웨어는 개발자가 코드를 작성한 순간 그 기능이 고정되지만, 트로이의 에이전트들은 스스로 진화합니다. 이들은 깃허브(GitHub) 등에서 새로운 스킬을 찾아내고, 기존 기능과 성능을 비교하는 'AB 테스트'를 끊임없이 수행합니다. 여기서 승리한 모델과 코드가 다음 작업에 투입되는 방식입니다.
이 과정의 핵심은 '코드 DNA 매칭'과 '코드 핑거 프린팅' 기술에 있습니다. 에이전트는 특정 작업(예: 본문 추출)을 수행할 때, 기존의 'Firecrawl' 방식이 효율적인지 혹은 'Headless Browser' 방식이 더 나은지를 스스로 판단하고 대체합니다. 개발자가 일일이 개입하지 않아도 시스템이라는 '실험실'이 멈추지 않고 돌아가며 최적의 '레시피'를 완성해 나가는 것입니다. 이는 개발자가 떠나도 소프트웨어가 스스로 생명력을 유지하며 최신 상태를 유지할 수 있음을 의미합니다.
4. 엑셀이나 API 문서만 주면 웹사이트가 뚝딱? 에이전트의 연금술
트로이의 실행력은 단순한 텍스트 생성이나 코드 작성을 넘어 '인프라 구축'의 영역까지 닿아 있습니다. AI가 엑셀파일, API를 입력받으면 이를 역으로 분석하여 실제 작동하는 웹사이트를 통째로 재구성해서 API와 데이터베이스 설계를 하는 수준에 도달했습니다.
실례로, 네이버 웍스(Naver Works)를 클론하여 Swagger API 기반의 사이트를 생성하고 데이터베이스 구성부터 실제 서비스 인프라까지 완벽하게 세팅하는 모습을 보여줍니다. 이는 단순한 '노코드(No-code)' 툴을 넘어 에이전트가 직접 서비스를 설계하고 구축하는 '에이전트 빌트(Agent-built)' 시대로의 전환을 상징합니다. 비전문가도 복잡한 시스템 인프라를 손쉽게 구축할 수 있는 파괴적인 생산성을 제공합니다.
5. 서버가 필요 없는 'P2P ERP'의 탄생
가장 혁신적인 지점은 중앙 집중식 서버가 존재하지 않는 'P2P(Peer-to-Peer) 방식의 ERP' 시스템이라는 점입니다. 트로이는 서버 없이 에이전트 간에 직접 데이터를 주고받으며 창고의 입출고를 관리하고 비즈니스 프로세스를 운영합니다.
이 방식은 기업 입장에서 매달 지출되는 클라우드 서버 비용을 제로(0)에 가깝게 줄여줄 뿐만 아니라, 중앙 서버가 뚫리면 모든 데이터가 유출되는 기존 보안 모델의 한계를 근본적으로 해결합니다. 가장 경제적이면서도 가장 안전한 비즈니스 운영 모델이 주머니 속 AI를 통해 구현된 것입니다.
6. 워크플로우 녹화와 원격 제어, 그리고 MTLS의 마법
트로이는 사용자의 작업 패턴을 학습하기 위해 특정 기능의 수행 과정을 녹화(Recording)하고, 이를 워크플로우로 저장하여 원격지 컴퓨터의 데이터를 캡처하거나 원격접속으로 직접 제어하는 오케스트레이션 기능을 제공합니다.
특히 주목할 점은 'MTLS 미니 서버' 기능입니다. 이는 로컬 환경에서 개발 중인 기능을 즉시 특정 도메인에 매칭시켜 실제 서비스로 연결해 줍니다. 복잡한 서버 설정이나 배포 과정 없이도 로컬의 AI 에이전트가 즉각적으로 외부와 소통하는 공개 서비스가 될 수 있게 하는 이 기능은, 아이디어를 실무 환경에 투입하는 시간을 극적으로 단축합니다.
7. 나한테 맞지 않는 에이전트를 수정하느니 처음부터 작성
이제 AI는 우리가 필요할 때만 호출하는 단순한 도구가 아닙니다. 스스로 새로운 기술을 학습하고, 상황에 맞는 최적의 도구를 교체하며, 서버 없이도 비즈니스 전체를 운영하는 자율적인 '에이전트'로 진화했습니다.
프로그램은 모두 cli 조각으로 나눠져 있고 이를 wiki, git 을 AI만 사용하여 활용하는 방식으로 구성했습니다.
윈, 맥, 우분투 모두 잘 동작합니다.
