이 글에서는 비용 부담 없이 무제한으로 사용할 수 있는 로컬 LLM(Large Language Model)과 자동화 도구인 n8n을 결합하여, 24시간 작동하는 나만의 AI 비서를 구축하는 방법을 소개합니다. 이를 통해 토큰 비용 걱정 없는 자동화 시스템을 구축하는 핵심 과정을 정리해 드립니다.
로컬 AI와 n8n의 결합이 주는 가치
로컬 AI를 활용하는 핵심 목적은 단순히 속도를 높이는 것이 아니라, ‘무제한 무료’ 환경에서 ’24시간 자동화’를 구현하는 데 있습니다. 클라우드 기반 API를 사용할 때 발생하는 토큰 비용을 절감할 수 있으며, 전기세 정도의 최소 비용만으로 상시 가동되는 전담 비서를 운영할 수 있습니다.
이 과정에서 n8n은 코딩 지식 없이도 노드 연결만으로 복잡한 워크플로우를 설계할 수 있는 강력한 도구입니다. n8n은 공식 유료 플랜이 존재하지만, 오픈소스로 제공되므로 홈서버에 직접 설치(Self-hosting)할 경우 무료로 활용 가능합니다.
시스템 구축 및 환경 설정
시스템 구축은 윈도우 환경의 Docker Desktop을 기반으로 진행됩니다. 특정 폴더를 생성한 후 docker compose up -d 명령어를 통해 n8n을 설치하며, 외부에서 접속하기 위해 개인 도메인을 연결하는 과정이 포함됩니다. 이때 도메인 연결 시 웹훅(Webhook) URL을 포함한 3줄의 설정을 추가해야 원활한 통신이 가능합니다.
초기 설정 후 첫 로그인 시 이메일로 발송되는 라이선스 키를 입력하면 n8n 활성화가 완료됩니다. 로컬 모델과의 연동을 위해서는 Ollama를 설치하고, n8n 내에서 해당 모델의 베이스 URL을 설정하여 도커 환경과 로컬 AI 모델을 연결합니다.
하드웨어 사양 및 모델 구성
실제 구축 사례로 AMD 라이젠 7 CPU와 RTX 4060(VRAM 8GB) 사양의 노트북에서 Llama 3.1 8B 모델을 성공적으로 구동할 수 있었습니다. 유료 모델만큼의 성능은 아닐지라도, 다양한 목적에 맞춰 응용하기에 충분한 성능을 제공합니다.
또한, 대화의 맥락을 유지하기 위해 ‘심플 메모리(Simple Memory)’ 노드를 연결하여 AI가 이전 대화 내용을 기억하며 답변할 수 있도록 구성합니다.
텔레그램 연동 및 자동화 워크플로우
언제 어디서든 스마트폰으로 AI와 소통하기 위해 텔레그램을 인터페이스로 활용합니다. @BotFather를 통해 생성한 봇 토큰을 n8n의 ‘텔레그램’ 노드에 입력하여 연동하며, 이 과정에서 ‘온 메시지 트리거’를 사용하여 사용자의 입력을 감지합니다.
워크플로우 구성 시 주의할 점은 다음과 같습니다: 1. 데이터 매핑: AI 에이전트가 인식할 프롬프트 데이터로 텔레그램 인풋 부분을 드래그하여 삽입합니다. 2. 응답 전송: AI 에이전트의 답변을 다시 텔레그램 창으로 전달하기 위해 ‘샌드 텍스트 메시지’ 노드를 추가합니다. 3. 채트 아이디 설정: 브라우저를 통해 본인의 채트 ID를 확인하고 해당 위치에 입력해야 정확한 대상에게 메시지가 전송됩니다.
최종적으로 모든 설정이 완료되면 ‘퍼블리시(Publish)’ 버튼을 눌러 24시간 가동 상태로 전환합니다.
로컬 AI 활용 사례
구축된 시스템은 다음과 같은 실질적인 업무 자동화에 활용될 수 있습니다. – 정보 수집 및 요약: 밤새 특정 웹사이트를 크롤링하여 분석한 내용을 매일 아침 자동으로 리포트 생성. – 콘텐츠 모니터링: 즐겨보는 유튜브 채널에 새 영상이 업로드될 때 실시간으로 요약본을 텔레그램으로 수신.
마무리
로컬 LLM과 n8n의 조합은 비용 제한 없는 AI 활용과 강력한 자동화 환경을 동시에 제공합니다. 초기 설정 과정에서 도커와 Ollama, 그리고 텔레그램 연동이라는 기술적 단계가 필요하지만, 이를 구축하면 개인 맞춤형 비서로서 매우 높은 활용도를 기대할 수 있습니다.