[Tech] 2026-03-24 기술 동향: LLM

게시 2026/03/24

By Gyu Hwan 7 분읽는 시간

🕑 Quick Glance

분류	주요 내용	중요도
New	AI 에이전트의 메모리 기능 구현 및 교육용 AI 어시스턴트 등장	⭐⭐⭐
Tip	LLM 기반 개발 도구 비교(IDE 플러그인 vs AI-네이티브 IDE)	⭐⭐
Trend	2026년 로컬 LLM 인프라 구축 및 LLM 인력 수요 급증	⭐⭐⭐

핵심: 단순 챗봇과 진정한 어시스턴트의 차이는 메모리 기능에 있다. 60줄의 파이썬 코드로 구현 가능한 remember 도구를 통해 세션 간 정보 지속성을 확보할 수 있다.

공통 의견: 복잡한 벡터 데이터베이스나 RAG 없이도 단순한 딕셔너리 기반 메모리로 충분하다. 메모리 데이터를 디스크에 저장했다가 새 세션마다 시스템 프롬프트에 주입하는 방식이 가장 효율적이다.

실무 적용:

핵심: EDUagent는 교사의 기존 자료(PDF, DOCX, PPTX)를 수집하여 그 교사의 고유한 음성과 교수법을 추출한 후, 동일한 스타일로 새로운 교육 자료를 생성한다.

공통 의견: 제너릭한 AI 출력이 아닌 개인화된 결과물을 만들기 위해서는 사용자의 스타일을 먼저 ‘지문화(fingerprinting)’해야 한다. 이는 교육뿐 아니라 모든 창작 분야에 적용 가능한 패턴이다.

실무 적용:

핵심: 클라우드 API 비용 상승으로 인해 로컬 LLM 추론 서버 구축이 더 이상 선택이 아닌 필수가 되었다. Proxmox VE와 PCIe 패스스루를 활용한 베어메탈 하이퍼바이저 구축이 최고의 성능-비용 비율을 제공한다.

공통 의견: 팀 규모 개발에서는 단순 우분투 베어메탈보다 가상화 환경이 필수다. 리소스 격리를 통해 파이썬 의존성 충돌(한 프로젝트 업데이트가 다른 프로젝트를 깨뜨리는 문제)을 근본적으로 해결할 수 있다.

실무 적용:

핵심: 전통적인 IDE 플러그인(IntelliJ, VS Code)과 AI-네이티브 IDE(Cursor, Windsurf)의 선택은 팀의 워크플로우와 비용 구조에 따라 달라진다.

공통 의견: AI 도구의 가치는 단순 코드 생성이 아니라 보일러플레이트 제거를 통한 고부가가치 작업(아키텍처 개선, 복잡한 버그 해결)으로의 시간 재배치에 있다.

실무 적용:

60줄 파이썬 에이전트 메모리 기능 직접 구현 — https://tinyagents.dev 에서 제공하는 코드 실행하고 remember 도구 추가하기. 5분 안에 자신의 이름을 기억하는 에이전트 만들기
Proxmox VE IOMMU 설정 확인 — 현재 서버에서 nano /etc/default/grub 실행 후 amd_iommu=on 또는 intel_iommu=on 파라미터 추가 가능 여부 확인 (AMD/Intel 선택)
LangChain 설치 및 첫 에이전트 생성 — pip install langchain 실행 후 https://github.com/langchain-ai/langchain 의 quickstart 예제 코드 실행해보기
교육용 AI 어시스턴트 오픈소스 탐색 — EDUagent 개념 검색(site:github.com eduagent 또는 site:github.com teaching assistant LLM) 하여 유사 프로젝트 찾기