컴백부터 K-뷰티까지 — K-컬쳐의 모든 것을 메일로 받아보세요메일로 받아보기

METAL MEDIA

deepmemteam/deepmem

8PythonMIT

AI 에이전트의 '기억'을 대신 저장해주는 Mem0 대체 오픈소스, 속도 2배 비용 10분의 1 내세워

DeepMem은 ChatGPT 같은 AI 에이전트가 사용자와의 대화 내용을 계속 기억하게 해주는 서버 소프트웨어로, 기존 서비스 Mem0와 API가 똑같아서 import 한 줄만 바꾸면 그대로 이전할 수 있다. FastAPI 서버와 벡터 데이터베이스 Qdrant를 조합해 대화에서 사실을 추출하고 검색하는 구조이며, 직접 서버를 띄워 무료로 쓰거나 관리형 클라우드(deepmem.dev)를 유료로 쓸 수 있다. 저장소가 공개한 벤치마크에서 자체 호스팅 검색 속도는 중간값 73밀리초, 클라우드 요금은 Mem0의 10분의 1 수준이라고 밝히고 있다.

무엇을 하는 레포인가

  1. 대화 메시지를 저장하면 LLM이 사실(예: '나는 리스본에 산다')을 추출해 벡터 검색이 가능한 장기 기억으로 만들어준다
  2. 검색 시 벡터 유사도, 키워드 매칭(BM25), 인물·개체 가중치, 시간에 따른 점수 감소를 합쳐 결과를 재정렬하는 하이브리드 검색 방식을 쓴다
  3. 여러 요청을 잠깐 모았다가 한 번에 처리하는 '비동기 배치 증류' 방식으로 LLM 호출 횟수를 약 80% 줄였다고 설명한다
  4. Mem0의 MemoryClient와 이름, 메서드 시그니처가 동일해 import 문 한 줄만 바꾸면 코드 수정 없이 이전 가능하다고 소개한다
  5. Claude Desktop, Cursor 같은 도구가 도구(tool) 형태로 직접 기억을 읽고 쓸 수 있는 MCP 서버를 내장하고 있다

왜 중요한가

AI 에이전트를 만드는 개발자에게 '기억' 기능은 매번 직접 구현하기 번거로운 인프라인데, 이미 Mem0를 쓰고 있다면 코드 변경 없이 자체 서버로 옮기거나 더 싼 요금제로 갈아탈 수 있는 선택지가 생긴다는 점에서 실용적이다. 또한 데이터를 자신의 서버에 두고 싶은 프라이버시 민감한 서비스에는 셀프호스팅 옵션 자체가 의미가 있다.

이 레포의 용어

  • 벡터 데이터베이스(Qdrant) · 문장이나 단어를 숫자 벡터로 바꿔 저장하고 의미가 비슷한 것을 빠르게 찾아주는 저장소
  • BM25 · 문서 안에 검색어가 얼마나 등장하는지를 기반으로 점수를 매기는 전통적인 키워드 검색 방식
  • MCP(Model Context Protocol) · AI 모델이 외부 도구나 데이터에 표준화된 방식으로 접근하게 해주는 프로토콜
  • p50/p95 · 응답 속도를 정렬했을 때 중간(50%)과 상위 5%(95%) 지점의 값, 속도 안정성을 보는 지표
  • BYOK(Bring Your Own Key) · 사용자가 자신의 OpenAI, Anthropic 등 API 키를 직접 넣어 쓰는 방식

레포 원문 소개 (영문)

Drop-in AI memory layer with 2x faster response and 10x lower cost. Fully compatible with Mem0 API. Migrate in 5 minutes without any code changes. Self-host for free.

GitHub에서 보기

주목받는 레포

레포 전체 보기 →

METAL MEDIA 최신 기사