memgen 문서

memgen은 LLM과 AI 에이전트를 위한 얇은 메모리 레이어입니다. 대화를 보내면 자동으로 구조화된 메모리를 추출하고, 다음에 질의하면 관련 있는 메모리만 골라 돌려줍니다 — 당신의 에이전트가 장기 기억을 갖게 됩니다.

pip install neoali-memgen

from memgen import MemgenClient
client = MemgenClient(api_key="mg-...")

client.add(messages=[{"role":"user","content":"I'm vegetarian"}], user_id="alice")
hits = client.search("food preferences", user_id="alice")
print(hits.results[0])

memgen이 하는 일

• 자동 추출 — 대화를 LLM에 통과시켜 summary, entities, tags, key_facts 자동 추출.
• 임베딩·저장 — 모든 메모리가 벡터 임베딩과 함께 저장되어 의미 검색 즉시 가능.
• 검색 — 자연어 쿼리로 관련 과거 메모리를 유사도 점수와 함께 반환.
• 당신의 LLM 호출에는 관여 안 함 — memgen은 채팅 응답을 생성하지 않습니다. 받은 메모리를 어떤 LLM에 어떻게 넘길지는 당신의 코드가 결정.

mem0와 다른 점

• 동기 추출 — 추출 결과를 즉시 받아 검사, 저장은 옵션. mem0는 async 전용.
• 레이어드 출력 — 모든 메모리에 core(범용) + extensions(도메인별) 구조가 따라옴 (단순 문자열 X).
• Engine 직접 API — raw retrieve/embed/consolidate를 power user에게 노출.
• mem0 호환 호출 형태 — 동일한 add/search 패턴으로 drop-in 전환.

바로 가기