ContextPilot... I got tired of paying for the same system prompt 200 timesContextPilot은 OpenAI, Anthropic, Google SDK를 감...

ContextPilot... I got tired of paying for the same system prompt 200 timesContextPilot은 OpenAI, Anthropic, Google SDK를 감싸 LLM API 호출 전 컨텍스트를 압축·최적화하는 파이썬 미들웨어입니다. 중복, 불필요한 정보 제거와 요약을 통해 토큰 사용량을 60~80% 절감하며, 품질 저하 시 원본 페이로드를 자동으로 사용해 안정성을 보장합니다. 다양한 통합 방식(라이브러리, 프록시, MCP 서버, CLI 마이그레이션)을 지원해 기존 코드 변경을 최소화하며, 실제 프로덕션 시나리오에서 비용 절감 효과가 입증되었습니다. 프라이버시를 위해 프롬프트 내용은 외부로 전송하지 않고 메타데이터만 수집합니다.https://github.com/msousa202/ContextPilot#llm #middleware #tokenoptimization #openai #anthropic

Read Original

Related