Где заканчивается вызов LLM и начинается backend система: локальный RAG на FastAPI и OllamaХотел разобраться где заканчивается простой вызов локальной LLM и начинается backend система. Сначала всё выглядело просто: frontend отправляет вопрос, FastAPI принимает POST /ask, backend вызывает локальную модель через Ollama и возвращает ответ. Но стало понятно: для помощника по документации этого мало. Модель отвечает, но непонятно на какие документы она опирается, какие фрагменты попали в prompt, сколько времени занял каждый этап и что делать, если индекс устарел. В статье показываю не "как вообще устроен RAG", а путь от простого вызова локальной LLM к небольшому backend/RAG-проекту с API контрактом, request_id, логированием, sources, timings, rebuild index, negative tests и честными ограничениями. От LLM вызова к RAG системеhttps://habr.com/ru/articles/1048252/#rag #llm #fastapi #ollama #python #backend #embeddings #vector_store #request_id #локальная_llm
Related
Four months with my first home battery taught me what whole-home backup really meansAnker's Solix E10 made backup power ...
Four months with my first home battery taught me what whole-home backup really meansAnker's Solix E10 made backup power understandable for this first-timer, and I can't wait to exp...
There is a pervasive assumption in Silicon Valley: to get the public to trust AI, we must make it sound as human, warm, ...
There is a pervasive assumption in Silicon Valley: to get the public to trust AI, we must make it sound as human, warm, and empathetic as possible.My new working paper argues that ...
https://winbuzzer.com/2026/07/15/grok-build-uploaded-repositories-before-remote-fix-xcxwbn/SpaceXAI's agentic coding CLI...
https://winbuzzer.com/2026/07/15/grok-build-uploaded-repositories-before-remote-fix-xcxwbn/SpaceXAI's agentic coding CLI, Grok Build, sent tracked repositories and their full histo...