Интеграция Google Gemini API в асинхронный Telegram-бот на aiogram 3.x и PythonВ прошлую пятницу, ровно в 18:47, когда я...

Интеграция Google Gemini API в асинхронный Telegram-бот на aiogram 3.x и PythonВ прошлую пятницу, ровно в 18:47, когда я уже мысленно открывал великолепный, наполненный витаминами, напиток,, мне прилетело сообщение от тимлида: «Бот лежит, пользователи жалуются, Gemini API возвращает 429». Наш корпоративный Telegram-бот, который должен был помогать саппорту отвечать на тикеты, просто встал колом. Причина оказалась до банальности простой: мы не учли rate limiting и думали, что 50 RPM (запросов в минуту) на бесплатном тарифе — это «бесконечно много». С тех пор мы переписали архитектуру, добавили очереди, кэширование и middleware для retry. В этой статье разберу, как с нуля подружить Gemini API с Telegram-ботом на aiogram 3.x, не наступая на те же грабли.https://habr.com/ru/articles/1025300/#gemini_api #telegram_бот #aiogram #python #llm #асинхронное_программирование #rate_limiting

Read Original

Related