jze9 76e221f856 fix(embeddings): не терять батч на таймауте Ollama, уменьшить пачку ...

Ollama обрабатывает тексты в пачке последовательно (один "slot" в
llama.cpp, не параллельно) — 64 реальных документа в одном HTTP-запросе
регулярно не укладывались в 120с, весь батч падал с ReadTimeout и
терялся без ретрая (embed_documents была без bind/max_retries).
Теперь: пачка 16, таймаут 300с, задача ретраится до 3 раз при сбое.

2026-08-26 18:37:49 +05:00

4.4 KiB

Raw Blame History

View Raw