Массовый источник за прогон берёт порцию, сохраняет позицию и останавливается по бюджету времени. Без внешнего толчка заливка шла рывками — ровно столько, сколько раз кто-то нажмёт «Запустить», и всё это время корпус стоял на месте. keep_ingesting.py раз в 5 минут проверяет, не простаивают ли массовые источники, и запускает следующую порцию. Идущие прогоны не трогает. Останавливается сам, когда источник исчерпан (прогон закрылся с нулём полученных статей), чтобы не крутить пустые запуски вечно. Поставлен в cron на app-хосте рядом с монитором. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
4.1 KiB
Executable File
4.1 KiB
Executable File