Вопросы по теме 'airflow-scheduler'

Засыпка воздушного потока не полностью заполняется до настоящего времени
Я борюсь со странной проблемой, которую не могу понять. У меня есть базовая DAG, которая не делает ничего особенного. Он просто использует оператор bash для запуска скрипта Python. У меня запланирован запуск этой DAG каждый понедельник. Когда я...
538 просмотров

Воздушный поток - запускайте каждую функцию Python отдельно
У меня есть сценарий воздушного потока ниже, который запускает все сценарии Python как одну функцию. Я хотел бы, чтобы каждая функция python запускалась индивидуально, чтобы я мог отслеживать каждую функцию и их статус. ## Third party Library...
3228 просмотров
schedule 26.10.2023

Параллельное выполнение задач воздушного потока - ничего не планируется
Я только что прошел процесс настройки моей настройки Airflow для параллельной обработки, следуя эту статью и используя эта статья . Кажется, все работает нормально в том смысле, что я смог запустить все эти команды из статей без каких-либо...
2982 просмотров

Airflow BashOperator OSError: [Errno 2] Нет такого файла или каталога
Я продолжаю получать ту же ошибку от запланированного BashOperator, который в настоящее время выполняет обратное заполнение (он «отстает» более чем на месяц). [2018-06-10 22:06:33,558] {base_task_runner.py:115} INFO - Running: ['bash', '-c',...
9401 просмотров

Как не дать DAG засыпать? catchup_by_default = False и catchup = False, похоже, не работает и планировщик воздушного потока от обратной засыпки
Настройка catchup_by_default = False в airflow.cfg, похоже, не работает. Кроме того, добавление catchup = False в DAG тоже не работает. Вот как воспроизвести проблему. Я всегда начинаю с чистого листа, выполняя airflow resetdb . Как только я...
3009 просмотров
schedule 16.03.2024

Динамическое создание DAG на основе строки, доступной при подключении к БД
Я хочу создать динамически созданный DAG из запроса таблицы базы данных. Когда я пытаюсь создать динамически создаваемый DAG из диапазона точного числа или на основе доступного объекта в настройках воздушного потока, это удалось. Однако, когда я...
412 просмотров
schedule 23.01.2024

Как установить равный приоритет_вес для задачи, которая зависит от другой задачи
У меня 8 комплектов задач. Каждый набор представляет собой серию задач: задача1 >> задача2 >> задача3. task3 зависит от task2, так как task2 зависит от task1. Моя проблема в том, что задача 2 никогда не запускается, пока не будут завершены все...
630 просмотров
schedule 03.03.2024

Развертывание с нулевым временем простоя с помощью Airflow
Моя команда использует Airflow для планирования заданий ETL. Прямо сейчас мы на LocalExecutor. Мы также занимаемся непрерывной интеграцией. Прямо сейчас, когда мы отправляем определенные типы изменений (например, добавляем нового оператора), мы...
376 просмотров

Как исправить ошибку AirflowException (имя хоста исполнителя задания не совпадает)?
Я использую воздушный поток на своем компьютере (Mac AirBook, Intel Core i5 1,6 ГГц и 8 ГБ 2133 МГц LPDDR3). DAG с несколькими задачами завершился неудачно с ошибкой ниже. Проверил несколько статей в Интернете, но практически без помощи. В самой...
1668 просмотров
schedule 20.09.2022

Зависимости Apache Airflow, что, если задачи параллельны?
Let's say that we have 3 task `A,B,C` that are executed in order `A>>B>>C`. I'm using Apache Airflow and creating a DAG that will use these 3 tasks. Мне пришлось бы написать (где задача A - ta, задача B - tb, задача C - tc):...
294 просмотров

SLA не сохраняется в базе данных. Также не запускайте почту в воздушном потоке
Я успешно настроил smtp-сервер. также работает нормально в случае сбоя работы. Но я попытался установить промах SLA по ссылке ниже. https://blog.clairvoyantsoft.com/airflow-service-level-agreement-sla-2f3c91cd84cc mid = BashOperator(...
78 просмотров
schedule 11.10.2022