1
Apache Airflow
Airflow est une plateforme pour créer, planifier et surveiller des pipelines de données par programmation.
- Gratuite
- Linux
Airflow est une plateforme pour créer, planifier et surveiller des pipelines de données par programmation.Utilisez Airflow pour créer des workflows sous forme de graphiques acycliques dirigés (DAG) de tâches.Le planificateur Airflow exécute vos tâches sur un tableau de travailleurs tout en suivant les dépendances spécifiées.De riches utilitaires de ligne de commande facilitent la réalisation de chirurgies complexes sur les DAG.L'interface utilisateur riche permet de visualiser facilement les pipelines en cours de production, de surveiller la progression et de résoudre les problèmes en cas de besoin .... Principes Dynamiques: les pipelines Airflow sont configurés en code (Python), permettant la génération dynamique de pipelines.Cela permet d'écrire du code qui instancie dynamiquement les pipelines.Extensible: définissez facilement vos propres opérateurs, exécuteurs et étendez la bibliothèque afin qu'elle s'adapte au niveau d'abstraction qui convient à votre environnement.Élégant: les pipelines Airflow sont simples et explicites.Le paramétrage de vos scripts est intégré au cœur d'Airflow à l'aide du puissant moteur de création de modèles Jinja.Évolutif: Airflow a une architecture modulaire et utilise une file d'attente de messages pour parler pour orchestrer un nombre arbitraire de travailleurs.Airflow est prêt à évoluer à l'infini.