Skills Astronomer

Generate verified recipe playbooks from AIPs with PR implementations (post mode), or speculative user stories from AIPs without implementations (pre mode). Use…

Générer des playbooks de recettes vérifiés à partir d'AIP avec implémentations PR (mode post), ou des user stories spéculatives à partir d'AIP sans implémentations (mode pre). Utiliser…

Interroger, gérer et dépanner les DAGs, exécutions, tâches et configurations système d'Apache Airflow. Prend en charge plus de 30 commandes pour l'inspection des DAGs, la gestion des exécutions, la journalisation des tâches, les requêtes de configuration et l'accès direct à l'API REST. Gérez plusieurs instances Airflow avec une configuration persistante ; découvrez automatiquement les déploiements locaux et Astro. Déclenchez des exécutions de DAG de manière synchrone (attente de fin) ou asynchrone, diagnostiquez les échecs, effacez les exécutions pour réessayer, et accédez aux journaux de tâches avec filtrage par tentative et index de carte. Sortie...

Modèle d'adaptateur Airflow pour la compatibilité des API v2/v3. À utiliser avec des adaptateurs, la détection de version ou l'ajout de nouvelles méthodes API devant fonctionner sur…

Modèle d'adaptateur Airflow pour la compatibilité des API v2/v3. À utiliser lors du travail avec des adaptateurs, la détection de version ou l'ajout de nouvelles méthodes d'API qui doivent fonctionner sur…

Portes d'approbation humaine, entrées de formulaire et branchement dans les DAG Airflow à l'aide d'opérateurs différés. Quatre types d'opérateurs : ApprovalOperator pour les décisions d'approbation/rejet, HITLOperator pour la sélection multi-options avec formulaires, HITLBranchOperator pour le routage des tâches piloté par l'humain, et HITLEntryOperator pour la collecte de données de formulaire. Tous les opérateurs sont différés, libérant les emplacements de travail en attendant une réponse humaine via l'onglet Actions requises de l'interface utilisateur Airflow ou l'API REST. Prend en charge des fonctionnalités optionnelles, y compris personnalisées...

Guide for contributing to the Airflow Java SDK (AIP-108). Use this skill whenever a contributor is working in the `java-sdk/` directory or on the Java…

Guide for contributing to the Airflow Java SDK (AIP-108). Use this skill whenever a contributor is working in the `java-sdk/` directory or on the Java…

Guide for implementing a brand-new language SDK for Airflow (AIP-108). Use this skill when a contributor wants to add support for a new programming language —…

Guide pour implémenter un tout nouveau SDK linguistique pour Airflow (AIP-108). Utilisez cette compétence lorsqu'un contributeur souhaite ajouter la prise en charge d'un nouveau langage de programmation —…

Créez des plugins Airflow 3.1+ qui intègrent des applications FastAPI, des pages d'interface utilisateur personnalisées, des composants React, des intergiciels, des macros et des liens d'opérateur directement dans l'interface utilisateur d'Airflow. Utilisez…

Persists task and asset state across retries and DAG runs using Airflow 3.3's AIP-103 key/value stores (`task_state_store`, `asset_state_store`) and the…

Add or update translations for the Apache Airflow UI. Guides through setting up locales, scaffolding translation files, translating with locale-specific…

Ajouter ou mettre à jour les traductions pour l'interface utilisateur d'Apache Airflow. Guide pour configurer les locales, générer les fichiers de traduction, traduire avec des paramètres régionaux spécifiques…

Interrogez votre entrepôt de données pour répondre à des questions métier à l'aide de motifs mis en cache et de correspondances de concepts. Prend en charge la recherche de motifs et la mise en cache pour les types de questions récurrentes, avec enregistrement des résultats pour améliorer les requêtes futures. Inclut un cache de correspondance concept-table et la découverte de schémas de tables via INFORMATION_SCHEMA ou grep du code source. Fournit les fonctions noyau run_sql() et run_sql_pandas() renvoyant des DataFrames Polars ou Pandas pour l'analyse. Commandes CLI pour gérer les caches de concepts, motifs et tables, plus...

Annotez les tâches Airflow avec la traçabilité des données à l'aide d'inlets et d'outlets. Prend en charge les objets Dataset OpenLineage, les Assets Airflow et les Datasets Airflow pour définir les entrées et sorties entre bases de données, entrepôts de données et stockage cloud. Utilisez-le comme solution de repli lorsque les opérateurs ne disposent pas d'extracteurs OpenLineage intégrés ; suit un système de priorité à quatre niveaux où les extracteurs personnalisés et les méthodes OpenLineage ont la priorité. Inclut des assistants de nommage de datasets pour Snowflake, BigQuery, S3 et PostgreSQL afin de garantir une cohérence...

Workflow guidé pour créer des DAGs Apache Airflow avec validation et intégration de tests. Approche structurée en six phases : découvrir l'environnement et les modèles existants, planifier la structure du DAG, implémenter en suivant les bonnes pratiques, valider avec les commandes CLI af, tester avec le consentement de l'utilisateur, et itérer sur les correctifs. Les commandes CLI pour la découverte (af config connections, af config providers, af dags list) et la validation (af dags errors, af dags get, af dags explore) fournissent un retour immédiat sur le DAG...

Writes Airflow task logic in Go using the Airflow Go SDK. Use when the user wants to implement Airflow tasks in Go, asks about `BundleProvider`/`RegisterDags`,…

Écrit la logique des tâches Airflow en Java, Kotlin ou tout langage JVM utilisant le SDK Java d'Airflow. À utiliser lorsque l'utilisateur souhaite implémenter des tâches Airflow en Java/JVM, demande…

La base indépendante du langage pour les SDKs Airflow — implémentez la logique des tâches dans un langage autre que Python tandis que le DAG reste en Python. Utilisez lorsque l'utilisateur…

Définir des modèles réutilisables de groupes de tâches Airflow avec validation Pydantic et composer des DAGs à partir de YAML. Utiliser lors de la création de modèles blueprint, de la composition de DAGs à partir de…

Use when writing, editing, reviewing, or running Helm chart tests for the Astronomer APC repository. Covers pytest patterns, render_chart() usage, sub-chart…

À utiliser lors de l'écriture, de l'édition, de la révision ou de l'exécution de tests de chart Helm pour le dépôt Astronomer APC. Couvre les motifs pytest, l'utilisation de render_chart(), les sous-charts…

Vérifier la fraîcheur des données en consultant les horodatages des tables et les modèles de mise à jour par rapport à une échelle d'obsolescence. Identifie les colonnes d'horodatage à l'aide de modèles de nommage ETL courants (_loaded_at, _updated_at, created_at, etc.) et interroge leurs valeurs maximales pour déterminer l'âge. Classe les données en quatre statuts de fraîcheur : Fraîches (< 4 heures), Obsolètes (4–24 heures), Très obsolètes (> 24 heures) ou Inconnues (aucun horodatage trouvé). Fournit des modèles SQL pour vérifier l'heure de la dernière mise à jour et les tendances du nombre de lignes sur les derniers jours afin de...

À utiliser lors de l'écriture, la modification ou la révision de la configuration CircleCI pour le dépôt Astronomer APC. Couvre l'organisation des scripts, les scripts intégrés ou externes, et…

À utiliser lors de l'écriture, de la modification ou de la révision de la configuration CircleCI pour le dépôt Astronomer APC. Couvre l'organisation des scripts, les scripts en ligne vs externes, et…

Configure Airflow pour exécuter des tâches SDK de langage (Go et futurs SDK natifs) — enregistrer un coordinateur, mapper une file d'attente à celui-ci, garantir l'exécution/l'artefact sur les workers,…

Convertissez les projets dbt Core en DAGs ou TaskGroups Airflow à l'aide d'Astronomer Cosmos. Prend en charge trois modèles d'assemblage : DbtDag autonome, DbtTaskGroup au sein de DAGs existants et opérateurs Cosmos individuels pour un contrôle précis. Choisissez parmi huit modes d'exécution (WATCHER, LOCAL, VIRTUALENV, KUBERNETES, AIRFLOW_ASYNC, et autres) en fonction des besoins d'isolation et de performance. Propose trois stratégies d'analyse (dbt_manifest, dbt_ls, dbt_ls_file, automatique) pour équilibrer vitesse et complexité des sélecteurs...

Configurer Astronomer Cosmos pour les projets dbt Fusion sur Snowflake, Databricks, BigQuery ou Redshift avec exécution locale. Nécessite Cosmos 1.11.0+, le binaire dbt Fusion installé séparément dans l'environnement d'exécution Airflow, et ExecutionMode.LOCAL avec invocation de sous-processus. Prend en charge trois stratégies d'analyse : dbt_manifest (la plus rapide pour les grands projets), dbt_ls (pour les sélecteurs complexes) ou automatique (configurations simples). Couvre la configuration de ProfileConfig pour les connexions aux entrepôts, ProjectConfig pour les chemins des projets dbt, et...

Extracteurs OpenLineage personnalisés pour les opérateurs Airflow non pris en charge et les scénarios de lignage complexes. Deux approches : ajouter des méthodes OpenLineage directement aux opérateurs que vous possédez (recommandé), ou créer des extracteurs personnalisés pour les opérateurs tiers que vous ne pouvez pas modifier. Les extracteurs interceptent l'exécution des opérateurs à trois moments : avant l'exécution pour le lignage statique, après le succès pour les sorties déterminées à l'exécution, et optionnellement après l'échec pour un lignage partiel. Enregistrez les extracteurs via airflow.cfg ou l'environnement...

Créez des DAGs Apache Airflow de manière déclarative avec les configurations YAML de dag-factory. À utiliser lors de la création de modèles dag-factory, de la composition de DAGs à partir de YAML pour dag-factory,…

Analyse systématique des causes profondes et correction des DAG Airflow défaillants, avec des flux d'investigation structurés. Guide à travers un processus de diagnostic en quatre étapes : identifier l'échec, extraire les détails de l'erreur, rassembler les informations contextuelles et fournir des étapes de correction exploitables. Classe les échecs en quatre types (données, code, infrastructure, dépendance) pour cibler l'investigation et suggérer les correctifs appropriés. Fournit des commandes CLI prêtes à l'emploi pour la récupération des logs, la comparaison des exécutions, l'effacement des tâches et des DAG...

Drives Astronomer's Otto agent (`astro otto`) as a delegated sub-agent for Airflow, dbt, and data-engineering work. Use when the user explicitly asks to "use…

Déployer des DAGs et projets Airflow. Utiliser lorsque l'utilisateur souhaite déployer du code, pousser des DAGs, configurer CI/CD, déployer en production, ou demande des stratégies de déploiement…

Construit, empaquette et déploie des bundles compilés du SDK Go Airflow afin que l'ExecutableCoordinator puisse les exécuter. À utiliser lorsque l'utilisateur souhaite compiler un bundle de tâches Go, demande…

Construit et déploie des bundles Airflow Java SDK compilés afin que les workers puissent les exécuter. À utiliser lorsque l'utilisateur souhaite empaqueter un bundle de tâches JVM dans un JAR, poser des questions sur le…

Découvrir et explorer les données pour un concept ou un domaine. Utiliser lorsque l'utilisateur demande quelles données existent pour un sujet (par exemple, « ARR », « clients », « commandes »), souhaite trouver…

Use when writing, editing, reviewing, or running functional (end-to-end) tests for the Astronomer APC repository. Covers scenario setup, testinfra patterns,…

À utiliser lors de la rédaction, l'édition, la révision ou l'exécution de tests fonctionnels (de bout en bout) pour le dépôt Astronomer APC. Couvre la configuration de scénarios, les motifs testinfra,…

Utiliser pour le travail sur les charts Helm - création de charts, modification de charts existants, conception de valeurs, tests. Pour le dépôt Astronomer APC, voir docs/architecture.md pour…

Initialise la découverte du schéma d'entrepôt. Génère .astro/warehouse.md avec toutes les métadonnées des tables pour des recherches instantanées. Exécutez une fois par projet, actualisez lorsque le schéma…

Initialisation de la découverte du schéma d'entrepôt. Génère .astro/warehouse.md avec toutes les métadonnées des tables pour des recherches instantanées. Exécutez une fois par projet, actualisez lorsque le schéma…

Adopt and maintain the apache-magpie framework in a project repo via the snapshot-based adoption mechanism. The only framework skill committed in an adopter's…

Adopter et maintenir le framework apache-magpie dans un dépôt de projet via le mécanisme d'adoption basé sur les snapshots. La seule compétence du framework engagée dans un dépôt d'adoptant…

Gérer les déploiements de production Astronomer avec l'interface en ligne de commande Astro. Utiliser lorsque l'utilisateur souhaite s'authentifier, changer d'espace de travail, créer/mettre à jour/supprimer des déploiements, ou…

Gérer l'environnement de développement local Airflow avec les commandes Astro CLI. Démarrer, arrêter, redémarrer et tuer les conteneurs Airflow locaux ; les identifiants par défaut sont admin/admin avec le serveur web à http://localhost:8080. Consulter les logs de tous les composants ou de services spécifiques (scheduler, webserver) avec option de suivi en temps réel. Accéder aux shells des conteneurs et exécuter les commandes Airflow CLI directement via astro dev bash et astro dev run. Résoudre les problèmes courants, notamment les conflits de ports, les échecs de démarrage, les erreurs de paquets, et...

Migre les projets Airflow de airflow-ai-sdk vers apache-airflow-providers-common-ai 0.1.0+. Utilisez cette compétence lorsque l'utilisateur souhaite remplacer airflow-ai-sdk par…

Détection automatisée et migration de code pour la mise à niveau des DAGs Apache Airflow 2.x vers Airflow 3.x. Fournit des règles de correction automatique basées sur Ruff (AIR30/AIR301/AIR302/AIR31/AIR311/AIR312) pour détecter et résoudre les changements cassants dans les imports, opérateurs, hooks et variables de contexte. Couvre les changements architecturaux critiques : les workers n'accèdent plus directement à la base de données de métadonnées ; utilisez le client Python Airflow ou l'API REST au lieu des requêtes de session ORM. Inclut une liste de contrôle de migration manuelle pour les problèmes que Ruff ne peut pas corriger automatiquement : cron...

Guide for migrating Dagster projects to Apache Airflow 3 on Astro. Use when the user mentions migrating, converting, or porting Dagster (or Dagster+) code to…

Replace the manual commit-by-commit classification step in `breeze release-management prepare-provider-documentation` with AI-driven classification. For each…

Replace the manual commit-by-commit classification step in `breeze release-management prepare-provider-documentation` with AI-driven classification. For each…

Analyse statistique et qualitative complète des tables de base de données avec sortie de profilage structurée. Génère des statistiques au niveau des colonnes adaptées au type de données : min/max/percentiles pour les colonnes numériques, métriques de longueur pour les chaînes, plages de dates pour les horodatages. Effectue une analyse de cardinalité pour identifier les colonnes catégorielles ou à haute cardinalité et détecter les distributions asymétriques. Évalue la qualité des données selon cinq dimensions : complétude (taux de NULL), unicité (doublons), fraîcheur (horodatages de mise à jour),...

Initialiser et configurer des projets Astro/Airflow avec dépendances, connexions et mise en place de l'environnement. Génère la structure complète du projet avec astro dev init , incluant les répertoires pour les DAGs, plugins, tests et fichiers de configuration. Gère les dépendances Python et système via requirements.txt et packages.txt , avec prise en charge de Dockerfile personnalisé pour les configurations complexes. Configure les connexions, variables et pools de manière déclarative dans airflow_settings.yaml , avec des commandes d'exportation/importation pour l'environnement...

Cycles itératifs de test-débogage-correction pour les DAGs Airflow avec diagnostic complet des échecs. Commencez par af runs trigger-wait <dag_id> pour exécuter un DAG et attendre son achèvement ; aucune vérification préalable nécessaire. En cas d'échec, utilisez af runs diagnose pour un résumé complet des échecs et af tasks logs pour inspecter les détails des erreurs de tâches spécifiques. Prend en charge la configuration personnalisée, les délais d'attente et les tentatives de réessai ; gère les scénarios de succès, d'échec et de dépassement de délai avec une interprétation claire des réponses. Validation rapide disponible...

À utiliser lors de l'écriture, de la modification ou de la révision d'outils en ligne de commande et de scripts d'assistance dans ce dépôt (éléments dans bin/). Couvre l'emplacement des outils, l'analyse des arguments avec…

Tracer la lignée des données en aval pour évaluer l'impact des modifications avant de modifier des tables ou des DAG. Identifie les consommateurs directs d'une table ou d'un DAG cible via la recherche dans le code source, les dépendances de vues et les connexions aux outils BI. Construit un arbre de dépendances complet cartographiant tous les impacts en aval, des tables aux tableaux de bord en passant par les modèles ML. Catégorise les dépendances par criticité (critique, élevée, moyenne, faible) pour prioriser la communication avec les parties prenantes et les tests. Génère un rapport d'impact avec évaluation des risques, éléments affectés...

Remonter la lignée des données en amont pour identifier les sources, les DAG et les dépendances alimentant une table ou une colonne. Prend en charge le traçage de trois types de cibles : tables, colonnes et DAG ; utilise le code source des DAG Airflow et l'inspection des tâches pour trouver les pipelines producteurs. Gère les sources SQL (clauses FROM), les systèmes externes (S3, Postgres, Salesforce, API HTTP) et les sources basées sur des fichiers ; remonte récursivement les chaînes en amont. Inclut le traçage au niveau des colonnes via des mappages directs, des transformations et des agrégations dans le code des DAG...

Dépannez les déploiements de production Astronomer avec l'interface en ligne de commande Astro. Utilisez-le lors de l'investigation de problèmes de déploiement, de la consultation des logs de production, de l'analyse des échecs, ou…

Upgrade the pinned Flask-AppBuilder (FAB) dependency in the Apache Airflow FAB provider (`providers/fab/`). Bumps the exact `flask-appbuilder==` pin and its…

Initialise la découverte du schéma d'entrepôt. Génère .astro/warehouse.md avec toutes les métadonnées des tables pour des recherches instantanées. Exécutez une fois par projet, actualisez lorsque le schéma…