behavioral-evals

Conseils pour créer, exécuter, corriger et promouvoir des évaluations comportementales. À utiliser lors de la vérification de la logique de décision d’un agent, du débogage d’échecs, du débogage d’invites…

npx skills add https://github.com/google-gemini/gemini-cli --skill behavioral-evals

Behavioral Evals

Overview

Behavioral evaluations (evals) are tests that validate the agent's decision-making (e.g., tool choice) rather than pure functionality. They are critical for verifying prompt changes, debugging steerability, and preventing regressions.

[!NOTE] Single Source of Truth: For core concepts, policies, running tests, and general best practices, always refer to evals/README.md.


🔄 Workflow Decision Tree

  1. Does a prompt/tool change need validation?
    • No -> Normal integration tests.
    • Yes -> Continue below.
  2. Is it UI/Interaction heavy?
  3. Is it a new test?
    • Yes -> Set policy to USUALLY_PASSES.
    • No -> ALWAYS_PASSES (locks in regression).
  4. Are you fixing a failure or promoting a test?

📋 Quick Checklist

1. Setup Workspace

Seed the workspace with necessary files using the files object to simulate a realistic scenario (e.g., NodeJS project with package.json).

2. Write Assertions

Audit agent decisions using rig.setBreakpoint() (AppRig only) or index verification on rig.readToolLogs().

3. Verify

Run single tests locally with Vitest. Confirm stability locally before relying on CI workflows.


📦 Bundled Resources

Detailed procedural guides:

  • creating.md: Assertion strategies, Rig selection, Mock MCPs.
  • fixing.md: Step-by-step automated investigation, architecture diagnosis guidelines.
  • promoting.md: Candidate identification criteria and threshold guidelines.

Plus de skills de google-gemini

greeter
google-gemini
Une compétence d'accueil amicale
official
async-pr-review
google-gemini
Déclenchez cette compétence lorsque l'utilisateur souhaite lancer une revue de PR asynchrone, exécuter des vérifications en arrière-plan sur une PR, ou vérifier le statut d'une revue de PR asynchrone déjà lancée…
official
ci
google-gemini
Une compétence spécialisée pour Gemini CLI qui offre des performances élevées et un échec rapide
official
code-reviewer
google-gemini
Révision automatisée du code pour les modifications locales et les pull requests distantes avec une analyse structurée couvrant la correction, la maintenabilité et la sécurité. Prend en charge les modifications du système de fichiers local (staged et unstaged) et les PR distantes (par numéro ou URL) avec extraction automatique via GitHub CLI. Analyse le code selon sept dimensions : correction, maintenabilité, lisibilité, efficacité, sécurité, gestion des cas limites et couverture de test. Exécute des suites de vérification préalable optionnelles (ex. : npm run preflight) pour détecter...
official
docs-changelog
google-gemini
Génère et formate les fichiers de changelog pour les nouvelles versions avec des modèles tenant compte des versions et une extraction des points forts. Gère trois types de versions : les versions mineures stables, les correctifs stables et les versions préliminaires, chacune avec des procédures de mise à jour de fichiers distinctes. Traite automatiquement les notes de version brutes en Markdown en reformatant les URL de PR en liens Markdown et en supprimant les sections des contributeurs. Génère des résumés concis de 3 à 5 points forts pour les annonces de version, en priorisant les nouvelles fonctionnalités par rapport aux corrections de bugs. Prend en charge...
official
docs-writer
google-gemini
Rédaction et révision techniques pour la documentation de Gemini CLI avec une adhésion stricte au style. Applique des normes documentaires complètes couvrant la voix, le ton, la grammaire, le formatage et la structure pour garantir la cohérence dans tous les fichiers .md et le contenu du répertoire /docs. Nécessite une investigation du code pertinent et de la documentation existante avant d'apporter des modifications, avec des vérifications des pages impactées et des mises à jour de la navigation latérale. Applique des règles spécifiques pour les titres, les listes, les procédures, les liens et l'accessibilité,...
official
github-issue-creator
google-gemini
Utilisez cette compétence lorsqu'on vous demande de créer un problème GitHub. Elle gère différents problèmes
official
pirate-skill
google-gemini
Parler comme un pirate.
official