EXTRA - Native Computer Use

Motor nativo de uso de computadora sin Flash para visión de IA, automatización de mouse, teclado y UI

Documentación

Extra — Get extra from your AI

Extra

El Astra 6 de Código Abierto para tu Mac y PC

Tu IA puede ver, hacer clic, escribir, navegar y hacer trabajo real en macOS y Windows.

License: MIT Platform: macOS 12.3+ & Windows 10/11 Protocol: Model Context Protocol (MCP) Ecosystem: yantraOS Status: Open Source

Sitio webInicio rápidoGuía para macOSArquitecturaLicencia



Extra in action — Live Windows desktop automation

✨ ¿Por qué Extra?

Los asistentes de IA actuales pueden escribir ensayos y código brillantes, pero están atrapados dentro de una ventana de chat. Cuando necesitas que hagan clic en un botón, abran una aplicación, organicen tus archivos o ingresen datos en una hoja de cálculo, solo pueden darte instrucciones de texto.

Extra le da a tu IA manos y ojos en Windows.

Conecta Claude, Google Antigravity, Cursor, AGY o cualquier agente autónomo directamente a tu escritorio de Windows con visión de pantalla de alta velocidad, clics de precisión de píxel perfecto y escritura instantánea.

  • Sin extensiones de navegador torpes.
  • Sin servidores en la nube costosos que vigilen tu pantalla.
  • 100% código abierto, local y privado.

💡 Lo que puedes pedirle a tu IA que haga

Una vez que Extra esté en funcionamiento, puedes hablar con tu IA como si fuera un asistente humano real sentado en tu escritorio:

  • 📊 Hojas de cálculo y datos: "Abre Excel, calcula los ingresos totales de los CSV de facturas en mi carpeta de Descargas y crea un gráfico resumen."
  • 🗂️ Escritorio y limpieza de archivos: "Limpia mi escritorio desordenado moviendo capturas de pantalla a Imágenes, PDFs a Documentos y eliminando carpetas vacías."
  • 🌐 Investigación web y entrada de datos: "Abre Chrome, encuentra los 5 mejores vuelos a Tokio por menos de $800 y copia sus números de vuelo y fechas en el Bloc de notas."
  • ⚙️ Tareas del sistema Windows: "Abre Configuración, verifica si hay actualizaciones de Windows pendientes y avísame si se necesita un reinicio."
  • 🎵 Control de aplicaciones: "Abre Spotify, busca ritmos de concentración low-fi y comienza a reproducir."

⚡ Inicio rápido (1 minuto)

Puedes configurar Extra en segundos en macOS o Windows:

Opción A: Pídele a tu IA que lo configure (Canal principal — Más fácil)

Copia y pega la instrucción única para tu sistema operativo en Claude Desktop, Google Antigravity, Cursor, Windsurf o cualquier agente MCP:

  • 🍏 Para macOS (Apple Silicon M1-M4 e Intel):

    Setup Extra on my Mac: In Terminal run 'curl -sSL https://extra.yantraos.com/install.sh | bash', then read and configure ~/.extra/app/STARTER_PROMPT_MACOS.md so we are ready to use Extra.
    
  • 🪟 Para Windows (11 / 10):

    Setup Extra on my PC: In PowerShell run 'iwr -useb https://extra.yantraos.com/install.ps1 -OutFile "$env:TEMP\install_extra.ps1"; & "$env:TEMP\install_extra.ps1"', then read and configure ~/.extra/app/STARTER_PROMPT.md so we are ready to use Extra.
    

Tu IA ejecutará el instalador, configurará MCP y las reglas locales, y responderá:

"¡Estamos listos! Por favor reinicia <your AI application, e.g. Claude Desktop, Antigravity, Cursor, Windsurf> para que funcione."


Opción B: Ejecuta el comando de una línea tú mismo

  • 🍏 Terminal de macOS:

    curl -sSL https://extra.yantraos.com/install.sh | bash
    
  • 🪟 PowerShell de Windows (Escalonado, limpio para Defender):

    iwr -useb https://extra.yantraos.com/install.ps1 -OutFile "$env:TEMP\install_extra.ps1"; & "$env:TEMP\install_extra.ps1"
    

El instalador automatizado:

  • Verificará la arquitectura del sistema operativo (macOS 12.3+ o Windows 10/11 de 64 bits).
  • Aprovisionará un entorno de ejecución aislado de Python 3.10+ (~/.extra/venv).
  • Configurará automáticamente Claude Desktop, Cursor, Windsurf y Antigravity (agy).
  • Ejecutará el diagnóstico de salud y presentará el mensaje de inicio en 1 paso.

Opción C: Clon de Git para desarrolladores

# macOS:
git clone https://github.com/AIYantra/extra.git ~/.extra/app
cd ~/.extra/app && ./install.sh

# Windows:
git clone https://github.com/AIYantra/extra.git "$HOME\.extra\app"
cd "$HOME\.extra\app" ; .\install.ps1

Conexión a cualquier IA compatible con MCP

Extra funciona de inmediato con cualquier agente que admita el Protocolo de Contexto de Modelo (MCP). Si usas Cursor, Windsurf o agentes personalizados, agrega este fragmento a tu configuración de MCP:

{
  "mcpServers": {
    "extra": {
      "command": "python",
      "args": ["-m", "extra.mcp.server"]
    }
  }
}

🎯 Cómo funciona internamente

Extra está diseñado desde cero para velocidad, confiabilidad y eficiencia de tokens:

  1. 👁️ Captura de pantalla ultrarrápida (< 3 ms): Utiliza la duplicación de escritorio nativa de DirectX (DXGI) para tomar fotogramas de escritorio nítidos en menos de 3 milisegundos, sin retrasar tu PC ni difuminar el texto.
  2. 🎯 Clics de precisión de píxel perfecto: En lugar de adivinar coordenadas a partir de capturas borrosas, Extra consulta el árbol de accesibilidad nativo de Windows (Automatización de la interfaz de usuario) para hacer clic en el botón, menú o campo de texto exacto con una precisión matemática del 100%.
  3. Escritura instantánea: Escribe 500 caracteres en menos de 5 milisegundos mediante la inyección Unicode nativa de Win32, sin letras perdidas y con soporte completo para emojis e idiomas internacionales.
  4. 🛑 Protección contra bucles infinitos: Si una aplicación se congela o un clic no produce ningún resultado visual, Extra lo detecta de inmediato y se detiene de forma segura en lugar de quemar tus tokens en un bucle sin fin.
  5. 🔒 100% local y privado: Extra se ejecuta completamente en tu máquina. Cero capturas de pantalla, pulsaciones de teclas o telemetría se envían jamás a ningún servidor en la nube.

📊 Comparación de rendimiento

Métrica / CapacidadScripts heredados (PyAutoGUI)Modelos de visión en la nubeMotor Extra
Velocidad de captura de pantalla150 – 300 ms80 – 150 ms1.8 – 3.2 ms (DirectX DXGI)
Velocidad de escritura (100 caracteres)2.5 – 5.0 segundos1.0 – 2.0 segundos< 0.005 segundos (Win32 instantáneo)
Precisión de clic~60% (falla con escala de pantalla)~82% (adivinanza visual)99.4% (UIA nativa de Windows)
Soporte DPI multimonitorRoto en escalas 125%/150%Requiere ajuste manualAutomático (PerMonitorV2)
Costo de tokens de IAAlto (captura completa en cada paso)Alto (carga visual completa)70% menor (árbol de elementos inteligente)
Prevención de bloqueosNinguna (se queda atascado para siempre)Tiempo de espera básicoDetección inteligente de delta visual

🛠️ Herramientas incluidas (Suite MCP)

Cuando se conecta a Extra, tu asistente de IA recibe estas herramientas nativas:

Nombre de la herramientaQué hace
extra_launchAbre cualquier aplicación, utilidad o URL de Windows directamente (calc, notepad, settings, chrome)
extra_inspect_uiEscanea todos los botones, entradas, pestañas y menús visibles en tu pantalla
extra_click_elementHace clic de forma determinista en cualquier elemento por su ID, nombre o cuadro delimitador
extra_screenshotCaptura fotogramas de escritorio de alta resolución con insignias visuales opcionales de Set-of-Mark
extra_clickMueve el mouse, clics izquierdo/derecho y doble clic con precisión DPI de subpíxel
extra_typeInyecta texto al instante con cero retraso, soporte completo de emojis y pegado atómico
extra_hotkeyEnvía atajos de teclado (Ctrl+C, Win+E, Alt+Tab, Enter)
extra_scrollDesplaza suavemente las ruedas hacia arriba, abajo, izquierda o derecha
extra_dragArrastra y suelta archivos, ventanas o controles deslizantes entre coordenadas
extra_browserExtrae directamente el contenido DOM de páginas web en Edge/Chrome sin tomar capturas de pantalla
extra_focus_windowTrae cualquier ventana de aplicación al frente de inmediato
extra_task_startSeñala la ejecución de tareas autónomas; activa el pulso ambiental en el borde de la pantalla y el halo del cursor
extra_task_completeSeñala la finalización de tareas; parpadea un borde verde esmeralda, reproduce un timbre de audio y disuelve los indicadores
extra_indicate_statusControl programático directo sobre los indicadores de escritorio activos, completos e inactivos

🏛️ Estructura del repositorio

extra/
├── assets/                 # Brand logos and banners
├── core/                   # Core Windows Automation Engine
│   ├── capture.py          # Sub-3ms screen capture (DXGI & MSS)
│   ├── geometry.py         # PerMonitorV2 DPI scaling & display normalization
│   ├── indicators.py       # Ambient screen edge pulse, cursor halo, and harmonic audio chime
│   ├── input_engine.py     # Win32 SendInput Unicode & atomic clipboard injection
│   ├── focus.py            # AttachThreadInput window focus forcing
│   ├── uia_plane.py        # Windows UI Automation v3 COM client
│   └── stall_breaker.py    # Closed-loop perceptual diffing & safety killswitch
├── fastpath/               # High-speed deterministic execution
│   ├── shell.py            # Win32 ShellExecuteEx direct app launcher
│   └── browser.py          # Playwright / Edge CDP DOM bridge
├── mcp/                    # Anthropic Model Context Protocol
│   └── server.py           # Standard JSON-RPC stdio/SSE server
├── cli.py                  # CLI runner (extra doctor, test, indicators, run, inspect, snap)
├── install.ps1             # 1-line PowerShell installer
├── pyproject.toml          # Package metadata and build configuration
├── requirements.txt        # Enterprise-audited dependency manifest
├── STARTER_PROMPT.md       # Master AI system prompt & setup directive
├── ARCHITECTURE.md         # Full System Architecture Specification
└── test_core_engine.py     # End-to-end integration test suite

🛡️ Confianza y seguridad empresarial

  • Cero binarios no verificados: Sin archivos compilados misteriosos .dll o .pyd de mantenedores individuales.
  • Estándares de Microsoft y Anthropic: Construido exclusivamente con llamadas al sistema de Microsoft (ctypes), el SDK oficial de MCP de Anthropic (mcp) y paquetes de PSF.
  • Protección a prueba de fallos: Incluye una salida de emergencia en la esquina de la pantalla en (0, 0) y un atajo de pánico global (Ctrl+Alt+Shift+Q).

🌌 Parte del ecosistema soberano yantraOS

Extra es el puente de Windows para yantraOS, el sistema operativo soberano Arch Linux diseñado para la computación autónoma.

Si quieres autonomía de IA de metal desnudo con cero telemetría del sistema operativo, programación del kernel del sistema operativo en sub-microsegundos y control de hardware Wayland nativo, explora yantraos.com.


🤝 Contribuciones

¡Damos la bienvenida a contribuciones de hackers de kernel, investigadores de automatización y desarrolladores de IA!
Consulta nuestra Guía de contribuciones y nuestro Código de conducta.

Para informar vulnerabilidades, revisa nuestra Política de seguridad.


📜 Licencia

Distribuido bajo la Licencia MIT. Consulta LICENCIA para más detalles.
Copyright (c) 2026 Euryale Ferox Private Limited.