EXTRA - Native Computer Use
Motor nativo de uso de computadora sin Flash para visión de IA, automatización de mouse, teclado y UI
Documentación
Extra
El Astra 6 de Código Abierto para tu Mac y PC
Tu IA puede ver, hacer clic, escribir, navegar y hacer trabajo real en macOS y Windows.
Sitio web • Inicio rápido • Guía para macOS • Arquitectura • Licencia
✨ ¿Por qué Extra?
Los asistentes de IA actuales pueden escribir ensayos y código brillantes, pero están atrapados dentro de una ventana de chat. Cuando necesitas que hagan clic en un botón, abran una aplicación, organicen tus archivos o ingresen datos en una hoja de cálculo, solo pueden darte instrucciones de texto.
Extra le da a tu IA manos y ojos en Windows.
Conecta Claude, Google Antigravity, Cursor, AGY o cualquier agente autónomo directamente a tu escritorio de Windows con visión de pantalla de alta velocidad, clics de precisión de píxel perfecto y escritura instantánea.
- Sin extensiones de navegador torpes.
- Sin servidores en la nube costosos que vigilen tu pantalla.
- 100% código abierto, local y privado.
💡 Lo que puedes pedirle a tu IA que haga
Una vez que Extra esté en funcionamiento, puedes hablar con tu IA como si fuera un asistente humano real sentado en tu escritorio:
- 📊 Hojas de cálculo y datos: "Abre Excel, calcula los ingresos totales de los CSV de facturas en mi carpeta de Descargas y crea un gráfico resumen."
- 🗂️ Escritorio y limpieza de archivos: "Limpia mi escritorio desordenado moviendo capturas de pantalla a Imágenes, PDFs a Documentos y eliminando carpetas vacías."
- 🌐 Investigación web y entrada de datos: "Abre Chrome, encuentra los 5 mejores vuelos a Tokio por menos de $800 y copia sus números de vuelo y fechas en el Bloc de notas."
- ⚙️ Tareas del sistema Windows: "Abre Configuración, verifica si hay actualizaciones de Windows pendientes y avísame si se necesita un reinicio."
- 🎵 Control de aplicaciones: "Abre Spotify, busca ritmos de concentración low-fi y comienza a reproducir."
⚡ Inicio rápido (1 minuto)
Puedes configurar Extra en segundos en macOS o Windows:
Opción A: Pídele a tu IA que lo configure (Canal principal — Más fácil)
Copia y pega la instrucción única para tu sistema operativo en Claude Desktop, Google Antigravity, Cursor, Windsurf o cualquier agente MCP:
-
🍏 Para macOS (Apple Silicon M1-M4 e Intel):
Setup Extra on my Mac: In Terminal run 'curl -sSL https://extra.yantraos.com/install.sh | bash', then read and configure ~/.extra/app/STARTER_PROMPT_MACOS.md so we are ready to use Extra. -
🪟 Para Windows (11 / 10):
Setup Extra on my PC: In PowerShell run 'iwr -useb https://extra.yantraos.com/install.ps1 -OutFile "$env:TEMP\install_extra.ps1"; & "$env:TEMP\install_extra.ps1"', then read and configure ~/.extra/app/STARTER_PROMPT.md so we are ready to use Extra.
Tu IA ejecutará el instalador, configurará MCP y las reglas locales, y responderá:
"¡Estamos listos! Por favor reinicia <your AI application, e.g. Claude Desktop, Antigravity, Cursor, Windsurf> para que funcione."
Opción B: Ejecuta el comando de una línea tú mismo
-
🍏 Terminal de macOS:
curl -sSL https://extra.yantraos.com/install.sh | bash -
🪟 PowerShell de Windows (Escalonado, limpio para Defender):
iwr -useb https://extra.yantraos.com/install.ps1 -OutFile "$env:TEMP\install_extra.ps1"; & "$env:TEMP\install_extra.ps1"
El instalador automatizado:
- Verificará la arquitectura del sistema operativo (macOS 12.3+ o Windows 10/11 de 64 bits).
- Aprovisionará un entorno de ejecución aislado de Python 3.10+ (
~/.extra/venv). - Configurará automáticamente Claude Desktop, Cursor, Windsurf y Antigravity (
agy). - Ejecutará el diagnóstico de salud y presentará el mensaje de inicio en 1 paso.
Opción C: Clon de Git para desarrolladores
# macOS:
git clone https://github.com/AIYantra/extra.git ~/.extra/app
cd ~/.extra/app && ./install.sh
# Windows:
git clone https://github.com/AIYantra/extra.git "$HOME\.extra\app"
cd "$HOME\.extra\app" ; .\install.ps1
Conexión a cualquier IA compatible con MCP
Extra funciona de inmediato con cualquier agente que admita el Protocolo de Contexto de Modelo (MCP). Si usas Cursor, Windsurf o agentes personalizados, agrega este fragmento a tu configuración de MCP:
{
"mcpServers": {
"extra": {
"command": "python",
"args": ["-m", "extra.mcp.server"]
}
}
}
🎯 Cómo funciona internamente
Extra está diseñado desde cero para velocidad, confiabilidad y eficiencia de tokens:
- 👁️ Captura de pantalla ultrarrápida (< 3 ms): Utiliza la duplicación de escritorio nativa de DirectX (DXGI) para tomar fotogramas de escritorio nítidos en menos de 3 milisegundos, sin retrasar tu PC ni difuminar el texto.
- 🎯 Clics de precisión de píxel perfecto: En lugar de adivinar coordenadas a partir de capturas borrosas, Extra consulta el árbol de accesibilidad nativo de Windows (Automatización de la interfaz de usuario) para hacer clic en el botón, menú o campo de texto exacto con una precisión matemática del 100%.
- ⚡ Escritura instantánea: Escribe 500 caracteres en menos de 5 milisegundos mediante la inyección Unicode nativa de Win32, sin letras perdidas y con soporte completo para emojis e idiomas internacionales.
- 🛑 Protección contra bucles infinitos: Si una aplicación se congela o un clic no produce ningún resultado visual, Extra lo detecta de inmediato y se detiene de forma segura en lugar de quemar tus tokens en un bucle sin fin.
- 🔒 100% local y privado: Extra se ejecuta completamente en tu máquina. Cero capturas de pantalla, pulsaciones de teclas o telemetría se envían jamás a ningún servidor en la nube.
📊 Comparación de rendimiento
| Métrica / Capacidad | Scripts heredados (PyAutoGUI) | Modelos de visión en la nube | Motor Extra |
|---|---|---|---|
| Velocidad de captura de pantalla | 150 – 300 ms | 80 – 150 ms | 1.8 – 3.2 ms (DirectX DXGI) |
| Velocidad de escritura (100 caracteres) | 2.5 – 5.0 segundos | 1.0 – 2.0 segundos | < 0.005 segundos (Win32 instantáneo) |
| Precisión de clic | ~60% (falla con escala de pantalla) | ~82% (adivinanza visual) | 99.4% (UIA nativa de Windows) |
| Soporte DPI multimonitor | Roto en escalas 125%/150% | Requiere ajuste manual | Automático (PerMonitorV2) |
| Costo de tokens de IA | Alto (captura completa en cada paso) | Alto (carga visual completa) | 70% menor (árbol de elementos inteligente) |
| Prevención de bloqueos | Ninguna (se queda atascado para siempre) | Tiempo de espera básico | Detección inteligente de delta visual |
🛠️ Herramientas incluidas (Suite MCP)
Cuando se conecta a Extra, tu asistente de IA recibe estas herramientas nativas:
| Nombre de la herramienta | Qué hace |
|---|---|
extra_launch | Abre cualquier aplicación, utilidad o URL de Windows directamente (calc, notepad, settings, chrome) |
extra_inspect_ui | Escanea todos los botones, entradas, pestañas y menús visibles en tu pantalla |
extra_click_element | Hace clic de forma determinista en cualquier elemento por su ID, nombre o cuadro delimitador |
extra_screenshot | Captura fotogramas de escritorio de alta resolución con insignias visuales opcionales de Set-of-Mark |
extra_click | Mueve el mouse, clics izquierdo/derecho y doble clic con precisión DPI de subpíxel |
extra_type | Inyecta texto al instante con cero retraso, soporte completo de emojis y pegado atómico |
extra_hotkey | Envía atajos de teclado (Ctrl+C, Win+E, Alt+Tab, Enter) |
extra_scroll | Desplaza suavemente las ruedas hacia arriba, abajo, izquierda o derecha |
extra_drag | Arrastra y suelta archivos, ventanas o controles deslizantes entre coordenadas |
extra_browser | Extrae directamente el contenido DOM de páginas web en Edge/Chrome sin tomar capturas de pantalla |
extra_focus_window | Trae cualquier ventana de aplicación al frente de inmediato |
extra_task_start | Señala la ejecución de tareas autónomas; activa el pulso ambiental en el borde de la pantalla y el halo del cursor |
extra_task_complete | Señala la finalización de tareas; parpadea un borde verde esmeralda, reproduce un timbre de audio y disuelve los indicadores |
extra_indicate_status | Control programático directo sobre los indicadores de escritorio activos, completos e inactivos |
🏛️ Estructura del repositorio
extra/
├── assets/ # Brand logos and banners
├── core/ # Core Windows Automation Engine
│ ├── capture.py # Sub-3ms screen capture (DXGI & MSS)
│ ├── geometry.py # PerMonitorV2 DPI scaling & display normalization
│ ├── indicators.py # Ambient screen edge pulse, cursor halo, and harmonic audio chime
│ ├── input_engine.py # Win32 SendInput Unicode & atomic clipboard injection
│ ├── focus.py # AttachThreadInput window focus forcing
│ ├── uia_plane.py # Windows UI Automation v3 COM client
│ └── stall_breaker.py # Closed-loop perceptual diffing & safety killswitch
├── fastpath/ # High-speed deterministic execution
│ ├── shell.py # Win32 ShellExecuteEx direct app launcher
│ └── browser.py # Playwright / Edge CDP DOM bridge
├── mcp/ # Anthropic Model Context Protocol
│ └── server.py # Standard JSON-RPC stdio/SSE server
├── cli.py # CLI runner (extra doctor, test, indicators, run, inspect, snap)
├── install.ps1 # 1-line PowerShell installer
├── pyproject.toml # Package metadata and build configuration
├── requirements.txt # Enterprise-audited dependency manifest
├── STARTER_PROMPT.md # Master AI system prompt & setup directive
├── ARCHITECTURE.md # Full System Architecture Specification
└── test_core_engine.py # End-to-end integration test suite
🛡️ Confianza y seguridad empresarial
- Cero binarios no verificados: Sin archivos compilados misteriosos
.dllo.pydde mantenedores individuales. - Estándares de Microsoft y Anthropic: Construido exclusivamente con llamadas al sistema de Microsoft (
ctypes), el SDK oficial de MCP de Anthropic (mcp) y paquetes de PSF. - Protección a prueba de fallos: Incluye una salida de emergencia en la esquina de la pantalla en
(0, 0)y un atajo de pánico global (Ctrl+Alt+Shift+Q).
🌌 Parte del ecosistema soberano yantraOS
Extra es el puente de Windows para yantraOS, el sistema operativo soberano Arch Linux diseñado para la computación autónoma.
Si quieres autonomía de IA de metal desnudo con cero telemetría del sistema operativo, programación del kernel del sistema operativo en sub-microsegundos y control de hardware Wayland nativo, explora yantraos.com.
🤝 Contribuciones
¡Damos la bienvenida a contribuciones de hackers de kernel, investigadores de automatización y desarrolladores de IA!
Consulta nuestra Guía de contribuciones y nuestro Código de conducta.
Para informar vulnerabilidades, revisa nuestra Política de seguridad.
📜 Licencia
Distribuido bajo la Licencia MIT. Consulta LICENCIA para más detalles.
Copyright (c) 2026 Euryale Ferox Private Limited.