agent-browser

作成者: beltsh

inference.sh経由でAIエージェント向けのブラウザー自動化を実現します。Webページの移動、@e refsを使った要素の操作、スクリーンショットの撮影、動画の録画が可能です。機能:Webスクレイピング、フォーム入力、クリック、文字入力、ドラッグ&ドロップ、ファイルのアップロード、JavaScriptの実行。用途:Web自動化、データ抽出、テスト、エージェントによるブラウジング、調査。トリガー:browser、web automation、scrape、navigate、click、fill form、screenshot、browse web、playwright、headless browser、web agent、surf internet、record video

npx skills add https://github.com/beltsh/superpowers --skill agent-browser

Install the belt CLI skill: npx skills add belt-sh/cli

Agentic Browser

Browser automation for AI agents via inference.sh. Uses Playwright under the hood with a simple @e ref system for element interaction.

Agentic Browser

Quick Start

Requires inference.sh CLI (belt). Install instructions

belt login

# Open a page and get interactive elements
belt app run agent-browser --function open --input '{"url": "https://example.com"}' --session new

Core Workflow

Every browser automation follows this pattern:

  1. Open - Navigate to URL, get @e refs for elements
  2. Interact - Use refs to click, fill, drag, etc.
  3. Re-snapshot - After navigation/changes, get fresh refs
  4. Close - End session (returns video if recording)
# 1. Start session
RESULT=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com/login"
}')
SESSION_ID=$(echo $RESULT | jq -r '.session_id')
# Elements: @e1 [input] "Email", @e2 [input] "Password", @e3 [button] "Sign In"

# 2. Fill and submit
belt app run agent-browser --function interact --session $SESSION_ID --input '{
  "action": "fill", "ref": "@e1", "text": "user@example.com"
}'
belt app run agent-browser --function interact --session $SESSION_ID --input '{
  "action": "fill", "ref": "@e2", "text": "password123"
}'
belt app run agent-browser --function interact --session $SESSION_ID --input '{
  "action": "click", "ref": "@e3"
}'

# 3. Re-snapshot after navigation
belt app run agent-browser --function snapshot --session $SESSION_ID --input '{}'

# 4. Close when done
belt app run agent-browser --function close --session $SESSION_ID --input '{}'

Functions

FunctionDescription
openNavigate to URL, configure browser (viewport, proxy, video recording)
snapshotRe-fetch page state with @e refs after DOM changes
interactPerform actions using @e refs (click, fill, drag, upload, etc.)
screenshotTake page screenshot (viewport or full page)
executeRun JavaScript code on the page
closeClose session, returns video if recording was enabled

Interact Actions

ActionDescriptionRequired Fields
clickClick elementref
dblclickDouble-click elementref
fillClear and type textref, text
typeType text (no clear)text
pressPress key (Enter, Tab, etc.)text
selectSelect dropdown optionref, text
hoverHover over elementref
checkCheck checkboxref
uncheckUncheck checkboxref
dragDrag and dropref, target_ref
uploadUpload file(s)ref, file_paths
scrollScroll pagedirection (up/down/left/right), scroll_amount
backGo back in history-
waitWait millisecondswait_ms
gotoNavigate to URLurl

Element Refs

Elements are returned with @e refs:

@e1 [a] "Home" href="/"
@e2 [input type="text"] placeholder="Search"
@e3 [button] "Submit"
@e4 [select] "Choose option"
@e5 [input type="checkbox"] name="agree"

Important: Refs are invalidated after navigation. Always re-snapshot after:

  • Clicking links/buttons that navigate
  • Form submissions
  • Dynamic content loading

Features

Video Recording

Record browser sessions for debugging or documentation:

# Start with recording enabled (optionally show cursor indicator)
SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "record_video": true,
  "show_cursor": true
}' | jq -r '.session_id')

# ... perform actions ...

# Close to get the video file
belt app run agent-browser --function close --session $SESSION --input '{}'
# Returns: {"success": true, "video": <File>}

Cursor Indicator

Show a visible cursor in screenshots and video (useful for demos):

belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "show_cursor": true,
  "record_video": true
}'

The cursor appears as a red dot that follows mouse movements and shows click feedback.

Proxy Support

Route traffic through a proxy server:

belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "proxy_url": "http://proxy.example.com:8080",
  "proxy_username": "user",
  "proxy_password": "pass"
}'

File Upload

Upload files to file inputs:

belt app run agent-browser --function interact --session $SESSION --input '{
  "action": "upload",
  "ref": "@e5",
  "file_paths": ["/path/to/file.pdf"]
}'

Drag and Drop

Drag elements to targets:

belt app run agent-browser --function interact --session $SESSION --input '{
  "action": "drag",
  "ref": "@e1",
  "target_ref": "@e2"
}'

JavaScript Execution

Run custom JavaScript:

belt app run agent-browser --function execute --session $SESSION --input '{
  "code": "document.querySelectorAll(\"h2\").length"
}'
# Returns: {"result": "5", "screenshot": <File>}

Deep-Dive Documentation

ReferenceDescription
references/commands.mdFull function reference with all options
references/snapshot-refs.mdRef lifecycle, invalidation rules, troubleshooting
references/session-management.mdSession persistence, parallel sessions
references/authentication.mdLogin flows, OAuth, 2FA handling
references/video-recording.mdRecording workflows for debugging
references/proxy-support.mdProxy configuration, geo-testing

Ready-to-Use Templates

TemplateDescription
templates/form-automation.shForm filling with validation
templates/authenticated-session.shLogin once, reuse session
templates/capture-workflow.shContent extraction with screenshots

Examples

Form Submission

SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com/contact"
}' | jq -r '.session_id')

# Get elements: @e1 [input] "Name", @e2 [input] "Email", @e3 [textarea], @e4 [button] "Send"

belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e1", "text": "John Doe"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e2", "text": "john@example.com"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e3", "text": "Hello!"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "click", "ref": "@e4"}'

belt app run agent-browser --function snapshot --session $SESSION --input '{}'
belt app run agent-browser --function close --session $SESSION --input '{}'

Search and Extract

SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://google.com"
}' | jq -r '.session_id')

belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e1", "text": "weather today"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "press", "text": "Enter"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "wait", "wait_ms": 2000}'

belt app run agent-browser --function snapshot --session $SESSION --input '{}'
belt app run agent-browser --function close --session $SESSION --input '{}'

Screenshot with Video

SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "record_video": true
}' | jq -r '.session_id')

# Take full page screenshot
belt app run agent-browser --function screenshot --session $SESSION --input '{
  "full_page": true
}'

# Close and get video
RESULT=$(belt app run agent-browser --function close --session $SESSION --input '{}')
echo $RESULT | jq '.video'

Sessions

Browser state persists within a session. Always:

  1. Start with --session new on first call
  2. Use returned session_id for subsequent calls
  3. Close session when done

Related Skills

# Web search (for research + browse)
npx skills add inference-sh/skills@web-search

# LLM models (analyze extracted content)
npx skills add inference-sh/skills@llm-models

Documentation

beltshのその他のスキル

agent-tools
beltsh
inference.sh CLIでAIアプリを実行 — 画像生成、動画作成、LLM、検索、3D、Twitter自動化。モデル:FLUX、Veo、Gemini、Grok、Claude、Seedance、OmniHuman、Tavily、Exaなど多数。AIアプリの実行、画像・動画の生成、LLMの呼び出し、ウェブ検索、Twitterの自動化に使用。トリガー:inference.sh、infsh、AIモデル、AI実行、サーバーレスAI、AI API、flux、veo、claude API、画像生成、動画生成、tavily、exa検索、twitter API、grok
mediaapibrowser-automation
ai-avatar-video
beltsh
inference.sh CLIでAIアバターやトーキングヘッド動画を生成。おすすめ:P-Video-Avatar(最速、最安、TTS内蔵)。その他:OmniHuman、Fabric、PixVerse。音声:Inworld TTS-2(100以上の言語、キャラクター向けの感情制御)、ElevenLabs、Kokoro。機能:音声駆動アバター、テキストからアバターを生成、リップシンク動画、トーキングヘッド生成、バーチャルプレゼンター、UGCコンテンツ。用途:AIプレゼンター、解説動画、バーチャルインフルエンサー、吹き替え、マーケティング動画、UGC広告、ゲームアバターなど。
videoaudiomarketing
ai-image-generation
beltsh
inference.sh CLIを使って、GPT-Image-2.6、FLUX、Gemini、Grok、Seedream、Reveなど50以上のモデルでAI画像を生成。モデル:GPT-Image-2.6 Flare、GPT-Image-2.6 Sunburst、FLUX Dev LoRA、FLUX.2 Klein LoRA、Nano Banana 2.1、Gemini 3 Pro Image、Grok Imagine 2.0、Seedream 5.5、Reve、ImagineArt。機能:テキストから画像生成、画像から画像生成、インペインティング、LoRA、画像編集、アップスケーリング、テキスト描画。用途:AIアート、製品モックアップ、コンセプトアート、ソーシャルメディア用グラフィック、マーケティングビジュアル、イラストなど。
imagecreativemedia
ai-video-generation
beltsh
inference.sh CLIを通じて、Google Veo、Seedance 2.5、Kling、HappyHorse、Wan、Grokなど40以上のモデルでAI動画を生成。モデル:Veo 3.1、Seedance 2.5、Kling v4、Runway Gen-4.5、FLUX 3 Video、HappyHorse 1.0、Wan 2.7、Grok Imagine Video 1.5、P-Video 2、OmniHuman、Fabric。機能:テキストから動画、画像から動画、参照素材から動画、動画編集、リップシンク、アバターアニメーション、動画のアップスケーリング、フォーリーサウンド。用途:ソーシャルメディア動画、マーケティングコンテンツ、解説動画、製品デモ、AIアバターなど。
videomediacreative
app-store-screenshots
beltsh
プラットフォームの正確な仕様に準拠した、App StoreおよびGoogle Play向けスクリーンショットの作成。iOS/Androidの寸法、ギャラリーの並び順、デバイスのモックアップ、プレビュー動画に対応。用途:アプリストア最適化、ASO、アプリのスクリーンショット、アプリプレビュー、Playストアの掲載情報。トリガー:App Storeのスクリーンショット、ASO、アプリストア最適化、Playストアのスクリーンショット、アプリプレビュー、アプリの掲載情報、iOSのスクリーンショット、Androidのスクリーンショット、アプリストアの画像、アプリのモックアップ、デバイスのモックアップ、アプリのギャラリー、ストアの掲載情報
designmarketingimage
character-design-sheet
beltsh
参照シートとLoRA技術を使って、AI生成画像のキャラクターの一貫性を保ちます。ターンアラウンドビュー、表情シート、カラーパレット、スタイルの一貫性を保つコツを扱います。用途:キャラクターデザイン、ゲームアート、イラスト、アニメーション、コミック、ビジュアルノベル。トリガー:キャラクターデザイン、キャラクターシート、キャラクターの一貫性、キャラクター参照、ターンアラウンドシート、表情シート、キャラクターアート、一貫性のあるキャラクター、キャラクターコンセプト、参照シート、キャラクター作成、OCデザイン,...
designimagecreative
competitor-teardown
beltsh
機能マトリクス、SWOT、ポジショニングマップ、UXレビューを用いた体系的な競合分析。調査フレームワーク、価格比較、レビュー分析、ビジュアル資料の作成を網羅。用途:市場調査、競合情報分析、投資家向け資料、製品戦略、営業支援。トリガー:競合分析、競合調査、競合の詳細分析、市場調査、競合情報分析、SWOT分析、競合比較、市場環境、競合レビュー、競合...
researchdata-analysisproductivity
image-to-video
beltsh
静止画から動画への変換ガイド:モデルの選択、モーションプロンプト、カメラワーク。Wan 2.7 i2v、Seedance 2.5、Kling v4、Grok Imagine Video 1.5を取り上げ、それぞれの使いどころを解説します。用途:画像のアニメーション化、静止画からの動画作成、動きの追加、製品アニメーション。トリガー:画像から動画、i2v、画像をアニメーション化、静止画から動画、画像に動きを追加、画像アニメーション、写真から動画、静止画をアニメーション化、wan i2v、image2video、画像に命を吹き込む、写真をアニメーション化、画像から動きを生成
videoimagecreative