agent-browser

作成者: magentosh

inference.sh経由でAIエージェント向けのブラウザー自動化を実行します。Webページの移動、@e refsを使った要素の操作、スクリーンショットの撮影、動画の録画が可能です。機能:Webスクレイピング、フォーム入力、クリック、文字入力、ドラッグ&ドロップ、ファイルのアップロード、JavaScriptの実行。用途:Web自動化、データ抽出、テスト、エージェントによるブラウジング、調査。トリガー:browser、web automation、scrape、navigate、click、fill form、screenshot、browse web、playwright、headless browser、web agent、surf internet、record video

npx skills add https://github.com/magentosh/superpowers --skill agent-browser

Install the belt CLI skill: npx skills add belt-sh/cli

Agentic Browser

Browser automation for AI agents via inference.sh. Uses Playwright under the hood with a simple @e ref system for element interaction.

Agentic Browser

Quick Start

Requires inference.sh CLI (belt). Install instructions

belt login

# Open a page and get interactive elements
belt app run agent-browser --function open --input '{"url": "https://example.com"}' --session new

Core Workflow

Every browser automation follows this pattern:

  1. Open - Navigate to URL, get @e refs for elements
  2. Interact - Use refs to click, fill, drag, etc.
  3. Re-snapshot - After navigation/changes, get fresh refs
  4. Close - End session (returns video if recording)
# 1. Start session
RESULT=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com/login"
}')
SESSION_ID=$(echo $RESULT | jq -r '.session_id')
# Elements: @e1 [input] "Email", @e2 [input] "Password", @e3 [button] "Sign In"

# 2. Fill and submit
belt app run agent-browser --function interact --session $SESSION_ID --input '{
  "action": "fill", "ref": "@e1", "text": "user@example.com"
}'
belt app run agent-browser --function interact --session $SESSION_ID --input '{
  "action": "fill", "ref": "@e2", "text": "password123"
}'
belt app run agent-browser --function interact --session $SESSION_ID --input '{
  "action": "click", "ref": "@e3"
}'

# 3. Re-snapshot after navigation
belt app run agent-browser --function snapshot --session $SESSION_ID --input '{}'

# 4. Close when done
belt app run agent-browser --function close --session $SESSION_ID --input '{}'

Functions

FunctionDescription
openNavigate to URL, configure browser (viewport, proxy, video recording)
snapshotRe-fetch page state with @e refs after DOM changes
interactPerform actions using @e refs (click, fill, drag, upload, etc.)
screenshotTake page screenshot (viewport or full page)
executeRun JavaScript code on the page
closeClose session, returns video if recording was enabled

Interact Actions

ActionDescriptionRequired Fields
clickClick elementref
dblclickDouble-click elementref
fillClear and type textref, text
typeType text (no clear)text
pressPress key (Enter, Tab, etc.)text
selectSelect dropdown optionref, text
hoverHover over elementref
checkCheck checkboxref
uncheckUncheck checkboxref
dragDrag and dropref, target_ref
uploadUpload file(s)ref, file_paths
scrollScroll pagedirection (up/down/left/right), scroll_amount
backGo back in history-
waitWait millisecondswait_ms
gotoNavigate to URLurl

Element Refs

Elements are returned with @e refs:

@e1 [a] "Home" href="/"
@e2 [input type="text"] placeholder="Search"
@e3 [button] "Submit"
@e4 [select] "Choose option"
@e5 [input type="checkbox"] name="agree"

Important: Refs are invalidated after navigation. Always re-snapshot after:

  • Clicking links/buttons that navigate
  • Form submissions
  • Dynamic content loading

Features

Video Recording

Record browser sessions for debugging or documentation:

# Start with recording enabled (optionally show cursor indicator)
SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "record_video": true,
  "show_cursor": true
}' | jq -r '.session_id')

# ... perform actions ...

# Close to get the video file
belt app run agent-browser --function close --session $SESSION --input '{}'
# Returns: {"success": true, "video": <File>}

Cursor Indicator

Show a visible cursor in screenshots and video (useful for demos):

belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "show_cursor": true,
  "record_video": true
}'

The cursor appears as a red dot that follows mouse movements and shows click feedback.

Proxy Support

Route traffic through a proxy server:

belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "proxy_url": "http://proxy.example.com:8080",
  "proxy_username": "user",
  "proxy_password": "pass"
}'

File Upload

Upload files to file inputs:

belt app run agent-browser --function interact --session $SESSION --input '{
  "action": "upload",
  "ref": "@e5",
  "file_paths": ["/path/to/file.pdf"]
}'

Drag and Drop

Drag elements to targets:

belt app run agent-browser --function interact --session $SESSION --input '{
  "action": "drag",
  "ref": "@e1",
  "target_ref": "@e2"
}'

JavaScript Execution

Run custom JavaScript:

belt app run agent-browser --function execute --session $SESSION --input '{
  "code": "document.querySelectorAll(\"h2\").length"
}'
# Returns: {"result": "5", "screenshot": <File>}

Deep-Dive Documentation

ReferenceDescription
references/commands.mdFull function reference with all options
references/snapshot-refs.mdRef lifecycle, invalidation rules, troubleshooting
references/session-management.mdSession persistence, parallel sessions
references/authentication.mdLogin flows, OAuth, 2FA handling
references/video-recording.mdRecording workflows for debugging
references/proxy-support.mdProxy configuration, geo-testing

Ready-to-Use Templates

TemplateDescription
templates/form-automation.shForm filling with validation
templates/authenticated-session.shLogin once, reuse session
templates/capture-workflow.shContent extraction with screenshots

Examples

Form Submission

SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com/contact"
}' | jq -r '.session_id')

# Get elements: @e1 [input] "Name", @e2 [input] "Email", @e3 [textarea], @e4 [button] "Send"

belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e1", "text": "John Doe"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e2", "text": "john@example.com"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e3", "text": "Hello!"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "click", "ref": "@e4"}'

belt app run agent-browser --function snapshot --session $SESSION --input '{}'
belt app run agent-browser --function close --session $SESSION --input '{}'

Search and Extract

SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://google.com"
}' | jq -r '.session_id')

belt app run agent-browser --function interact --session $SESSION --input '{"action": "fill", "ref": "@e1", "text": "weather today"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "press", "text": "Enter"}'
belt app run agent-browser --function interact --session $SESSION --input '{"action": "wait", "wait_ms": 2000}'

belt app run agent-browser --function snapshot --session $SESSION --input '{}'
belt app run agent-browser --function close --session $SESSION --input '{}'

Screenshot with Video

SESSION=$(belt app run agent-browser --function open --session new --input '{
  "url": "https://example.com",
  "record_video": true
}' | jq -r '.session_id')

# Take full page screenshot
belt app run agent-browser --function screenshot --session $SESSION --input '{
  "full_page": true
}'

# Close and get video
RESULT=$(belt app run agent-browser --function close --session $SESSION --input '{}')
echo $RESULT | jq '.video'

Sessions

Browser state persists within a session. Always:

  1. Start with --session new on first call
  2. Use returned session_id for subsequent calls
  3. Close session when done

Related Skills

# Web search (for research + browse)
npx skills add inference-sh/skills@web-search

# LLM models (analyze extracted content)
npx skills add inference-sh/skills@llm-models

Documentation

magentoshのその他のスキル

agent-tools
magentosh
inference.sh CLIでAIアプリを実行 — 画像生成、動画作成、LLM、検索、3D、Twitter自動化。モデル:FLUX、Veo、Gemini、Grok、Claude、Seedance、OmniHuman、Tavily、Exaなど多数。AIアプリの実行、画像・動画の生成、LLMの呼び出し、ウェブ検索、Twitterの自動化に使用。トリガー:inference.sh、infsh、AIモデル、AI実行、サーバーレスAI、AI API、flux、veo、claude API、画像生成、動画生成、tavily、exa検索、twitter API、grok
apiimagevideo
ai-avatar-video
magentosh
inference.sh CLIで推論を実行し、AIアバターやトーキングヘッド動画を作成。おすすめ:P-Video-Avatar(最速、最安、TTS内蔵)。その他:OmniHuman、Fabric、PixVerse。音声:Inworld TTS-2(100以上の言語、キャラクター向けの感情制御)、ElevenLabs、Kokoro。機能:音声駆動アバター、テキストからアバターを生成、リップシンク動画、トーキングヘッド生成、バーチャルプレゼンター、UGCコンテンツ。用途:AIプレゼンター、解説動画、バーチャルインフルエンサー、吹き替え、マーケティング動画、UGC広告、ゲームアバターなど。
videoaudiomarketing
ai-image-generation
magentosh
inference.sh CLIを使って、GPT-Image-2.6、FLUX、Gemini、Grok、Seedream、Reveなど50以上のモデルでAI画像を生成。モデル:GPT-Image-2.6 Flare、GPT-Image-2.6 Sunburst、FLUX Dev LoRA、FLUX.2 Klein LoRA、Nano Banana 2.1、Gemini 3 Pro Image、Grok Imagine 2.0、Seedream 5.5、Reve、ImagineArt。機能:テキストから画像生成、画像から画像生成、インペインティング、LoRA、画像編集、アップスケーリング、テキスト描画。用途:AIアート、製品モックアップ、コンセプトアート、ソーシャルメディア用グラフィック、マーケティングビジュアル、イラストなど。
imagecreativemedia
ai-video-generation
magentosh
inference.sh CLIを通じて、Google Veo、Seedance 2.5、Kling、HappyHorse、Wan、Grokなど40以上のモデルでAI動画を生成。モデル:Veo 3.1、Seedance 2.5、Kling v4、Runway Gen-4.5、FLUX 3 Video、HappyHorse 1.0、Wan 2.7、Grok Imagine Video 1.5、P-Video 2、OmniHuman、Fabric。機能:テキストから動画生成、画像から動画生成、参照素材から動画生成、動画編集、リップシンク、アバターアニメーション、動画のアップスケーリング、フォーリーサウンド。用途:ソーシャルメディア動画、マーケティングコンテンツ、解説動画、製品デモ、AIアバターなど....
videomediacreative
infsh-cli
magentosh
inference.sh CLIでAIアプリを実行 — 画像生成、動画作成、LLM、検索、3D、Twitter自動化。モデル:FLUX、Veo、Gemini、Grok、Claude、Seedance、OmniHuman、Tavily、Exaなど多数。AIアプリの実行、画像・動画の生成、LLMの呼び出し、ウェブ検索、Twitterの自動化に使用。トリガー:inference.sh、infsh、AIモデル、AI実行、サーバーレスAI、AI API、flux、veo、claude api、画像生成、動画生成、tavily、exa search、twitter api、grok
apiimagevideo
python-executor
magentosh
Execute Python code in a safe sandboxed environment via [inference.sh](https://inference.sh). Pre-installed: NumPy, Pandas, Matplotlib, requests, BeautifulSoup, Selenium, Playwright, MoviePy, Pillow, OpenCV, trimesh, and 100+ more libraries. Use for: data processing, web scraping, image manipulation, video creation, 3D model processing, PDF generation, API calls, automation scripts. Triggers: python, execute code, run script, web scraping, data analysis, image processing, video editing, 3D...
developmentdata-analysisweb-scraping
remotion-render
magentosh
inference.sh経由でReact/Remotionコンポーネントコードから動画をレンダリングします。TSXコードを渡すと、MP4を取得できます。useCurrentFrame、useVideoConfig、spring、interpolate、AbsoluteFill、Sequenceなど、RemotionのすべてのAPIに対応。解像度、FPS、長さ、コーデックを設定できます。用途:プログラムによる動画生成、アニメーショングラフィックス、モーションデザイン、データ駆動型動画、Reactアニメーションの動画化。トリガー:remotion、コードから動画をレンダリング、TSXから動画、React動画、プログラムによる動画生成、Remotionレンダリング、コードから動画、アニメーション...
videodevelopmentcreative
twitter-automation
magentosh
inference.sh CLIを使って、投稿、エンゲージメント、ユーザー管理を自動化します。アプリ: x/post-create(テキストとメディア)、x/post-like、x/post-retweet、x/dm-send、x/user-follow。機能: ツイートの投稿、コンテンツの予約、投稿への「いいね」、リツイート、DMの送信、ユーザーのフォロー、プロフィールの取得。用途: ソーシャルメディアの自動化、コンテンツの予約、エンゲージメントボット、オーディエンスの拡大、X API。トリガー: twitter api、x api、tweet automation、post to twitter、twitter bot、social media automation、x automation,...
browser-automationmarketingapi