Tokenectomy Razor
आधिकारिकतेज़, हल्का Rust-आधारित MCP सर्वर जो LLMs के लिए प्रॉम्प्ट पेलोड को अनुकूलित करने और टोकन ओवरहेड को कम करने के लिए डिज़ाइन किया गया है।
Tokenectomy Razor MCP के साथ आप क्या कर सकते हैं?
- Sanitize error logs — Ask to scrub framework noise and redact credentials from a stack trace with
get_error_context, returning only relevant local source. - Search for known fixes — Have the assistant query Stack Exchange via
search_stack_overflowusing sanitized error signatures to find relevant solutions. - Apply validated code patches — Request atomic file edits with
apply_code_patch, which runs syntax checks and rolls back automatically on failure. - Detect code defects — Use
analyze_codefor static AST analysis to find resource leaks, security issues, and bugs with precise LSP coordinates. - Run a local redaction proxy — Configure the
--proxymode to intercept and sanitize LLM API traffic on localhost before forwarding upstream.
दस्तावेज़
Tokenectomy Razor
AI कोडिंग एजेंटों के लिए तेज़, नियतात्मक लॉग सर्जरी और गोपनीय डेटा संपादन — 90%+ फ्रेमवर्क शोर हटाएँ, O(N) ReDoS प्रतिरक्षा के साथ क्रेडेंशियल संपादित करें, उप-मिलीसेकंड विलंबता। सुरक्षित Rust में लिखा गया।
Tokenectomy (संज्ञा): token + -ectomy (शल्य चिकित्सा द्वारा निष्कासन) — LLM संदर्भ विंडो से बेकार टोकनों का सटीक निष्कासन।
AI कोडिंग एजेंटों के लिए उच्च-प्रदर्शन लॉग सर्जरी और गोपनीय डेटा संपादन इंजन
- आधिकारिक MCP रजिस्ट्री:
mcp-name: io.github.Tokenectomy-Labs/razor
📋 विषय-सूची
- यह क्या करता है
- मुख्य विशेषताएँ
- बेंचमार्क
- स्थापना
- MCP एकीकरण
- उपयोग-मामले के अनुसार उपयोग
- उन्नत विशेषताएँ
- तुलना
- FAQ
- रोडमैप
- सुरक्षा
- योगदान
यह क्या करता है
Tokenectomy Razor एक स्वायत्त, मशीन-से-मशीन (M2M) मॉडल संदर्भ प्रोटोकॉल (MCP) सर्वर और स्ट्रीम प्रोसेसिंग इंजन है जो सुरक्षित Rust में लिखा गया है। यह AI एजेंटों से त्रुटि लॉग को रोकता है, 90%+ फ्रेमवर्क शोर हटाता है, स्वचालित रूप से गोपनीय डेटा (JWT, API कुंजियाँ, डेटाबेस क्रेडेंशियल) संपादित करता है, और 24-घंटे TTL के साथ स्वच्छ संदर्भों को कैश करता है—बिना कच्चे डेटा को बाहरी सेवाओं को भेजे।
30 सेकंड में
समस्या:
- AI एजेंट फ्रेमवर्क शोर पर टोकन बर्बाद करते हैं (
node_modules,site-packages,.cargo/registry) - संवेदनशील क्रेडेंशियल गलती से LLM लॉग में लीक हो जाते हैं (AWS कुंजियाँ, डेटाबेस URL, API टोकन)
- बार-बार होने वाली समान त्रुटियाँ हर पुनः प्रयास पर पैसा खर्च करती हैं
समाधान:
Raw Error Log (38K tokens + secrets)
↓
[Redact secrets locally] → [Filter framework frames] → [Extract user code]
↓
Sanitized Context (2K tokens, no secrets) → Safe to send to LLM
वास्तविक उदाहरण
पहले:
$ cat error.log | head -20
Error in /home/user/.cargo/registry/src-xxx/tokio-1.35/src/runtime/mod.rs:12345
at /home/user/.cargo/registry/src-yyy/serde/src/lib.rs:456
Database connection failed: postgresql://admin:secretpass@db.example.com:5432/mydb
JWT Auth token: eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIxMjM0NTY3ODkwIn0...
[... 500+ more framework frames ...]
बाद में:
$ cat error.log | razor --scrub
Error in /home/user/src/main.rs:42
at /home/user/src/utils.rs:18
Database connection failed: [CONNECTION_STRING_REDACTED]
JWT Auth token: [JWT_REDACTED]
लाभ:
- ✅ 95% छोटा संदर्भ (2K बनाम 38K टोकन) → LLM API कॉल पर पैसे बचाएँ
- ✅ लॉग में शून्य गोपनीय डेटा → रात में अच्छी नींद लें
- ✅ समान त्रुटियाँ कैश होती हैं → दूसरा पुनः प्रयास $0 खर्च करता है
तकनीकी मुख्य विशेषताएँ
┌──────────────────────────────────────────────┐
Agent Error │ TOKENECTOMY RAZOR │ Sanitized Context
Dump (38K toks) │ - Polyglot Stack Frame Filter │ ──► (2K toks) ──► LLM
────────────────►│ - Deterministic Secret Redactor (O(N)) │
│ - SHA-256 Idempotency Cache (24h TTL) │
└──────────────────────────────────────────────┘
- गहन बहुभाषी ट्रेस सर्जरी: Rust, Python, TypeScript/JavaScript, Go, Java/Kotlin (Spring Boot 3, Tomcat, Hibernate, Netty, Undertow, HikariCP), C/C++ (AddressSanitizer, GDB, glibc), और PHP में इन-मेमोरी पार्सिंग। शोरगुल वाले फ्रेमवर्क आंतरिक और रनटाइम बॉयलरप्लेट को शल्य चिकित्सा से फ़िल्टर करता है जबकि वास्तविक उपयोगकर्ता एप्लिकेशन कोड फ्रेम को अलग करता है।
- स्थिर AST कोड विश्लेषण इंजन (
analyze_code): उच्च-थ्रूपुट स्थिर AST विश्लेषण जो बंद न किए गए हैंडल, संसाधन रिसाव, और सुरक्षा कमजोरियों का पता लगाता है, सीमित निष्पादन सीमाओं (50K AST नोड्स, 10 MB फ़ाइल सीमा) और सटीक LSP UTF-16 निर्देशांक के साथ। - Glama ग्रेड A TDQS अनुपालन: स्पष्ट स्कीमा सीमाओं, रनटाइम पूर्व-शर्तों, और सभी MCP टूल्स में पूर्ण प्रकटीकरण के साथ 100% टूल परिभाषा गुणवत्ता स्कोर।
- AI गेटवे रिवर्स प्रॉक्सी (
--proxy):127.0.0.1:8080पर प्रॉम्प्ट स्ट्रीम को पारदर्शी रूप से रोकता है, अपस्ट्रीम फॉरवर्डिंग से पहले OpenAI, Anthropic, या Ollama को वास्तविक समय में टोकन निष्कासन और क्रेडेंशियल स्वच्छता करता है। - शून्य-ज्ञान गोपनीय डेटा संपादन: रैखिक-समय नियतात्मक regex इंजन नेटवर्क ट्रांसमिशन से पहले JWT, API टोकन, क्लाउड एक्सेस कुंजियाँ, कनेक्शन स्ट्रिंग, और निजी कुंजियाँ हटाता है। सभी प्रोसेसिंग स्थानीय रूप से होती है।
- SHA-256 आइडेम्पोटेंसी कैश: 24-घंटे TTL के साथ नियतात्मक प्रतिक्रियाएँ संग्रहीत करता है। बार-बार CI/CD या एजेंट लूप विफलताएँ शून्य अपस्ट्रीम API लागत उत्पन्न करती हैं।
- पथ ट्रैवर्सल रोकथाम: सभी MCP फ़ाइलसिस्टम एक्सेस को कैनोनिकलाइज़ किया जाता है और वर्कस्पेस रूट सीमा (
CWD) तक लॉक किया जाता है। कोई../एस्केप या सिमलिंक ब्रेकआउट नहीं। - M2M प्रोटोकॉल अनुपालन: आधिकारिक मॉडल संदर्भ प्रोटोकॉल विनिर्देश के अनुरूप मूल JSON-RPC 2.0 stdio सर्वर।
सत्यापन योग्य बेंचमार्क
प्रदर्शन मेट्रिक्स हार्डवेयर-आधारित और स्टैंडअलोन बेंचमार्क सुइट्स के माध्यम से पुनरुत्पादन योग्य हैं:
| बेंचमार्क लक्ष्य | परीक्षण के तहत कार्यभार | सत्यापित माप | परिणाम |
|---|---|---|---|
| उच्च-मात्रा लॉग संपादन | 250,000 पंक्तियाँ (24.44 MB) एंटरप्राइज़ डंप जिसमें API कुंजियाँ और कनेक्शन URI हैं | 333.49 ms (73.3 MB/सेकंड, 749,652 पंक्तियाँ/सेकंड) | पास |
| ReDoS प्रतिरोध | 50,000-वर्ण पैथोलॉजिकल बैकट्रैकिंग स्ट्रिंग | 1.44 ms (रैखिक $O(N)$ मूल्यांकन) | पास |
| थ्रेड समवर्तीता | 100 समवर्ती OS थ्रेड एक साथ संपादन और निष्कर्षण कर रहे हैं | 100/100 27.35 ms में पूर्ण (7,312 ops/सेकंड) | पास |
| कर्नेल मेमोरी फुटप्रिंट | 250,000-पंक्ति निरंतर तनाव परीक्षण के दौरान पीक रेजिडेंट मेमोरी | 76.24 MB VmRSS /proc/self/status के माध्यम से | पास |
बेंचमार्क को समझना
| मेट्रिक | यह क्यों मायने रखता है | क्या अपेक्षा करें |
|---|---|---|
| 73.3 MB/सेकंड संपादन थ्रूपुट | अधिकांश लॉग <5MB हैं; आप उन्हें मिलीसेकंड में संपादित करेंगे | सामान्य CI लॉग के लिए <10ms |
| 1.44ms ReDoS प्रतिरक्षा | दुर्भावनापूर्ण लॉग पेलोड को आपके सिस्टम को DoS करने से रोकता है | अविश्वसनीय इनपुट के साथ उत्पादन में उपयोग करना सुरक्षित |
| 76.24 MB पीक मेमोरी | सीमित CI/CD रनर (GitHub Actions, GitLab) के लिए उपयुक्त | 256MB सीमाओं के भीतर आराम से फिट बैठता है |
| 7,312 ops/सेकंड समवर्ती | कई AI एजेंट एक साथ क्वेरी कर रहे हैं | 100 समवर्ती अनुरोध सुरक्षित रूप से संभाले जाते हैं |
स्थानीय रूप से पुनरुत्पादित करें:
cargo test --release --test stress_benchmark -- --nocapture
स्थापना
विधि 1: npx के माध्यम से तुरंत (MCP क्लाइंट के लिए अनुशंसित)
कोई Rust टूलचेन, मूल संकलन, या मैन्युअल पथ सेटअप आवश्यक नहीं:
npx -y tokenectomy-razor --mcp
या npm के माध्यम से वैश्विक रूप से स्थापित करें:
npm install -g tokenectomy-razor
विधि 2: Cargo (crates.io)
cargo install tokenectomy
विधि 3: पूर्व-संकलित मूल बाइनरी (GitHub रिलीज़)
शून्य-निर्भरता, पूर्व-संकलित स्टैंडअलोन बाइनरी सीधे GitHub रिलीज़ से डाउनलोड करें:
- Linux:
tokenectomy-linux-x86_64(glibc),tokenectomy-linux-x86_64-musl,tokenectomy-linux-aarch64 - macOS:
tokenectomy-darwin-arm64(Apple Silicon M1/M2/M3/M4),tokenectomy-darwin-x86_64(Intel) - Windows:
tokenectomy-windows-x86_64.exe
विधि 4: स्रोत से निर्माण
git clone https://github.com/Tokenectomy-Labs/Tokenectomy.git
cd Tokenectomy
cargo build --release
sudo cp target/release/razor /usr/local/bin/razor
विधि 5: मल्टी-आर्क कंटेनर (GHCR)
docker pull ghcr.io/tokenectomy-labs/razor:latest
docker run -it ghcr.io/tokenectomy-labs/razor:latest --help
मॉडल संदर्भ प्रोटोकॉल (MCP) एकीकरण
प्रमुख AI एजेंट वातावरणों में Tokenectomy Razor को स्वायत्त पृष्ठभूमि सर्वर के रूप में कॉन्फ़िगर करें:
Claude Desktop
~/Library/Application Support/Claude/claude_desktop_config.json (macOS) या %APPDATA%\Claude\claude_desktop_config.json (Windows) में जोड़ें:
{
"mcpServers": {
"tokenectomy": {
"command": "npx",
"args": ["-y", "tokenectomy-razor", "--mcp"]
}
}
}
Cursor
अपने प्रोजेक्ट रूट में .cursor/mcp.json में जोड़ें:
{
"mcpServers": {
"tokenectomy": {
"command": "npx",
"args": ["-y", "tokenectomy-razor", "--mcp"]
}
}
}
VS Code (नेटिव MCP / GitHub Copilot Agent / Continue)
नेटिव MCP समर्थन वाले VS Code के लिए, अपने वर्कस्पेस में .vscode/mcp.json बनाएँ या संपादित करें:
{
"mcpServers": {
"tokenectomy": {
"command": "npx",
"args": ["-y", "tokenectomy-razor", "--mcp"]
}
}
}
या अल्ट्रा-लो विलंबता नेटिव बाइनरी का उपयोग करें (यदि cargo install tokenectomy के माध्यम से स्थापित है):
{
"mcpServers": {
"tokenectomy": {
"command": "razor",
"args": ["--mcp"]
}
}
}
VS Code + Cline
VS Code में Cline सेटिंग्स खोलें (या cline_mcp_settings.json संपादित करें):
- macOS:
~/Library/Application Support/Code/User/globalStorage/saoudrizwan.claude-dev/settings/cline_mcp_settings.json - Linux:
~/.config/Code/User/globalStorage/saoudrizwan.claude-dev/settings/cline_mcp_settings.json - Windows:
%APPDATA%\Code\User\globalStorage\saoudrizwan.claude-dev\settings\cline_mcp_settings.json
{
"mcpServers": {
"tokenectomy": {
"command": "npx",
"args": ["-y", "tokenectomy-razor", "--mcp"],
"disabled": false,
"autoApprove": [
"get_error_context",
"search_stack_overflow",
"analyze_code"
]
}
}
}
VS Code + Roo Code
Roo Code सेटिंग्स में (या Roo स्टोरेज में cline_mcp_settings.json संपादित करें):
- Linux:
~/.config/Code/User/globalStorage/rooveterinaryinc.roo-cline/settings/cline_mcp_settings.json - macOS:
~/Library/Application Support/Code/User/globalStorage/rooveterinaryinc.roo-cline/settings/cline_mcp_settings.json
{
"mcpServers": {
"tokenectomy": {
"command": "npx",
"args": ["-y", "tokenectomy-razor", "--mcp"],
"disabled": false,
"autoApprove": ["get_error_context", "analyze_code"]
}
}
}
Windsurf (Codeium)
~/.codeium/windsurf/mcp_config.json में जोड़ें:
{
"mcpServers": {
"tokenectomy": {
"command": "npx",
"args": ["-y", "tokenectomy-razor", "--mcp"]
}
}
}
Google Antigravity CLI
agy mcp add tokenectomy-razor -- npx -y tokenectomy-razor --mcp
उजागर MCP टूल्स
| टूल नाम | क्षमता विवरण |
|---|---|
get_error_context | त्रुटि डंप पर ट्रेस सर्जरी करता है, फ्रेमवर्क शोर हटाता है, क्रेडेंशियल संपादित करता है, और वर्कस्पेस तक सीमित प्रासंगिक स्थानीय स्रोत संदर्भ निकालता है। |
search_stack_overflow | स्वच्छ खोज शर्तों का उपयोग करके प्रासंगिक त्रुटि हस्ताक्षरों के लिए Stack Exchange API क्वेरी करता है। |
apply_code_patch | लेखन के बाद भाषा सिंटैक्स सत्यापन (cargo check, py_compile, node --check) और सत्यापन विफलता पर स्वचालित रोलबैक के साथ परमाणु फ़ाइल संशोधन लागू करता है। |
analyze_code | संसाधन रिसाव, सुरक्षा कमजोरियों, और कोड दोषों का पता लगाने के लिए स्थिर AST कोड विश्लेषण करता है, सीमित निष्पादन सीमाओं और सटीक LSP UTF-16 निर्देशांक के साथ। |
त्वरित प्रारंभ
मैं Claude Desktop का उपयोग करता हूँ
# 1. Add to claude_desktop_config.json (see MCP Integration section above)
# 2. When Claude encounters errors, it automatically uses "get_error_context" tool
# 3. Errors stay sanitized without any additional setup
मैं GitHub Actions का उपयोग करता हूँ
# Add to your workflow (.github/workflows/build.yml)
- name: Sanitize Build Failure Log
if: failure()
uses: daffa2555/tokenectomy-action@v1
with:
log-file: 'build.log'
output-file: 'sanitized.log'
# Now you can safely share sanitized.log without leak concerns
पैरामीटर:
| पैरामीटर | प्रकार | डिफ़ॉल्ट | विवरण |
|---|---|---|---|
log-file | String | '' | प्रोसेस करने के लिए कच्ची त्रुटि लॉग फ़ाइल का पथ |
log-content | String | '' | सीधी स्ट्रिंग सामग्री यदि फ़ाइल निर्दिष्ट नहीं है |
output-file | String | tokenectomy-sanitized.log | स्वच्छ आउटपुट फ़ाइल के लिए पथ |
version | String | v1.2.1 | बाइनरी रिलीज़ लक्ष्य संस्करण |
मैं अधिकतम गोपनीयता चाहता हूँ (एयर-गैप्ड वातावरण)
# All redaction happens locally—no network calls except to your LLM
cargo install tokenectomy
# Process logs without any cloud services
echo $ERROR_LOG | razor --scrub --local-only
# Or from a file:
razor --scrub --file /var/log/app/error.log > sanitized.log
उन्नत उपयोग
स्टैंडअलोन CLI
M2M एजेंट मोड के अतिरिक्त, Razor टर्मिनल पाइपिंग और स्थानीय शेल स्क्रिप्टिंग के लिए CLI कमांड प्रदान करता है:
# Scrub framework frames and output clean log
npm test 2>&1 | razor --scrub > sanitized.log
# Sanitize a specific log file
razor --scrub --file /var/log/app/error.log > sanitized.log
# CLI diagnosis with specific AI provider
razor --file error.log --provider openai
razor --file error.log --provider anthropic
razor --file error.log --local-only
AI गेटवे रिवर्स प्रॉक्सी मोड
Tokenectomy Razor एक पारदर्शी स्थानीय HTTP रिवर्स प्रॉक्सी के रूप में कार्य कर सकता है। यह क्लाइंट एप्लिकेशन और अपस्ट्रीम LLM प्रदाताओं (OpenAI, Anthropic, Ollama, OpenRouter) के बीच बैठता है, अपस्ट्रीम फॉरवर्डिंग से पहले वास्तविक समय में टोकन निष्कासन और क्रेडेंशियल स्वच्छता करता है।
स्थानीय विकास (डिफ़ॉल्ट लूपबैक):
# Forward to OpenAI
razor --proxy --proxy-bind 127.0.0.1:8080 --upstream-url https://api.openai.com/v1
# Forward to local Ollama instance
razor --proxy --proxy-bind 127.0.0.1:8080 --upstream-url http://127.0.0.1:11434/v1
किसी भी मानक SDK या IDE क्लाइंट को स्थानीय प्रॉक्सी पर इंगित करें:
export OPENAI_BASE_URL="http://127.0.0.1:8080/v1"
# Now all API calls are automatically sanitized
उत्पादन प्रॉक्सी सख्तीकरण
बाहरी इंटरफेस (0.0.0.0) से बाइंडिंग के लिए स्पष्ट टोकन प्राधिकरण आवश्यक है:
razor --proxy --proxy-bind 0.0.0.0:8080 --upstream-url https://api.openai.com/v1 --allow-remote --proxy-token "YOUR_SECURE_TOKEN"
लागू संसाधन सीमाएँ: MAX_HEADER_SIZE (64 KB), MAX_BODY_SIZE (10 MB), क्लाइंट/अपस्ट्रीम टाइमआउट (30s / 60s), और 128-कनेक्शन समवर्तीता सीमा।
कॉन्फ़िगरेशन
कॉन्फ़िगरेशन मान ~/.tokenectomy.toml के माध्यम से सेट किए जा सकते हैं:
default_provider = "openai" # openai | anthropic | ollama | mock
openai_api_key = "sk-..."
anthropic_api_key = "sk-ant-..."
ollama_base_url = "http://localhost:11434"
context_lines = 10
max_context_chars = 10000
समर्थित पारिस्थितिकी तंत्र
| भाषा | प्राथमिक फ्रेमवर्क | बहिष्कृत फ्रेमवर्क पथ |
|---|---|---|
| Rust | Tokio, Actix-web, Axum | .cargo/registry, .rustup, target/debug/build |
| Python | Django, FastAPI, Flask, PyTorch | site-packages, dist-packages, venv, __pycache__ |
| TypeScript / JavaScript | Next.js, Express, NestJS, Vite | node_modules, .next, dist, webpack आंतरिक |
| Golang | Gin, Fiber, Stdlib panics | go/src (stdlib), go/pkg/mod, vendor |
| Java / Kotlin | Spring Boot, Quarkus, Gradle | .m2/repository, .gradle/caches, फ्रेमवर्क आंतरिक |
| C / C++ | GDB बैकट्रेस, AddressSanitizer | /usr/include, /usr/lib, vcpkg_installed |
| PHP | Laravel, Symfony | vendor/composer, vendor/symfony, vendor/laravel |
नोट: वर्तमान में Rust, Python, TypeScript/JavaScript, और Go के लिए मजबूत एक्सट्रैक्टर शामिल हैं। Java/Kotlin, C/C++, और PHP समर्थन v1.2 में आ रहा है। प्रगति ट्रैकिंग के लिए #1 देखें।
Tokenectomy की तुलना कैसे करता है
| विशेषता | Tokenectomy | Splunk लॉग अस्पष्टीकरण | Datadog लॉग | git-secrets |
|---|---|---|---|---|
| तत्काल सेटअप (कोई एजेंट स्थापना नहीं) | ✅ | ❌ | ❌ | ✅ |
| AI एजेंटों के साथ काम करता है (MCP) | ✅ | ❌ | ❌ | ❌ |
| केवल-स्थानीय प्रोसेसिंग | ✅ | ❌ | ❌ | ✅ |
| बहुभाषी स्टैक ट्रेस | ✅ | ✅ | ✅ | ❌ |
| संपादन कैशिंग (लागत बचत) | ✅ | ❌ | ✅ | ❌ |
| ओपन सोर्स (MIT) | ✅ | ❌ | ❌ | ✅ |
| मूल्य | मुफ्त OSS | $$$ /माह | $$$ /माह | मुफ्त |
Tokenectomy का उपयोग कब करें:
- ✅ आप AI कोडिंग एजेंटों का उपयोग करते हैं (Claude, Cursor, Cline, आदि)
- ✅ आप गोपनीयता और स्थानीय-प्रथम प्रोसेसिंग की परवाह करते हैं
- ✅ आप LLM टोकन लागत कम करना चाहते हैं
- ✅ आप लॉग में गोपनीय डेटा लीक के बारे में चिंतित हैं कब कुछ और उपयोग करें:
- ❌ आपको केवल स्थिर गुप्त स्कैनिंग चाहिए →
truffleHog,detect-secretsका उपयोग करें - ❌ आपको वास्तविक समय निगरानी डैशबोर्ड चाहिए →
Datadog,New Relic,Splunkका उपयोग करें - ❌ आपकी त्रुटि लॉग स्वाभाविक रूप से <100 टोकन हैं → ओवरहेड इसके लायक नहीं है
- ❌ आप पूरी तरह से एयर-गैप्ड हैं → वास्तव में Tokenectomy एकदम सही है! (100% स्थानीय प्रोसेसिंग)
अक्सर पूछे जाने वाले प्रश्न
प्रश्न: क्या Tokenectomy मेरे लॉग को बाहरी सर्वर पर भेजता है?
उत्तर: नहीं। सभी रिडक्शन, पार्सिंग और फ़िल्टरिंग आपकी मशीन पर स्थानीय रूप से होती है। एकमात्र नेटवर्क कॉल आपके चुने हुए LLM (OpenAI, Anthropic, Ollama) के लिए है सैनिटाइज़ेशन पूरा होने के बाद। शून्य-ज्ञान गारंटी के लिए SECURITY.md देखें।
प्रश्न: Tokenectomy कौन से गुप्त डेटा को रिडैक्ट करता है?
उत्तर: GitHub PATs, AWS कुंजियाँ, OpenAI/Anthropic API कुंजियाँ, JWTs, डेटाबेस कनेक्शन स्ट्रिंग्स (PostgreSQL, MySQL, MongoDB, Redis), निजी SSH कुंजियाँ, Slack/Discord वेबहुक, और बहुत कुछ। पूरी सूची src/redact.rs में है।
प्रश्न: अगर मेरा गुप्त डेटा रिडैक्शन पैटर्न से मेल नहीं खाता तो क्या होगा?
उत्तर: एक उदाहरण (सैनिटाइज़्ड) के साथ एक issue दर्ज करें। हम पैटर्न जोड़ देंगे। अभी के लिए, आप ~/.tokenectomy.toml में कस्टम पैटर्न जोड़ सकते हैं (सुविधा v1.3 में आ रही है)।
प्रश्न: क्या Tokenectomy प्रोडक्शन के लिए सुरक्षित है?
उत्तर: हाँ। सुरक्षित Rust में लिखा गया (सुरक्षा पथों में शून्य असुरक्षित कोड), ReDoS-प्रतिरोधी, और RustSec के माध्यम से ऑडिट किया गया। पूर्ण विवरण के लिए SECURITY.md देखें।
प्रश्न: क्या मैं Tokenectomy को ऑफ़लाइन उपयोग कर सकता हूँ?
उत्तर: हाँ—Stack Overflow खोज को छोड़कर। सभी नेटवर्क एक्सेस (आपके LLM को छोड़कर) अक्षम करने के लिए --local-only फ़्लैग का उपयोग करें।
प्रश्न: मैं Tokenectomy को कैसे हटाऊँ?
उत्तर: बस अनइंस्टॉल करें:
npm uninstall -g tokenectomy-razor
# OR
cargo uninstall tokenectomy
शून्य कॉन्फ़िग सफाई की आवश्यकता—कोई फ़ाइल पीछे नहीं छूटती।
प्रश्न: क्या मैं अपने CI/CD पाइपलाइन में Tokenectomy का उपयोग कर सकता हूँ?
उत्तर: हाँ! GitHub Marketplace एक्शन (क्विक स्टार्ट अनुभाग देखें) या Docker कंटेनर का उपयोग करें। GitHub Actions, GitLab CI, Jenkins, आदि के साथ काम करता है।
प्रश्न: Razor (OSS) और Sentinel (वाणिज्यिक) के बीच क्या अंतर है?
उत्तर: Razor मुफ्त, सामुदायिक संस्करण है जिसमें सभी आवश्यक सुविधाएँ हैं। Sentinel उन्नत क्षमताएँ जोड़ता है जैसे tree-sitter AST हीलिंग, एंटी-हैलुसिनेशन गार्ड, और टाइम-मशीन अनडू। नीचे Edition Comparison देखें।
संस्करण तुलना
| क्षमता | Razor (सामुदायिक OSS) | Sentinel (वाणिज्यिक टियर) |
|---|---|---|
| फ्रेमवर्क लॉग फ़िल्टरिंग | हाँ | हाँ |
| पॉलीग्लॉट ट्रेस निष्कर्षण (4 भाषाएँ) | हाँ | हाँ (7 भाषाएँ) |
AI रिवर्स प्रॉक्सी गेटवे (--proxy) | हाँ | हाँ |
| Stack Overflow एकीकरण | हाँ | हाँ |
| SHA-256 इडेम्पोटेंसी कैश | हाँ | हाँ |
| ReDoS-सुरक्षित गुप्त रिडैक्शन | हाँ | हाँ |
| MCP प्रोटोकॉल सर्वर (JSON-RPC) | हाँ | हाँ |
| बंडल एजेंट कौशल | 2 कौशल (Spec TDD & Fuzzer) | पूर्ण 4 कौशल सुइट |
| Tree-sitter AST सिंटैक्स हीलिंग | नहीं | हाँ |
| एंटी-हैलुसिनेशन स्कोप गार्ड | नहीं | हाँ |
| स्वचालित टेस्ट रोलबैक लूप | नहीं | हाँ |
| मल्टी-फ़ाइल परमाणु लेनदेन | नहीं | हाँ |
टाइम मशीन अनडू इंजन (--undo) | नहीं | हाँ |
| ट्रू एक्टोमी डीप सर्जरी इंजन | नहीं | हाँ |
| लाइव DB पोर्ट और Docker डायग्नोस्टिक्स | नहीं | हाँ |
Sentinel में रुचि रखते हैं? मूल्य निर्धारण और सुविधाएँ देखें
रोडमैप
| माइलस्टोन / क्षमता | स्थिति | लक्ष्य संस्करण |
|---|---|---|
| कोर पॉलीग्लॉट लॉग सर्जरी और $O(N)$ ReDoS-प्रतिरोधी गुप्त रिडैक्शन | ✅ पूर्ण | v1.0.0 |
AI गेटवे रिवर्स प्रॉक्सी (--proxy) और SHA-256 इडेम्पोटेंसी कैश | ✅ पूर्ण | v1.1.0 |
| मल्टी-आर्क Docker (GHCR) और GitHub Actions Marketplace एक्शन | ✅ पूर्ण | v1.1.3 |
स्थिर AST कोड विश्लेषण इंजन (analyze_code) और UTF-16 LSP ऑफ़सेट | ✅ पूर्ण | v1.1.5 |
| Glama.ai टूल परिभाषा गुणवत्ता स्कोर (TDQS ग्रेड A) | ✅ पूर्ण | v1.1.5 |
| स्टैंडअलोन मल्टी-आर्क प्रीकंपाइल्ड बाइनरी (Linux, macOS, Windows) | ✅ पूर्ण | v1.1.6 |
आधिकारिक Anthropic MCP रजिस्ट्री सूची (io.github.Tokenectomy-Labs/razor) | ✅ पूर्ण | v1.1.7 |
mcpservers.org आधिकारिक निर्देशिका सिंक्रनाइज़ेशन और बैज | ✅ पूर्ण | v1.1.7 |
| Java / Kotlin (Spring Boot 3, Gradle) फ्रेमवर्क स्टैक ट्रेस एक्सट्रैक्टर | ✅ पूर्ण | v1.2.0 |
| C / C++ (AddressSanitizer और GDB/LLDB) बैकट्रेस क्लीनर | ✅ पूर्ण | v1.2.0 |
| Go goroutine पैनिक और डंप संपीड़न ह्यूरिस्टिक्स | ✅ पूर्ण | v1.2.0 |
awesome-mcp-servers सामुदायिक निर्देशिका कैटलॉग सूची | 🔄 प्रगति पर | v1.2.0 |
~/.tokenectomy.toml के माध्यम से उपयोगकर्ता-परिभाषित कस्टम रिडैक्शन पैटर्न | 📋 योजनाबद्ध | v1.3.0 |
| कॉन्फ़िगर करने योग्य शोर थ्रेसहोल्ड और कस्टम बहिष्करण पैटर्न | 📋 योजनाबद्ध | v1.3.0 |
| स्थानीय एजेंट टोकन बचत और लागत कमी मेट्रिक्स डैशबोर्ड | 📋 योजनाबद्ध | v1.3.0 |
| मूल VS Code और JetBrains साथी एक्सटेंशन | 📋 योजनाबद्ध | v1.4.0 |
| सर्वर-सेंट इवेंट्स (SSE) रिमोट MCP ट्रांसपोर्ट | 📋 योजनाबद्ध | v1.4.0 |
| Tree-sitter AST सिंटैक्स हीलिंग और मरम्मत | ✅ Sentinel (भुगतान) | अभी उपलब्ध |
मल्टी-फ़ाइल परमाणु लेनदेन और टाइम-मशीन रोलबैक (--undo) | ✅ Sentinel (भुगतान) | अभी उपलब्ध |
सुरक्षा और विश्वसनीयता अपरिवर्तनीय
- शून्य-ज्ञान प्रोसेसिंग: सभी स्कैनिंग और रिडैक्शन डेटा सिस्टम सीमा छोड़ने से पहले स्थानीय हार्डवेयर पर होते हैं।
- ReDoS प्रतिरक्षा: सभी पैटर्न मैचर रैखिक समय गारंटी के साथ परिमित ऑटोमेटन मूल्यांकन का उपयोग करते हैं। बेंचमार्क में सत्यापित।
- पथ ट्रैवर्सल अलगाव: फ़ाइल संचालन
WorkspaceBoundaryसुरक्षा मॉड्यूल के माध्यम से वर्कस्पेस सीमाओं के भीतर सख्ती से लॉक किए जाते हैं। - मेमोरी सुरक्षा: सुरक्षित Rust में बाउंडेड स्ट्रीम रीडर (
.take()) के साथ लागू किया गया जो संसाधन थकावट हमलों को रोकता है। - ऑडिट सत्यापन: RustSec सलाहकार डेटाबेस के माध्यम से निरंतर निर्भरता ऑडिटिंग बनाए रखी जाती है।
भेद्यता प्रकटीकरण: जिम्मेदार प्रकटीकरण प्रक्रियाओं के लिए SECURITY.md देखें।
योगदान
बग मिला? फीचर अनुरोध है? नई भाषा के लिए समर्थन जोड़ना चाहते हैं?
- Issues: github.com/Tokenectomy-Labs/Tokenectomy/issues
- पुल रिक्वेस्ट: फोर्क करें, एक फीचर ब्रांच बनाएं, और परीक्षणों के साथ PR सबमिट करें
- सुरक्षा: निजी भेद्यता प्रकटीकरण के लिए SECURITY.md देखें
विस्तृत योगदान दिशानिर्देशों के लिए CONTRIBUTING.md देखें।
संसाधन
- 📖 दस्तावेज़ीकरण — पूर्ण गाइड, API संदर्भ, और एकीकरण ट्यूटोरियल
- 📋 चेंजलॉग — रिलीज़ इतिहास और उल्लेखनीय परिवर्तन
- 🤝 योगदान — कैसे योगदान करें, विकास वर्कफ़्लो, और परीक्षण
- 🔒 सुरक्षा नीति — भेद्यता प्रकटीकरण और ऑडिट विवरण
- 🏗️ आर्किटेक्चर — आंतरिक डिज़ाइन और सिस्टम आर्किटेक्चर
लाइसेंस
MIT लाइसेंस। पूर्ण शर्तों के लिए LICENSE देखें।
❤️ के साथ बनाया गया @daffa2555 द्वारा
प्रश्न? GitHub पर एक issue खोलें या चर्चा शुरू करें।