distributed-llm-pretraining-torchtitan

作者： firecrawl

提供基于PyTorch原生的分布式大语言模型预训练，使用torchtitan实现4D并行（FSDP2、TP、PP、CP）。适用于预训练Llama 3.1、DeepSeek V3等模型时使用。

npx skills add https://github.com/firecrawl/ai-research-skills --skill distributed-llm-pretraining-torchtitan

下载 ZIP GitHub

来自 firecrawl 的更多技能

使用oracle CLI的最佳实践（提示词与文件打包、引擎、会话及文件附件模式）。

面向生产级AI应用的托管向量数据库。全托管、自动扩缩容，支持混合搜索（稠密+稀疏）、元数据过滤和命名空间。

sentence-transformers

用于最先进的句子、文本和图像嵌入的框架。提供5000多个预训练模型，用于语义相似度、聚类和检索。…

用于WordPress Playground工作流：通过@wp-playground/cli（服务器、运行蓝图、构建快照）在浏览器或本地快速创建可丢弃的WP实例，…

wp-plugin-development

在开发WordPress插件时使用：架构与钩子、激活/停用/卸载、管理界面与设置API、数据存储、定时任务/任务、安全性……

wp-project-triage

当需要对WordPress仓库（插件/主题/区块主题/WP核心/Gutenberg/全站）进行确定性检查，包括工具/测试/版本等时使用。

在构建、扩展或调试WordPress REST API端点/路由时使用：register_rest_route、WP_REST_Controller/控制器类、schema/参数…

wp-wpcli-and-ops

在通过 WP-CLI（wp）执行 WordPress 操作时使用：安全搜索替换、数据库导出/导入、插件/主题/用户/内容管理、定时任务、缓存刷新……