本文于 2025-03-17 16:43 更新,部分内容具有时效性,如有失效,请留言
在人工智能领域,大型语言模型(LLM)技术日新月异,各类工具库层出不穷。为协助开发者应对 LLM 开发挑战,本文汇编了120余个实用LLM库,并按功能类别划分,便于工程师快速检索和应用。
(adsbygoogle=window.adsbygoogle||[]).push({});
快速导航
为方便读者快速找到所需资源,以下提供各类别工具库的快速链接:
🚀 LLM 训练与微调 | 🧱 LLM 应用开发 | 🩸 LLM 检索增强生成(RAG) |
🟩 LLM 推理 | 🚧 LLM 服务部署 | 📤 LLM 数据提取 |
🌠 LLM 数据生成 | 💎 LLM 智能体 | ⚖️ LLM 评估 |
🔍 LLM 监控 | 📅 LLM 提示词工程 | 📝 LLM 结构化输出 |
🛑 LLM 安全 | 💠 LLM 嵌入模型 | ❇️ 其他 |
LLM 训练与微调
库名称 | 描述 | 链接 |
---|---|---|
unsloth | 以更少内存加速 LLM 微调。 | 链接 |
PEFT | 高效的参数微调库。 | 链接 |
TRL | 强化学习训练 transformer 语言模型。 | 链接 |
Transformers | 提供数千个预训练模型,支持文本、视觉和音频等模态任务。</
|
暂无评论