金风博客
  • AI
  • 编程
  • 软件
  • 生活
  • 标签
  • 历史文章
  • 留言板
  • |

llama.cpp v1.0.0 发布:本地 AI 推理引擎用途、兼容规则与上手指南

2026年11月16日 · 2566 字 · 6 分钟 · Llama.cpp 本地AI 开源 大模型推理

llama.cpp 是用 C/C++ 编写的开源大模型推理引擎,负责加载模型、调用 CPU 或 GPU,在本地设备上生成回答。模型文件、运行引擎和聊天界面各有分工,llama.cp

© 2026 金风博客 ️