macOS安装llama.cpp-b10068(llama-b10068-bin-macos-arm64).zip

llama.cpp大语言模型LLM推理GGUF本地AIApple SiliconMetal优化开源模型量化机器学习
文件基础信息

文件名称: macOS安装llama.cpp-b10068(llama-b10068-bin-macos-arm64).zip

文件类型: 软件整合包
文件大小: 10.36 MB

请选择下载方式

方式1:前往hanshuixin.org下载
前往 hanshuixin.org https://hanshuixin.org/resource/details/FRS01KYACTCA00Z52P2MQ9SSRYMVM ,在hanshuixin.org查看/下载

文件简介

本软件整合包描述

llama.cpp 是纯 C/C++ 实现的大语言模型推理引擎,零依赖、高性能,支持 Apple Silicon 深度优化和多 GPU 后端,可在本地和云端运行数百种主流 AI 模型。

整合包(压缩包)内容

macOS安装llama.cpp-b10068(llama-b10068-bin-macos-arm64).zip
└── macOS安装llama.cpp-b10068(llama-b10068-bin-macos-arm64)
    ├── LICENSE
    ├── README
    │   ├── README-中文版.md
    │   └── README.md
    ├── llama-b10068-bin-macos-arm64.tar.gz
    ├── macOS安装llama.cpp-b10068(llama-b10068-bin-macos-arm64).pdf
    └── 发布说明
        ├── RELEASE-NOTES-中文版.md
        └── RELEASE-NOTES.md

整合包中的 PDF 安装教程 目录

1. llama.cpp 简介
2. b10068 版本亮点
3. 整合包内文件说明
4. 快速开始
    常用命令

开源许可

本整合包包含 llama.cpp 软件,其版权归属于 The ggml authors,该软件依据 MIT 授权。完整许可证文本请参见本整合包中附带的 LICENSE 文件。