求A,B.cpp下载

weixin_39821260 2023-11-18 22:00:14
...全文
32 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
二维数组提取_【题解二维数组】1124：矩阵加法
博客围绕输入两个n行m列矩阵A和B，求其和A+B的题目展开。介绍了输入输出要求及样例，说明主要考查二维数组。给出思路，即矩阵A用二维数组存储，矩阵B边输入边与A求和输出。还解答了输入输出显示问题，并提供C++参考代码下载链接。
16G显存跑35B大模型：GGUF+llama.cpp+A3B协同原理与实操
本文详解如何在16GB显存消费级GPU（如RTX 4090）上，通过GGUF格式、Qwen3.6-35B-A3B量化模型与llama.cpp推理引擎协同，实现200+ tok/s稳定推理。核心在于GGUF的分块内存映射机制、A3B架构的自适应剪枝与分块量化设计，以及llama.cpp对CUDA的裸金属级优化。涵盖Windows 11环境配置、关键参数调优（n-gpu-layers、use-mmap、flash-attn等）、性能实测方法及常见避坑指南。
6G显存跑35B大模型：A3B量化与llama.cpp协同优化实战
本文详解如何在仅6GB显存的RTX 3060设备上，通过A3B自适应3-bit量化与llama.cpp协同优化，成功部署Qwen3.6-35B-A3B大模型并构建生产级本地Agent。核心包括：破除参数量=显存占用的误解、llama.cpp作为Agent内核的内存/设备/协议调度机制、语义分块+工具链安全调用的工作流设计、A3B量化原理与实测优势（显存节省、精度提升）、WSL2+CUDA在Windows 11下的高效部署方案，以及对长上下文、多模态、实时语音等能力边界的清醒约束。
B编码与BT种子文件分析，以及模仿json-cpp写一个B编码解析器
本文详细介绍了B编码的格式及其在BT种子文件中的应用，包括字符串、整数、列表和字典四种数据类型。同时，解析了种子文件的主要字段如info、announce等，并探讨了其内部结构。接着，通过对JSON-CPP库的设计分析，特别是Json::Value类和迭代器的实现，为设计B编码解析器提供了思路。最后，展示了BEncode::Value类的设计，包括Value、ValueIteratorBase、ValueConstIterator和ValueIterator的定义，并提到了解析B编码的函数。文章提供了完整的B编码解析器源代码供读者参考和学习。
16G显存跑200+tok/s：Qwen3.6-35B-A3B+llama.cpp+GGUF实战指南
本文详解如何在16G显存的RTX 4090上，通过llama.cpp+GGUF+Qwen3.6-35B-A3B组合实现稳定200+ token/s推理。涵盖核心技术原理（llama.cpp轻量内核、GGUF硬件感知格式、A3B结构精简与量化优化）、Windows 11全流程部署（绕过lm studio/comfyui识别问题）、关键调参（n-gpu-layers、threads等5个参数）、显存优化机制（mmap分页加载）、CUDA性能调优（WDDM规避）及RAG/多卡/长文本生产化扩展，聚焦本地大模型高实效落地。
下载资源悬赏专区

13,654

社区成员

12,571,028

社区内容

发帖
与我相关
我的任务
社区描述
CSDN 下载资源悬赏专区
其他 技术论坛（原bbs）
社区管理员
  • 下载资源悬赏专区社区
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章