你好请问一下,采用AIMET的GPTQ进行qwen模型的量化,导出的encoding文件显示的节点名称,在相对应qwen模型中为啥没有找相对应节点的呢。是因为GPTQ只对权重进行量化,qwen模型转onnx时,改变的权重名字了吗?
名字是会改变的
3,012
社区成员
5,791
社区内容
加载中
试试用AI创作助手写篇文章吧