多个工程的内存管理方式冲突

2011-05-07 12:43:12 220 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

提示工程架构师必看：内存管理技术未来趋势与前沿研究某法律科技公司需构建长文档摘要系统，处理500-1000页的法律合同（约100k-200k tokens），要求输出结构化摘要（条款分类、风险点标注）。API成本高（每100k tokens约$10）；私有数据需本地部署，无法使用API。因此，公司决定基于开源模型（Llama 2 70B）本地部署，但遇到内存瓶颈：70B模型在消费级硬件（2x RTX 4090，24GB显存/卡）上无法加载（FP16权重需140GB），且100k上下文的KV缓存（20GB）远超单卡显存。阅读详情

相关联的有两个项目：

一个是基础类库，为了满足“XNAMath需要16bytes内存对齐”以及内存使用优化，所以重载了new和delete操作符。
另外一个是MFC项目，依赖上面的基础类库，工程相关设置是Use MFC in a Static Library和Multi-threaded Debug (/MTd)。

链接过程中，有如下错误：

39>nafxcwd.lib(afxmem.obj) : error LNK2005: "void * __cdecl operator new(unsigned int)" (??2@YAPAXI@Z) already defined in GadgetsEditorTest.obj
39>nafxcwd.lib(afxmem.obj) : error LNK2005: "void __cdecl operator delete(void *)" (??3@YAXPAX@Z) already defined in GadgetsEditorTest.obj
39>nafxcwd.lib(afxmem.obj) : error LNK2005: "void * __cdecl operator new[](unsigned int)" (??_U@YAPAXI@Z) already defined in editorapplication.obj
39>nafxcwd.lib(afxmem.obj) : error LNK2005: "void __cdecl operator delete[](void *)" (??_V@YAXPAX@Z) already defined in GadgetsEditorTest.obj
39>..\..\bin\win32\GadgetsEditorTest.debug.exe : fatal error LNK1169: one or more multiply defined symbols found

MFC中有自己的内存管理策略，如何在这种情况下仍然能使用基础类库中自定义的内存管理策略呢？

BTW：在LINK的Command Option里面设置/FORCE:MULTIPLE是行不通的。因为这样会造成new和delete的不配对。

...全文