一个ILLEGLE INSTRUCTION转SEGMENT FAULT的诡异CORE

[absunique]

碰到一个ILLEGAL INSTRUCTION后面转SEGMANET FAULT的诡异的问题，求助一下……
先简单描述一下代码结果，实际比这个复杂，但大概也差不多
a1.c/a2.c/a3.c=>LIBA.SO
e.c + LIBA.SO=>execBin

下面我开始讲述一下，查找原因的过程（前后一个月……悲剧，到现在还没找到原因），感觉进展都可以写成一个小小说了……

阶段一，这个时候，CORE原因是ILLEGAL INSTRUCTION。
只有一个ILLEGAL INSTRUCTION，文件里有CORE的地方，但是根本无法定位原因。
因此只能开始瞎猜，首先怀疑LIBA.SO，因为这是一个开源代码基本上改过来的，唯一使用MALLOC的地方。
考虑到这个SO的功能是解析配置文件，只会有主线程调用，因此将LIBA.SO中动态分配内存（MALLOC/CALLOC/STRDUP）的地方，全部改成静态分配（全局BUFFER）。

改完之后，CORE消失，但是代码本身检查过，没有问题，而且有问题，为何会造成ILLEGAL INSTRUCTION？这感觉像是段错误覆盖了栈中的代码导致？后面再看

阶段二，中间有个小插曲：因为这套代码在操作系统升级前后都跑过，升级后才有的CORE，因此使用两个环境复现：
AIX7.1.2 未出现
AIX7.1.3 基于7.1.3全新编译或使用7.1.2编译的均会出现ILLEGAL INSTRUCTION。
暂时感觉毫无任何帮助。

阶段三：
因为ILLEGAL INSTRUCTION出现的慢（不停的运行过程中才出），所以在A函数中，使用了一些无用的变量（几百K），结果在A调用B时，立马出现CORE
此时CORE变成了SEGMENT FAULT。
这里的函数A是一个用户线程的入口函数，其间会调用函数B。
尝试在创建线程A的时候，增加堆栈大小，段错误消失。

阶段四：
这里肯定要问，是不是我加的变量导致SEGMENT FAULT？
没错，但是函数A内的变量少的可怜，是谁导致它，回想到阶段一改了LIBA.SO，如何证明和LIBA.SO有关系。
于是，验证如下：
首先调用LIBA.SO中的内容，都是在主线程，在A线程中没有调用。
其次因为LIBA.SO是解析配置文件，文件越在，MALLOCL的内存越多。
好了，程序任何都不改，只改配置文件，结果：
小的配置文件，不CORE
大的配置文件，必CORE
也就是说，导致线程堆栈溢出的，并不是用户线程A中的临时变量， 而是主线程调用LIBA.SO，导致堆栈溢出。

联想起阶段一，LIBA.SO的嫌疑越来越大。

到现在，由于线头太多，全部梳理出来几个关键点：
1、LIBA.SO中动态分配内存，改成静态，OK不CORE
2、用户线程A堆栈溢出，加大堆栈，OK不CORE了
3、上述任何作法，在两个操作系统中，都是7.1.2不CORE 7.1.3CORE，即使是完全同构的代码，这和操作系统有什么关系？

问题是，什么导致溢出的？是LIBASO分配的堆的内存使用越界，导致栈溢出吗？不同操作系统保护不一样？

[赵4老师]

C Run-Time Libraries http://msdn.microsoft.com/zh-cn/library/abx4dbyh(VS.80).aspx

[absunique]

引用 1 楼 zhao4zhong1 的回复:

C Run-Time Libraries http://msdn.microsoft.com/zh-cn/library/abx4dbyh(VS.80).aspx

请问和这个有什么关系啊？

[赵4老师]

引用 2 楼 absunique 的回复:

[quote=引用 1 楼 zhao4zhong1 的回复:] C Run-Time Libraries http://msdn.microsoft.com/zh-cn/library/abx4dbyh(VS.80).aspx

请问和这个有什么关系啊？[/quote] 里面应该说明了在库中调用C Run-Time Libraries中的malloc类函数时需要注意的几个方面。

[absunique]

引用 6 楼 zhao4zhong1 的回复:

会用→会有

引用 6 楼 zhao4zhong1 的回复:

会用→会有

引用 6 楼 zhao4zhong1 的回复:

会用→会有

你这个链接里没有啊，能不能发具体的链接？

[赵4老师]

Potential Errors Passing CRT Objects Across DLL Boundaries. https://msdn.microsoft.com/zh-cn/library/ms235460(v=vs.80).aspx

[DTCPzhuxh]

不能明确的帮楼主解决问题。之前我有遇到过相同的程序一个在aix下运行则能正常运行，但是在linux下则报段错误，所以不同的操作系统保护措施肯定是有些区别的。 给楼主两点建议： 1、aix的话用dbx应该是可以调处段错误的位置； 2、还有我看楼主多次提到malloc，不知道楼主malloc用完之后有没有使用free。

[absunique]

引用 3 楼 zhao4zhong1 的回复:

[quote=引用 2 楼 absunique 的回复:] [quote=引用 1 楼 zhao4zhong1 的回复:] C Run-Time Libraries http://msdn.microsoft.com/zh-cn/library/abx4dbyh(VS.80).aspx

请问和这个有什么关系啊？[/quote] 里面应该说明了在库中调用C Run-Time Libraries中的malloc类函数时需要注意的几个方面。[/quote]

引用 3 楼 zhao4zhong1 的回复:

[quote=引用 2 楼 absunique 的回复:] [quote=引用 1 楼 zhao4zhong1 的回复:] C Run-Time Libraries http://msdn.microsoft.com/zh-cn/library/abx4dbyh(VS.80).aspx

请问和这个有什么关系啊？[/quote] 里面应该说明了在库中调用C Run-Time Libraries中的malloc类函数时需要注意的几个方面。[/quote] 大哥，我是AIX的……

[赵4老师]

AIX会用同样问题。我觉得。

[赵4老师]

会用→会有

[absunique]

引用 9 楼 DTCPzhuxh 的回复:

不能明确的帮楼主解决问题。之前我有遇到过相同的程序一个在aix下运行则能正常运行，但是在linux下则报段错误，所以不同的操作系统保护措施肯定是有些区别的。 给楼主两点建议： 1、aix的话用dbx应该是可以调处段错误的位置； 2、还有我看楼主多次提到malloc，不知道楼主malloc用完之后有没有使用free。

引用 9 楼 DTCPzhuxh 的回复:

不能明确的帮楼主解决问题。之前我有遇到过相同的程序一个在aix下运行则能正常运行，但是在linux下则报段错误，所以不同的操作系统保护措施肯定是有些区别的。 给楼主两点建议： 1、aix的话用dbx应该是可以调处段错误的位置； 2、还有我看楼主多次提到malloc，不知道楼主malloc用完之后有没有使用free。

1、DBX使用REGISTERS看到有 STDU R3,-3240(R3) 这样的地方，但是这句命令看不出有啥异常啊…… 2、MALLOC使的FREE有用，但是即使不用最多也是内存泄漏，现在感觉像是堆栈溢出……

[absunique]

引用 9 楼 DTCPzhuxh 的回复:

不能明确的帮楼主解决问题。之前我有遇到过相同的程序一个在aix下运行则能正常运行，但是在linux下则报段错误，所以不同的操作系统保护措施肯定是有些区别的。 给楼主两点建议： 1、aix的话用dbx应该是可以调处段错误的位置； 2、还有我看楼主多次提到malloc，不知道楼主malloc用完之后有没有使用free。

另外段错误的位置是一个SPRINTF，感觉很像线程堆栈不够用了。

[赵4老师]

使用link的命令行参数设置更大的堆栈。 仅供参考： /STACK (Stack Allocations) Home | Overview | How Do I | Linker Options The Stack Allocations (/STACK:reserve[,commit]) option sets the size of the stack in bytes. To find this option in the development environment, click Settings on the Project menu. Then click the Link tab, and click Output in the Category box. The Reserve text box (or in the reserve argument on the command line) specifies the total stack allocation in virtual memory. The default stack size is 1 MB. The linker rounds up the specified value to the nearest 4 bytes. The optional value specified in the Commit text box (or in the commit argument on the command line) is subject to interpretation by the operating system. In Windows NT, it specifies the amount of physical memory to allocate at a time. Committed virtual memory causes space to be reserved in the paging file. A higher commit value saves time when the application needs more stack space, but increases the memory requirements and possibly the startup time. Specify the reserve and commit values in decimal or C-language notation. Another way to set the size of the stack is with the STACKSIZE statement in a module-definition (.DEF) file. STACKSIZE overrides the Stack Allocations (/STACK) option if both are specified. You can change the stack after the .EXE file is built by using the EDITBIN tool.

[absunique]

引用 12 楼 zhao4zhong1 的回复:

使用link的命令行参数设置更大的堆栈。 仅供参考： /STACK (Stack Allocations) Home | Overview | How Do I | Linker Options The Stack Allocations (/STACK:reserve[,commit]) option sets the size of the stack in bytes. To find this option in the development environment, click Settings on the Project menu. Then click the Link tab, and click Output in the Category box. The Reserve text box (or in the reserve argument on the command line) specifies the total stack allocation in virtual memory. The default stack size is 1 MB. The linker rounds up the specified value to the nearest 4 bytes. The optional value specified in the Commit text box (or in the commit argument on the command line) is subject to interpretation by the operating system. In Windows NT, it specifies the amount of physical memory to allocate at a time. Committed virtual memory causes space to be reserved in the paging file. A higher commit value saves time when the application needs more stack space, but increases the memory requirements and possibly the startup time. Specify the reserve and commit values in decimal or C-language notation. Another way to set the size of the stack is with the STACKSIZE statement in a module-definition (.DEF) file. STACKSIZE overrides the Stack Allocations (/STACK) option if both are specified. You can change the stack after the .EXE file is built by using the EDITBIN tool.

增加堆栈的确可以解决。问题是没有定位到原因……该线程的局部变量非常少，而且在主线程中，如果使用的LIBA.SO中不用MALLOC，工作线程中的堆栈问题也就没有了，这个很奇怪。

[赵4老师]

没准底层具体实现malloc时，至少需要一定大小的堆栈空间支持。