当前位置： 代码迷 >> python >> 使用自定义openssl版本编译python时的Coredump
  详细解决方案

使用自定义openssl版本编译python时的Coredump

热度：64   发布时间：2023-06-27 21:57:06.0

问题描述

在使用本地openssl-1.0.1f共享安装编译python-3.4.0rc3时， make打印没有错误但是我在make install或make test上得到以下核心转储： 

Program terminated with signal 11, Segmentation fault.
(gdb) bt
#0  0x00007f131dd10510 in EVP_PKEY_CTX_dup () from /data2/soft/openssl/lib/libcrypto.so.1.0.0
#1  0x00007f131dd0284f in EVP_MD_CTX_copy_ex () from /data2/soft/openssl/lib/libcrypto.so.1.0.0
#2  0x00007f131e256ab5 in EVPnew (name_obj=0x7f131e46a500, digest=0x0, initial_ctx=0x7f131e459a40, cp=0x0, len=0) at /data2/soft/python3/Python-3.4.0rc3/Modules/_hashopenssl.c:410
#3  0x00007f131e25726e in EVP_new_md5 (self=<value optimized out>, args=<value optimized out>) at /data2/soft/python3/Python-3.4.0rc3/Modules/_hashopenssl.c:799
#4  0x00000000004c7eef in ?? ()

以下是使用的完整命令列表 

tar -axf Python-3.4.0rc3.tgz
cd Python-3*
# For lzma and a pip-compatible openssl
export CFLAGS='-I/data2/soft/openssl/include/openssl -I/data2/local/include/'
export LDFLAGS='-L/data2/soft/openssl/lib -L/data2/local/lib/'
export LD_LIBRARY_PATH="/data2/soft/openssl/lib:/data2/local/lib/:$LD_LIBRARY_PATH"
# Ready !
./configure --prefix=/data2/soft/python3
make
make install

笔记：

  • 操作系统是SUSE Linux Enterprise Server 11（x86_64）
  • 将python指向位于的lzma lib的自定义位置
  • openssl是使用./config shared --openssldir=/data2/soft/openssl构建的
  • openssl make test打印所有TESTSFUCCESSFUL。
  • 没有自定义openssl * FLAGS，make install是成功的，我得到这些结果进行make test： 71 tests OK. tests failed: test_cmd_line test_gdb test_smtpnet test_ssl 71 tests OK. tests failed: test_cmd_line test_gdb test_smtpnet test_ssl

我该如何解决这个问题，或者至少调查一下发生了什么？

编辑1--5：

共享库是正确生成的： 

> ls /data2/soft/openssl/lib
drwxr-xr-x engines
-rw-r--r-- libcrypto.a
lrwxrwxrwx libcrypto.so -> libcrypto.so.1.0.0
-r-xr-xr-x libcrypto.so.1.0.0
-rw-r--r-- libssl.a
lrwxrwxrwx libssl.so -> libssl.so.1.0.0
-r-xr-xr-x libssl.so.1.0.0
drwxr-xr-x pkgconfig

所以我在安装程序中更改了 

SSL=/data2/soft/openssl/
_ssl _ssl.c \                               
    -DUSE_SSL -I$(SSL)/include -I$(SSL)/include/openssl \
    $(SSL)/lib/libssl.a $(SSL)/lib/libcrypto.a -ldl

我相应地改变了LDFLAGS / CFLAGS。 但是当我运行make clean && make时，仍然有一个-lssl，因为_hashopen模块： 

gcc -pthread -shared -L/data2/local/lib/ -L/data2/local/lib/ -L/data2/local/lib/ -I/data2/local/include/ build/temp.linux-x86_64-3.4/data2/soft/python3/Python-3.4.0rc3/Modules/_hashopenssl.o -L/data2/local/lib/ -L/usr/local/lib -lssl -lcrypto -o build/lib.linux-x86_64-3.4/_hashlib.cpython-34m.so

我想这是导致核心的那个，因为它们仍然存在...我尝试在安装文件中添加类似的东西，但是没有这个注释项目并且创建它会导致另一个更加神秘的失败： 

gcc -pthread   -Xlinker -export-dynamic -o python Modules/python.o libpython3.4m.a -lpthread -ldl  -lutil /data2/eoubrayrie/soft/openssl/lib/libssl.a /data2/eoubrayrie/soft/openssl/lib/libcrypto.a -ldl   /data2/eoubrayrie/soft/openssl/lib/libssl.a /data2/eoubrayrie/soft/openssl/lib/libcrypto.a -ldl   -lm  
libpython3.4m.a(config.o):(.data+0x158): undefined reference to `PyInit__hashopenssl'
collect2: ld returned 1 exit status

编辑6：

  • 我无论如何都无法修改如何生成_hashlib.so，因为涉及太多的Makefile魔法（它不会出现在任何地方，'-lssl'也不会同时神奇地结束在同一条线上

  • 但我可以通过良好的旧-I / -L动态链接到我自己的openssl：

    ldd build/lib.linux-x86_64-3.4/_hashlib.cpython-34m.so libssl.so.1.0.0 => /data2/soft/openssl/lib/libssl.so.1.0.0 (0x00007f5605799000) libcrypto.so.1.0.0 => /data2/soft/openssl/lib/libcrypto.so.1.0.0 (0x00007f56053bd000)

  • 现在唯一的问题是，gdb info shared还告诉我另一个在核心时间使用......但是怎么样？

    From To Syms Read Shared Object Library 0x00007ffff5465930 0x00007ffff5466e98 Yes /data2/soft/python3/Python-3.4.0rc3/build/lib.linux-x86_64-3.4/_hashlib.cpython-34m.so 0x00007ffff5321220 0x00007ffff5351878 Yes /opt/python-2.6-64/lib/libssl.so.1.0.0 0x00007ffff50d3100 0x00007ffff519b118 Yes /opt/python-2.6-64/lib/libcrypto.so.1.0.0

    • env | grep -F 'python-2.6-64' env | grep -F 'python-2.6-64' - >什么都不显示！
    • grep -RF 'python-2.6-64' /etc/ld.so.* - >同上
    • gcc -print-search-dirs | sed 's/:/\\n/g' | grep python gcc -print-search-dirs | sed 's/:/\\n/g' | grep python - >同上
    • find . -name '*.so*' | xargs ldd | grep ssl find . -name '*.so*' | xargs ldd | grep ssl - >只给我好的
    • 1级依赖项也不需要任何错误的ssl版本。 检查结果如下：
      find . -name '*.so*' | xargs ldd | awk '/\\t+[[:alnum:].]+ => [[:alnum:]./]+ \\(/ {print $3}' | sort | uniq | xargs ldd | grep ssl
    • strace ./python ./Tools/scripts/run_tests.py 2>&1 | grep python-2.6-64 strace ./python ./Tools/scripts/run_tests.py 2>&1 | grep python-2.6-64 - >什么都没显示

那么，如果他不能知道ld怎么选择这个错误的库呢？ 它不在任何标准位置（如果它在/ lib中我能理解......）

解：

通过找到了如何静态链接_hashlib：虽然-Wl -Wl,--exclude-libs=ALL"选项也不起作用，但它指向了setup.py中的右侧行。

TL; DR这是我应用的的 。

最后......它有效！

@noloader我接受你最完整的答案，因为你的帮助是无价的，尽管遇到这个问题的人的“确切”答案是用上面的补丁编译。

1楼 

 How can I fix this, or at least investigate what is going on ? ... export LDFLAGS='-L/data2/soft/openssl/lib -L/data2/local/lib/' export LD_LIBRARY_PATH="/data2/soft/openssl/lib:/data2/local/lib/

我也经常遇到这些问题因为我避免了Debian，Ubuntu，Fedora等人提供的OpenSSL的残缺版本。 例如，Ubuntu发布了一个禁用TLSv1.1和TLS v1.2的OpenSSL（参见， ）。

您可能正在加载错误版本的OpenSSL库。 如果您可以在调试器下获得行为不端的程序，请发出info shared以查看您实际加载的libcrypto和libssl 。

ldd也可能有所帮助。 在Pyhton可执行文件上运行它： ldd /data2/soft/python3/python 。 我只能说它“可能”有帮助，因为OpenSSL是二进制兼容的，所以你可能只看到依赖，例如libcrypto.so.1.0.0 （在Mac OS X上使用otool -L ）。 下面我使用了一个rpath强制链接到/usr/local/ssl/lib/ 。 

$ ldd my-test.exe 
    linux-vdso.so.1 =>  (0x00007fffd61ff000)
    libssl.so.1.0.0 => /usr/local/ssl/lib/libssl.so.1.0.0 (0x00007f151528e000)
    libcrypto.so.1.0.0 => /usr/local/ssl/lib/libcrypto.so.1.0.0 (0x00007f1514e74000)
    libpthread.so.0 => /lib/x86_64-linux-gnu/libpthread.so.0 (0x00007f1514c42000)
    ...

作为修复，您可以尝试添加rpath ： 

LDFLAGS='-L/data2/soft/openssl/lib -L/data2/local/lib/ -Wl,-rpath,/data2/soft/openssl/lib'

更好的解决方法是链接到OpenSSL库的静态版本，以避免这些问题。 我相信你可以这样做： -Bstatic -lssl -lcrypto -Bdynamic -ldl 。

就个人而言，由于不同的一次性问题，我甚至不使用-Bstatic 。 我打开Makefile，删除-lssl -lcrypto所有实例，并添加存档的完整路径以消除所有歧义。 例如，/ /data2/soft/openssl/lib/libssl.a / /data2/soft/openssl/lib/libcrypto.a /data2/soft/openssl/lib/libssl.a / /data2/soft/openssl/lib/libcrypto.a /data2/soft/openssl/lib/libssl.a和/data2/soft/openssl/lib/libcrypto.a 。

请注意 ：在Mac OS X上不支持rpath 。对于Mac OS X，需要采取更多极端措施，因为链接器也不支持-Bstatic 。 你将不得不使用完整的路径技巧。 

 openssl was built with ./config shared --openssldir=/data2/soft/openssl

另一件事......在Fedora上，它还不足以指定shared 。 您还需要添加以下内容： 

export CFLAGS="-fPIC"

否则，不会构建共享对象。 如果没有构建1.0.1f共享对象，您可能会获得由发行版提供的下层版本。 您可以在安装之前检查构建的内容： 

./config shared --openssldir=/data2/soft/openssl
make all

# Verify artifacts
find . -iname -libcrypto.*
find . -iname -libssl.*

# Proceed if OK
sudo make install

最后，确保所有 Python的依赖项都使用您的OpenSSL版本，而不是系统的OpenSSL版本。

当我的程序使用我的OpenSSL时，我最近遇到了这个问题。 但我的程序也使用libevent和libevent使用系统的OpenSSL版本。 我通过重建libevent并强制它静态链接到我的OpenSSL版本来修复它。

2楼

我该如何改变呢？ 是否会在任何地方添加_ssl.c：gcc ...行覆盖默认行为？ 我的Makefile技能生锈了，这个野兽长达1600多行！

以下是您要查看的文件： 

$ cd Python-3.4.0rc3

$ grep -R -- '-lcrypto' *
Modules/Setup.dist:#    -L$(SSL)/lib -lssl -lcrypto

$ grep -R -- '-lssl' *
Modules/Setup.dist:#    -L$(SSL)/lib -lssl -lcrypto

以下是Setup.dist中感兴趣的Setup.dist ： 

# Socket module helper for SSL support; you must comment out the other
# socket line above, and possibly edit the SSL variable:
#SSL=/usr/local/ssl
#_ssl _ssl.c \
#   -DUSE_SSL -I$(SSL)/include -I$(SSL)/include/openssl \
#   -L$(SSL)/lib -lssl -lcrypto

取消注释行并将Setup.dist更改为以下内容。 我将我的OpenSSL保存在/usr/local/ssl ，这样我的设置如下（你应该使用/data2/soft/openssl/lib/... ）： 

SSL=/usr/local/ssl
_ssl _ssl.c \
    -DUSE_SSL -I$(SSL)/include -I$(SSL)/include/openssl \
    /usr/local/ssl/lib/libssl.a /usr/local/ssl/lib/libcrypto.a -ldl

使用存档的完整路径，不要使用-l 。 请务必添加-ldl因为OpenSSL在此配置中需要它。

更改Setup.dist ，重新运行./configure以实现更改。

更改上面的行后，这是我configure后的样子： 

$ grep -R "libssl.a" *
Makefile:LOCALMODLIBS=  /usr/local/ssl/lib/libssl.a /usr/local/ssl/lib/libcrypto.a -ldl 
Makefile:Modules/_ssl$(SO):  Modules/_ssl.o; $(BLDSHARED)  Modules/_ssl.o  /usr/local/ssl/lib/libssl.a /usr/local/ssl/lib/libcrypto.a -ldl  -o Modules/_ssl$(SO)
Modules/Setup: /usr/local/ssl/lib/libssl.a /usr/local/ssl/lib/libcrypto.a -ldl 
Modules/Setup.dist: /usr/local/ssl/lib/libssl.a /usr/local/ssl/lib/libcrypto.a -ldl

您可以使用ldd或otool -L测试静态链接。 你不会看到一个OpenSSL的依赖。 经过make “ING，这里是我的了： 

$ find . -iname python
./python
$ ldd ./python
    linux-vdso.so.1 =>  (0x00007fff67709000)
    libpthread.so.0 => /lib/x86_64-linux-gnu/libpthread.so.0 (0x00007f3aed8e1000)
    libdl.so.2 => /lib/x86_64-linux-gnu/libdl.so.2 (0x00007f3aed6dd000)
    libutil.so.1 => /lib/x86_64-linux-gnu/libutil.so.1 (0x00007f3aed4d9000)
    libm.so.6 => /lib/x86_64-linux-gnu/libm.so.6 (0x00007f3aed257000)
    libc.so.6 => /lib/x86_64-linux-gnu/libc.so.6 (0x00007f3aececc000)
    /lib64/ld-linux-x86-64.so.2 (0x00007f3aedb14000)

没有libssl或libcrypto依赖项出错:)并且make test运行正常（实际上，由于Python错误导致测试失败： ）： 

======================================================================
ERROR: test_get_server_certificate (test.test_ssl.NetworkedTests)
----------------------------------------------------------------------
Traceback (most recent call last):
  File "/home/jwalton/Python-3.4.0rc3/Lib/test/test_ssl.py", line 1373, in test_get_server_certificate
    _test_get_server_certificate('svn.python.org', 443, SVN_PYTHON_ORG_ROOT_CERT)
  File "/home/jwalton/Python-3.4.0rc3/Lib/test/test_ssl.py", line 1354, in _test_get_server_certificate
    pem = ssl.get_server_certificate((host, port))
  File "/home/jwalton/Python-3.4.0rc3/Lib/ssl.py", line 902, in get_server_certificate
    with context.wrap_socket(sock) as sslsock:
  File "/home/jwalton/Python-3.4.0rc3/Lib/ssl.py", line 344, in wrap_socket
    _context=self)
  File "/home/jwalton/Python-3.4.0rc3/Lib/ssl.py", line 540, in __init__
    self.do_handshake()
  File "/home/jwalton/Python-3.4.0rc3/Lib/ssl.py", line 767, in do_handshake
    self._sslobj.do_handshake()
ssl.SSLError: [SSL: SSLV3_ALERT_HANDSHAKE_FAILURE] sslv3 alert handshake failure (_ssl.c:598)

----------------------------------------------------------------------
Ran 96 tests in 8.610s

FAILED (errors=1, skipped=3)
test test_ssl failed
make: *** [test] Error 1

3楼

这不是一个答案，只是在与你一起跑完之后的观察： 

$ make 
...

gcc -pthread -c -Wno-unused-result -Werror=declaration-after-statement
  -DNDEBUG -g -fwrapv -O3 -Wall -Wstrict-prototypes -I. -IInclude -I./Include
  -DPy_BUILD_CORE -o Objects/capsule.o Objects/capsule.c

-fwrapv非常糟糕。 它曾用于使非法程序工作。 它更好地修复损坏的程序并删除-fwrapv 。 请参阅Ian Lance Taylor关于的博客。

4楼

我无论如何都无法修改如何生成_hashlib.so，因为涉及太多的Makefile魔法（它不会出现在任何地方，'-lssl'也不会同时神奇地结束在同一条线上

grep是你的朋友;） 

$ grep -R _hashlib * | grep ssl
Lib/hashlib.py:        f = getattr(_hashlib, 'openssl_' + name)
Lib/hashlib.py:            _hashlib.openssl_md_meth_names)
Lib/test/test_hashlib.py:            self.assertTrue(hasattr(_hashlib, 'openssl_md5'))
Lib/test/test_hashlib.py:            self.assertTrue(hasattr(_hashlib, 'openssl_sha1'))
Lib/test/test_hashlib.py:                constructor = getattr(_hashlib, 'openssl_'+algorithm, None)
Lib/test/ssltests.py:TESTS = ['test_asyncio', 'test_ftplib', 'test_hashlib', 'test_httplib',
Lib/test/time_hashlib.py:    print(" '_hashlib' 'openssl_hName' 'fast' tests the builtin _hashlib")
Modules/_hashopenssl.c:    "_hashlib.HASH",    /*tp_name*/
Modules/_hashopenssl.c:static struct PyModuleDef _hashlibmodule = {
Modules/_hashopenssl.c:    "_hashlib",
Modules/_hashopenssl.c:PyInit__hashlib(void)
Modules/_hashopenssl.c:    m = PyModule_Create(&_hashlibmodule);
PCbuild/build_ssl.py:# Script for building the _ssl and _hashlib modules for Windows.
PCbuild/build_ssl.py:# for the actual _ssl.pyd and _hashlib.pyd DLLs.
PCbuild/build_ssl.py:# it should configure and build SSL, then build the _ssl and _hashlib
setup.py:                exts.append( Extension('_hashlib', ['_hashopenssl.c'],
setup.py:                print("warning: openssl 0x%08x is too old for _hashlib" %
Tools/ssl/test_multiple_versions.py:    "test_asyncio", "test_ftplib", "test_hashlib", "test_httplib",
Tools/ssl/test_multiple_versions.py:MINIMAL_TESTS = ["test_ssl", "test_hashlib"]

5楼

另一个部分答案......

但我可以通过良好的旧-I / -L动态链接到我自己的openssl：

...

现在唯一的问题是，gdb info shared还告诉我另一个在核心时间使用......但是怎么样？

那是你的老朋友-l和-L 。 不要使用它们，因为它们总是这样做（从过去遭受过它的那个人那里拿走它）。 而是指定libssl和libcrypto的完整路径。 例如，使用/data2/soft/openssl/lib/libssl.a 。

6楼

我们遇到了类似的问题。 我们使用apache httpd + mod_wsgi + python + django和我们的c ++模块用于apache httpd ，它也使用openssl 。 现在一切都在一个httpd进程中加载??，正确版本的openssl共享库已经加载（1.0.0l）我们的c ++模块。 但是一旦我们访问网页，python就会加载hashlib并且出现完全相同的问题 - 在openssl中调用来自python的segfault。

通常python会编译默认位置可用的openssl ，并且无法在不使用setup.py或makefile的情况下指定它。 Python开发人员应该添加配置设置--with_ssl=path 。

我们安装了新的openssl库并重建了python和其他二进制文件但没有成功。 我们将默认的libssl.so和libcrypto.so映射到新的openssl二进制文件但没有成功。 最后，在阅读了这个帖子后，我意识到在编译python时可能会使用错误的标题。 这就是问题所在。 按照步骤解决问题：

  • /usr/include和默认位置/usr/local/ssl ， /usr/contrib/ssl （如果你安装了openssl-devel然后卸载它，或者只是擦除/重命名目录）一定不能有不正确版本的openssl头文件

yum remove openssl-devel

  • 从/usr/local/ssl创建指向openssl安装的符号链接

ln -s /opt/openssl-1.0.1l /usr/local/ssl

  • 确保可以从/usr/lib访问新的openssl库（如果未安装符号链接，请创建符号链接）

ln -s /opt/openssl-1.0.1l/lib/libcrypto.so.1.0.0 /usr/lib/libcrypto.so.1.0.0 ...

  • 现在配置并清理构建python

7楼

在修补此处提到的修补程序后，我可以使用非默认SSL运行python 2.7.11

但是，有了这个，它不会构建许多其他模块所需的_socket模块。 例如，easy_install / pip启动失败，错误导入器：没有名为_socket的模块

在Module / Setup.dist中，我想取消注释或注释行_socket socketmodule.o？

我看到socketmodule.o和timemodule.o生成了。 但不是_socket.so我错过了什么？

  相关解决方案

代码迷 - 您身边的软件异常，代码异常，编程异常助手（发现，解决，分享）
Copyright © 2009-2013 DAIMAMI.COM. All rights reserved.