什么原因导致 Python 段错误?

2025-02-27 09:07:00
admin
原创
92
摘要:问题描述:我正在用 Python 实现 Kosaraju 的强连通分量 (SCC) 图搜索算法。该程序在小数据集上运行良好,但是当我在超大图表(超过 800,000 个节点)上运行它时,它会显示“分段错误”。这可能是什么原因造成的?谢谢!附加信息:首先,我在超大数据集上运行时出现此错误:"Runti...

问题描述:

我正在用 Python 实现 Kosaraju 的强连通分量 (SCC) 图搜索算法。

该程序在小数据集上运行良好,但是当我在超大图表(超过 800,000 个节点)上运行它时,它会显示“分段错误”。

这可能是什么原因造成的?谢谢!


附加信息:首先,我在超大数据集上运行时出现此错误:

"RuntimeError: maximum recursion depth exceeded in cmp"

然后我使用重置递归限制

sys.setrecursionlimit(50000)

但出现了“分段错误”

相信我,这不是一个无限循环,它在相对较小的数据上也能正确运行。程序有可能耗尽了资源吗?


解决方案 1:

当 python扩展(用 C 编写)尝试访问无法访问的内存时,就会发生这种情况。

您可以通过下列方式进行追踪。

  • sys.settrace在代码的第一行添加。

  • gdb按照Mark在这个答案中描述的方式使用..在命令提示符下

gdb python
(gdb) run /path/to/script.py
## wait for segfault ##
(gdb) backtrace
## stack trace of the c code

解决方案 2:

我知道你已经解决了你的问题,但是对于阅读这个帖子的其他人来说,答案是:你必须增加操作系统为 python 进程分配的堆栈。

具体方法取决于操作系统。在 Linux 中,你可以使用命令检查ulimit -s当前值,也可以使用以下命令增加该值ulimit -s <new_value>

尝试将之前的值加倍,如果不行则继续加倍,直到找到可行的值或内存耗尽。

解决方案 3:

分段错误是一个很常见的错误,造成这种情况的原因有很多:

  • 内存不足

  • 内存故障

  • 使用查询从数据库获取大量数据集(如果获取的数据大小超过交换内存)

  • 错误查询/错误代码

  • 具有长循环(多重递归)

解决方案 4:

通过修复 Python(Python 段错误..谁知道!)和 C++ 实现上的段错误,更新 ulimit 对我的 Kosaraju 的 SCC 实现有效。

对于我的 Mac,我通过以下方式找到了可能的最大值:

$ ulimit -s -H
65532

解决方案 5:

通过谷歌搜索我找到了这篇文章,并没有看到下面关于“个人解决方案”的讨论。


我最近对 ​​Windows Subsystem for Linux 上的 Python 3.7 感到烦恼:在两台具有相同 Pandas 库的机器上,一台给出警告,segmentation fault另一台报告警告。不清楚哪一个是较新的,但“重新安装”pandas解决了问题。

我在有缺陷的机器上运行的命令。

conda install pandas

更多细节:我运行了相同的脚本(通过 Git 同步),两台机器都是装有 WSL + Anaconda 的 Windows 10 机器。下面是屏幕截图。此外,在命令行python会抱怨的机器上Segmentation fault (core dumped),Jupyter 实验室每次都会重新启动内核。更糟糕的是,根本没有发出任何警告。

在此处输入图片描述


几个月后的更新:我不再在 Windows 机器上托管 Jupyter 服务器。我现在在 Windows 上使用 WSL 获取 Linux 服务器上打开的远程端口,并在远程 Linux 机器上运行我的所有作业。几个月来我从未遇到过任何执行错误 :)

解决方案 6:

在 RPI 上升级 dlib 后,我遇到了这个分段错误。我按照 Shiplu Mokaddim 的建议回溯了堆栈,结果发现它位于 OpenBLAS 库上。

由于 OpenBLAS 也是多线程的,因此在多线程应用程序中使用它会使线程数成倍增加,直至出现分段错误。对于多线程应用程序,请将 OpenBlas 设置为单线程模式。

在 python 虚拟环境中,通过编辑告诉 OpenBLAS 仅使用单个线程:

    $ workon <myenv>
    $ nano .virtualenv/<myenv>/bin/postactivate

并添加:

    export OPENBLAS_NUM_THREADS=1 
    export OPENBLAS_MAIN_FREE=1

重启后,我能够在 rpi3b 上运行之前导致其崩溃的所有图像识别应用程序。

参考:
https ://github.com/ageitgey/face_recognition/issues/294

解决方案 7:

看起来你的堆栈内存不足了。你可能想增加它,正如 Davide 所说。要在 Python 代码中执行此操作,你需要使用线程运行“main()”:

def main():
    pass # write your code here

sys.setrecursionlimit(2097152)    # adjust numbers
threading.stack_size(134217728)   # for your needs

main_thread = threading.Thread(target=main)
main_thread.start()
main_thread.join()

来源:c1729 在 codeforces 上的帖子。使用 PyPy 运行它有点棘手。

解决方案 8:

我遇到了同样的错误。我从另一个 SO 答案sys中了解到,您需要通过和resource模块设置递归限制。

解决方案 9:

这可能是由于递归深度过大造成的,尤其是对于较大的输入大小。如果可能的话,为了减少递归深度,您必须在中间使用循环。

相关推荐
  政府信创国产化的10大政策解读一、信创国产化的背景与意义信创国产化,即信息技术应用创新国产化,是当前中国信息技术领域的一个重要发展方向。其核心在于通过自主研发和创新,实现信息技术应用的自主可控,减少对外部技术的依赖,并规避潜在的技术制裁和风险。随着全球信息技术竞争的加剧,以及某些国家对中国在科技领域的打压,信创国产化显...
工程项目管理   2974  
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   1836  
  PLM(产品生命周期管理)系统在企业的产品研发、生产与管理过程中扮演着至关重要的角色。然而,在实际运行中,资源冲突是经常会遇到的难题。资源冲突可能导致项目进度延迟、成本增加以及产品质量下降等一系列问题,严重影响企业的效益与竞争力。因此,如何有效应对PLM系统中的资源冲突,成为众多企业关注的焦点。接下来,我们将详细探讨5...
plm项目管理系统   47  
  敏捷项目管理与产品生命周期管理(PLM)的融合,正成为企业在复杂多变的市场环境中提升研发效率、增强竞争力的关键举措。随着技术的飞速发展和市场需求的快速更迭,传统的研发流程面临着诸多挑战,而将敏捷项目管理理念融入PLM,有望在2025年实现研发流程的深度优化,为企业创造更大的价值。理解敏捷项目管理与PLM的核心概念敏捷项...
plm项目   47  
  模块化设计在现代产品开发中扮演着至关重要的角色,它能够提升产品开发效率、降低成本、增强产品的可维护性与可扩展性。而产品生命周期管理(PLM)系统作为整合产品全生命周期信息的关键平台,对模块化设计有着强大的支持能力。随着技术的不断发展,到 2025 年,PLM 系统在支持模块化设计方面将有一系列令人瞩目的技术实践。数字化...
plm软件   48  
热门文章
项目管理软件有哪些?
曾咪二维码

扫码咨询,免费领取项目管理大礼包!

云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用