Python-请求关闭http连接

2025-03-20 08:47:00
admin
原创
41
摘要:问题描述:我想知道,如何关闭与 Requests(python-requests.org)的连接?有了httplib它HTTPConnection.close(),但是我如何对请求执行相同的操作?代码:r = requests.post("https://stream.twitter.com/1/s...

问题描述:

我想知道,如何关闭与 Requests(python-requests.org)的连接?

有了httplibHTTPConnection.close(),但是我如何对请求执行相同的操作?

代码:

r = requests.post("https://stream.twitter.com/1/statuses/filter.json", data={'track':toTrack}, auth=('username', 'passwd'))
for line in r.iter_lines():
    if line:
        self.mongo['db'].tweets.insert(json.loads(line))

解决方案 1:

我认为关闭连接的更可靠方法是以符合 HTTP 规范的方式明确告诉服务器关闭它:

HTTP/1.1 定义了“close”连接选项,让发送方发出信号,表示响应完成后将关闭连接。例如,

   Connection: close

在请求或响应标头字段中,表示在当前请求/响应完成后,该连接不应被视为“持久的”(第 8.1 节)。

Connection: close头添加到实际请求中:

r = requests.post(url=url, data=body, headers={'Connection':'close'})

解决方案 2:

我来这个问题是为了解决"too many open files" error,但我在代码中使用。经过几次搜索后,我在Python 请求文档requests.session()中找到了一个答案,它建议使用块,以便即使存在未处理的异常也可以关闭会话:with

with requests.Session() as s:
    s.get('http://google.com')

如果您不使用 Session,您实际上可以做同样的事情:https://2.python-requests.org/en/master/user/advanced/#session-objects

with requests.get('http://httpbin.org/get', stream=True) as r:
    # Do something

解决方案 3:

正如这里所讨论的,实际上并不存在 HTTP 连接,httplib 所指的 HTTPConnection 实际上是底层 TCP 连接,它实际上根本不了解您的请求。Requests 将其抽象化,您永远不会看到它。

最新版本的 Requests 确实会在您发出请求后保持 TCP 连接处于活动状态。如果您确实希望关闭 TCP 连接,您只需将请求配置为不使用keep-alive即可。

s = requests.session()
s.config['keep_alive'] = False

解决方案 4:

请使用response.close()关闭以避免“打开太多文件”错误

例如:

r = requests.post("https://stream.twitter.com/1/statuses/filter.json", data={'track':toTrack}, auth=('username', 'passwd'))
....
r.close()

解决方案 5:

在请求 1.X 中,连接在响应对象上可用:

r = requests.post("https://stream.twitter.com/1/statuses/filter.json",
                  data={'track': toTrack}, auth=('username', 'passwd'))

r.connection.close()

解决方案 6:

根据最新的请求(2.25.1),requests.<method>将默认关闭连接

with sessions.Session() as session:
    return session.request(method=method, url=url, **kwargs)

https://github.com/psf/requests/blob/master/requests/api.py#L60

因此,如果使用最新版本的请求,似乎我们不需要自己关闭连接。

此外,如果您需要使用同一个会话发送多次请求,最好使用requests.Session()而不是多次打开/关闭连接。例如:

with requests.Session() as s:
    r = s.get('https://example.org/1/')
    print(r.text)
    r = s.get('https://example.org/2/')
    print(r.text)
    r = s.get('https://example.org/3/')
    print(r.text)

解决方案 7:

这对我有用:

res = requests.get(<url>, timeout=10).content
requests.session().close()

解决方案 8:

为了删除请求中的“keep-alive”标头,我只需从 Request 对象创建它,然后使用 Session 发送它

headers = {
'Host' : '1.2.3.4',
'User-Agent' : 'Test client (x86_64-pc-linux-gnu 7.16.3)',
'Accept' : '*/*',
'Accept-Encoding' : 'deflate, gzip',
'Accept-Language' : 'it_IT'
}

url = "https://stream.twitter.com/1/statuses/filter.json"
#r = requests.get(url, headers = headers) #this triggers keep-alive: True
s = requests.Session()
r = requests.Request('GET', url, headers)
相关推荐
  政府信创国产化的10大政策解读一、信创国产化的背景与意义信创国产化,即信息技术应用创新国产化,是当前中国信息技术领域的一个重要发展方向。其核心在于通过自主研发和创新,实现信息技术应用的自主可控,减少对外部技术的依赖,并规避潜在的技术制裁和风险。随着全球信息技术竞争的加剧,以及某些国家对中国在科技领域的打压,信创国产化显...
工程项目管理   2482  
  为什么项目管理通常仍然耗时且低效?您是否还在反复更新电子表格、淹没在便利贴中并参加每周更新会议?这确实是耗费时间和精力。借助软件工具的帮助,您可以一目了然地全面了解您的项目。如今,国内外有足够多优秀的项目管理软件可以帮助您掌控每个项目。什么是项目管理软件?项目管理软件是广泛行业用于项目规划、资源分配和调度的软件。它使项...
项目管理软件   1533  
  PLM(产品生命周期管理)项目对于企业优化产品研发流程、提升产品质量以及增强市场竞争力具有至关重要的意义。然而,在项目推进过程中,范围蔓延是一个常见且棘手的问题,它可能导致项目进度延迟、成本超支以及质量下降等一系列不良后果。因此,有效避免PLM项目范围蔓延成为项目成功的关键因素之一。以下将详细阐述三大管控策略,助力企业...
plm系统   0  
  PLM(产品生命周期管理)项目管理在企业产品研发与管理过程中扮演着至关重要的角色。随着市场竞争的加剧和产品复杂度的提升,PLM项目面临着诸多风险。准确量化风险优先级并采取有效措施应对,是确保项目成功的关键。五维评估矩阵作为一种有效的风险评估工具,能帮助项目管理者全面、系统地评估风险,为决策提供有力支持。五维评估矩阵概述...
免费plm软件   0  
  引言PLM(产品生命周期管理)开发流程对于企业产品的全生命周期管控至关重要。它涵盖了从产品概念设计到退役的各个阶段,直接影响着产品质量、开发周期以及企业的市场竞争力。在当今快速发展的科技环境下,客户对产品质量的要求日益提高,市场竞争也愈发激烈,这就使得优化PLM开发流程成为企业的必然选择。缺陷管理工具和六西格玛方法作为...
plm产品全生命周期管理   0  
热门文章
项目管理软件有哪些?
曾咪二维码

扫码咨询,免费领取项目管理大礼包!

云禅道AD
禅道项目管理软件

云端的项目管理软件

尊享禅道项目软件收费版功能

无需维护,随时随地协同办公

内置subversion和git源码管理

每天备份,随时转为私有部署

免费试用