如何在Python中使用cookielib和httplib实现"保持连接"?

Question

在Python中，我使用httplib是因为它可以保持HTTP连接的活跃状态（和urllib(2)不一样）。现在，我想把cookielib和httplib一起用，但它们好像不太兼容！！（没有办法把它们连接在一起）。

有没有人知道怎么解决这个问题？

Answer 1

你应该考虑在有机会重构代码时，尽早使用Requests库。与此同时；

注意！这是个小技巧！ :)

我会选择其他推荐的方法，但我做了一个小技巧（虽然是出于不同的原因），这个技巧在httplib和cookielib之间创建了一个接口。

我做的事情是创建一个假的HTTPRequest，只包含最基本的方法，这样CookieJar就能识别它并按需处理cookies。我使用了这个假的请求对象，设置了cookielib所需的所有数据。

以下是这个类的代码：

class HTTPRequest( object ):
"""
Data container for HTTP request (used for cookie processing).
"""

    def __init__( self, host, url, headers={}, secure=False ):
        self._host = host
        self._url = url
        self._secure = secure
        self._headers = {}
        for key, value in headers.items():
            self.add_header(key, value)

    def has_header( self, name ):
        return name in self._headers

    def add_header( self, key, val ):
        self._headers[key.capitalize()] = val

    def add_unredirected_header(self, key, val):
        self._headers[key.capitalize()] = val

    def is_unverifiable( self ):
        return True

    def get_type( self ):
        return 'https' if self._secure else 'http'

    def get_full_url( self ):
        port_str = ""
        port = str(self._host[1])
        if self._secure:
            if port != 443:
                port_str = ":"+port
        else:
            if port != 80:
                port_str = ":"+port
        return self.get_type() + '://' + self._host[0] + port_str + self._url

    def get_header( self, header_name, default=None ):
        return self._headers.get( header_name, default )

    def get_host( self ):
        return self._host[0]

    get_origin_req_host = get_host

    def get_headers( self ):
        return self._headers

请注意，这个类只支持HTTPS协议（这是我当时所需的）。

使用这个类的代码是（请注意还有另一个小技巧，使得响应与cookielib兼容）：

cookies = CookieJar()

headers = {
    # headers that you wish to set
}

# construct fake request
fake_request = HTTPRequest( host, request_url, headers )

# add cookies to fake request
cookies.add_cookie_header(fake_request)

# issue an httplib.HTTPConnection based request using cookies and headers from the fake request
http_connection.request(type, request_url, body, fake_request.get_headers())

response = http_connection.getresponse()

if response.status == httplib.OK:
    # HACK: pretend we're urllib2 response
    response.info = lambda : response.msg

    # read and store cookies from response
    cookies.extract_cookies(response, fake_request)

    # process response...

Answer 2

一个支持保持连接的urllib2的HTTP处理器