web-dev-qa-db-ja.com

pythonリクエストをSOCKSプロキシ経由で機能させる方法

Pythonスクリプトで素晴らしい Requests ライブラリを使用しています。

import requests
r = requests.get("some-site.com")
print r.text

ソックスプロキシを使用したいと思います。ただし、リクエストは現在HTTPプロキシのみをサポートしています。

どうやってやるの?

59
izhak

現代の方法:

pip install -U requests[socks]

それから

import requests

resp = requests.get('http://go.to', 
                    proxies=dict(http='socks5://user:[email protected]:port',
                                 https='socks5://user:[email protected]:port'))
89
dvska

2016年4月29日にリリースされたrequestsバージョン 2.10. の時点で、requestsはSOCKSをサポートしています。

PySocks が必要です。これはpip install pysocksでインストールできます。

使用例:

import requests
proxies = {'http': "socks5://myproxy:9191"}
requests.get('http://example.org', proxies=proxies)
40
Jim

誰かがこれらの古い回答をすべて試したが、まだ次のような問題に直面している場合:

requests.exceptions.ConnectionError: 
   SOCKSHTTPConnectionPool(Host='myhost', port=80): 
   Max retries exceeded with url: /my/path 
   (Caused by NewConnectionError('<requests.packages.urllib3.contrib.socks.SOCKSConnection object at 0x106812bd0>: 
   Failed to establish a new connection: 
   [Errno 8] nodename nor servname provided, or not known',))

これは、デフォルトで、requestsが接続のlocal側でDNSクエリを解決するように構成されているためである可能性があります。

プロキシURLをsocks5://proxyhost:1234からsocks5h://proxyhost:1234に変更してみてください。余分なh(ホスト名解決の略)に注意してください。

PySocksパッケージモジュールのデフォルトはリモート解決を行う であり、リクエストが行われた理由がわかりません それらの統合 これは明らかにあいまいですが、ここにあります。

28
Mahmoud Hashemi

pysocks をインストールする必要があります。私のバージョンは1.0で、コードは私のために機能します:

import socket
import socks
import requests
ip='localhost' # change your proxy's ip
port = 0000 # change your proxy's port
socks.setdefaultproxy(socks.PROXY_TYPE_SOCKS5, ip, port)
socket.socket = socks.socksocket
url = u'http://ajax.googleapis.com/ajax/services/search/images?v=1.0&q=inurl%E8%A2%8B'
print(requests.get(url).text)
15
lqhcpsgbl

python requestsSOCKS5 pullリクエストとマージされるとすぐに、proxies辞書を使用するのと同じくらい簡単になります:

#proxy
        # SOCKS5 proxy for HTTP/HTTPS
        proxies = {
            'http' : "socks5://myproxy:9191",
            'https' : "socks5://myproxy:9191"
        }

        #headers
        headers = {

        }

        url='http://icanhazip.com/'
        res = requests.get(url, headers=headers, proxies=proxies)

SOCKSプロキシサポート を参照してください

別のオプションは、requestの準備ができて待つことができない場合、requesocksが組み込まれていないためにGoogleAppEngineのようにpwdを使用できない場合、 PySocks 上記のとおり:

  1. リポジトリからsocks.pyファイルを取得し、ルートフォルダーにコピーを配置します。
  2. import socksimport socketを追加します

次の例では、urllib2で使用する前に、この時点でソケットを構成およびバインドします。

import urllib2
import socket
import socks

socks.set_default_proxy(socks.SOCKS5, "myprivateproxy.net",port=9050)
socket.socket = socks.socksocket
res=urllib2.urlopen(url).read()
5
loretoparisi
# SOCKS5 proxy for HTTP/HTTPS
proxiesDict = {
    'http' : "socks5://1.2.3.4:1080",
    'https' : "socks5://1.2.3.4:1080"
}

# SOCKS4 proxy for HTTP/HTTPS
proxiesDict = {
    'http' : "socks4://1.2.3.4:1080",
    'https' : "socks4://1.2.3.4:1080"
}

# HTTP proxy for HTTP/HTTPS
proxiesDict = {
    'http' : "1.2.3.4:1080",
    'https' : "1.2.3.4:1080"
}
2
wcc526

次のように、pysocksとモンキーパッチを適用したcreate_connectionをurllib3にインストールしました。

import socks
import socket
socks.setdefaultproxy(socks.PROXY_TYPE_SOCKS4, "127.0.0.1", 1080)

def create_connection(address, timeout=socket._GLOBAL_DEFAULT_TIMEOUT,
                      source_address=None, socket_options=None):
    """Connect to *address* and return the socket object.

    Convenience function.  Connect to *address* (a 2-Tuple ``(Host,
    port)``) and return the socket object.  Passing the optional
    *timeout* parameter will set the timeout on the socket instance
    before attempting to connect.  If no *timeout* is supplied, the
    global default timeout setting returned by :func:`getdefaulttimeout`
    is used.  If *source_address* is set it must be a Tuple of (Host, port)
    for the socket to bind as a source address before making the connection.
    An Host of '' or port 0 tells the OS to use the default.
    """

    Host, port = address
    if Host.startswith('['):
        Host = Host.strip('[]')
    err = None
    for res in socket.getaddrinfo(Host, port, 0, socket.SOCK_STREAM):
        af, socktype, proto, canonname, sa = res
        sock = None
        try:
            sock = socks.socksocket(af, socktype, proto)

            # If provided, set socket level options before connecting.
            # This is the only addition urllib3 makes to this function.
            urllib3.util.connection._set_socket_options(sock, socket_options)

            if timeout is not socket._GLOBAL_DEFAULT_TIMEOUT:
                sock.settimeout(timeout)
            if source_address:
                sock.bind(source_address)
            sock.connect(sa)
            return sock

        except socket.error as e:
            err = e
            if sock is not None:
                sock.close()
                sock = None

    if err is not None:
        raise err

    raise socket.error("getaddrinfo returns an empty list")

# monkeypatch
urllib3.util.connection.create_connection = create_connection
1
Edward Betts

多分これは助けることができます:

https://github.com/kennethreitz/requests/pull/478

0
wroniasty