web-dev-qa-db-ja.com

PythonでVPN /プロキシ接続する方法は？

Webサイトにあるページをスクレイピングしようとしていますが、ページを表示するには、VPNに接続する必要があります。私のセットアップは次のとおりです。

VPN経由で接続するpythonanywhereでスクリプトを実行して、トラフィックがオーストラリアから来ているように見せたい。

私がこれまでに見つけた最も近い答えは：

JSoup over VPN/proxy

pythonvpnpythonanywherepia
12
Liam Flynn

https://www.privateinternetaccess.com/ にはSOCKS5プロキシを使用するオプションがあります。スクレイピングに要求モジュールを使用している場合、SOCKS5を次のように使用できます。

pip install -U requests[socks]

そしてスクリプトで：

import requests
proxies = {'http': 'socks5://user:pass@Host:port',
           'https': 'socks5://user:pass@Host:port'}

resp = requests.get('http://example.com', proxies=proxies )
14
Alexey Smirnov

あなたが望むものについて具体的にすべきです。プロキシはVPNとは異なります。

プロキシはPythonで作成する方が簡単です。

コードは次のとおりです。

import socket
import select
import time
import sys

# Changing the buffer_size and delay, you can improve the speed and bandwidth.
# But when buffer get to high or delay go too down, you can broke things
buffer_size = 4096
delay = 0.0001
forward_to = ('smtp.zaz.ufsk.br', 25)

class Forward:
    def __init__(self):
        self.forward = socket.socket(socket.AF_INET, socket.SOCK_STREAM)

    def start(self, Host, port):
        try:
            self.forward.connect((Host, port))
            return self.forward
        except Exception, e:
            print e
            return False

class TheServer:
    input_list = []
    channel = {}

    def __init__(self, Host, port):
        self.server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
        self.server.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
        self.server.bind((Host, port))
        self.server.listen(200)

    def main_loop(self):
        self.input_list.append(self.server)
        while 1:
            time.sleep(delay)
            ss = select.select
            inputready, outputready, exceptready = ss(self.input_list, [], [])
            for self.s in inputready:
                if self.s == self.server:
                    self.on_accept()
                    break

                self.data = self.s.recv(buffer_size)
                if len(self.data) == 0:
                    self.on_close()
                    break
                else:
                    self.on_recv()

    def on_accept(self):
        forward = Forward().start(forward_to[0], forward_to[1])
        clientsock, clientaddr = self.server.accept()
        if forward:
            print clientaddr, "has connected"
            self.input_list.append(clientsock)
            self.input_list.append(forward)
            self.channel[clientsock] = forward
            self.channel[forward] = clientsock
        else:
            print "Can't establish connection with remote server.",
            print "Closing connection with client side", clientaddr
            clientsock.close()

    def on_close(self):
        print self.s.getpeername(), "has disconnected"
        #remove objects from input_list
        self.input_list.remove(self.s)
        self.input_list.remove(self.channel[self.s])
        out = self.channel[self.s]
        # close the connection with client
        self.channel[out].close()  # equivalent to do self.s.close()
        # close the connection with remote server
        self.channel[self.s].close()
        # delete both objects from channel dict
        del self.channel[out]
        del self.channel[self.s]

    def on_recv(self):
        data = self.data
        # here we can parse and/or modify the data before send forward
        print data
        self.channel[self.s].send(data)

if __name__ == '__main__':
        server = TheServer('', 9090)
        try:
            server.main_loop()
        except KeyboardInterrupt:
            print "Ctrl C - Stopping server"
            sys.exit(1)

お役に立てば幸いです;-)

1
Vin