吴忠躺衫网络科技有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

python代碼中如何使用HTTP代理

華益云HTTP爬蟲IP ? 來源:華益云HTTP爬蟲IP ? 作者:華益云HTTP爬蟲IP ? 2022-09-01 14:50 ? 次閱讀

華益云HTTP代理API有效期是一年,也就是說一年內(nèi)這1萬IP用完就沒了,如果你一年都用不完那到時候剩余IP才會被清零,對于調(diào)試代碼來說時間充足靈活。

華益云還免費提供一些主流語言示例代碼demo,可到幫助文檔獲取(pythonjavaphpc,go易語言)

python代碼中如何使用HTTP代理。

# 此版本無需安裝依賴
import urllib
import urllib.request
import urllib

def main():
    # 發(fā)送給服務(wù)器的標(biāo)識
    userAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/532.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36"
    # 代理api(這里我推薦使用www.9vps.com華益云的HTTP代理API,注冊就白嫖1萬IP)
    proxyUrl = "http://http.9vps.com/getip.asp?username=166xxxx6597&pwd=xxxxbaa59ce237dff65134984b9cxxxx&geshi=1&fenge=1&fengefu=&Contenttype=1&getnum=20&setcity=&operate=all&";
    # 請求代理url,獲取代理ip 
    outPutProxy = getProxy(proxyUrl, userAgent)
    if len(outPutProxy)==0:
        # 沒有獲取到代理
        return
    # 目標(biāo)請求網(wǎng)站
    # https://httpbin.org/get
    url = "https://www.qq.com/"
    content = None
 
    for _ in range(0, 3):
        # 最多嘗試三次
        try:
            # 從列表中取出一個代理出來
            proxy = outPutProxy.pop(0)
            px = {
                "http": proxy,
                "https": proxy
            }
            content = requestGet(url, userAgent, px)
            break
        except Exception as e:
            print(e)
            if (len(outPutProxy) == 0):
                # 如果發(fā)現(xiàn)沒有代理了,就去獲取下。
                outPutProxy = getProxy(proxyUrl, userAgent)
     
    print(content)
def getProxy(proxyUrl, userAgent):
    proxyIps=""
    outPutProxy = []
    try:
        proxyIps = requestGet(proxyUrl, userAgent, None)
        print("(proxyIps)", proxyIps)
        # {"code":3002,"data":[],"msg":"error!用戶名或密碼錯誤","success":false}
        if "{" in proxyIps:
            raise Exception("[錯誤]"+proxyIps)
        outPutProxy = proxyIps.splitlines()
        
    except Exception as e:
        print(e)
    print("總共獲取了"+str(len(outPutProxy))+"個代理")
    return outPutProxy

def requestGet(url, userAgent, proxy):
    headers = {
        "User-Agent": userAgent
    }
    # httpproxy_handler = urllib.ProxyHandler({"http" : " 180.104.192.217:22036"}) 
    response = None
    if (proxy):
        proxyHandler = urllib.request.ProxyHandler(proxy)
        opener = urllib.request.build_opener(proxyHandler, urllib.request.HTTPHandler)
        urllib.request.install_opener(opener)
        request = urllib.request.Request(url, headers=headers)
        response = urllib.request.urlopen(request, timeout=5)
    else:
        # 沒有代理走這個
        request = urllib.request.Request(url, headers=headers)
        response = urllib.request.urlopen(request, timeout=5)
        #response = opener.open(request)
    
    
    html = response.read()
    # # 設(shè)置編碼,防止亂碼
    # 手動設(shè)置網(wǎng)頁字符編碼方式
    return html.decode("utf-8", "ignore")

main()

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • HTTP
    +關(guān)注

    關(guān)注

    0

    文章

    511

    瀏覽量

    31518
  • 代碼
    +關(guān)注

    關(guān)注

    30

    文章

    4825

    瀏覽量

    69046
  • python
    +關(guān)注

    關(guān)注

    56

    文章

    4807

    瀏覽量

    85037
收藏 人收藏

    評論

    相關(guān)推薦

    如何在java代碼中使用HTTP代理IP

    如何在java代碼中使用HTTP代理IP。
    的頭像 發(fā)表于 08-04 15:38 ?2274次閱讀

    python代碼中使用HTTP代理IP,demo注釋清晰

    如何再python代碼中使用HTTP代理IP。 以下代碼主要圍繞第一次接觸HTTP
    的頭像 發(fā)表于 08-04 15:40 ?1085次閱讀

    如何在python代碼中使用HTTP代理IP

    如何在python代碼中使用HTTP代理IP。
    的頭像 發(fā)表于 08-04 15:46 ?1320次閱讀

    如何在PHP代碼中使用HTTP代理IP

    如何在PHP代碼中使用HTTP代理IP。
    的頭像 發(fā)表于 08-04 16:08 ?2494次閱讀

    go語言代碼中使用HTTP代理IP的方法

    如何在go語言代碼中使用HTTP代理IP。
    的頭像 發(fā)表于 08-04 16:13 ?3239次閱讀

    如何在易e語言代碼中使用HTTP代理IP

    如何在易e語言代碼中使用HTTP代理IP,示例代碼demo直接可用(步驟注釋清晰)
    的頭像 發(fā)表于 08-05 16:29 ?7013次閱讀

    如何在c語言代碼中使用HTTP代理IP

    如何在c語言代碼中使用HTTP代理IP,示例代碼demo直接可用(步驟注釋清晰)
    的頭像 發(fā)表于 08-05 16:31 ?2395次閱讀

    如何在c#語言代碼中使用HTTP代理IP

    如何在c#語言代碼中使用HTTP代理IP,示例代碼demo直接可用(步驟注釋清晰)
    的頭像 發(fā)表于 08-05 16:33 ?2680次閱讀

    java怎么使用HTTP代理

    java怎么使用HTTP代理,華益云python爬蟲ip
    的頭像 發(fā)表于 09-01 14:31 ?1735次閱讀

    python怎么使用HTTP代理

    python怎么使用HTTP代理,華益云高匿爬蟲代理ip
    的頭像 發(fā)表于 09-01 14:36 ?1668次閱讀

    PHP怎么使用HTTP代理

    PHP怎么使用HTTP代理,華益云高匿爬蟲代理ip
    的頭像 發(fā)表于 09-01 14:38 ?1785次閱讀

    c語言中怎么使用HTTP代理

    如何再c語言代碼中使用HTTP代理IP。
    的頭像 發(fā)表于 09-01 14:44 ?1456次閱讀

    python代碼如何使用HTTP代理

    HTTP代理就是介于瀏覽器和web服務(wù)器之間的一臺服務(wù)器,連接代理后,瀏覽器不再直接向web服務(wù)器取回網(wǎng)頁,而是向代理服務(wù)器發(fā)出request信號,
    的頭像 發(fā)表于 09-13 09:24 ?1324次閱讀

    如何在python代碼中使用HTTP代理IP

    如何再python代碼中使用HTTP代理IP。
    的頭像 發(fā)表于 09-13 09:25 ?1042次閱讀

    使用Python構(gòu)建高效的HTTP代理服務(wù)器

    構(gòu)建一個高效的HTTP代理服務(wù)器在Python涉及多個方面,包括性能優(yōu)化、并發(fā)處理、協(xié)議支持(HTTP/HTTPS)、錯誤處理以及日志記錄
    的頭像 發(fā)表于 10-23 07:41 ?217次閱讀
    大发888线上官方网站| 七匹狼娱乐城开户| 江川县| 百家乐官网的薇笑打法| 百家乐北京| 久胜娱乐| 百家乐官网真人荷官网| 澳门赌百家乐能赢钱吗| 德州扑克论坛| 木棉百家乐官网网络| 星期8百家乐的玩法技巧和规则 | 大发888客户端下载| 澳门百家乐官网庄闲的玩法 | 百家乐官网保证赢| 天天百家乐的玩法技巧和规则 | 免费百家乐官网过滤| 大发888官方网站登陆| 游戏机百家乐官网下载| 免费百家乐过滤软件| 百家乐官网路单免费下载| 线上百家乐攻略| 淘宝皇冠网店| 百家乐投注办法| 体育博彩| 锡林郭勒盟| 百家乐平台开户哪里优惠多 | 广州百家乐筹码| 皇冠百家乐官网代理网| 菲律宾百家乐开户| 百家乐官网关键词| 百家乐官网游戏| 百家乐官网线上代理网站| 百家乐大赌场娱乐网规则| 赌场百家乐官网攻略| 威尼斯人娱乐城求助| 闲和庄百家乐官网娱乐| 亲朋棋牌刷金币| 百家乐官网正品| 澳门百家乐打法精华| 百家乐官网接线玩法| 發中發百家乐的玩法技巧和规则|