中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python爬蟲基礎教程:requests庫(二)代碼實例

發布時間:2020-08-28 06:00:31 來源:腳本之家 閱讀:150 作者:嗨學編程 欄目:開發技術

get請求

簡單使用

import requests
'''
想要學習Python?Python學習交流群:973783996滿足你的需求,資料都已經上傳群文件,可以自行下載!
'''
response = requests.get("https://www.baidu.com/")
#text返回的是unicode的字符串,可能會出現亂碼情況
# print(response.text)
 
#content返回的是字節,需要解碼
print(response.content.decode('utf-8'))
 
 
# print(response.url)       #https://www.baidu.com/
# print(response.status_code)   #200
# print(response.encoding)    #ISO-8859-1

添加headers和params

import requests
 
params = {
  'wd':'python'
}
headers = {
  'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36'
}
 
response = requests.get("https://www.baidu.com/s",params=params,headers=headers)
 
#content返回的是字節,需要解碼
with open('baidu.html','w',encoding='utf-8') as f:
  f.write(response.content.decode('utf-8'))

POST請求

爬去拉鉤網職位信息

import requests
 
url = "https://www.lagou.com/jobs/positionAjax.json?city=%E5%8C%97%E4%BA%AC&needAddtionalResult=false"
 
data = {
  'first':'true',
  'pn':1,
  'kd':'python'
}
 
headers = {
  "User-Agent":"Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36",
  "Referer":"https://www.lagou.com/jobs/list_python?city=%E5%8C%97%E4%BA%AC&cl=false&fromSearch=true&labelWords=&suginput="
}
 
response = requests.post(url,data=data,headers=headers)
# print(response.text)
print(type(response.text))    #<class 'str'>
print(type(response.json()))   #<class 'dict'>
 
print(response.json())      #獲取為字典的形式

使用代理

import requests
 
proxy = {'http':'115.210.31.236.55:9000'}
 
response = requests.get("https://www.baidu.com/",proxies=proxy)
 
print(response.content.decode('utf-8'))

session登錄

# _*_ coding:utf-8 _*_
 
import requests
 
# 1. 創建session對象,可以保存Cookie值
ssion = requests.session()
 
# 2. 處理 headers
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}
 
# 3. 需要登錄的用戶名和密碼
data = {"email":"158xxxxxxxx", "password":"pythonxxxxxxx"}
 
# 4. 發送附帶用戶名和密碼的請求,并獲取登錄后的Cookie值,保存在ssion里
ssion.post("http://www.renren.com/PLogin.do", data = data)
 
# 5. ssion包含用戶登錄后的Cookie值,可以直接訪問那些登錄后才可以訪問的頁面
response = ssion.get("http://zhibo.renren.com/news/108")
 
# 6. 打印響應內容
print(response.text)
 

以上所述是小編給大家介紹的python爬蟲基礎教程:requests庫(二)詳解整合,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。在此也非常感謝大家對億速云網站的支持!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

横峰县| 五常市| 恩施市| 新巴尔虎右旗| 青铜峡市| 阿拉尔市| 福泉市| 霞浦县| 锡林浩特市| 农安县| 曲沃县| 卢氏县| 米泉市| 凉城县| 深圳市| 景洪市| 登封市| 孝感市| 武邑县| 太仓市| 金湖县| 岳西县| 龙门县| 濮阳市| 垦利县| 嫩江县| 新昌县| 四平市| 陇西县| 永川市| 台山市| 利辛县| 罗城| 浦北县| 黑山县| 西安市| 祥云县| 莱芜市| 合作市| 阿巴嘎旗| 蒲城县|