python爬取优美图库海量图片,附加代码,一键爬取

import requestsimport parsel# 1、确定爬取的url路径,headers参数base_url = 'https://www.umei.cc/meinvtupian/meinvxiezhen/'headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36'}# 2、发送请求 -- requests 模拟浏览器发送请求,获取响应数据response = requests.get(base_url, headers=headers)response.encoding = response.apparent_encoding # 自动识别响应对象的编码html = response.text# print(html)# 3、解析数据 -- parsel 转化为Selector对象,Selector对象具有xpath的方法,能够对转化的数据进行处理# 3、1 转换数据类型parse = parsel.Selector(html)# 3、2 解析数据href_list = parse.xpath('//div[@class='TypeList']/ul/li/a/@href').extract()# print(href_list)for href in href_list: # print(href) # 再次发送图片请求 href_data = requests.get(href, headers=headers).text # 解析图片数据 img = parsel.Selector(href_data) img_src = img.xpath('//div[@class='ImageBody']/p/a/img/@src').extract_first() # print(img_src) # 发送图片的url img_data = requests.get(img_src, headers=headers).content # 4、保存数据 # 1、准备文件名 file_name = img_src.split('/')[-1] # print(file_name) # 3、保存文件 with open('img\\' + file_name, 'wb') as f: print('正在保存文件:{}'.format(file_name)) f.write(img_data)

(0)

相关推荐