selenium爬虫操作网页（实战篇） / 开普饭

前面我们遇到了一个爬虫难题：爬虫最怕遇到JavaScript依赖性的动态网页，选择了[在R里面配置selenium爬虫环境]()，仅仅是安装和配置好了在R里面使用selenium爬虫，打开一个JavaScript控制的动态网页仅仅是爬虫的开始，接下来需要跟这个网页进行各式各样的交互。首先放出一些学习链接：

https://ropensci.org/tutorials/rselenium_tutorial/
http://thatdatatho.com/2019/01/22/tutorial-web-scraping-rselenium/
https://www.selenium.dev/

查看源代码

如果你使用谷歌浏览器自行打开网页：http://www.brics.ac.cn/plasmid/template/plasmid/plasmid_list.html

会发现它的源代码里面根本就没有各式各样的下一页等按钮，全部被隐藏在了如下所示的JavaScript脚本里面：

但是这些JavaScript脚本是网页开发者并不会公开的，所以我们没办法去查看它们里面的函数。

但是可以使用selenium爬虫打开的网页，代码如下：

library(RSelenium)
library(rvest)
library(stringr)

################调用R包#########################################
library(rvest) # 为了read_html函数
library(RSelenium) # 为了使用JavaScript进行网页抓取

###############连接Server并打开浏览器############################
remDr <- remoteDriver(remoteServerAddr = "127.0.0.1"
, port = 4444
, browserName = "chrome")#连接Server
remDr$open() #打开浏览器
remDr$navigate("http://www.brics.ac.cn/plasmid/template/plasmid/plasmid_list.html") #打开网页

查看新的源代码

这个时候查看源代码里面就有一些内容了，需要重点关注的就是“下一页”，需要对HTML有一点认知，知道 id,class,css,name的区别：

搜寻下一页并且传递鼠标点击操作

代码非常简单，两句话就可以了：

# <a href="javascript:;" class="layui-laypage-next" data-page="2">下一页</a></div></div>
# 解析上面的html源代码
webElem <- remDr$findElement(using = 'class', value = "layui-laypage-next")
webElem$clickElement()

运行R代码的同时，你还可以看到浏览器的变化。

我的需求是拿到全部links

这个网页每次仅仅是刷新部分plasmid出来，所以需要依次循环3396次，拿到全部plasmid信息，获取其超链接url。

代码如下：

# Extracting links
links=remDr$getPageSource()[[1]] %>%
  read_html() %>%
  html_nodes("a") %>% html_attr("href")
links
i=1
while(i<3396){
  i=i+1
  webElem <- remDr$findElement(using = 'class', value = "layui-laypage-next")
  webElem$clickElement()
  lks=remDr$getPageSource()[[1]] %>%
read_html() %>%
html_nodes("a") %>% html_attr("href")
  print(lks)
  links=c(links,lks)
}
links=unique(links)
links
save(links,file = 'plasmid_detail_links.Rdata')

当然了，拿到的links本身，还需进行二次访问，继续摘取里面的信息。

第二次访问具体每个网页

前面的links变量里面储存了全部的plasmid的介绍页面的url

接下来就循环访问每个plasmid网页获取信息，代码如下：

load(file = 'plasmid_detail_links.Rdata')
links
kp=grepl('plasmid_detail.html',links)
links=links[kp]
length(links)
remDr <- remoteDriver(remoteServerAddr = "127.0.0.1"
, port = 4444
, browserName = "chrome")#连接Server
remDr$open() #打开浏览器
for (i in 1:5000) {
  print(i)
  url=links[i]
  remDr$navigate(url) #打开网页
  Sys.sleep(0.5)
  print(remDr$getCurrentUrl())
  htmls=remDr$getPageSource()[[1]]
  #  <div class="panel-body">
  bodys <- htmls %>%
read_html() %>%   html_nodes('.panel-body')
  c1 <- bodys[[1]] %>%  html_text()
  c2 <- bodys[[2]] %>%  html_text()
  c3 <- bodys[[3]] %>%  html_text()
  c1=gsub('\t','',c1);c1=gsub('\n','',c1);
  c2=gsub('\t','',c2);c2=gsub('\n','',c2);
  c3=gsub('\t','',c3);c3=gsub('\n','',c3);
  # id="plasmidName"
  plasmidName <- htmls %>%
read_html() %>%   html_nodes('#plasmidName') %>%  html_text()
  # id="plasmid_identification"
  plasmid_identification <- htmls %>%
read_html() %>%   html_nodes('#plasmid_identification') %>%  html_text()
  info=data.frame(plasmidName,plasmid_identification,c1,c2,c3)
  rm(htmls)

write.table(info,file = 'info1.txt',
col.names = F,row.names = F,
append = T)
}

保存为文件：