开发笔记:基于Electon的图片采集工具

题图,由ACE Land 人工智能设计师赞助。

人这一辈子没法做太多的事情,
所以每一件都要做得精彩绝伦。
你的时间有限,
所以不要为别人而活。
不要被教条所限,
不要活在别人的观念里。
不要让别人的意见左右自己内心的声音。

最重要的是,
勇敢的去追随自己的心灵和直觉,
只有自己的心灵和直觉才知道你自己的真实想法,
其他一切都是次要。

——乔布斯

以下是正文,总结下最近使用electron的心得。

工具的界面是这样的,上面是一些导出数据,提交到服务器的操作,还有输入URL的输入框,下面主要是爬取结果的呈现区域。

技术架构

Electron+Nodejs

实现思路:

1.1 监听webview事件,注入js代码

利用electron的webContents,监听需要获取图片的网页,当网页加载完成,促发‘dom-ready’事件,然后在网页中注入JS代码。

主要用了这个api:

webContents.executeJavaScript(code[,userGesture,callback])

如:

win.webContents.on('dom-ready', () => {

win.webContents.executeJavaScript(code[,userGesture,callback])});

1.2 遍历HTML中的图片URL

这里要注意,有很多网站把图片写到了background-image里,而不是用img标签。所以得2者结合。

获取所有img标签的图片:

body.images

获取background-image的图片,这个需要用到window.getComputedStyle,通过css属性来获取。

window.getComputedStyle("元素", "伪类");var dom = document.getElementById("test"),   style = window.getComputedStyle(dom , ":after");

1.3 返回获取的结果

electron往webview中注入的代码可以通过return返回,

也可以通过在注入代码中写入:

electron.remote.getGlobal(‘webWin').webContents.send('autoChat',res);

在渲染进程中,通过:

electron.ipcRenderer.on('autoChat',(e,result)=>{
 console.log(result,'ipc');
});

接收结果。

一些经验心得:

2.1 ES6的模板字符串template strings

electron 支持ES6,ES6引入了一种新型的字符串字面量语法,我们称之为模板字符串。

var code=``;

除了使用反撇号字符 ` 代替普通字符串的引号 ' 或 " 外,它们看起来与普通字符串并无二致。在最简单的情况下,它们与普通字符串的表现一致:

var code=" var dom=document.get......  "

与普通字符串不同的是,模板字符串可以多行书写:

var code=`
var dom=document......
function getURL(){
let v=.....

`;

非常适合写注入的js代码哈~

2.2 electron的加密

由于electron打包后的程序都是直接暴露源代码的,就在resources文件夹里的app文件夹。

我们可以借助asar,加密我们的源代码

全局安装:

npm install -g asar

把resources里的app文件夹打包为app.asar

asar pack ./app app.asar

发现个坑,通过asar加密后的node_modules中有些库引用不了,所以我调整了下打包方式,把node_modules跟我的代码分开存放,比如

./js/
./page/index.html
./css/
./main.js
./node_modules/./app/spider/js/
./app/spider/css/
./app/spider/page/index.html
./app/node_modules/
./app/main.js

把spider文件夹整体打包为spider.asar,这样的话需要在package.json中改下:

“main": “./spider.asar/main.js",

就可以正常引用node_modules里的库了。

基于图片的功能拓展

图片抓取到后,我们可以基于图片做一些拓展功能。

比如:

3.1 保存所有图片到本地

碰到一个很好的素材网站,想一口气全部图片下载下来,可以用到这个功能,这个比较简单,用一个nodejs的库image-downloader,把url全部下载下来即可。

3.2 分析图片的主色调

这里用到另一个nodejs库,node-vibrant,可以提取出图片的主要颜色,还有百分比。我们可以把bahance上最近半年比较热门的项目的图片取下来,然后分析她们的颜色,做一个色彩趋势报告。

3.3 图片素材库

作为我最近做的人工智能设计师

DIY一个人工智能设计师_v0.0.1

的图片素材库。这个时候要增加一个标记内容,就是自动识别图片的内容,作为图片的关键词,以方便人工智能设计师进行智能匹配。这边可以调用clarifai的图像识别api:

安装

// 通过 NPM 安装clarifai SDK
npm install clarifai

Nodejs使用clarifai

//初始化
const Clarifai = require('clarifai'); 
var app = new Clarifai.App( 
'xxxxxG1MIAGH9RRJ4YSV410paPZWhfTpOeerEb',
'KFxxxxxbAwo8aIZ3SRAJO0IJq-CtLQUj9Ph6mt' );

识别

// 通过上传一个图片的URL,识别图片的内容

app.models.predict(Clarifai.GENERAL_MODEL, 
'https://samples.clarifai.com/metro-north.jpg').then(
  function(response) {
   console.log(response);
  },function(err) { 
   console.error(err); 
  });

识别效果可以见上图中的标签部分,我就是通过这个api自动打标签的。


打一则广告:

最近在知乎上开的LIVE,

聊聊设计师做编程的那些事

(0)

相关推荐

  • jQuery-事件委托

    本次随笔是针对于近期一个月遇到的所有的情况所记录的问题以及解决方案总结: 一.事件委托 事件委托近期主要是针对于用js代码创建的动态html元素绑定事件的情况,给予该种情况分析和总结: (1)绑定动态 ...

  • (3条消息) NoSQLBooster for MongoDB延长

    mongo的客户端较少,其中Nosql Booster For Mongo算是一个不错的客户端软件,但是他也不是免费的,试用期只有30天.好在这个软件是基于nodejs的.所以我们可以利用npm对这个 ...

  • 美女图片采集工具

    美女图片获取工具是一款强大的图片下载工具软件,软件由C#编写,需要net4.0支持!XP系统的还需要额外安装net2.0!帮助你轻松地获取丰富的福利资源,简单的进行搜索爬取. 软件特色: 1.力求给所 ...

  • 基于ASP.NET core的MVC站点开发笔记 0x01

    我的环境 OS type:macSoftware:vscodeDotnet core version:2.0/3.1 dotnet sdk下载地址:https://dotnet.microsoft.c ...

  • 2.4G无线射频通信模块nRF24L01 开发笔记(基于MSP430RF6989与STM32f030...

    根据网上的nRF24L01+例程和TI提供的MSP430RF6989的硬件SPI总线例程编写程序,对硬件MSP-EXP430RF6989 Launch Pad+nRF24L01P射频模块(淘宝购买)进 ...

  • 怎么去掉手机图片上的马赛克,手机马赛克图片去除工具软件下载

    嘿!持续更新2天,离持续更新目标300天,还有298天. 好多人加了我之后,就问收费吗?我说不收费的模式,当然也会有一点点要求而已,但对于你来说不是门槛. 持续分享出你需要的有价值的东西,也算是一种收 ...

  • 学习网络开发必须了解的几个小工具

    大家好,欢迎来到 Crossin的编程教室 ! 学习Python的一个方向是进行网络相关的开发,比如爬虫.网站开发.服务器运维等.这些任务都会和网络配置打交道.在实际开发过程中,熟悉使用Linux或者 ...

  • 重庆大学研究人员开发了基于中性粒细胞外泌体的靶向胶质瘤的药物递送系统

    由于肿瘤的高浸润性生长和化学治疗抗性以及血脑屏障的存在,恶性神经胶质瘤的临床治疗仍然是一项挑战.来自重庆大学王亚洲课题组的研究人员开发了一种嗜中性粒细胞-外泌体(NEs-Exos)系统,可装载并递送阿 ...

  • 5个超好用的Instagram图片下载工具推荐

    Instagram 照片下载是几乎每个使用 Instagram 的用户都会遇到的问题.当你在 Instagram 看到喜欢收藏或与好友分享的照片或影片,一般都希望能够将高画质的图片或影片原始档下载到手 ...

  • 推荐一个做笔记和辅助写作的好工具

    记住信息的多少已经不是个人的竞争力.记得再多也没有电脑机器多,搜索一下,答案尽在眼前.未来知识工作者的竞争力主要体现在对知识的再加工和输出上. 现在已经有机器新闻写作,就是通过机器智能抓取相关信息,分 ...

  • 初级经济师网上报名照片要求及在线图片处理工具使用教程

    初级经济师网上报名开始啦,报名在中国人事考试网进行,很多朋友在报名过程中遇到了照片尺寸不满足要求.照片无法审核.手机无法上传照片等问题,今天小编就教大家如何用手机完成中国人事考试网初级经济师资格考试报 ...