假AI?如何辨识 AI 界的snake oil

hi,大家好~我是shadow,一枚设计师/全栈工程师/算法研究员,目前主要研究方向是人工智能写作人工智能设计,当然偶尔也会跨界到人工智能艺术,其他各种AI产品。

跟大家分享一个我非常喜欢的名词:

architecture

建筑、架构,适用于设计、技术,往大里讲就是规划,往小了就是设计。

一个组织,需要架构;

一款产品,需要架构;

一篇文章,也需要架构;

等等。

嗯,了解我写作风格的读者应该猜到了,没错,这篇文本的知识内容融合了技术跟设计。

mix

mix类似上图的感觉

近期,普林斯顿大学Arvind Narayanan发表了一个关于AI应用的演讲ppt《How to recognize AI snake oil》(原材料可以在文末获取)。

首先,什么是snake oil?

指的是,推销者的所谓“万应灵药”;或者是狗皮膏药(毫无用处或效果的推销品)。

我仔细读了一下,有4页跟大家分享下。

第一类AI应用,属于认知类的AI,具备高准确率

此类技术由于深度学习的进展,准确率超越了人类。人类在认知能力上是有限,因为没有人可以在海量,比如1TB或者1PB的数据中找到自己想要的数据。人类查看一条条数据,当数据量成千上万的时候,效率开始低下;反而机器,不会疲劳,而且计算速度非常快,可以短时间阅读海量数据,找到自己需要的数据。

具体的应用比如:

内容定位(音乐搜索、图像搜索)、人脸识别、文本-语音转换;

提到的2个案例:

Shazam

一个音乐识别软件,很多人可能常常会碰到这样的情况:在收音机或电视里听到一首好听的歌,却不知道歌名叫什么,谁唱的。Shazam可以告诉你歌曲的名字、专辑的名称还有作者。

Reverse Image Search

就是我们常说的以图搜图(比较优雅的名称叫可视化搜索) 让你能够使用图像替代文本在 Web 中搜索。你可以使用图像查找相同的图像及产品、查看其他网站,甚至还可以获取食谱。

确实,从海量的数据中找寻到用户想找的数据,此类应用已经具备了较高的准确率;但是仍然有一些设计上的问题需要解决,我们如何帮助用户把想找的数据的模样描述清楚,清楚到机器可以准确理解。需要体验设计师好好思考这个问题,粗暴的解决方案就是通过表单的方式,把各种选项让用户填写,尽量是通过选择题的方式(但这并不是一个优雅、简洁的方案,如果读者有实践心得,欢迎留言讨论、分享哈~)。

第二类的AI应用,属于自动判断类型的AI,准确率适中,有待提高。

包括什么呢?作者举了一些例子,比如垃圾文本检测、版权检测、论文评分、语音检测、内容推荐等。

Hate speech detection

我翻阅了下Papers With Code上关于此项技术的统计,最佳的方法是Logistic Regression。

逻辑回归 Logistic Regression

是一种用于解决二分类(0 or 1)问题的机器学习方法,用于估计某种事物的可能性。对于机器来说,准确率是比较高的。

作者称由于是应用在判断,存在判断标准的模糊性,不同的人判断标准是不一样的,比如一篇文章写得好不好,不同人有不同的看法。而AI判断的结果,更不可能满足所有人,所以此类应用准确率需要打个折扣。

我认为,判断标准需要在交互设计的环节解决,把AI系统的判断标准通过用户熟悉的语言,告知用户,并且让AI的判断结果具备可解释性,直白、通俗易懂的解释给用户。需要微动画反应系统运行机制,直白、简洁的文案告知用户。

第三类应用场景是什么?就是我们常常超预期、充满期待的AI

——预测未来。

如果AI已经具备预测能力,比如预测股票的上升下跌,比如预测恐怖袭击的出现,比如预测文章阅读量,那制造AI系统的人,真的是犹如上帝一般的存在了吧?

很遗憾,目前AI并不具备预测能力,往往所谓的预测结果还比不上线性回归。并且,也很难使得用户信服。这是属于强人工智能的能力。

AI不具备预测能力,等同于说,AI不能替代用户做决

确实,目前的AI真的不能替用户做决策,比如自动驾驶不也划分了几个阶段,目前只能实现辅助驾驶

说到这里,我所设计的智能写作系统,同样的,暂时达不到强人工智能的阶段,参考自动驾驶,目前停留在辅助写作的阶段,往半自动化的方向努力中(最近似乎找到了更好的技术实现方式)。

作者举的例子,就不一一复述了,可以自行查阅pdf资料原文。

话说回来,虽然AI不能替代用户做决策,但是AI可以帮助用户做一个更为明智的决策——辅助决策系统

可以复盘下,我们一般做决策的时候,会参考哪些资料,需要知道哪些指标。

所以,设计一款好用的辅助决策系统,这事也只能交由用户体验设计师来主导了,因为你需要知道具体的实际决策场景是怎么样的,产生决策失误或者明智决策的因素有哪些,决策者最痛的点在哪里,等等问题。

最后一页ppt,大家可以再回顾下。

我的观点是,

不管是在AI准确率高的场景下,还是在准确率低的场景,我们都可以通过设计的手段,打造一个好用的AI系统。

建筑大师贝律铭曾经说过,“建筑师必定是伟大的雕塑家和画家,如果他不是雕塑家和画家,他只能算个建造者”。类似地,AI系统的架构师,如果不是“设计师”,他只能算是一个敲代码的码农。

(0)

相关推荐