连水军都要失业了,因为AI水军来了

  • 时间:
  • 浏览:1

无论是中国还是美国,这俩这俩及在确定餐馆机会酒店的但是,主要依靠网上的点评,比方说大众点评机会Yelp等等。

文/李林 问耕(编译派发)

一种生活生活程度上,口碑机会成为不少企业的命脉,变成服务和产品质量的永久记录。与此同时,不公平机会虚假的点评也让企业忧心忡忡,哪些有机会来自愤怒的顾客,都有机会来自竞争对手。

水军,在全球都一个我就头疼的大什么的问题,但是机会会更疼了:

人工智能(AI)机会针灸学会自动编写虚假点评了。

整个点评口碑界正面临潜在却是严重的冲击。机会AI创造的虚假点评泛滥,最终将原应着完全点评信息可信度急剧下降。技术进步,这俩次又给社会带来了(令人担忧的)影响。

他不知道许知远会不想更焦虑了。

“这对整个社会是一个巨大的威胁,不而且 让依靠点评信息的用户失望,而且 会动摇人类对于真实和虚假的信念,我认为后者更我就担心”,芝加哥大学计算机科学教授赵燕斌(Ben Y. Zhao)说。

以假乱真

《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文。亲戚朋友的研究说明,人工智能时要被用来生成简化的点评信息。哪些虚假的点评不仅机器无法检测出来,就连人类读者也分辨如此了来。

这篇论文今年晚些但是会在计算机安全顶级会议ACM CCS上展示。

所谓简化的点评信息,大概是这俩样子:“我喜欢这俩地方。我跟我哥同时去的,亲戚亲戚朋友点了素食意大利面,很好玩儿。啤酒不错,服务也很棒。推荐这俩地方,是个吃早餐的好去处。地儿小而且 买卖大”。

乍一看这俩点评没哪些奇怪的,顶端包含这俩具体的建议和可信的描述,我真是最后一句很重奇怪,但整体仍然是一段说人话的表达。

实际上,这句话是一种生活生活称为RNN(循环神经网络)的淬硬层 学习技术生成的。这俩RNN网络使用了上千条真我我真是线点评训练而成。

研究人员表示,AI生成的点评机会做到了“以假乱真”,有5000个用户参与的调查显示,哪些虚假的点评不仅能逃过人类的法眼,而且 还被用户认为“有用”。

“有用”是更可怕的事情:这表明虚假点评机会时要对人类造成影响。

反抄袭软件也对哪些虚假点评无能为力,机会哪些点评是逐字生成的,而都有简单的替换已很重评中的用词。机会使用反抄袭软件检测,不但太难检测出虚假点评,而且 会“误伤”一大批真实的点评。RNN可不仅仅是对现很重评的一键复制。

人类水军面临下岗

人类手写的虚假点评,机会是一个兴盛的地下行业。假如有一天有钱,你就能找到人帮你的产品写下正面的点评,后者给对手写下负面的评价。

现在,传统水军行业未来机会也要被AI取代了。

美国市场上,一段质量较高的Yelp点评,机会价格能到10美元。不过一旦有了AI的帮助,居心叵测的人时要一分钱不想就生成上千条点评,而且 同时放出以免引起怀疑。

好消息 是,现在还如此 AI在现实世界中生成恶意虚假点评的案例。

坏消息是,构建一个这俩这俩 的人工智能系统,之这俩这俩时要太长的时间,所需硬件市面上都能买到,所需的点评数据库时要在网上轻易获得。

仍有对策

机会另一人及开始大规模生产这俩假点评,大众点评、Yelp这俩这俩 的网站恐怕就如此 好日子过了,毕竟,它们的招牌这俩这俩来自用户的真实点评,机会每两根都机会是假的,谁又会继续相信它们呢?

接下来沦陷的,会是淘宝京东亚马逊之类的电商,我真是赵燕斌说大概它们还能限制能够买过该商品的用户能够点评,但请况这俩这俩容乐观。

不过,都有好消息 。

研究者们说,这俩假点评也都有完全如此 防范,人类我真是它们能以假乱真,但机器不见得如此 看。用计算机去分析字符的分布等价值形式,亲戚朋友就会发现真假点评之间居于着细微的差异。

假点评是从真实点评里学出来的,在这俩过程中,难免会有信息流失。假点评注重的是流畅、可信,但像字符分布这俩平时如此 关注的价值形式,就做得不如此 好了。

“在训练过程中居于的信息遗失,会传递到生成出的文本中,”研究者们在论文中写道,“而且 生成文本和人类文本在基本字符分布上,有着统计上可检测的差异。”

当然,攻击者也时要骗过检测,换好这俩的硬件,做更简化这俩的神经网络就行。但这俩检测的意义在于大概提高了攻击的门槛,为亲戚朋友设置了这俩障碍。

机会攻击的成本高到一定程度,大每段没如此 执着的攻击者也就收手了。赵燕斌说:“这这俩这俩一种生活生活胜利,所有的安全工作都有这俩这俩 ,提高攻击的门槛。你永远没方式阻止那种目标坚定、身手老练的攻击者。”

在一份邮件声明中, Yelp发言人Rachel Youngblade说亲戚朋友“很欣赏这份研究指出了随着欺骗点评系统的方式持续进化,如此 简化,Yelp之类大型用户点评网站在保障内容真实性顶端临着重大挑战。十年来,Yelp经常有保护内容的系统,而正机会欺骗手段如此 简化,亲戚亲戚朋友也持续迭代哪些系统,来识别假点评,以及偏颇、如此 帮助的内容。这份研究的作者们以Yelp系统作为‘真实’的代表,并承认它的有效性,亲戚亲戚朋友非常感激。”

“不过,这份研究创造的仅仅是看起来真实的点评文本,Yelp的推荐软件使用了更整体的方式,除了文本之外,还使用了这俩这俩这俩因素来决定算不算推荐两根点评。机会某条点评如此 价值或有失偏颇,就算它是人类做出的,亲戚亲戚朋友这俩这俩会推荐。”

不止于点评

点评是测试文本生成技术的理想场所。这俩领域有明确的方向和目的,主体单一,遵循一个相当标准的价值形式,而且 不长。#虚假点评越长,越容易被发现大什么的问题#

但技术不想止步于此。

“这俩这俩,亲戚亲戚朋友这俩这俩从在线点评开始。你能相信某某人说的哪些关于餐馆、商品的话吗?但之类研究都有继续进步。”

“它会进步到更大的攻击,机会博客上的整篇文章都完都有由机器人根据某个主题自动生成的,这但是你就真的得想想信息是哪来的、怎么可否验证……这是亲戚亲戚朋友人及过些年将要面对的,一个更大的挑战。”

赵燕斌说他想传递的信息很“简单”:“假如有一天亲戚亲戚朋友能关注之类攻击途径,把它们看做真实、迫切的威胁,”机会Yelp、亚马逊哪些网站的工程师们还如此 开始考虑怎么可否抵御,他希望亲戚朋友立刻开始思考。

教授希望“亲戚亲戚朋友希望能吸引更多注意,不仅为了设计出能防御之类攻击的系统,还想让更多人从平凡的视角,看到‘好AI’带来的威胁。”

“我认为,如此 多人都有关注奇点、天网哪些引人注目的AI威胁,而且 哪些很好很好的AI,能带来这俩这俩更实际的、有显示影响的威胁,而这这俩这俩冰山一角。”

他补充说:“这俩这俩,我以希望安全界的人能和我同时,关注之类大什么的问题,这俩这俩 亲戚亲戚朋友才有希望赶上。我认为,AI以惊人的时延和加时延在发展,机会亲戚亲戚朋友不立刻开始研究怎么可否抵御,机会永远都赶不上了。”

▲芝加哥大学赵燕斌教授

是岂都有假?

最后,来个小测验吧。

这有五个案例,其包含这俩是神经网络生成的虚假点评,这俩的是真实的人类点评。你看看算不算能分辨出来是岂都有假。

1、我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太多了,如此 难在黄金时间预定到座位。

2、亲戚亲戚朋友全家都有这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好玩儿,蒜汁堪称完美。顶端配有水果的冰淇淋也很美味。强烈推荐!

3、每年圣诞节我都来,最爱意大利面!物有所值!

4、非常好的披萨、烤宽面条以及最好玩儿的扇贝之一。甜品很大很美味。

5、这的食物好玩儿得惊人,分量也很大。芝士百吉饼做得非常完美,新鲜又美味!服务调慢。毫无大什么的问题是亲戚亲戚朋友最爱的地方!亲戚亲戚朋友都有回来的!

6、我来这吃饭机会一年半了,除了好玩儿我无话可说。我经常点披萨,意大利牛肉也很好,给我留下深刻印象。服务非常出色。是我见过的服务最好的餐厅。强烈推荐。

你看出哪些点评有大什么的问题了么?