当前位置主页 > 知识学堂 > 波浪理论 > 亲,看到好文章一点要记得分享到空间哦!
 股票  股票配资  顶牛股  股票配资 0  钱程无忧   股 0

人工智能要是失控了,人类该怎么办?

发布时间:2018-11-24 来源:mrchy.com 编辑:顶牛股

160103_FT_Facebook-Algorithm.jpg.CROP.promo-xlarge2.jpg

几分钟内,奥兰雷瓦朱收到来自维基百科的电子邮件,告知他的编辑操作被拒绝,麦肯锡真正创始人的名字已被恢复。几乎可以肯定,管理维基百科网站上4000万篇条目的机器人之一已发现、核对并纠正了被他编辑的条目。

我们非常欣慰地得知,大量如此聪明的算法正巡逻在保卫真实性的前线——并且可以比麦肯锡旗下数字业务的资深合伙人更聪明。2014年,维基百科上约15%的编辑量是由机器人完成的。

但是,世上的事情都是如此:算法既可以用于攻击,也可以用于防御。有时,算法之间可以通过非故意和不可预测的方式相互作用。由于算法在诸如社交媒体、金融市场、网络安全、自主武器系统和自动驾驶汽车网络等不同领域发挥如此核心的作用,人类越来越迫切地需要理解这种相互作用。

今年2月研究期刊《公共科学图书馆综合》发表的一篇论文发现,即使那些出于完全善良意愿而设计的机器人,也可能会花费数年时间彼此争斗。这篇论文分析了十年来维基百科上机器人的使用情况。

在一次这样的争斗中,Xqbot和Darknessbot在3629个条目——从亚历山大大帝到阿斯顿维拉足球俱乐部——上发生了冲突,反复撤消和更正对方的编辑结果。

来自牛津互联网学院和图灵研究所的几位论文作者对这些发现感到吃惊。他们得出结论,我们需要对这些机器人之间的相互作用给予更多关注。“我们对我们的数字小黄人的生活和进化知之甚少。”

维基百科的机器人生态系统有门禁,受到监控。但在互联网所触及的许多其他领域,情况并非如此:恶意机器人——通常结成协作的僵尸网络来工作——可能会失控。

几位作者突出强调了这种机器人模仿人类、在社交媒体上“传播政治宣传言论或影响公共话语”的危险。数字操纵的威胁如此严峻,以致一群欧洲专家甚至质疑民主在大数据和人工智能时代还有没有活路。

要说我们正在逼近一个紧要关头,也许不太夸张。在某种意义上,真理是否正由电子手段确定?我们是否正如欧洲学者所害怕的那样,正成为曾经听命于我们的“数字小黄人”的“数字奴隶”?一些算法之间交互作用的规模、速度和效率开始达到人类无法理解的复杂程度。

如果你真的想在冬日暗夜里吓唬自己的话,你应该读一读苏珊布莱克莫尔有关这个题材的作品。这位心理学家认为,通过创建这样的计算机算法,我们也许已不经意地释放出一个“第三复制因子”——她最初称之为技因,后来改称为treme。

第一复制因子是决定我们生物进化的基因。第二复制因子是人类的迷因——如语言、写作和金钱——迷因加速了文化演变。但现在,她认为,我们的迷因正在被非人类的treme取代,股票开户,treme符合她对于复制因子的定义,即“可以有变化和有选择地复制的信息”。

“我们人类正在被新技术所改造,”她在最近的一次讲座中说,“我们把一种最惊人的力量放出来了。”

目前,布莱克莫尔教授的理论仍游离于学术辩论的边缘。牛津大学机器学习教授斯蒂芬罗伯茨说,Treme或许是个有趣的概念,但他认为,股票开户,我们并未失去控制权。

人工智能算法失控将产生很多负面后果,”他说,“但现在,我们距离这个局面还有很远的距离。”

更紧迫的问题是,用他的话说,政治和商业利益集团已学会了“侵入社会”。 “谎言可以像真理一样轻易地复制。我们作为个人和团体,都可能被操纵。”

他的解决方案是什么?为知识建立类似千年种子银行那样的保护计划。千年种子银行旨在保护濒危植物免于灭绝。

“随着人类让这个世界上的物种减少,我们在试图保护这些物种的DNA。随着真相变得濒危,我们有同样的义务记录下事实。”

但是,正如我们在维基百科中所看到的情况那样,这并不总是那么简单的任务。

本文网址分享:http://www.mrchy.com/a/zhishixuetang/bolanglilun/2018/1124/86845.html
推荐图文
顶牛股 www.mrchy.com
Copyright @ 2010-2018 mrchy.com 皖ICP备11016751号-1 All Right Reserved
免责声明:顶牛股股票配资所发表的文章版权归作者所有,若转载或者抄袭他人作品,带来的一切后果与本站无关。
若您发现本站存在您非授权的原创作品,请第一时间联系本站删除!