机器人控(人类能让智能机器人永远听话吗?答案是否定的)

Posted

篇首语:书到用时方恨少,事非经过不知难。本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器人控(人类能让智能机器人永远听话吗?答案是否定的)相关的知识,希望对你有一定的参考价值。

机器人控(人类能让智能机器人永远听话吗?答案是否定的)

在人工智能发展的路上,我们始终追寻一个答案:人类能否牢牢把握智能机器人的控制权,让机器永远做人类的奴隶?

2022年世界互联网大会人工智能与数字伦理论坛给了我们答案:不能。

清华大学人工智能研究院名誉院长、中国科学院院士张钹解释,早期无智能的机器才能完全听从人类的指挥,一旦让机器朝着智能化方向发展,就不能让机器完全听从人类的摆布,需要赋予它一定的自由度和自主权。

从技术层面来看,深层次神经网络则是根据这一原理,利用概率数据工具,使机器能够生成丰富多样的文本和图像。但亦会存在风险——生成不合格和有害文本与图像的概率。

“这是我们赋予机器智能的同时,所必须付出的代价,难以避免。”张钹说,人工智能的发展必然带来对伦理和传统规范的冲击。

清华大学人工智能研究院名誉院长、中国科学院院士张钹线上发表演讲。中国网 图

只不过没想到的是,这一担忧来得这么快。本世纪初,基于大数据的深度学习被广泛地应用在各个领域,用来完成决策、预测和推荐等任务,给人类社会带来很大的影响。但是人们很快发现,基于大数据的深度学习算法,具有不透明、不可控和不可靠等缺陷,导致人工智能技术很容易被无意误用,可能给人类社会带来严重的后果。

这样的不良后果包括一旦神经网络违背用户的要求,生成充满种族、性别等偏见,不公正和错误百出的文本和图像,就会完全不受使用者的控制,可能带来破坏公正性和公平性的严重后果。

“我们以为只有当机器人的智能接近或者超过人类之后,我们才会失去对它的控制,没有想到的是,在机器智能还是如此低下的时候,我们已经失去对它的控制。”张钹提醒,人工智能的伦理风险就在眼前,治理迫在眉睫。

那能否通过给机器规定严格的伦理准则,来限制它的错误行为?难!张钹解释,不仅因为伦理的准则很难准确描述,即便可以定义,也很难执行。

张钹分析,人工智能无论是被有意滥用还是无意、误意都需要治理,不过这两者的治理性质完全不同。前者要靠法律约束和社会舆论的监督,是带有强制性的治理。后一种则需要通过制定相应的评估准则和规则,对人工智能的研究开发和使用过程,进行严格的科学评估和全程监管,以及采取补救措施等,避免人工智能被误用。

“从根本来讲,人工智能的研究、开发都需要以人为本,从公正公平的伦理原则出发做负责任的人工智能。”张钹说,当下发展第三代人工智能的思路是,努力建立可解释的鲁棒(音译自“robust”,学术上即一个系统或组织有抵御或克服不利条件的能力)人工智能理论。在此基础上才有可能开发出安全、可信、可控、可靠和可扩展的人工智能技术,最终推动人工智能的公平、公正和有益于全人类的应用与发展。

重中之重是建立国际合作。张钹提出,世界应当通力合作,共同制定出一套符合全人类利益的标准,让人工智能健康发展,造福于全人类。

相关参考

未来人工智能会控制人类吗(人工智能未来对人类社会有哪些危害?)

#头条创作挑战赛#智能机器人未来可以给人类带来很大的好处,但也可能带来一些危害和破坏。1,智能机器人会加剧人类的失业,因为越来越多的机器人代替人类从事更多的工作。这可能会导致经济衰退,人们收入减少,生活水...

最近困扰我的问题(困扰人类的20个科学与哲学问题,你有答案吗?)

时间会流逝吗?人工智能能否代替人类?机器会思考吗?一切都是相对的吗?为什么会有道德?什么是美?这一切都是为了什么?……海南出版社最新出版的《这究竟是为什么》,就人们自古以来对科学及哲学的疑惑进行了解答...

智能语音机器人原理(电话语音机器人有用吗)

智能电话机器人有用吗,答案肯定是有用的,智能电话机器人可以帮助我们这边代替前期繁杂的筛选工作,可以帮助我们这边代替真人自动自动筛选客户,帮你把意向客户自动推送到你的微信上面。电话:15514575556智能电话机器...

智能机器人取名字大全(中科院院士张钹:机器人和人工智能是完全独立的两个学科)

...学院院士、清华大学人工智能研究院院长张钹在2022世界机器人大会主论坛上表示,对于机器人跟人工智能的区别,说人工智能包含机器人或者机器人包含人工智能都不对。目前,机器人和人工智能是完全独立的两个领域、两个...

扫地机器人请放置在地面启动(石头扫拖机器人T8体验:不到三千元,也能让你享受自动集尘)

石头自清洁扫拖机器人T8近期正式发布,这款扫地机器人最大的亮点是可搭配智能集尘充电座,能够大大减少我们倾倒垃圾的次数。除此之外,石头T8的升级还有哪些,体验如何呢?配置升级,更多人性化设计石头T8智能集尘版主...

机器人技术基础答案(相对论|“机器人院士”:我们离“真·机器人”还有多远?)

扫地机器人为什么叫扫地机器人而不是扫地机器?工厂里的机械臂为什么也叫机器人?从“机器”到“机器人”未来还有哪些可能?……6月24日,第六届世界智能大会在天津开幕。生活中的各种“机器人”,是会场内外最可感的...

人工智能是什么意思,冰箱上的人工智能是什么意思

...在处于启蒙阶段,并不能真正的制造出有自我思考能力的机器人,但是已经有了初步的探索,比如神经网络的提出和发展,人工智能还需要一段路要走。  研究人员希望机器人不止能够做一些繁重繁琐的工业任务或者数理计算...

人工智能是什么意思,冰箱上的人工智能是什么意思

...在处于启蒙阶段,并不能真正的制造出有自我思考能力的机器人,但是已经有了初步的探索,比如神经网络的提出和发展,人工智能还需要一段路要走。  研究人员希望机器人不止能够做一些繁重繁琐的工业任务或者数理计算...

机器人将来会取代人类吗(马斯克打造“擎天柱”,称人形机器人将改变世界,这意味着什么?)

...地时间8月4日,特斯拉CEO马斯克再次表达了自己对于人形机器人“擎天柱”的未来展望,称它不仅会做很多人类做不到的事情,而且它的出现还将改变这个世界,认为对它的研究,非常有价值。这则消息一出,也让不少人都觉得...

机器人都用来做什么(10年内机器人将完成近40%的家务活?人类购买生活用品时间可减少6成)

...PLOSONE期刊上的研究称,在未来10年内,“家务自动化”(机器人)将替代39%的家务活。据介绍,研究小组邀请了来自英国的29位人工智能(AI)专家以及来自日本的36位人工智能专家,就人工智能在未来家庭领域的作用进行了预测...