王月龙,高涵,易启江
牛津大学和谷歌人工智能部门 DeepMind 的研究人员声称，形式的人工智能很有可能“对地球上的生命构成威胁”。
在他们合著的一篇发表于同行评审期刊 AI Magazine 的论文中，研究人员警告称，如果某些人工智能体的发展继续下去，将会产生“灾难性后果”。
该论文提出一个场景，人工智能为了获得预先编程时所设置的奖励，可能会发展出作弊策略。实验认为人类最终会与人工智能争夺资源。
“在我们已确定的条件下，我们得出的结论比以往发表的任何文章都要确凿得多——‘生存灾难’不仅可能发生，而是很有可能。”来自牛津大学的论文合著者科恩此前在推特上写道。“这些可能性，尽管是理论上的，都意味着我们在开发更强大的人工智能上，步调应该放缓。”
图片来源：摄图网 400094444
DeepMind 已经提出针对这种可能性的保护措施。在 2016 年题为“安全中断代理”的论文中，该公司勾勒了一个框架，用于防止机器忽略关闭命令，成为失控的流氓代理。
值得注意的是，据报道，为期三天的全球人工智能峰会于9月13日正式在沙特阿拉伯利雅得开幕，该峰会由沙特数据和人工智能局（SDAIA）举办，由来自世界各国民营企业、政府官员和知名学者共商人工智能未来。
峰会上发布了《利雅得人工智能行动宣言》，概述了数字合作组织（DCO）运用人工智能技术来造福人类、社区、和全世界的长期愿景。沙特阿拉伯也发布《人工智能道德准则》，该框架由沙特数据与人工智能局（SDAIA）基于全球和沙特的标准制定，是把人工智能道德纳入整个人工智能系统开发生命周期的实用指引。
编辑|王月龙高涵 易启江
校对|程鹏
每日经济新闻综合自每经网（记者 兰素英）、
每日经济新闻
本文来自“修夏”用户投稿，该文观点仅代表作者本人，不代表华夏信息网立场，本站不对文章中的任何观点负责，内容版权归原作者所有、内容只用于提供信息阅读，无任何商业用途。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站（文章、内容、图片、音频、视频）有涉嫌抄袭侵权/违法违规的内容，请发送邮件至1470280261#qq.com举报，一经查实，本站将立刻删除、维护您的正当权益。如若转载，请注明出处：http://www.xxxwhg.com/zh/15233.html
