正在阅读：对于未来人工智能安全 谷歌提出五项规则对于未来人工智能安全 谷歌提出五项规则

　　【PConline 资讯】人工智能（AI）技术在不断发展，所要面临的问题也越来越多，例如人工智能是否也应享受人权，未来人类劳动力是否会被机器取代，或是人工智能的安全如何保障？近期，谷歌与OpenAI公司、斯坦福大学、伯克利大学联合发表一篇名为《AI安全的具体问题》的文章，猜想在研发和使用AI过程中，可能遇到的具体问题。

　　谷歌的Chris Olah则在一篇博文中阐述了开发更智能、更安全的人工智能所要遵循的五大规则，并指出：“这些都是具有前瞻性的、长期的研究问题，这些现在看起来可能是小问题，但对未来系统则至关重要。”

· 避免负面效应：AI在完成一组任务时不应该被周围环境打扰。
· 避免奖励黑客： AI应该妥当地完成任务，而不是借助一些迂回的方法。
· 可扩展的监督： AI不需要接收不断的反馈或有效的输入。
· 安全探索：AI在学习时不应伤害自身或环境。
· 鲁棒性到分布式的转变： AI应该能够识别出全新的环境，并在新环境中有效地完成任务。