本篇文章1018字,读完约3分钟

【科技在线】

7月1日消息,据海外媒体quartz报道,微软首席执行官萨蒂娅-纳德拉表示,ai需要帮助人类提高效率,同时保护人类自尊心,保护人类隐私。 但是,为了防止机器人做意想不到的坏事,人类需要为ai设置自毁开关。

在机器人革命迹象隐约可见的情况下,埃隆·马斯克和著名科学家们关注着机器人的迅速发展给人类带来的影响。 他们的观点是,我们应该认真考虑与人工智能共存意味着什么,他们认为人工智能很容易就超过人类的智力。

微软首席执行官萨蒂娅-纳德拉在美国知名网络杂志slate上发表专栏文章,阐述了对人工智能的10条意见。 其实在纳德拉写的书里也在谈论人工智能。

以下是他的观点概要:

1. ai必须用来帮助人类。 纳德拉援引了科幻小说作家艾萨克·阿西莫夫的机器人三定律。 这些定律的核心副本是机器人不能伤害人类。 纳黛拉的建议更为深入。 机器人的程序设定是积极帮助人类。 他写道,机器人应该是协作机器人,或者是合作机器人。

2.ai必须是透明的。 人类必须完全了解机器人。 他说机器人得到了对人类的一点认知,人类也必须了解机器人。

3.ai必须在不伤害人类自尊心的情况下最大限度地提高性能。 技术和ai必须推进多样性和人类之间的相互连接,人类之间相互疏远,从历史上看,不幸的是,相互疏远是人类擅长的事情。

4.ai应该保护人类的隐私,不能暴露。

5. ai需要设定问责算法,以防止人类对机器人造成意想不到的伤害。 也就是说,为了防止机器人做意想不到的坏事,ai需要安装自毁开关( kill switch )。

6 .必须防止因ai而产生偏见。 ai必须代表每个人的意愿,而不是某个集团的意愿。

7 .为了推动人工智能的正常快速发展,人类必须具备的四个特质之一是具有共情能力。 纳德拉指出,要制造真正理解人类的机器人,人类首先需要理解他人的想法和感受。

8 .我们还需要投资于教育,开发和支持培训计划,以使ai的潜在好处更容易被人类享受。 根据纳德拉的例子,机动织机是1810年发明的,但经过35年对服装行业产生了变革性的影响。 由于当时熟练的技术人员数量不足,无法满足诉求。

9 .人类需要维持创造性。 这是人类具有的特质之一。 机器能够深化人类创造成果的应用,这也是多个ai研究者的探讨行业。

10 .保存评估权并承担责任。 我们可能愿意接受电脑诊断结果和法律决定,但是纳黛拉写道。 但是,我们仍然期待着人类承担后果的最终责任。

来源:联合新闻网

标题:“微软CEO:为防止AI做坏事需设定“自毁开关””

地址:http://www.longtansi.com.cn/news/50423.html