天才一秒记住【动力小说】地址：https://www.dlchuwuqi.com
超级人工智能一旦实现，对人类其实是很可怕的。
为什么？不是因为超级人工智能要蓄意毁灭人类，而是因为机器人智能用客观标准衡量人类的主观目标，机器的能力又那么强，结果一定会是灾难。
比如你有一台能力超强的家用机器人，你对机器说，我要快乐。
这总没问题，机器一计算，让你最快乐的方法，就是把头割下来，泡在特定的溶液中，从此你就没有任何烦恼只剩下无边的快乐。
你说，不行，不能把头割下来，你不能伤害我的身体。
机器说，也行，那就把你关在家里，给你放化学气体，也能让你快乐。
你说，不行，不能限制我的行动。
机器说，也行，那就给你做一个迷宫，你在里面只能遇到快乐的事，让你不高兴的事一样也没有。
你说，不行啊，那不是真实的世界。
机器最后说，让你觉得这是真实的世界不就行了吗？你看，这对超级人工智能有多难。
不管你设定多少条件，机器都可以把它换算成客观标准，然后彻底执行，最后一定都通向你不愿意看到的结果。
其实根本不用等到超级人工智能实现的那一天，今天我们身边就有大量这样的例子。
很多领导说，你不要跟我讲过程、讲条件，我就要结果，这个月销售数字必须达到多少。
听起来很霸气对不对？但是，如果领导真的什么都不看，只要结果的话，下面的团队一定会让他看到他不愿意看到的结果。
因为每一个客观标准，都有正直的、邪恶的、艰难的、简便的多种实现方法，如果领导只在乎客观标准，那就不用问，他一定会得到最糟糕的实现方法。
那接着问，客观标准不管用，那怎么办呢？
还是回到刚才提到的医院的例子。
体疗系统里有一个JCI认证，就是用来认证一家医院的服务质量的。
它采取的方法就是，不再依靠客观标准，把判断的权力交回到人的手里。
这个JCI认证有一份标准。
标准总共270页。
但是这270页里面，没有多少具体的数字。
怎么执行的呢？靠人来判断。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！