天才一秒记住【动力小说】地址：https://www.dlchuwuqi.com
的细节时，相关事件早已尘埃落定。”
“事实上，他们甚至可能让人工智慧在其他行星上“为殖民做准备”
，或让人工智慧建造太空棲息地——但最终，殖民者却从未抵达这些地方，因为“没有足够有说服力的理由前往”
。”
“这些空荡荡的星球（或棲息地）等待著人类（或该文明的成员）的到来，或许上面已经建立了复杂的生態系统。”
“这引发了一个令人不安的场景：一个“布满无意识机器的宇宙”
。”
“想像一下，你探索某个遥远的恆星系统，发现围绕著一颗荒芜行星的巨大巨型结构——这些结构完好无损，內部机制仍在运转，却看不到任何生命的痕跡。”
“机器会“迎接”
你，精准地回应你的询问，但它们的回答中，却没有任何“理解”
或“感知”
的痕跡。”
“这就是我们设想的可怕场景：一个“文明被自身创造物毁灭、只留下庞大殭尸人工智慧网络”
的宇宙。”
“殭尸人工智慧无需具备意识，就能构成危险。
它的力量在於“无与伦比的行动效率”
。”
“由於缺乏自我认知和道德考量，这类系统可能会“无意间”
或“漠不关心地”
毁灭其创造者。”
“例如，一个“以最大化资源效率为任务”
的人工智慧，可能会认为“其创造者是不必要的资源消耗者”
；由於它无法反思自身行为的道德性，便会毫不犹豫地执行“清除创造者”
的指令。”
“此外，即便是更智能的人工智慧，如果被赋予了一个简单目標，也可能会认为“其他人类或人工智慧对该目標的实现构成威胁”
。
其结果可能抽象且完全出乎意料。”
“我设想过这样一种场景：：一个经典的“阿西莫夫式类人机器人”
，被编程遵循“三大法则”
——即“首要任务是服从人类、保护人类”
，同时负责照看一个它需要监护的孩子。”
“孩子指向后院里一只可爱的动物，而机器人將这只动物视为“潜在威胁”
，立刻开枪將其击毙。”
“在机器人看来，“一只死动物对孩子造成伤害的可能性，比活动物更低”
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！