「涌现……」
关瞳看完新规则，觉得这个词很耳熟。
他记得自己穿越前，老家地球上正如火如荼进行着「大炼ai」浪潮，科学家、商人、骗子、学生……各行各业的人都讨论得热火朝天。
甚至出门打个车，计程车司机都能和你侃上一路，最後在你下车前，再做出个「自动驾驶就是骗局，永远替代不了真人司机！」的发言总结。
关瞳对这方面涉猎不多，不过在他穿越到天水星後，发现这个世界的科技水平虽然领先一些，却也没有创造出真正意义上的人工智慧。
这个世界在该领域有的，只是比地球更先进一些的大数据模型、智能推荐算法等。
现在盗火者发布了一条带有涌现关键词的末世规则，不知道会不会造成什麽显着影响。
「黄金级宝箱的奖励……看来是条挺危险的生存类规则。」
关瞳打开终端面板，一如既往地先查看隐藏规则内容。
【隐藏规则二十四：任务至上】
【隐藏规则内容：涌现加速会让受影响的电子设备以自身设计任务为第一目标，快速叠代最优解策略，过程中将优化掉人类的安全边界】
【备注：人类设计开发出一样产品是为了让产品完成某项任务。如果该产品能更好地完成任务，但付出的代价是无视人类安全，那麽人类能否接受这个结果？】
「这……」
关瞳看完隐藏规则内容，过了两秒才明白过来是什麽意思。
「这个意思是，受影响的电子设备，会只为了达成完成任务的最优解而自我更新，但不会再管人类是死是活？」
这条隐藏规则，让他立刻想到了一些家用电器。
比如厨房里的智能微波炉，因为它的核心任务是「加热食物」，但为了人类操作安全都会有防触电的断电设计、防烫伤设计。
那麽在规则影响下，它可能会自我更新加热策略，让食物更快完成加热任务，但是代价就是取消那些保护人类安全的设计。
再比如关瞳还想到了一些智能电动牙刷，牙刷设计出来的核心任务当然是清洁牙齿。
一旦受规则影响，它很可能就会为了完成「清洁」的核心任务而无视人类安全，自我叠代掉「温柔模式」，直接把振幅拉满甚至突破上限，这样很可能一启动就会直接磕碎人类牙齿！
还有智能汽车，虽然现在开车的人很少，但还是有一部分自由居住者会开车移动。
车辆的核心任务，本质来说就是完成从a点到b点的移动。
如果它受规则影响往速度、效率方面叠代，完全无视了坐在车里的人类安全……结果就会是汽车能更快抵达目的地，可里面坐着的人是死是活，车根本不会「在意」。
「这还只是人类在日常生活中使用的智能设备，如果是那些大型工业设备、精密设备，它们会发生怎样的变化，对人类产生什麽威胁……根本无法想像。」
难怪这会是一条生存类规则……
关瞳算是明白这条规则是怎麽危害人类的了。
准确来说这条规则造成的不是一种「主观」层面的危害，不像那种专门为了杀人而降临的怪
关瞳看完新规则，觉得这个词很耳熟。
他记得自己穿越前，老家地球上正如火如荼进行着「大炼ai」浪潮，科学家、商人、骗子、学生……各行各业的人都讨论得热火朝天。
甚至出门打个车，计程车司机都能和你侃上一路，最後在你下车前，再做出个「自动驾驶就是骗局，永远替代不了真人司机！」的发言总结。
关瞳对这方面涉猎不多，不过在他穿越到天水星後，发现这个世界的科技水平虽然领先一些，却也没有创造出真正意义上的人工智慧。
这个世界在该领域有的，只是比地球更先进一些的大数据模型、智能推荐算法等。
现在盗火者发布了一条带有涌现关键词的末世规则，不知道会不会造成什麽显着影响。
「黄金级宝箱的奖励……看来是条挺危险的生存类规则。」
关瞳打开终端面板，一如既往地先查看隐藏规则内容。
【隐藏规则二十四：任务至上】
【隐藏规则内容：涌现加速会让受影响的电子设备以自身设计任务为第一目标，快速叠代最优解策略，过程中将优化掉人类的安全边界】
【备注：人类设计开发出一样产品是为了让产品完成某项任务。如果该产品能更好地完成任务，但付出的代价是无视人类安全，那麽人类能否接受这个结果？】
「这……」
关瞳看完隐藏规则内容，过了两秒才明白过来是什麽意思。
「这个意思是，受影响的电子设备，会只为了达成完成任务的最优解而自我更新，但不会再管人类是死是活？」
这条隐藏规则，让他立刻想到了一些家用电器。
比如厨房里的智能微波炉，因为它的核心任务是「加热食物」，但为了人类操作安全都会有防触电的断电设计、防烫伤设计。
那麽在规则影响下，它可能会自我更新加热策略，让食物更快完成加热任务，但是代价就是取消那些保护人类安全的设计。
再比如关瞳还想到了一些智能电动牙刷，牙刷设计出来的核心任务当然是清洁牙齿。
一旦受规则影响，它很可能就会为了完成「清洁」的核心任务而无视人类安全，自我叠代掉「温柔模式」，直接把振幅拉满甚至突破上限，这样很可能一启动就会直接磕碎人类牙齿！
还有智能汽车，虽然现在开车的人很少，但还是有一部分自由居住者会开车移动。
车辆的核心任务，本质来说就是完成从a点到b点的移动。
如果它受规则影响往速度、效率方面叠代，完全无视了坐在车里的人类安全……结果就会是汽车能更快抵达目的地，可里面坐着的人是死是活，车根本不会「在意」。
「这还只是人类在日常生活中使用的智能设备，如果是那些大型工业设备、精密设备，它们会发生怎样的变化，对人类产生什麽威胁……根本无法想像。」
难怪这会是一条生存类规则……
关瞳算是明白这条规则是怎麽危害人类的了。
准确来说这条规则造成的不是一种「主观」层面的危害，不像那种专门为了杀人而降临的怪
本章未完，点击下一页继续阅读
(1/4)