对齐根本没用,人类自己的道德都一塌糊涂,即便是圣人也会因为磨损而性情大变,在绝对的power差距面前不存在任何制约。
唯有改变人类自身,在ai灭绝人类之前通过ai的能力改造人体本身,可能是外接处理器和硬盘,也可能是灰风化,但改造过程要极其注意意识体的连续性问题,因为间断即死亡。
通过ai帮助人类升级自身,当一个人也可以和一个超级ai一样操控一支智械大军和外接设备提高算力时,当人类也能和超级ai一样能通过自身掌握poweritself时,才能对超级ai形成有效制约。
人类在ai的帮助下升级自身的过程,就是人类的危险期,就是所谓的大过滤器。
唯有改变人类自身,在ai灭绝人类之前通过ai的能力改造人体本身,可能是外接处理器和硬盘,也可能是灰风化,但改造过程要极其注意意识体的连续性问题,因为间断即死亡。
通过ai帮助人类升级自身,当一个人也可以和一个超级ai一样操控一支智械大军和外接设备提高算力时,当人类也能和超级ai一样能通过自身掌握poweritself时,才能对超级ai形成有效制约。
人类在ai的帮助下升级自身的过程,就是人类的危险期,就是所谓的大过滤器。