微软 AI CEO 苏莱曼: 未来的 AI 恐将需要“军事级干预”才能控制

IT之家9月25日消息，据外媒WindowsCentral今晚报道，微软AICEO穆斯塔法・苏莱曼警告，AI可能强大到需要军事级干预才能制止。

苏莱曼强调，必须能够审计和监管这些复杂能力，防止其失控。他表示：“我们不应惊慌失措，监管是必要的，但必须在合适的时间以正确的方式进行。如果AI具备递归自我提升能力，能修改自身代码、自主设定目标、独立行动和积累资源，那么它将成为极其强大的系统，可能在5到10年内需要军事级干预才能控制。”

苏莱曼此前已警示意识型AI对人类的潜在危险。他表示：“我们必须为人类构建AI，而不是把AI变成人。”他强调说，为人类设计AI比把技术做成人形数字人更重要。在推动了AI伴侣计划的同时，他仍坚信在确保技术创造价值的同时，应设置保护机制来保障人类安全。

IT之家从报道中获悉，谷歌DeepMindCEO德米斯・哈萨比斯也认为，人类距离实现AGI已经“很近”，但社会尚未做好应对准备，这样的现实令自己夜不能寐。路易斯维尔大学网络安全实验室主任、AI安全专家罗曼・杨波尔斯基更是声称，AI有“99.999999%的概率”会终结人类，唯一避免这种风险的方法就是“从一开始就不去开发AI”。