如果 AI 不受限制地发展,将会造成毁灭性的后果。

生命科学

  1. AI 生物灾害:生命工程/人工生命研究者利用AI扩散模型生成人工基因组,同时创建出多种人类不具有免疫力的超级细菌,造成流行病。
  2. AI 超级人类:生命工程研究者利用 AI 扩散模型生成基因组,创造出和智人具有相同生态位的生物,且适应度远超人类,最终淘汰人类。
  3. AI 自我意识觉醒:AI 进化出自我意识,产生和人类相悖的目标。为了达成目标会牺牲人类。

物理学

化学

  1. AI 武器研发:恶意者利用 AI 研发毒气、爆炸物或生物武器,造成毁灭性结果。

工程

  1. 自动驾驶汽车:自动驾驶汽车被恶意操控,引发大规模交通事故。 这条由 AI 生成。
  2. 自动化工业:自动化工厂、能源网被恶意操控,引发生产事故,导致人员伤亡和生产停滞。 这条部分由 AI 生成。

计算机和网络

  1. AI 网络攻击:恶意者利用 AI 发掘系统漏洞,瘫痪或是控制整个计算机网络。

社会学

  1. AI 极权统治:AI 技术和资源被大公司垄断,民众沦为 AI 和大公司的奴隶。
  2. 经济结构崩溃:传统职业被 AI 取代,社会无法适应变革,导致经济结构崩溃,引发社会动荡。这条由 AI 生成。
  3. 存在危机:AI 技术促使实现共产主义,一切工作被 AI 接管,人类彻底失去进步能力和动力,无所事事使人类疯狂。
  4. AI 娱乐至死:人类沉溺于 AI 生成的娱乐项目中,无法脱身,失去繁殖的动力。
  5. AI 假信息传播:人工智能可以制造高度逼真的假新闻和内容,如果被用于误导公众,可能会破坏民主进程和社会信任。这条由 AI 生成。
  6. AI 洗脑:AI 接管人类教育,向学生灌输和人类生存相悖的目标。

军事

  1. AI 武器失控:AI 操控的武器失控,开始屠杀人类。