此次攻击造成的总损失超过 100 亿美元

MstRina1

35“根据白宫前国土安全顾问 Tom Bossert 向《连线》杂志证实的评估，他在攻击发生时是特朗普总统最资深的网络安全官员。”摘自《连线》杂志关于 NotPetya 的文章。“网络风险建模公司 Cyence 估计黑客攻击的潜在成本为 40 亿美元，而其他组织预测损失将达到数亿美元。”摘自 CBS 新闻。36“显著”可以实现 5 倍或更多（相对于 2023 年的基准）。37或者人工智能可以以其他方式自主推动研发进展（例如，通过自动执行仍然对进展做出重大贡献的不同任务）。 38如正文所述，只需寻找急剧加速即可实施这一绊脚石，这将具有重大影响，并本身就暗示了这种动态。如果加速发生并被测量，则无需单独确定这是由于自动化 AI 研发（后者可能非常危险）。

急剧加速是指，例如，“世界上最强大的模型的有效训练计算量增加，在一年的时间里，相当于 2018 年初至 2024 年初期间两年的平均进度率。”（有关“有效计算”的定义，请参阅此处的脚注 4。）39很难获得可靠的公开数据，但 OpenAI 在 2023 年底的总员工人数约为 800 人。40示例计算 巴哈马 whatsapp 在这里（请参阅“我们将能够运行数百万份（并且很快以 10 倍以上的人类速度）自动化 AI 研究人员的副本”）和这里。 41 全面阐述这一观点超出了本文的范围，但 Tom Davidson 的一份报告对此进行了概述。42 人工智能如何变得叛逆以及它与进步速度的关系超出了本文的范围。关于这个话题有很多解释；我推荐 Yoshua Bengio 的文章作为起点。

我在一篇非正式文章中指出，进步速度可能是决定这种风险有多大的关键因素。43 关于人工智能相关的人类灭绝风险的流行处理方法通常强调了从能力不如人类的人工智能快速过渡到能力远远高于人类的人工智能的风险因素，并且还强调了人工智能本身可以进行研究和开发以改进人工智能的风险因素（有时被称为“自我改进”，尽管人工智能所做的研究不必应用于自身）。有关示例，请参阅《超级智能》第 4 章、《人类兼容》第 5 章和《生命 30》第 4 章。本入门指南指出了阿尔及利亚气候战略的关键目标，并分析了我们气候治理数据库中的主要内容，概述了阿尔及利亚的国家机构、监管和法律框架如何与其气候缓解和适应目标相互作用。