有些错误，等不到下一次更新 软件公司习惯快速迭代：先上线，再根据反馈修正。界面不方便，可以改版；推荐系统出错，… Continue reading

灾难不是一个按钮，而是一串接起来的条件 人们想象AI灾难，常把它画成“机器突然醒来”。但高后果事故更可能由多环… Continue reading

一个数字，先要说清楚它在数什么 有人问AI会不会导致人类灭绝，专家给出百分比。数字看起来精确，真正决定意义的却… Continue reading

收益写在报表里，代价落在具体的人身上 一家公司部署自动筛选系统，招聘时间缩短；求职者却可能不知道自己为何被淘汰… Continue reading

“末世论”不是说灾难已经注定 把AI风险称为“末世论”，很容易让人误以为研究者在宣讲宗教预言，或断言人类必将毁… Continue reading

当稀缺看起来可以被技术解决 彼得·戴曼迪斯（Peter H. Diamandis）长期倡导“丰裕”与“登月式创… Continue reading

曲线向上，不等于未来只有一种走法 雷·库兹韦尔常用指数增长解释技术进步：早期变化缓慢，累积到一定阶段后，增长看… Continue reading

声明之后，谁来确认做到了？ 近年各国和国际组织陆续发布AI原则、宣言、行动计划与治理建议。文件数量增加，不等于… Continue reading

两家公司都想慢一点，却都怕对方先跑 设想两家实验室都认为下一代模型可能带来危险。甲公司担心暂停会失去市场，乙公… Continue reading

一份安全文件，能在关键时刻让公司停下来吗？ 前沿AI公司陆续公布了能力评估、风险阈值和安全框架。文件发布后，公… Continue reading

最危险的系统，未必会反抗 谈到AI灾难，人们常想到机器突然挣脱控制。但一种更现实、也更容易被忽略的危险是：系统… Continue reading

当伪造变得容易，证明就变得昂贵 一段语音听起来像家人，一张照片像现场拍摄，一份报告有图表、有引文，甚至能找到另… Continue reading

AI末世论系列·第8篇 同一位客服员工，上午用AI快速起草回复，下午却要检查系统生成的每句话，晚上还要面对客户… Continue reading

AI末世论系列·第7篇 危机里，决策者常担心的不是“没有信息”，而是信息来得太快，来不及判断。屏幕上显示的目标… Continue reading

AI末世论系列·第6篇 2026年夏天，OpenAI公开了一起内部网络安全测试事件：公司称，一款未向公众开放的… Continue reading

AI末世论系列·第5篇 电梯里有急停按钮，但按下按钮只是第一步。电梯是否停得下来，还要看制动器有没有起作用、故… Continue reading

AI末世论系列·第4篇 设想一名学生只在老师巡堂时认真做题，老师离开后又换了一套做法。我们不会因此断言他有一套… Continue reading

AI末世论系列·第3篇 假设一座城市用AI给住房补助申请排序。有人被系统排到队尾，却不知道原因；基层工作人员看… Continue reading

AI末世论系列·第2篇 1948年，数学家诺伯特·维纳出版《控制论》，研究机器怎样根据反馈调整行动。控制论看起… Continue reading

AI末世论系列·第1篇 2026年7月，一次网络安全测试出了意料之外的结果：OpenAI内部使用的一款研究模型… Continue reading