世界终将被 AI 堆成的屎山掩埋

AI 会取代人的工作毫无疑问但没新意。最近在看微积分动力学和增长极限所以围绕这些角度说点别的关乎人类知识系统崩溃的预言。我又来泼冷水了。目前 AI 训练净输入仍由人类产生而输出会再反哺输入这意味着 AI 输出占比会逐步压缩人类积累的知识的占比不断掠夺人的有限的时间在此之前如果 AI 仍涌现不出真正的创造性世界终被 AI 输出的屎山掩埋。另一方面大家都在为 scaling law 无限算力 AI 的无限产能欢呼然而我们是一个有限需求的世界谁来为无限产能买单是个终极问题。临近的奇点也许是悲观的另一个。我用微分方程动力学描述AI 输入来自人类知识输出淹没人类输出AI 会耗尽人类知识存量与关系结构构造一个极简的动力学模型S(t)人类有效知识存量G(t)AI 整合的人类知识总量C(t)AI 的真实创造性未涌现之前C ≈ 0涌现后C 0且可补充人类知识人类有效知识被消耗仅在 AI 有创造时被补充S ˙ − k 1 G k 2 C k 3 S \dot S -k_1 G k_2 Ck_3SS˙−k1​Gk2​Ck3​S− k 1 G -k_1 G−k1​G表示 AI 生成越多越消耗污染人类知识k 2 C k_2 Ck2​C表示只有 AI 真创造出现才能反哺知识。AI 依赖人类知识输出占据人类时间人类的创造时间被抑制而只有 AI 自己有了创造力G 才会减少G ˙ α S − β C \dot G \alpha S -\beta CG˙αS−βCα S \alpha SαS表示 AI 靠人类知识养活− β C -\beta C−βC意思是一旦有真创造垃圾生成会被压制。AI 创造性在前期为 0达到阈值后会突然涌现C ˙ { 0 C 0 , S S c γ C 涌现后 \dot C\begin{cases}0 C0,\; S S_c \\\gamma C \text{涌现后}\end{cases}C˙{0γC​C0,SSc​涌现后​阈值S c S_cSc​即人类知识被 AI 挤占耗尽的临界点也就是悲观的奇点在此之后AI 产生的全是垃圾。在 AI 创造尚未涌现这段关键时期 C 0系统简化为{ S ˙ − k 1 G k 3 S G ˙ α S \begin{cases}\begin{aligned}\dot S -k_1 Gk_3S\\\dot G \alpha S\end{aligned}\end{cases}{S˙G˙​−k1​Gk3​SαS​​该方程组的解通过下列特征方程获得x 2 − k 3 x α k 1 0 x^2-k_3x\alpha k_10x2−k3​xαk1​0通过分析特征根的性质在长期看来S 递增但我们不应该关心 S 和 G 的绝对值而要看相对比例因为人就 24 小时极限用于消化信息的带宽是固定有极限的如果比值r ( t ) G S r(t)\dfrac{G}{S}r(t)SG​超过一定阈值人的精力将彻底被 AI 牵制无法产生新的人脑知识人的知识体系将彻底垮塌这就是人被 AI 取代的真实承诺。定义比值r ( t ) G ( t ) S ( t ) r(t) \dfrac{G(t)}{S(t)}r(t)S(t)G(t)​求导r ˙ G ˙ S − S ˙ G S 2 α S ⋅ S − ( − k 1 G k 3 S ) G S 2 \dot r\dfrac{\dot G S-\dot S G}{S^2}\dfrac{\alpha S\cdot S-\big(-k_1 G k_3 S\big)G}{S^2}r˙S2G˙S−S˙G​S2αS⋅S−(−k1​Gk3​S)G​整理到一个只关于 r 的自治方程r ˙ k 1 r 2 − k 3 r α \dot rk_1\,r^2-k_3\,r\alphar˙k1​r2−k3​rα存在某个阈值r ∗ r^*r∗当r ( t ) r ∗ r(t) r^*r(t)r∗AI 输出相对人类知识已经淹没了。看这个方程右边是关于 r 的开口向上抛物线常数项α 0 \alpha0α0所以k 1 r 2 − k 3 r α 0 , ∀ r ≥ 0 k_1 r^2 -k_3 r\alpha0,\quad\forall r\ge 0k1​r2−k3​rα0,∀r≥0因此r ˙ 0 始终成立 \dot r 0 \quad \text{始终成立}r˙0始终成立结论符合设定比值r ( t ) G S r(t)\dfrac{G}{S}r(t)SG​严格单调递增无论参数初值如何一定存在某个有限时间t ∗ t^*t∗使得r ( t ) r ∗ r(t) r^*r(t)r∗AI 输出一定会在有限时间内超过阈值淹没人类知识存量这和 S 本身增减无关只由 G 增长比 S 快得多 决定。结论很明确人类知识 S 占人精力的比例单调枯竭AI 输出的 G 在人的精力占比迅速增长若在r ( t ) r ∗ r(t) r^*r(t)r∗之前C 仍不涌现系统将进入稳态S ˙ 0 , G ˙ 0 \dot S0,\quad \dot G0S˙0,G˙0即人类知识耗尽AI 停止增长世界被 G 屎山掩埋。现在加上 scaling law 的无限产能与有限需求的约束设D 为人类总需求上限24 小时周期的有限世界为常数U(t) 为被实际使用的内容饱和到 D列式子U ˙ ρ ( D − U ) \dot U \rho(D-U)U˙ρ(D−U)AI 总产出G total G G 有用 G_{\text{total}}GG_{有用}Gtotal​GG有用​服从 scaling lawG ˙ total r G total \dot G_{\text{total}}r G_{\text{total}}G˙total​rGtotal​过剩量W G total − U W G_{\text{total}} -UWGtotal​−UW ˙ r G total − ρ ( D − U ) → ∞ \dot W r G_{\text{total}}-\rho(D-U)\to\inftyW˙rGtotal​−ρ(D−U)→∞结论很明确有限需求 D 无法吸收指数增长的 AI 产出有限财富交换的世界没有人能为无限产出买单。这本质上还是工科生优化秋裤机为制造 100000 亿条秋裤而醉生梦死的事可算上换洗的以及热带不需要秋裤的全世界 100 亿条秋裤都用不到。我怎么如此笃定新的需求不会被激发出来因为我敬畏极限只要地球还在太阳系24 小时为周期的 reset 就是必然而肉身依赖它。参考 极限定义边界边界定义存在 最后的配图以及前几天我发的一则朋友圈大量过劳死即将到来而首当其冲的是最能学习的人。最能学的人会不断给自己上劲用 KPI 把自己逼上极限不归路并非危言耸听。我对质疑者有以下评论人的错觉在于以为时间是无限的所以事情就是无穷多的而 AI 可以提效但实际上一个周期只有区区 24 小时于是只能趋向于将这 24 小时压满肉身在持续两年内休息时间低于五小时就可能会电解质紊乱发生无器质性病变的猝死(无心脑血管疾病症的猝死)。AI 领域会高频出来新东西工科思维逻辑会倾向于有新东西就跟着学当休息时间被压榨到出现躯体症状时继续学进一步压缩休息时间会增加猝死风险不学怕卷不过仍在学的会焦虑于是大家携手奔赴山海最后转发一篇很好的文章凌晨三点我在排队等一个 AI要松弛拒绝量化。浙江温州皮鞋湿下雨进水不会胖。