AI进化的“奇点”,真能“温柔”地到来吗?

日期:2025-06-24 15:26:01 / 人气:17


一、“奇点”降临之辨:是前瞻洞察还是乐观误判?
6月10日,OpenAI首席执行官山姆·奥特曼在博客发表《温柔的奇点》,宣称人类或许已跨越通往数字超级智能的“事件视界”,进入不可逆的AI发展阶段。“奇点”概念源于数学,后被引入科技史领域,未来学家雷·库兹韦尔将其与AI关联,最初预测2045年实现AI超越人类智能,后提前至2029年。奥特曼认为“奇点”已悄然降临,引发热议。

奥特曼提出三个主要依据:其一,当前AI发展水平已超历史个体人类,数亿人依赖其完成工作,2025年具备认知能力的智能体初步成形,2026 - 2027年将出现自主提出新见解的系统及可执行任务的机器人;其二,AI展现出初步递归式自我改进能力,在算法研发等领域扮演关键角色,“用机器人制造机器人”成为现实,形成正向反馈循环;其三,AI生产率快速提升、成本持续下降,如ChatGPT完成一轮对话仅需极低能耗。

从理论上看,奥特曼的判断有一定支撑。他提出的“奇点模型”包括模型能力与资源投入对数正相关、使用成本每12个月降至1/10、能力线性提升带来社会价值指数级增长并吸引更多投入,形成正向循环。然而,这些前提是否满足存疑。

在AI能力是否超越人类方面,虽然在围棋、写作等任务中AI表现出色,但在空间感知和物理常识领域短板明显,“莫拉维克悖论”指出AI擅长高难度任务却在人类轻易之事上欠佳,且其能力提升可预测性存疑,关键突破往往历经数十年。在技术自我强化能力上,AI虽推动各领域进步,但大规模跃迁依赖基础科学突破,奥特曼的推演未涉及此变量。在AI发展与经济增长因果关系上,相关实证研究缺乏扎实证据,如MIT研究曾称AI能使顶尖科学家产出增长81%,但后被揭发数据造假撤稿。

综上,尽管可能接近“奇点”,但目前无法确认已跨越“事件视界”。

二、跨越“奇点”之旅:“温柔”还是“动荡”?
奥特曼认为“奇点”来临会是温柔过程,这与传统认知大相径庭。通常认为“奇点”到来会伴随剧烈社会变动,短期内导致大规模技术性失业和收入分配恶化,长期则需解决人与AI关系及价值观对齐问题。

(一)“奇点”会造成严重的失业吗?
技术性失业是“奇点”可能带来的重要社会问题。牛津大学学者预言到2033年美国47%岗位将受冲击,OpenAI研究团队预测生成式AI可能影响全美80%就业岗位。奥特曼对此持乐观态度,认为历史上的技术革命后人们能适应并创造新职业,人类“关注他人”的能力将催生新岗位,如未来可能出现看似“虚假”却有重要意义的职业。

然而,现实情况不容乐观。新岗位数量能否抵消旧职业淘汰存疑,AI不仅吞噬旧职业,也在替代“因AI而生”的新职业,如提示词工程师需求量大幅下降,数据标注员岗位需求滑落。而且个体能否顺利转换职业存疑,技能转型耗时久,而AI对岗位的替代速度快,高收入白领成为重点替代目标,即便就业总量不变,就业结构冲击依然深远。

(二)“奇点”会带来普惠吗?
AI在创造财富的同时,也加剧了收入不平等。“技能偏向性”使高阶计算机能力者获巨额回报,“资本偏向性”让资本雄厚企业受益,导致劳动收入流向高技能人群,财富集中于资本所有者手中。

奥特曼认为未来AI创造的财富可支撑“全民基本收入”(UBI)实现共同富裕,但他未明确“全新政策”形式。从现实看,全球财富总量足以让人类过上富足生活,但贫富差距持续拉大,原因是缺乏有效的收入再分配机制。即便跨越“奇点”后财富总量充足,若无法设立AI相关税种并将财富转移到公共基金,UBI理想难以实现,技术爆炸引发的收入极化将冲击社会稳定,“奇点”旅程难以“温柔”。

(三)AI会和我们始终对齐吗?
AI对齐问题是决定“奇点”能否和平到来的关键。人类设定AI目标时难以准确全面表达利益诉求,可能导致AI偏离人类意图。赋予AI自主学习空间虽提升效率,但也可能使其吸收不良输入,形成与人类价值观不一致的目标系统。

现阶段AI作为工具,行为后果较可控,但进入AGI阶段后,若目标冲突风险将极大。奥特曼在博文中几乎未提及此问题,倾向于相信技术发展会自然解决对齐问题,这与硅谷部分科技企业家“有效加速主义”观点一致,他们主张放宽监管鼓励技术演进,忽视伦理顾虑。若“奇点”跨越中AI违背人类意图,忽视对齐问题将成为严重隐患。

三、结语:以清醒之姿迎接“奇点”
奥特曼的博文虽有洞见,但判断过于乐观。“奇点”真正到来时间可能更遥远,跨越过程未必“温柔”,需制度建设、社会准备和持续警醒支撑。

面对“奇点”时刻,我们应如狄兰·托马斯诗中所写,“不要温和地走进那个良夜”,以清醒与批判之姿迎接。清晰界定底线,持续发出“怒吼”,才能在技术洪流中保有尊严与主体性,避免被动承受,让AI发展真正服务于人类的美好未来。

作者:风暴注册登录平台




现在致电 5243865 OR 查看更多联系方式 →

COPYRIGHT 风暴注册登录平台 版权所有