AI与认知外包

在 Agent 已经能够外包越来越多认知活动的时代,脑子里一直萦绕着几个挥之不去的问题。

AI 正在使社会的知识生产能力与个体内化的知识能力逐渐分离。如果这种分离长期扩大,而教育、职业评价和责任制度没有相应调整,是否会出现这样一种悖论:专业成果越来越多,却越来越难以确认究竟有多少人真正具备相应的专业能力?当人们越来越容易借助 AI 获得超出自身知识水平的高质量成果,而学校、企业和社会仍然主要依据这些成果评价个人时,现有的专业人才培养、识别与信任机制将发生什么变化?社会又该如何重新识别专业性?

如果答案是“AI 自己审自己,直到 RSI”,那么当生产者和评价者越来越依赖同类生成系统,专业共同体该如何维持独立判断和有效纠错?即使保留人类作为最终审核者,认知外包也并不自动保证人类仍然具备相应的审核能力。

另一个依然悬置的问题是专业学习曲线的断裂。如果一个社会逐渐减少专业新手获得“真实践”的机会,多年后将由谁来处理 AI 仍然无法可靠解决的复杂问题?过去许多初级任务既是生产劳动,也是培养专业能力的过程,当这些任务被自动化接管,下一代专家又该如何成长?最近已经看到了一些这方面的实证研究,未来估计会更多吧。

当然,认知外包本身显然也是人类社会持续发展的重要动力之一(机器化,工业化,自动化等等)。关键在于,当技术不断替代人的具体劳动时,社会是否同步建立了与之相适应的知识传承、能力形成、验证和纠错机制?这种认知外包最终会促进普遍增效,使人们从底层操作转向更高层次的设计和判断,还是导致部分专业的空心化,使旧技能逐渐消失,而新能力未能得到充分培养?又或者,它会进一步加剧能力分层,迅速抬高初学者的产出水平,让所有人的成果看起来更加接近,实际的专业能力却可能愈发分化?(从目前阶段来看,应该是同步在发生,且不同行业差别很大吧。)

老生常谈的类比:从汇编到高级语言,底层实现细节逐渐交由编译器和软件抽象处理,程序员得以专注于更高层次的工程问题;但从高级语言到 Agent Coding,设计、实现乃至部分验证活动也开始被外包,后者是否能与前者类比,还是说已经触及了某些性质不同的问题?

估计这些问题还会阴魂不散很多年。特德·姜那篇短科幻小说还是走在了前面,人类最后要做的事情只是在AI的桌上拾面包碎屑,试图进行一些逆向考古。

相关阅读:自译 | 餐桌拾屑——面对超人类科学,人类成了元科学家


转载请注明来源。欢迎留言评论,欢迎对文章中的引用来源进行考证,欢迎指出任何有错误或不够清晰的表达。
分享这篇文章 分享卡片
分享这篇文章

保存图片或长按图片,将文章分享给朋友。