何谓认知自治

在上一篇解读中，我们讨论了智能社会的形成。随着社会结构和运行过程日益复杂，人类不断借助工具与组织，把部分认知活动交由外部资源承担。人工智能使其中一部分活动获得了计算化实现，又通过规模复制和制度嵌入，持续参与社会的知识生产、判断形成与现实行动。

这一变化给教育提出了一个根本问题：当人越来越多地借助外部智能来认识世界、解决问题和采取行动时，教育应当如何应对，才能保持人之为人的独特性和自主能力？

红皮书给出的答案是：认知自治（Cognitive Autonomy）。那么，究竟什么是认知自治呢？本篇解读将详述这一概念的内涵与外延。

一、认知自治的定义

按照红皮书的概念界定：

认知自治是个体在复杂认知环境中，对自身信念形成、证据使用、信任分配、判断边界和行动责任进行主动调节的过程^[1]。

这一定义把认知自治放在认识与行动的连续过程中。人为什么接受一个说法，依据什么作出判断，愿意把哪些任务交给系统，在什么条件下需要重新核验，以及结论将怎样影响现实行动，都属于这一过程。

例如，学校借助系统生成学生的学习评价时，教师需要了解评价依据了哪些数据、分数能够说明什么、哪些学习表现可能被遗漏，以及结果适合支持何种教学决定。学生也应有机会理解评价、补充材料和提出异议。评价一旦影响学习机会，就需要相应的复核与责任安排。整个过程需要人对数据、对系统、对行为后果、对个人职责有清醒的认知，并对这一认知过程进行主动管理。这一过程就称为“认知自治”。

二、如何理解认知自治

1. 认知自治是一个主动调节认知活动的过程。

认知自治贯穿信息获取、知识理解、问题求解、判断形成和行动选择的全过程。个体需要在这一过程中不断识别信息来源、评价证据质量、调整信任程度、把握判断边界，并对依据判断采取的行动承担责任。认知自治具有持续性和动态性，会随着任务目标、证据状况、外部环境和潜在后果的变化不断展开和调整。

2. 认知自治面向现代社会普遍存在的复杂认知环境。

复杂认知环境是指信息来源多样、证据质量不一、知识持续更新、不同判断相互竞争，并且信息的生成、筛选、传播和放大越来越多地受到算法、平台、组织和制度中介的认知环境。在这种环境中，个体接触到的内容往往已经经过多重选择和加工，信息数量的增加也不会自然带来更可靠的认识。

人工智能进一步提高了这种环境的复杂程度。它可以快速生成内容、组织知识、提出建议并参与决策，同时也可能产生错误、遗漏和缺乏依据的结论。个体面对的不再只是某一条信息是否真实，还需要判断信息如何产生、证据能支持什么结论、系统适用于什么情境，以及应当给予其多大程度的信任。认知自治正是面对这一复杂认知环境所需要的基础能力。

3. 认知自治的核心在于主动调节。

认知自治所强调的主动性，是个体能够意识到自己的认识正在受到哪些信息、工具和社会机制的影响，并根据任务目标、证据状况和可能后果，主动调整自己的认知活动。个体既可以接受可靠信息、借助专家知识和使用人工智能，也能够在条件变化、证据不足或风险升高时重新核验、修正判断和调整行动。

因此，认知自治包含风险意识，却不以风险提示为终点。它所追求的是个体在复杂环境中持续理解、选择、行动和修正的积极过程；能够稳定开展这一过程，体现了个体的认知自治能力。

4. 认知自治是在开放依赖中保持人的认知主导。

人的认知活动始终建立在开放依赖之中。语言、知识、教育、专家、制度和技术工具共同参与人的认识过程。人工智能进一步扩大了这种依赖的范围，使信息检索、材料整理、模式识别、计算推演、方案生成和内容表达等活动都可以得到外部能力的支持。认知自治允许人根据任务需要，有选择地调用和组织外部认知资源，无需由个体独立完成全部认知任务。

这种认知依赖也是现代知识社会的基本状态。Hardwig关于认识依赖的讨论指出，现代知识共同体中的个人常常需要基于他人证言和专家劳动形成信念^[2]。Hutchins关于分布式认知的研究进一步表明，复杂任务中的认知活动往往分布在个人、工具、符号系统和组织环境之间^[3]。人工智能使这种依赖更加密集、快速和隐蔽，也使人对依赖关系进行主动组织变得更加重要。

认知自治强调在这种开放依赖中人的认知主导，这种主导主要体现为保持对整个认知过程的发起、审查和统摄。其中，有两个角色尤其需要保留在人类一侧：提出问题和核查结果。提出什么问题，决定了认知活动朝向何种目标，也包含着人对现实需要、价值取向和问题意义的理解；核查结果，则要求人判断所得结论是否有充分依据、是否适用于当前情境、是否遗漏重要因素，以及能否据此采取行动。这两个环节共同确定了认知活动的方向、边界和最终有效性。

因此，利用人工智能扩展人的能力与保持认知自治可以同时实现。个体可以充分调用人工智能的记忆、计算、生成和分析能力，同时持续理解任务正在怎样展开、人工智能承担了哪些环节、所得结果依据什么，以及哪些结论仍需进一步验证。认知自治所维护的，是人对认知活动整体方向和有效性的主导，使人工智能的能力始终被纳入由人发起、由人核查并由人负责的认知过程。

三、认知自治的六个维度

红皮书将认知自治具体展开为以下六个维度^[1]。

来源警觉。个体需要追问信息由谁或什么系统产生。来源可以是教师、专家、论文、媒体、机构、平台、模型、商业系统，也可以是人机共同生产的混合来源。来源警觉要求个体避免根据身份直接接受或拒绝，并进一步分析产生机制、专业能力、激励结构、可追责性和传播路径。Sperber等人提出认识警觉的概念，强调在与他人交流时，必须评价交流者和交流内容的可靠性^[4]。AI环境把这一问题复杂化，因为模型输出具有类似证言的语言形式，却缺少普通人类交流中的责任关系。

证据敏感。个体需要区分结论的表达形式和支持它的证据基础。一个结论可以来自个人经验、统计数据、实验研究、专家判断、历史材料、模型生成、基准测试或商业宣传。不同证据具有不同强度和适用范围。Chinn等人关于认识论认知的研究指出，学习者需要理解知识主张如何被证据支持，以及不同学科如何建立正当性^[5]。在人工智能环境中，证据敏感意味着学生不把语言流畅、图像逼真或数字精确直接等同于可靠性。

边界意识。人工智能系统从数据中学习，数据来自特定人群、场景、语言、文化和时间。模型在某一分布上有效，并不能保证在新的场景中同样可靠。边界意识把机器学习中的泛化问题转化为日常判断习惯：当前案例是否超出了证据边界？样本是否代表总体？经验是否可以迁移？这类边界问题在人工智能领域极为常见。例如，Recht等人对ImageNet和CIFAR-10测试集的再评估显示，模型在新测试集上可能出现显著性能下降^[6]。这类研究提示教育者，性能结论需要与数据来源和使用场景联系起来理解。

信任校准。个体需要根据证据强度、来源质量、任务风险和错误后果，给自己的信念和行动选择分配合适的信心。心理学与神经科学研究表明，人对自己判断的信心并不总与准确性一致。Fleming和Dolan关于元认知神经基础的综述指出，元认知准确性可以与任务表现相区分^[7]。AI研究中，Guo等人发现现代神经网络的预测概率也可能出现校准不足，准确率和置信度并不天然一致^[8]。人和模型都可能表现出过度自信，教育需要训练学习者调节信心强度。

认知能动。个体在理解人工智能基本原理、能力边界及其社会影响的基础上，能够以开放而自信的态度看待人工智能，将其视为可以认识、探索和调用的认知资源，主动思考它能够怎样参与学习、创造、判断和问题求解。认知能动主要是一种认知倾向，表现为面对新技术时愿意理解、敢于尝试，并对新的认知方式保持开放；在具体任务中，它还表现为能够从自身问题和目标出发，发现人工智能可能发挥作用的环节，设想借助外部能力拓展自身认知范围的可能路径。它为后续的工具选择、任务组织和人机协作提供内在动力，也使来源、证据、边界、信任与责任的调节服务于积极的学习、创造和行动。

责任判断。认知自治最终要进入行动。一个结论如果用于头脑风暴，所需证据标准较低；如果用于医疗、法律、金融、教育评价或公共治理，所需标准就高得多。Lee和See关于自动化信任的研究指出，人与自动化系统之间的信任必须与系统能力、过程透明度和使用目的相匹配^[9]。NIST人工智能风险管理框架也强调，AI风险要结合具体情境和受影响者来管理^[10]。责任判断要求学习者理解：不同场景具有不同的核验标准、人工复核要求和问责方案。

四、认知自治的社会意义

认知自治具有明确的社会意义。智能社会中的判断很少只影响个人。算法推荐影响公共讨论，AI生成内容影响知识传播，自动化评价影响教育机会，风险模型影响医疗资源，信用评分影响金融服务；与此同时，人工智能也在降低知识获取、内容创造、技术开发和专业协作的门槛。个体能否主动而审慎地使用人工智能，与公共制度、组织责任、社会信任以及参与新型学习和生产活动的机会紧密相连。

首先，认知自治关系到公共讨论质量。Lazer等人关于虚假新闻的研究强调，错误信息传播是技术、认知、社会动机和平台结构共同作用的结果^[11]。Vosoughi等人对Twitter传播的研究显示，虚假新闻在传播速度和范围上可能超过真实新闻^[12]。当生成式AI降低内容生产成本，公共讨论更需要参与者具备来源警觉和证据敏感。公民如果无法判断内容的生产机制和证据基础，公共理性就会被流畅叙事、情绪传播和平台放大削弱。

其次，认知自治关系到组织决策质量。自动化系统进入招聘、信贷、医疗、教育评价和公共服务后，组织成员需要理解模型输出的适用边界。Parasuraman和Riley关于自动化使用的研究指出，自动化可能产生误用、滥用和弃用^[13]。组织中过度依赖系统，可能造成责任外包；完全拒绝系统，也可能错失效率和质量提升。认知自治要求专业人员在组织流程中保持解释、复核和问责能力。

再次，认知自治关系到个体参与学习、生产与创造的能力。人工智能可以帮助人快速进入陌生领域、比较多种方案、跨越部分专业表达门槛，并把初步想法转化为可以继续检验和改进的对象。认知能动使个体愿意发现和探索这些可能，来源警觉、证据敏感、边界意识、信任校准和责任判断则使能力扩展建立在理解与审慎调节之上。认知自治由此既维护人的主体位置，也扩大人能够参与的实践范围。

同时，认知自治关系到教育公平。若智能社会中的教育只关注先进工具的操作，资源丰富的学校可能更快获得平台和实践机会，资源不足的学校则被排除在外。将认知自治作为通识教育的重要目标，低成本工具、开放资源、纸笔模拟、生活场景分析和人机协作任务也能承担重要作用。学生不一定需要最先进的设备，仍然可以学习如何提出问题、选择工具、组织任务，同时理解数据偏差、模型边界、生成内容核验、推荐机制和责任判断。这样的定位有助于使教育从装备条件的差异转向所有学习者都能参与的基础能力培养。

最后，认知自治关系到人的尊严和主体性。Floridi等人提出的AI4People原则强调有益、不伤害、自治、公正和可说明性，并把AI伦理放在人类福祉与社会治理的背景中讨论^[14]。Selbst等人从社会技术系统角度批判抽象化的公平观，指出算法系统总是嵌入制度和社会背景^[15]。这些研究共同提示，智能社会的通识教育需要让学生理解技术与人、制度和社会之间的关系。认知自治使个体能够在技术环境中保持主体位置，同时理解个体判断必须进入公共责任结构。

总体看，维护公民的认知自治能力，关系到现代社会的运行基础。现代社会以能够独立判断、参与公共讨论并承担行动责任的公民为主体。公民只有能够自主形成信念、审查证据、调节信任、辨认判断边界，公共协商、共同决策和制度运行才具有真实的主体基础。如果公民的认识和判断越来越受算法筛选、生成内容和自动化系统支配，认知自治能力持续受到削弱，支撑社会运行的公民基础也会逐渐动摇。因此，维护认知自治既是在维护个体对自身认识与行动的主导，也是在维护公共生活和社会正常运行所依赖的基本秩序^[1]。

五、认知自治如何成为通识教育的现代任务

当人工智能能够帮助人完成越来越多的任务时，人类面临双重危机：首先，社会信息复杂度快速增加，带来更复杂的信息场景；其次，当更多认知任务被分发给人工智能，认知卸载的风险也在增加。

因此，教育需要探索人工智能时代的新模式。在这样的新模式下，学会了什么知识和技能固然重要，但更关键的是学习者通过训练获得认知能力的提升，拥有对自身信念形成、证据使用、信任分配、判断边界和行动责任进行主动调节的能力。这正是认知自治能力。

通识教育维护共同认知基础、发展自由人格的历史使命，在智能社会中由此获得了具体的任务：使社会成员能够理解新的认知条件，主动组织外部资源，并对认识与行动进行有根据的调节。认知自治首先作为教育目标成立，人工智能通识教育在这一目标之下组织知识、实践与评价。

红皮书进一步用归纳、泛化、判断和自醒组织能力培养：从材料中形成认识，在新情境中检验边界，综合证据与价值作出选择，并持续反观自身的理解、信任和责任。四种能力为课程与评价提供教育框架，前述六个维度则用于分析认知自治的具体过程。

六、结语

认知自治是一种能力，在复杂的环境中保持对个人认知过程的有效管理，善于利用工具而不被工具左右，主动拥抱技术却保持对应用过程的主导与掌控。

认知自治是一种态度，在复杂的环境下保持个体的独立性，守护人的思考能力，维护人之为人的尊严。

认知自治是一个目标，一个重要到不允许任何声音掩盖的目标：让人拥有完整的人格，使之可以在社会上生存；让每个人都拥有这样的人格，使人类社会可以延续下去。这是智能社会里教育的第一性原则。

参考文献

1. [1] 王东，马少平，主编. 人工智能通识教育：智能社会中的认知自治能力培养[R/OL]. v2.3.3（征求意见稿）. 清华大学计算机系人工智能通识教育研究中心，2026-08 [2026-09-26]. https://aige.cs.tsinghua.edu.cn/redbook/
2. [2] Hardwig J. Epistemic Dependence[J]. The Journal of Philosophy, 1985, 82(7): 335–349. https://doi.org/10.2307/2026523
3. [3] Hutchins E. Cognition in the Wild[M]. Cambridge, MA: MIT Press, 1995. https://mitpress.mit.edu/9780262581462/cognition-in-the-wild/
4. [4] Sperber D, Clément F, Heintz C, et al. Epistemic Vigilance[J]. Mind & Language, 2010, 25(4): 359–393. https://doi.org/10.1111/j.1468-0017.2010.01394.x
5. [5] Chinn C A, Buckland L A, Samarapungavan A. Expanding the Dimensions of Epistemic Cognition: Arguments from Philosophy and Psychology[J]. Educational Psychologist, 2011, 46(3): 141–167. https://doi.org/10.1080/00461520.2011.587722
6. [6] Recht B, Roelofs R, Schmidt L, et al. Do ImageNet Classifiers Generalize to ImageNet?[C]//Proceedings of the 36th International Conference on Machine Learning. PMLR, 2019, 97: 5389–5400. https://proceedings.mlr.press/v97/recht19a.html
7. [7] Fleming S M, Dolan R J. The Neural Basis of Metacognitive Ability[J]. Philosophical Transactions of the Royal Society B: Biological Sciences, 2012, 367(1594): 1338–1349. https://doi.org/10.1098/rstb.2011.0417
8. [8] Guo C, Pleiss G, Sun Y, et al. On Calibration of Modern Neural Networks[C]//Proceedings of the 34th International Conference on Machine Learning. PMLR, 2017, 70: 1321–1330. https://proceedings.mlr.press/v70/guo17a.html
9. [9] Lee J D, See K A. Trust in Automation: Designing for Appropriate Reliance[J]. Human Factors, 2004, 46(1): 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
10. [10] Tabassi E. Artificial Intelligence Risk Management Framework (AI RMF 1.0): NIST AI 100-1[R]. Gaithersburg, MD: National Institute of Standards and Technology, 2023. https://doi.org/10.6028/NIST.AI.100-1
11. [11] Lazer D M J, Baum M A, Benkler Y, et al. The Science of Fake News[J]. Science, 2018, 359(6380): 1094–1096. https://doi.org/10.1126/science.aao2998
12. [12] Vosoughi S, Roy D, Aral S. The Spread of True and False News Online[J]. Science, 2018, 359(6380): 1146–1151. https://doi.org/10.1126/science.aap9559
13. [13] Parasuraman R, Riley V. Humans and Automation: Use, Misuse, Disuse, Abuse[J]. Human Factors, 1997, 39(2): 230–253. https://doi.org/10.1518/001872097778543886
14. [14] Floridi L, Cowls J, Beltrametti M, et al. AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations[J]. Minds and Machines, 2018, 28: 689–707. https://doi.org/10.1007/s11023-018-9482-5
15. [15] Selbst A D, boyd d, Friedler S A, et al. Fairness and Abstraction in Sociotechnical Systems[C]//Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: ACM, 2019: 59–68. https://doi.org/10.1145/3287560.3287598