图书馆怎样把伦理价值写成可执行的程序
前一篇区分了声明、指南、正式政策和业务细则。区分之后，问题反而更难了：即使图书馆发布的是正式政策，写满正确原则，也可能对实际工作毫无约束。
翻阅各类人工智能政策，会遇到一批面孔熟悉的词：透明、公平、负责、以人为本、安全、可信。它们几乎不会遭到反对，也因此很容易安全地留在纸上。
真正困难的问题并不体面。谁来批准？哪些数据禁止输入？审核人员看什么？供应商不肯说明模型情况怎么办？系统已经花钱采购，评估不合格还能不能停？
原则使政策显得正确，程序才使政策产生后果。
“人工最终负责”为什么不够
许多机构愿意写下“AI只作辅助，最终由人负责”。这句话方向没有错，却常把最艰难的部分省略了。
如果馆员没有足够时间核查长篇输出，没有原始来源可以回看，没有权力否决系统建议，也不能要求供应商解释，那么“人在回路”只是把责任安放在人身上，并没有把控制权交给人。
有效的人工复核至少包含四个要素。
其一，指定有相应知识的人。机器翻译古籍、医学信息或少数民族语言，不能由不具备相关能力的人签字了事。
其二，规定核查对象。参考咨询要核对来源、日期和引文；宣传材料要检查事实、版权和形象；元数据要抽检字段准确性及偏差分布。
其三，给复核者真实的否决权。审核不是在既定上线时间前补一个签名。
其四，把复核成本计入项目。机器一分钟生成，人半小时核验，这半小时不能从绩效表里消失。
一条完整的治理链
比较美国国会图书馆、多伦多公共图书馆、西雅图公共图书馆和澳大利亚国家图书馆的文件，可以归纳出一条逐渐清晰的链条：价值原则、风险识别、工具审批、人工监督、公开披露、反馈修订。[1][2][3][4]
价值原则回答“什么不能拿来交换”。风险识别回答“具体会伤害谁”。工具审批决定“在什么条件下可以使用”。人工监督保证结果有人检查。公开披露让读者知道AI何时影响了服务。反馈修订则承认制度可能判断错误。
少掉一环，政策就会出现一种熟悉的残缺。只有价值，没有工具，是宣言；只有工具，没有责任人，是表格；只有责任人，没有停止权，是替罪安排；没有反馈，错误就会被重复得很有秩序。
六类工具，把原则压进流程
允许、限制和禁止清单
政策不必逐项列出所有软件，却应按数据、用途和影响划分场景。公开材料的格式整理可以列为低风险；面向公众的生成内容、翻译和一般咨询属于中风险；借阅记录、未公开研究数据、招聘考核、医疗法律建议和影响个人资格的决定应列为高风险。
分类不能只看工具品牌。同一模型整理公开活动名单，与分析读者借阅史，风险完全不同。
工具审批与使用登记
西雅图公共图书馆把免费软件、软件即服务和嵌入式AI都纳入审批范围，并要求供应商提供AI事实表或相当材料。[3] 这一点很要紧。免费不是免责，嵌入也不是无形。
使用登记还应区分实验、试点和正式运行。美国国会图书馆公开AI用例及其成熟阶段，使公众可以知道AI被用于哪里，也迫使机构说明项目仍处于测试还是已经进入服务。[5]
数据分类与输入限制
“不得输入敏感信息”过于宽泛。政策应列明个人信息、借阅历史、参考咨询、员工记录、未公开馆藏资料、许可数据库全文和保密项目数据分别适用什么规则。工作人员若无法判断，应有明确的咨询和升级渠道。
披露与选择
并非每次使用拼写检查都要贴标签。但AI若实质性生成对外内容、影响推荐排序、参与专业判断或处理个人数据，机构应当告知。对于可能影响读者权益的服务，还应尽量保留人工帮助和非AI路径。
事件报告与申诉
模型生成错误引文、泄露敏感内容、出现歧视性推荐时，馆员要知道向谁报告。读者也要有地方提出异议。若政策只规定正确用法，却没有错误入口，它其实假定错误不会发生。
暂停和退出
试点到期后应重新评估，不能因为已经采购便自动转为永久项目。供应商拒绝提供必要信息、风险无法缓解、非AI方案更合适，都是暂停或退出的理由。沉没成本不是政策原则。
风险分级，比统一口号可靠
政策制定者常在两个坏选项之间摇摆：写得宽松，担心失控；写得严格，又怕没人敢试。风险分级可以把这场争论拆开。
低风险任务采用批准工具和一般复核即可。中风险任务需要专门审核、标识或抽检。高风险任务原则上不得使用公共模型，必要时进入专项审批，并设置法律、隐私和业务审查。
这种做法的好处不是更加复杂，而是让管理资源流向真正危险的地方。若生成一张内部讨论用的示意图和处理未成年人咨询记录都走同一套程序，最后往往是谁也不走程序。
给试验留下位置，也给拒绝留下位置
图书馆需要学习新技术。受控试点、沙盒环境、限定数据和阶段评估，可以让机构在不直接伤害公众的情况下积累经验。政策若禁止一切，员工只会转向私人账号和非正式使用。
但“鼓励试验”不应变成默认上线。2026年美国图书馆协会指南明确提出，应比较AI与非AI方案；风险无法缓解时，延迟、拒绝或停止使用也是专业选择。[6]
这句话给政策制定者恢复了一点常识：不用某项技术，不等于反对技术；使用某项技术，也不能证明机构先进。
原则写在墙上，风险发生在流程里。不能进入流程的原则，最后常在事故发生以后被重新朗读一遍。
程序把馆员的谨慎变成组织能力，但程序只能管理图书馆看得见的部分。下一层危险藏在平台条款、嵌入式功能和供应商控制之中。那是政策最容易失去抓手的地方。
主要资料
- Library of Congress. (2024). Artificial Intelligence at the Library of Congress. https://www.loc.gov/digital-strategy/artificial-intelligence/
- Toronto Public Library. (2025). Artificial Intelligence Policy. https://tpl.ca/policies-and-terms-of-use/artificial-intelligence-policy/
- The Seattle Public Library. (2025). Library Use of Artificial Intelligence. https://www.spl.org/about-us/policies/library-use-of-artificial-intelligence
- National Library of Australia. (2025). Artificial Intelligence Framework. https://www.library.gov.au/sites/default/files/documents/2025-03/nla-ai-framework-1-0.pdf
- Library of Congress. AI Use Cases. Retrieved September 22, 2026. https://www.loc.gov/digital-strategy/ai-use-cases/
- American Library Association. (2026). Guidance on the Use of Artificial Intelligence in Libraries. https://www.ala.org/tools/standards-and-guidelines/guidance-use-artificial-intelligence-libraries
留下评论