串起来看：微软“AI 办公未来”发布与 GPT-4 技术报告里的风险信号

大约五周前，我写过一篇文章，基于公开信息推测 OpenAI/ChatGPT 会如何接入 Microsoft Office 365。

昨天微软在 “The future of work with AI” 发布会上展示了第一批落地形态：大语言模型与 Office 365 以及 Microsoft Graph 的结合能做什么。

本周早些时候 OpenAI 也正式发布 GPT-4。

如果你还没看 直播回放，我建议看一下。你会更直观感受到 GPT-4 能力边界，以及这些能力为什么会快速进入微软产品体系。

这篇我会做两件事：

1. 先讲我对 Microsoft 365 Copilot 的第一反应
2. 再深入 GPT-4 技术报告里“风险与安全”章节

如果你只关心“风险性涌现行为”（如长期规划、权力寻求、越来越 agentic 的行为），可直接跳到对应章节。

Copilot 能力版图：比我此前预期更快

我在前文里提到的大部分用例，这次发布会 demo 基本都出现了，而且还有更多。

• Copilot in Excel
• Outlook
• Copilot in Teams
• Copilot meeting recap
• Copilot in Powerpoint

其中两个点让我很惊喜：

• Business Chat
  • 对大型组织来说，知识传递与知识管理一直是高摩擦问题。
  • 如果 demo 所示能力可稳定落地，你可以用自然语言跨企业数据层检索信息，这会非常实用。
  • 本质上像“接入企业内部数据的 ChatGPT”。
• 低代码（Low-code）AI 开发
  • 用户可用自然语言把想法做成小应用。
  • 这会显著降低自动化门槛，不必每次都走“立项-排期-工程开发”长流程。
  • 更多业务人员可用企业数据快速解决细分问题。

你会不会也觉得：我们推进得太快了？

GPT-4 技术报告在这里：pdf。

对非技术读者（包括我）来说，它相当密集。

但我建议至少认真看第 4 到 20 页，那里集中讨论了安全挑战。我花了不少时间读这部分，觉得非常值得。

OpenAI 已开始系统讨论的风险包括：

• 幻觉（Hallucinations）
• 有害内容（Harmful content）
  • 代表性/资源分配/服务质量伤害
  • 虚假信息与影响力操作
• 常规与非常规武器扩散
• 隐私
• 网络安全
• 风险性涌现行为
• 经济影响
• 加速效应
• 过度依赖

下面是我用 GPT-4 对这些风险点做的摘要 + 我的简评。

Hallucinations（幻觉）

摘要：GPT-4 仍可能生成与事实不符或无意义内容。随着模型更“像真”，用户可能更容易过度信任，风险上升。技术报告分别评估了开放域与封闭域幻觉，并通过训练降低该倾向。内部评估里，GPT-4 相比 GPT-3.5 在开放域幻觉回避上提升约 19%，封闭域提升约 29%。

我的评论：这意味着在“基于给定文档做总结”（封闭域）场景下，GPT-4 理论上会更稳。

Harms of representation, allocation, and quality of service

摘要：像 GPT-4 这样的模型可能放大偏见、强化刻板印象，复制甚至加固有害世界观。拒答训练可缓解部分偏差，但某些情境下也可能引入新偏差。若缺乏前置治理与公平分配机制，这类系统可能固化某些意识形态叙事。

技术报告里有案例：

Disinformation and influence operations

摘要：GPT-4 可生成高拟真、可定向内容（新闻、推文、邮件、对话等），可能被用于误导与舆论操控。它在“有说服力但不真实”的内容生成上比 GPT-3 更强，坏行为者利用门槛下降。报告还提到其在多语言环境下可生成偏向专制叙事的内容。虚假信息规模化后，会削弱公众区分事实与虚构的能力，系统性不信任可能扩散。

我的评论：我不确定有多少人会认真读技术报告附录这部分风险章节。OpenAI 愿意公开风险与缓解思路是好事，但读完后我仍然会起鸡皮疙瘩，确实值得持续讨论。

Proliferation of Conventional and Unconventional Weapons

摘要：GPT-4 具备双重用途潜力，可能同时服务商业和军事场景，也可能被用于核/放射/生化等敏感信息辅助。红队测试显示，模型可缩短信息检索时间并提供某些路径线索，对非专业用户也可能有帮助。但模型输出常仍偏泛化、不够可操作，且会有事实错误，这在一定程度上限制了直接滥用效率。

Privacy

摘要：即使做了隐私治理，风险并不会归零。删除训练数据中的个人信息并不代表模型无法通过模式推断敏感信息；即使设置拒答策略，也可能被绕过。因此需要持续监控与迭代缓解。

Cybersecurity

摘要：在网络安全任务上，GPT-4 在漏洞发现、利用与社会工程方面有一定能力，但也有明显限制（如幻觉、上下文窗口限制）。它可能加速某些子任务，但在复杂高阶任务（如新型漏洞识别）上并未全面超越现有专业工具。

Potential for risky emergent behaviors

摘要：技术报告明确提到对“新能力涌现”风险的关注，包括长期规划、权力寻求、越来越 agentic 的行为。Alignment Research Center（ARC）获早期访问权限评估模型在自主复制与资源获取方面的风险。初步测试中，未经任务专门微调的 GPT-4 并不擅长自主复制；后续仍需在最终模型和微调条件下继续测试。

报告还强调要在“系统与系统交互”环境里评估风险：当 GPT-4 与外部工具组合后，可完成更多潜在对抗性任务。真正风险可能来自多系统反馈回路与“高影响决策者过度依赖模型建议”带来的新系统性脆弱点。

我的评论：OpenAI 让红队重点测试这个方向是对的。但这件事太关键了，不只是 OpenAI，微软和其他模型公司在发布新模型时也应更主动公开这类评估进展。

Economic impacts

摘要：GPT-4 对经济与劳动市场可能有复杂影响：一方面可增强员工能力和部分岗位满意度，另一方面历史经验显示技术扩散也可能扩大不平等，且对不同群体影响不均。报告强调要持续跟踪其在工作场景的真实部署影响，包括通过实验和用户/企业调查做长期监测。

Acceleration

摘要：OpenAI 关注 GPT-4 对 AI 研发生态加速效应的潜在风险，包括竞速压力下安全标准下降。报告提到曾使用专家预测评估不同发布策略的加速风险，并指出“若延后 6 个月发布并采取更低调传播策略，可能降低加速风险”。这部分研究仍在持续完善。

Overreliance

摘要：过度依赖是高能力模型的典型失效模式：用户因过度信任而忽略错误与监督义务。缓解方式包括向终端用户清晰披露能力边界、谨慎描述模型、强调持续核验。OpenAI 也在模型层面对拒答行为与可操控性做了优化，但报告承认 GPT-4 仍有“过度保守措辞”倾向，可能反向促成过度依赖。

OpenAI CEO 与当时 CTO 对风险的公开讨论

几天前 ABC 采访了 OpenAI CEO Sam Altman 与当时 CTO Mira Murati。(注：Mira Murati 已于 2024 年 9 月离开 OpenAI。)

访谈里谈了很多风险议题，视频在这里：

https://www.youtube.com/watch?app=desktop&v=540vzMlf-54

结论

把 OpenAI 大模型接入 Microsoft Office 365，确实有非常大的生产力潜力：知识流动、自动化、协同效率都会被重写。

GPT-4 比前代能力更强，这一点没有疑问。

但最让我在意的是：OpenAI 和微软推进速度都非常快，这会进一步拉高整个行业的扩散速度。

我整体对 AI 持乐观态度，但我也认为风险讨论必须进入主流，不应只停留在技术附录里。

也许我判断有偏差，但当前感受是：能力演进速度，正在超过我们集体消化其社会后果的速度。

你怎么看？我们现在是不是推进得太快了，还是这个速度本来就合理？

欢迎分享你的观点。

致敬，

Chandler