跳到正文
Chandler Nguyen
AI阅读时间1分钟

分享你用 AI 做的应用之前

在团队或客户开始依赖你用 AI 做的东西之前,要先回答的九个问题;谁来用,决定了你需要多谨慎;还有一段提示词,让你的编程工具说出它做过哪些取舍。

我一直在和很多 vibe coder 一起工作,他们中不少人来自市场营销或广告代理公司。他们做出来的东西往往能用。不过,我总是看到同一类问题。AI 在帮你构建应用时会做出取舍,如果你没有软件工程的功底,你根本不知道做了哪些取舍,也不知道该问什么。

我并不是站在高处写这篇文章。我是通过系统的课程学会编程的,现在仍然会在自己的应用里发现这类错误。2024 年 1 月,我写过把生成的向量嵌入保存在 CSV 文件里,当作临时数据库的经历。我知道 CSV 作为数据库并不理想,但我当时没有能力选更好的办法。

那么,我会不会建议你先停下来,去学前端、后端和数据库的课程呢?我的回答是不会。这些词之所以重要,只是因为它们背后的决定,所以我会从下面的问题开始,等你自己的应用需要时,再去学对应的概念。

首先,这个东西真的该做吗?

当你自己做一个工具,它的安全、维护、合规和更新也都由你负责。我的做法是:如果这项能力是你竞争优势的核心,就自己做;如果只是通用的基础设施,就去买。对于只有你自己做的任务,一张电子表格加一个好的提示词可能就够了。

需要多谨慎,取决于谁会使用它

谁会使用哪些可以凑合你需要什么
只有你自己,没有敏感数据把数据放在一个简单的文件里能撤销改动的办法,以及不把密钥放进你分享的任何东西
你的团队几乎不能走捷径,因为大家已经开始依赖它真正的数据库、登录、备份,以及一份单独用来测试的副本
客户或公众不能走捷径下面全部九个问题的答案、用第二个账号做的权限测试、就数据去向与法务确认,以及一位具体的人盯着它

所以,简单的文件并不总是错的。它是一种取舍,一旦别人开始依赖这些数据,这种取舍就不再合理了。

我也会按这个顺序上线。先从你的团队开始,证明答案是准确的,然后才让客户进来。面向客户的工具在第一周里只要有一个错误答案,就可能让你几个月的信誉受损。

九个问题

1. 数据存在哪里?两个人同时保存会发生什么? 用简单的文件时,一个人的保存可能覆盖另一个人的工作。把这件事处理好,是数据库存在的一大原因。

2. 哪些东西在浏览器里运行,哪些在服务器上运行? 这就是前端和后端的区别,它之所以重要,是因为任何使用你应用的人都可以查看到达他们浏览器的内容。放在那里的 API 密钥就不再是秘密了,所以它应该放在服务器上。

3. 只拿着你的公开密钥、没有账号的人能做什么?它里面的 AI 又能自己做什么? 有登录并不等于有正确的权限。所以,请在本地副本上测试:用第二个用户登录,试着打开第一个用户的数据。如果你的应用里有 AI,对 AI 也问同样的问题:它能调用哪些工具,其中哪些会改动东西?凡是它自己能做的事,能和它对话的陌生人也可能让它去做。

4. 坏的改动怎么撤销? 学到够用的 Git,做小而频繁的提交,出了问题能干净地回滚。Git 管的是代码,不是数据,所以你还需要备份。如果真实的密钥曾经被提交过,就把它作废,因为只删掉那一行是不够的。

5. 你在哪里可以安全地试一个改动? 你需要一个不是线上应用的副本,比如电脑上的本地版本或预览版本,有自己的数据和自己的设置。如果你用用户正在依赖的同一份数据来测试,一个失误会立刻波及他们。

6. 你怎么知道它真的能用? AI 说“完成了”并不能说明什么。2026 年 2 月我写过一次经历:Claude 按设计文档做完了,而线上数据库却是另一回事。我打开一个由线上后端生成的播客,应用就崩溃了。还有 STRAŦUM,一个多租户应用,我写了 83 条 RLS 策略,并用 SME 和 Agency 两种账号做了测试,RLS 就是规定哪个账号能看到哪些行的规则。但我当时仍然认为按 org_id 过滤就足以实现隔离。结果并不是,我把它重建了。所以请像真人那样使用你的应用,用真实的数据,并把每一步单独测试,这样你才知道失败出在哪里。

7. 谁在盯着它?它花多少钱? 软件上线之后会变旧,而且这时通常不会有任何报错。今天就运行一次 npm audit --omit=dev,然后让这项检查自动运行。也看看你的 AI 账单。2025 年 8 月,我发现把 temperature 设成 0.7 而不是 0,导致 30% 的 API 调用失败,每月白白浪费 54 美元的 token。最后但同样重要的是,决定每个应用你要不要继续留着。对于 STRAŦUM,我把它退役了,并把 v1 发布为参考实现,因为不诚实的做法,就是应用还在接受注册,却没有人盯着。如果没人会盯着你的应用,就把它下线,或者明说。

8. 它显示的数字和结论对吗?你能把每一个追溯到出处吗? 不管对不对,AI 都会给你一个很自信的数字。在本站的 GreenLeaf 案例里(一家虚构公司,使用合成数据,记录于 2026 年 10 月),AI 起草的报告把每周媒体支出写成 110,100 美元。核对后第 1 周的数字是 5,462 美元。请挑出你的应用显示的、人们会据此行动的几个数字,并把每一个追溯到它的来源。

9. 里面是谁的数据?它去了哪里?你被允许把它放在那里吗? 如果你把客户数据输入 AI 工具,要弄清楚它去了哪里,因为个人版和企业版的数据保留政策可能大不相同,个人信息也应该先做匿名化处理。在你的应用存放任何他人的数据之前,先和法务确认。

该问你的 AI 什么

你现在不需要知道答案,因为可以让你的编程工具来告诉你。在改动任何东西之前,试试这个:

在改动任何东西之前,告诉我这个应用把数据存在哪里,哪些在浏览器里运行,谁能访问什么。列出你做的三个最大的取舍,说明用户有五个人时最先会坏什么,以及我需要决定什么。不要打印任何秘密值。

请把答案当作起点,而不是证明。如果它说你的数据受到保护,就用那个第二个用户登录,亲自核实。

什么时候该请工程师

如果客户或公众会使用你的应用,而你答不上第 1 到 3 个问题,我会停下来,请一位工程师来看。如果它涉及支付或个人数据,我也会这样做。知道什么时候该停,也是一种能力。

这份清单不是安全审计,也不可能发现所有问题。我对自己的产品做过安全审查,仍然漏掉过东西。它应该做到的,是让你看到自己一直在不知不觉中做出的那些决定。

如果你用 AI 做过东西,这些问题里有哪些是你答不上来的?我真的很想知道,尤其是如果我漏掉了一个已经让你吃过亏的问题。

如果公司里还有其他人会用你做的东西,我还做了 Prova,一份给广告代理公司员工的免费清单,帮你在团队使用前把 AI 工具准备好。它比这份问题清单更短,也没那么技术:五项检查,每项都有可发送的消息或可以问 AI 的问题,最后得到一页可以交给主管的总结。不需要账号。