说实话，写这篇东西的时候我手还在抖。不是累的，是气的。昨天有个做电商的朋友找我，说他们搞了个智能客服，结果上线第一天，客户投诉电话打爆，因为AI在那儿一本正经地胡说八道，还跟客户吵架。我一看代码，好家伙，直接调用的最火的那个开源模型，没做微调，没做提示词工程，纯裸奔。这哪是智能客服，这是“智障客服”啊。

我在大模型这行摸爬滚打七年了，见过太多老板花几十万买算力，最后发现连个简单的Excel公式都算不对。今天不聊那些高大上的架构，就聊聊怎么用最少的钱，把大模型api用明白。

第一步，别一上来就追求“最强”。

很多人觉得，既然用了大模型，就得用参数最大的那个。错！大错特错。对于大多数业务场景，比如客服、内容生成、数据提取，中等参数的模型完全够用，而且速度快、成本低。我有个做物流的朋友，之前用顶级模型做地址解析，准确率98%，但每单成本0.5元。后来换了个稍微弱点的模型api，配合简单的后处理规则，准确率95%，成本降到0.05元。一年下来省了十几万。你要问为什么？因为顶级模型有时候会“过度思考”，反而引入了不必要的幻觉。记住，够用就好，别装。

第二步，提示词工程不是写诗，是写说明书。

很多开发者写prompt就像写作文，讲究文采。其实大模型不喜欢文采，它喜欢逻辑。你得把它当成一个刚毕业、脑子有点慢但很听话的实习生。你要明确告诉它：你是谁，你要做什么，输入是什么，输出格式是什么。

比如，不要说“请帮我总结一下这篇文章”，要说“你是一个资深编辑，请阅读以下文本，提取出3个关键观点，并以JSON格式输出，包含‘观点’和‘原文引用’两个字段”。你看，这样是不是清晰多了？我见过太多人因为prompt写得模糊，导致模型输出格式乱七八糟，后面还得写一堆代码去清洗数据，得不偿失。

第三步，一定要做“护栏”和“人工复核”。

这是我最想强调的。大模型api再强，也有翻车的时候。尤其是涉及金融、医疗、法律这些敏感领域，绝对不能全权交给AI。我在做金融风控项目时，强制要求所有AI生成的建议，必须经过人工二次确认，或者设置置信度阈值，低于80%的直接转人工。别觉得麻烦，一旦出错，赔偿的钱够你买十年算力。

还有个小细节，就是监控。你得知道你的模型每天调用多少次，平均延迟多少，token消耗多少。我有个客户，因为没设上限，结果被某个bug导致死循环调用，一天烧了几千块。现在他们加了个简单的监控脚本，每天下班前看一眼报表，心里踏实多了。

最后，给点真心话。

大模型api不是魔法棒，它是个工具。你用得好，它能帮你事半功倍；用不好，它就是个大麻烦。别指望找个现成的方案就能解决所有问题，每个业务场景都是独特的，你得自己去调优，去试错。

如果你还在为选型纠结，或者不知道怎么写prompt，或者遇到了奇怪的bug，欢迎来聊聊。我不一定能马上解决你的问题，但至少能帮你避几个坑。毕竟，这行水太深，一个人走容易迷路。

本文关键词：大模型api