晓辉博士 - 分享3个帮你省Token点小窍门
| 项目 | 内容 |
|---|---|
| 来源 | https://www.douyin.com/video/7647550321338092005 |
| 时长 | 4分13秒 |
| 转录时间 | 2026-08-01 08:57 |
| 字数 | 1515 |
| 分段方式 | AI智能分段(含Markdown标题) |
📝 章节标题由AI根据内容结构生成,非原文内容
📝 AI摘要:视频分享了三个节省AI模型token消耗的实用技巧:优先使用本地模型处理基础任务(如录音转写)以保护隐私并降低成本;将重复性工作转化为脚本或本地软件,避免每次调用模型;对于复杂项目,可用低成本模型生成项目索引文件,方便昂贵模型高效管理全局。掌握低成本完成任务的方法正成为新的竞争力。
一、引入话题
Hello,下班了。今天来分享一下省 token 的三个小窍门啊。我们知道最近一段时间大家都非常关注这个 token 的消耗问题啊,很多这个公司已经开始啊,就发现烧不起了,就一个月的这个 token 账单实在太高了。
因为一开始的时候大家都非常鼓励员工使用 AI 探索 AI 的边界,就没有太注意用什么模型,一般大家都是用最好的模型去看这个模型的边界到底在哪里。
但是这段时间呢,其实大家去开始收紧这个预算之后呢,一定要开始去选择更省 token 的方式来去完成任务啊。那有什么技巧和办法呢?我今天分享三个。
二、窍门一:优先本地模型
首先你要有这个模型选择的意识,就知道哪些模型它的大概的性能情况怎么样,便宜的模型哪些适合搬砖,哪些适合复杂处理这个复杂的决策。这个首先是一个前提。
2.1 原则与性能
具体来说呢,第一个就是能用本地模型的就不用云端模型。当然本地模型的性能一般因为受限于电脑的内存,然后电脑的性能,所以它不会太大,但是它处理一些基本的任务是 OK 的。比如说我最常用的是录音转写,因为我对录音转写的要求是有的时候是希望它保密,在我本地的电脑直接处理完,所以有的时候我不会上传到云端,我基本上就是拿自己的手机去录音,录完音之后呢,直接 AirDrop 到我的电脑,然后再让大模型执行本地的转写工作流啊,就一个 skill。
2.2 录音转写案例
那这个转写呢,就是用本地的一个语音转文字的这个模型来完成。啊,我是用的 Fine ASR,它可以识别说话人啊,一二三。那识别完之后呢,你可以再用另外一个模型,就是也是本地的,然后完成这次录音的这个整理。
比如说你给它整理成观点驱动的一个会议记录。那也可以按照你的其他的需求去整理。当然你要给它一些输入,比如说你要识别一下发言人一是谁,二是谁。
这是第一点,就是能用本地的就不用云端。
三、窍门二:脚本处理确定性任务
然后第二个点呢,就是确定性的用脚本,不确定性的用模型。就是一些重复的工作流,你已经知道哦,这次可以写一个脚本来完成的任务,就把它变成一个可复用的一个软件也好,或者是一个 HTML 也好。对,比如说有朋友就用 Codex 啊,用 GPT 五点五写了一个 PPT 的工作台。
这样的话就不是你每一次都让 AI 帮你去改 HTML 的这个 PPT 了,那就是写好之后就每次都在这个工作台中修改。然后这个时候修改的时候,你不是每一个动作都消耗模型的,而是它就是一个软件。在软件中你是不会消耗 token 的。
那这个就是你有一些重复的工作任务,就把它变成一个本地化的软件就可以了。它其实是不不重复消耗的。那还有一些情况就是你的工作流其实写好,用代码写好之后,你也不需要让大模型每次都重新再写一遍代码。
那把它变成一个固定的 skill 就可以了。OK,那这是第二点,就是确定性的用脚本,不确定的或者是需要新的研判和探索再用模型。
四、窍门三:使用索引文件
好,然后第三个呢,就是如果你做的这个项目是一个非常复杂的项目,那你可以去让 AI 帮你去写一个 index,就是一个索引文件。相当于你的文件夹是一个很多内容的,AI 如果帮你去处理,其实很难找到想要的东西。这个时候有一个索引是非常有帮助的。
这个索引呢,其实就可以让一个适合搬砖的 AI 来写,就一个相对来说低成本的模型就可以实现。就它会告诉你每一个文件夹下面都有哪些文件,然后大概都是啥,可以基于这个名字的搜索去找到它想要的东西。
所以有这样的一个索引,其实是非常方便这个比较贵的模型去掌控你这个文件的全貌的,对你这个项目的全貌的。
五、总结与呼吁
所以大概分享这三点吧。然后如果有其他的省 token 的方式,大家也不妨留个言,大家也互相学习一下。在这个新的时代,知道怎么省 token,知道怎么就是更低成本地完成任务,是新的竞争力。
拜拜。