热议中开源项目
Lowfat:开源CLI过滤器,节省92% LLM tokens
原标题:Show HN: Lowfat – pluggable CLI filter that saved 91.8% of my LLM tokens
TL;DR · 一句话结论
Lowfat是一个轻量CLI中间件,拦截命令输出并过滤冗余内容,减少传递给LLM的token量。支持插件系统,可自定义每命令的过滤规则,已实现kubectl、docker、git等常用命令过滤。
主要内容
- 01支持插件系统,可自定义每命令过滤规则
- 02实测节省91.8% token(4.4M→0.3M)
- 03单二进制文件,可作agent hook或shell wrapper
- 04本地优先,无遥测,用户掌控数据
- 05兼容UNIX管道风格,可调节过滤强度
- 06已有kubectl、docker、git等20+命令插件
背景
开发者在日常使用LLM agent时,常因CLI工具(如kubectl、docker)输出冗长,导致大量token浪费并易超限。现有替代方案往往捆绑所有命令或缺乏可扩展性。Lowfat以轻量核心+插件架构解决此问题,用户可自建私有CLI过滤插件。
为什么值得关注
对频繁调用LLM的开发者而言,token成本直接影响效率和费用。Lowfat能显著降低上下文体积,减少API调用开销,尤其适合云原生、DevOps场景中agent反复获取系统状态时使用。其插件系统也方便企业适配内部CLI工具。
🇨🇳
对中国用户与市场
国内开发者可通过GitHub直接使用,无本地化障碍。但由于依赖LLM API(如Bedrock),需注意国内访问海外模型可能受限,建议配合国产大模型或本地模型使用以优化token消耗。
继续关注
⚠尚未确定的部分
- ·过滤可能误删agent需要的关键信息,需要用户调整过滤强度
- ·仅支持命令行输出过滤,不适用于非CLI或图形界面场景
- ·依赖社区贡献插件,部分命令的过滤规则可能不够完善
- ·目前仅作者个人测试数据,大规模使用效果待验证
→可采取的行动
- ·查看GitHub仓库(zdk/lowfat)了解安装和配置方式
- ·试用其内置插件,检查常用命令的token节省效果
- ·根据自身工作流编写自定义插件,适配私有CLI工具
摘记
People should own their data. So the des
#Lowfat#kubectl#docker#git#terraform#Bedrock#CLI工具#LLM优化#Token节省#开源过滤器
🤖 本文根据 Hacker News 的 RSS 内容整理,并由 AI 辅助提炼要点。完整上下文请以 原文 为准。