亚马逊换模型省98%成本
摘要
亚马逊内部工单系统原用Claude Sonnet 4.6打标签,两名工程师改用Strands Decider决策模型,效果相当,成本降低98%,一年可省数百万美元token费用。E4B版本在测试集上优于线上Sonnet,单次请求约640毫秒,运行在单卡A10G的SageMaker实例上。
原文片段
Amazon saves millions by replacing Sonnet 4.6 with Strands Decider Hacker News 175 points · 58 comments https://news.ycombinator.com/item?id=50436640