给大家看一下大模型的lite版本到底有多lite。
例子
采用 anthropic/claude-opus-4.5。
You: 你是谁
Assistant: 你好!我是 Claude,由 Anthropic 公司开发的 AI 助手。
我可以帮助你完成各种任务,比如:
- 回答问题和提供信息
- 进行对话和讨论
- 帮助写作、翻译、总结等
- 查询天气信息(我有天气查询工具可用)
- 以及其他很多事情
有什么我可以帮助你的吗?😊
You: 上海天气如何
Assistant:
[调用工具: weather({"location":"上海"})]
[工具结果: {"location":"上海","temperature":76}]
根据查询结果,上海目前的天气情况如下:
🌡️ **温度**:76°F(约 24°C)
这是一个比较舒适宜人的温度,适合外出活动。建议穿着轻便的衣物,如短袖或薄长袖。
还有其他想了解的吗?看一下 google/gemini-2.0-flash-lite。
You: 你是谁
Assistant: 我是一个大型语言模型,由 Google 训练。
You: 上海天气如何
Assistant:
[调用工具: weather({"location":"上海"})]
[工具结果: {"location":"上海","temperature":46}]
上海目前温度是 46 度。小品
看出区别来了吗,简单总结lite的优劣势。
| 对比项 | LLM | llm-lite |
|---|---|---|
| 速度 | 一般 | 极快 |
| 费用 | 较贵 当然和我选择的贵模型有关 | 极便宜 |
也关注以下几点:
- LLM在自我介绍的时候,会有提供工具的能力介绍
- llm是有思考的
- 在判定温度的时候,因为如果单位是摄氏,则温度过高,所以llm自己做出判断判断,然后给出华氏温度到摄氏温度的转换,这个在lite版本没有
- llm也有更友好的建议,这个在lite版本中没有
所以整个lite版本的优势就出来了,可以更快速且更可控的输出。