都说天下没有免费午餐,大模型第一个不服。
今天带大家免费用的是——科大讯飞刚开源的星火X2.5,装进你的笔记本,断网也能用。

大家好,我是程序员晚枫。

先问一个扎心的问题:你想用AI,但公司不让联网,还不给你报销会员费,怎么办?

不少人的现状是:白天对着电脑干瞪眼,晚上回家才有AI用。真希望这种公司都早点……咳,早点意识到AI的重要性。

今天推荐的这个免费大模型,就是来治"既要又要"的:它叫星火X2.5,9月1日刚开源,一共两个版本,小的1.7B,大的4B。

最狠的一点:它装在你自己电脑上,不联网也能用,而且一分钱不要。

星火X2.5官网模型卡片


不联网、不花钱,凭什么?

大部分"免费大模型",免的是云端试用——数据得传到别人的服务器上,断网就歇菜,还限量。

星火X2.5反着来:模型文件直接下载到你的电脑里,像装一个软件。不联网、不注册、不限次数,用多久都不产生一分钱费用。

它对电脑的要求,低到什么程度?

你的电脑能不能用
五年内买的,随便一台两个版本都能跑
十年以上的老机器当年配置买得高,也能试试

小的1.7B版本,模型文件压缩后只有1GB左右——比你手机里一个聊天软件还小。

配置这么低,能力却没缩水。这是业界第一个原生支持100万字上下文的端侧模型

什么概念?几十页的产品手册、一整套会议材料,一次性丢给它,它能全记住,随问随答。以前的本地小模型看长文档,就像金鱼看报纸,翻页就忘。

还有个冷知识:它全程用国产算力训练出来的。业内等这一天,等了很多年。

两个版本怎么选?我的建议很简单:

版本占用适合谁
1.7B压缩后约1GB老电脑、轻办公,回消息写文案够用
4B稍大一些五年内的主流电脑,写代码、啃长文档更稳

实在纠结就两个都下,反正不要钱,硬盘才是唯一成本。


两种用法,总有一款适合你

用法一:装到自己电脑上,一劳永逸

很多人一听"本地部署"就头大。现在有个偷懒办法:把开源地址直接甩给你的AI,让它帮你装。

现在的AI工具都带"自动干活"的能力。你把链接发过去,说一句"帮我把这个模型装到电脑上",然后全程盯着看就行。

担心自己不懂技术?不用懂,你的AI懂

开源地址我放在文末的"参考链接"里了,复制下来发给你的AI就行。

用法二:先零元体验,再决定装不装

如果你还在犹豫,讯飞把这两个模型的在线版也放出来了:搜"讯飞星辰平台",首页就能看到这两个模型,当前免费,标价0元。

通过接口接入你常用的AI工具就能用。具体怎么接,我之前的文章和视频讲过很多遍了,这里不重复。

我的建议是:先在线体验,顺手了再装本地。本地版最大的优势是隐私——公司没公开的文档、自己的私人数据,全程不出你的电脑。

装完之后是什么体验?我总结成一句话:它不会惊艳你,但会一直陪着你。

写周报、改方案、整理会议纪要、翻译文档,这些占了日常工作八成的活儿,它都能接住。而且因为模型就在本地,你半夜三点想让它干活,它也不会给你弹"当前使用人数过多,请稍后再试"。


为什么"断网能用"这么重要?

这里补一个值得记住的AI知识:端侧模型和云端模型的区别

你平时用的ChatGPT、豆包,都是云端模型:你说一句话,要传到千里之外的服务器,算完再传回来。好处是聪明,代价是断网就瘫痪,数据要出门

端侧模型正好相反:AI就住在你电脑里,数据一个字节都不用出门。响应快到毫秒级,飞机上、地下室、保密要求高的单位,照用不误。

官方给了一组数据:1.7B版本在智能家居指令测试里,执行正确率90.3%,平均响应只要0.85秒;4B版本写代码的能力,能对标比它大两三倍的云端模型。

云端模型是租房子,端侧模型是买房子。租的拎包入住,买的安心踏实。

当然,丑话也说在前面:小模型的"聪明程度",跟云端旗舰还是有差距的。日常问答、文档处理、写个脚本绰绰有余;非要它做特别烧脑的事,它会用实力告诉你什么叫知足常乐。


最后放个预告:9月7日,科大讯飞还要正式发布全新一代旗舰大模型星火X2.5,官网上300B旗舰的卡片已经挂出来了。这两天的1.7B和4B,只是开胃菜。

说到底,免费的东西经常是钩子,但开源不是——模型文件就摆在那,随时可以下载走,谁也收不回去。

大家还想免费用哪些大模型?评论区告诉我。

科技不高冷,AI很好用。
我是晚枫,关注我,带你一起玩AI!


参考链接

相关阅读

AI 实战课