发布日期:2025-08-09 06:56 点击次数:149
等闲东说念主怎样跟大模子“交个一又友”?当今大模子的成立门槛,被腾讯打下来了。
从“大”到“小”,惟有一部手机、平板,等闲东说念主也不错开拓属于我方的小垄断、小用具。
8月7日,记者从腾讯获悉,混元已于日前认真开源四款小尺寸模子,参数分离为0.5B、1.8B、4B、7B,浪掷级显卡即可运转,适用于条记本电脑、手机、智能座舱、智能家居等低功耗场景,且复古垂直限制低资本微调。
腾讯混元日前认真开源四款小尺寸模子
据了解,这四款模子的推出,是腾讯混元大模子捏续开源的一大举措,可为开拓者和企业提供更多尺寸的模子选拔。当前,四个模子均在Github和HuggingFace等开源社区上线,Arm、高通、Intel、联发科技等多个浪掷级终局芯片平台也王人晓喻复古部署。
新开源的4个模子属于交融推理模子,具备推理速率快、性价比高的性格,用户可证据使用场景机动选拔模子想考风物——快想考风物提供简易、高效的输出;而慢想考波及处置复杂问题,具备更全面的推理步伐。
值得一提的是,这四个“小”模子的亮点在于agent和长文才气,在实质垄断中不错舒缓胜任深度搜索、excel操作、旅行攻略策画等任务。
此外,模子原滋长高下文窗口达到了256k,意味着模子不错一次性记着并处理相当于40万汉文汉字或50万英文单词的超长内容,相当于相接读完3本《哈利波特》演义,况兼能记着悉数东说念主物相干、剧情细节,还能证据这些内容谋划后续故事发展。
部署上,四个模子均只需单卡即可部署,部分PC、手机、平板等建造可径直接入。
垄断层面,四款小尺寸模子王人大约得志从端侧到云霄、从通用到专科的千般化需求,况兼还是在腾讯多个业务中垄断。
文|记者 王丹阳
图|受访者供图
剪辑:董鹏程
【开始:金羊网】
声明:转载此文是出于传递更多信息之见地开云(中国)kaiyun网页版登录入口,若有开始标注额外或滋扰了您的正当权利,请作家捏权属阐发发至邮箱newmedia2023@xxcb.cn,咱们将实时校正、删除。内容商讨及合营:19176699651;yuanshipeng@xxcb.cn。
举报/响应