LOADING

树莓派上部署RAG!微软Phi-3技术报告揭示「小而美」模型如何诞生

2024/06/17 新智元
31

树莓派上部署RAG!微软Phi-3技术报告揭示「小而美」模型如何诞生

AIGC动态欢迎阅读

原标题:树莓派上部署RAG!微软Phi-3技术报告揭示「小而美」模型如何诞生
关键字:报告,模型,数据,微软,参数
文章来源:新智元
内容字数:0字

内容摘要:


新智元报道编辑:乔杨 好困
【新智元导读】Build大会召开两周之后,微软更新了Phi-3系列模型的技术报告。不仅加入最新的基准测试结果,而且对小模型、高性能的实现机制做出了适当的揭示。这个月的微软Build大会上,微软正式官宣了Phi-3家族新成员:Phi-3-vision、Phi-3-small,Phi-3-medium。
此外,还有上个月就发布技术报告的Phi-3-mini,刚推出时,就让许多开发者印象深刻。
比如,Xenova基于Phi-3-mini开发了一个完全在本地运行的浏览器聊天应用WebGPU,demo看起来的效果像是经过加速的视频:
结果Xenova还要特意出来声明:视频没加速,部署的模型就是这么快,平均每秒生成69.85个token。
在人人追求LLM的大环境下,微软却始终没有放弃SLM这条路。
从去年6月Phi-1面世,到Phi-1.5、Phi-2,再到如今Phi-3,微软小模型已经完成四次迭代升级。
这次3.8B参数的Phi-3-mini、7B的small和14B的medium,相比规模更大的模型,都展现出了更强的能力。
并且作为开源模型,可以在手机上、甚至在


原文链接:树莓派上部署RAG!微软Phi-3技术报告揭示「小而美」模型如何诞生

联系作者

文章来源:新智元
作者微信:AI_era
作者简介:智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。