DeepSeek公布:大语言模型高效部署新方案专利
创始人
2025-08-04 00:41:34
0

近期,杭州深度求索人工智能基础技术研究有限公司,作为deepseek的关联企业,在人工智能领域取得了新的技术突破。据天眼查信息显示,该公司成功申请并公布了一项名为“一种大语言模型的部署方法及系统”的专利。

该专利的核心创新点在于,它提出了一种创新的部署策略,将大语言模型的预填充阶段和解码阶段进行分离,并分别部署在具备高性能计算能力和大内存的机器上。这一策略旨在优化资源分配,实现负载的均衡。

具体而言,通过将预填充阶段部署在高性能计算设备上,可以充分利用其强大的计算能力,快速完成模型的初始化工作。而解码阶段则部署在大内存机器上,以确保在处理大量数据时能够保持高效和稳定。这种部署方式不仅实现了硬件资源的最大化利用,还显著减少了闲置算力,进一步降低了系统的整体延迟。

该专利还带来了吞吐量的提升,使得系统能够在单位时间内处理更多的请求。这对于提升用户体验和满足日益增长的数据处理需求具有重要意义。同时,该方案还增强了系统的扩展性和容错性,为未来的技术升级和故障应对提供了坚实的基础。

从公布的专利摘要中,我们可以更直观地了解到这一创新技术的具体实现和所带来的积极效果。这一专利的公布,标志着杭州深度求索人工智能基础技术研究有限公司在大语言模型部署领域取得了重要的技术进展。

随着人工智能技术的不断发展和应用领域的不断拓展,对于大语言模型的部署效率和性能要求也越来越高。杭州深度求索人工智能基础技术研究有限公司的这一专利成果,无疑为行业提供了新的思路和技术支持,有望推动人工智能技术的进一步发展和应用。

相关内容

热门资讯

原创 仅... 最近,台湾的气氛有些紧张。台防务部门发布了一则消息,称大陆将于12月27号,也就是大约48小时后,在...
联名徕卡三年后,小米造了一台“... 如果一台手机,它的开机界面是 Leica、机身刻着 Leica,背面还镶了颗 Leica 经典可乐标...
北京京东公益基金会曾晨:用商业... 本报(chinatimes.net.cn)记者卢梦雪 北京报道 12月26日,由华夏时报社主办的20...
从1到1000!广西工业人形机... 12月26日,优必选柳州机器人超级智慧工厂。由机器人组成的方阵中,身高1.76米的“1000号”越众...
渝博士后“聚智”长寿 共探软磁... 12月26日,“博创未来”博士后学术交流活动在重庆长寿区举行。本次活动由重庆望变电气(集团)股份有限...
“国之脊梁”科学家精神巡展,点... 抚顺市科技馆携手十二所学校,共同举办“国之脊梁”科学家精神主题巡展活动。此次活动深入同学们的课堂与生...
清华百川楼挂牌启用后,就地圆桌... 衡宇 发自 凹非寺 量子位 | 公众号 QbitAI “做AI医疗,最不应该做的就是和正常医生走得太...
领普科技取得检测装置专利,用户... 国家知识产权局信息显示,武汉领普科技有限公司取得一项名为“一种检测装置”的专利,授权公告号CN223...
原创 4... 这让人有点意外,中国太空鼠产下一窝小鼠,当妈了,总计有9只幼仔,目前有6只幼鼠存活,这是什么情况?此...
携程发布声明:与柬埔寨国家旅游... 来源:经济参考网 因此前与柬埔寨国家旅游局签署营销合作协议,携程(09961.HK)的数据安全和用户...
首战告捷!“梦幻灵境”参赛队伍... 极目新闻通讯员 李彬 近日,2025世界机器人大赛锦标赛——NeuroMaster脑科学人工智能挑战...
自动驾驶成为科技发展制高点,政... 当你坐上没有驾驶员的汽车,目的地设定完毕,车辆自动驶入滚滚车流。窗外街景流动,而你从容处理邮件、回复...
无阳极锂电池体积能量密度达目前... 科技日报记者 刘霞 韩国科学家开发出一种新型无阳极锂金属电池,其体积能量密度高达1270瓦时/升,约...
三届联想天禧AI生态大会,打通... 12月26日,2025联想天禧AI生态伙伴大会在北京盛大举行。本届大会以“聚力智能体 共启新生态”为...
“航天鼠鼠”顺利产仔!6只太空... “航天鼠鼠”产下的小鼠宝宝在实验装置中灵活穿梭 中国科学院空间应用工程与技术中心今天传来喜讯:此前搭...
华天科技全栈封装驱动国产存储产... 来源:市场资讯 (来源:爱集微) 生成式AI、大模型训练与智能终端的普及,正在引发全球存储芯片市场的...
重点防范境外恶意网址和恶意IP... 中国国家网络与信息安全信息通报中心通过支撑单位发现一批境外恶意网址和恶意IP,境外黑客组织利用这些网...
神舟出差返回后 “太空鼠”当妈... 新华社北京12月27日电(记者胡喆)记者27日从中国科学院空间应用工程与技术中心获悉,随神舟二十一号...
祥富电子取得用于喇叭的点胶设备... 国家知识产权局信息显示,东莞祥富电子有限公司取得一项名为“一种用于喇叭的点胶设备”的专利,授权公告号...
直击闻泰科技股东会!或索赔80... 针对当前安世控制权争议事项,闻泰科技方面表示,公司在荷兰已启动多项法律程序。 据此前议案资料,鉴于...