大语言模型 (Large language modelsLLMs) 是现代人工智能的“推理引擎”。如今,一个重要的转折点已经到来:随着全球各国竞相大规模应用人工智能技术,模型推理已变得至关重要。欢迎进入推理时代。

不过,如果没有适当的优化措施,大型语言模型的运行成本会很高,响应速度也会很慢。《大型语言模型的部署与优化实战》是一本全面介绍如何大规模部署和优化大型语言模型的指南。

在这本注重实践、以工程为导向的书中,作者王驰和胡佩恒通过大量实际案例、代码和构建策略,详细介绍了如何打造出高效、稳定且成本低廉的 AI 模型生成系统。无论你是负责构建大语言模型的推理基础设施,还是开发使用这些模型的应用程序,深入理解大语言模型的运行原理都将帮助你成为更优秀的工程师,从而更好地应对人工智能正在改变我们的工作方式所带来的挑战。

学习模型服务的各项基础内容,包括核心概念、设计范式以及行业最佳实践。

了解大规模部署大语言模型时常见的挑战。

在延迟和吞吐量之间取得平衡,以满足人工智能应用和业务需求。

利用实用且基于代码的技术,以经济高效的方式运行大型语言模型。

书名:Hands-On LLM Serving and Optimization: Hosting LLMs at Scale
作者:Chi Wang, Peiheng Hu

年份:2026

下载地址:https://t.zsxq.com/8mrgV

请索引第75本书籍

微信群

内容中包含的图片若涉及版权问题,请及时与我们联系删除