网络工程师的AI之路：基于大语言模型的运维实战

首部专门探讨LLM在网络运维中应用的图书

它让LLM不再是遥不可及的“黑科技”

而是可以立即提升效率的强大工具

主要亮点包括：

LangChain实战，深入解析LangChain各模块，教你如何高效集成LLM，构建智能运维工具链；

在线LLM与离线LLM相结合，既涵盖基于ChatGPT的云端AI应用，也详细讲解如何在本地部署LLaMA 3.2等开源模型，还探讨DeepSeek、Qwen等国产LLM，满足不同的安全与性能需求；

RAG技术，利用外部知识库提升LLM的准确性，从而在网络运维中提供更精准、高效的解决方案；

MCP策略，通过任务分解与多模型协作，优化复杂网络问题的处理流程；

真实案例驱动，涵盖网络配置生成、日志分析、故障诊断等典型场景，提供可复现的代码示例。

这是一本专为网络工程师、运维开发人员及AI技术爱好者打造的实战指南，旨在帮助其掌握如何利用大语言模型（LLM）提升网络运维的智能化水平。本书以LangChain这一强大的Python框架为核心，结合在线LLM（如ChatGPT）和离线LLM（如LLaMA 3.2），详细讲解AI在网络配置、故障排查、自动化运维等场景中的落地应用，同时兼顾国产网络设备厂商及国产LLM（如DeepSeek、Qwen）的迁移和拓展。

本书亮点：LangChain实战，深入解析LangChain各模块，教你如何高效集成LLM，构建智能运维工具链；在线LLM与离线LLM相结合，既涵盖基于ChatGPT的云端AI应用，也详细讲解如何在本地部署LLaMA 3.2等开源模型，还探讨DeepSeek、Qwen等国产LLM，满足不同的安全与性能需求；RAG技术，利用外部知识库提升LLM的准确性，从而在网络运维中提供更精准、高效的解决方案；MCP策略，通过任务分解与多模型协作，优化复杂网络问题的处理流程；真实案例驱动，涵盖网络配置生成、日志分析、故障诊断等典型场景，提供可复现的代码示例。

无论你是希望提升运维效率的网络工程师，还是渴望探索“AI+网络跨界应用”的运维开发人员或AI技术爱好者，本书都将为你打开一扇通往AIOps的大门，并通过理论与实践的结合，让你快速掌握LLM技术，将其转化为实际生产力！

 

 

王印

《网络工程师的Python之路》一书的联合作者，知乎专栏“网路行者”博主（知乎ID：弈心），目前为沙特阿卜杜拉国王科技大学（King Abdullah University of Science and Technology，KAUST）高级网络工程师，具有16年海外从业经验，持有CCIE #40245。2009年起，在新加坡先后任职于美国电信运营商AT&T、美国数据中心公司Equinix、新加坡陆路交通管理局（LTA）、新加坡石林IT咨询公司（SFIT）、美国苹果公司、苏格兰皇家银行（RBS）等，对大型园区、金融行业的网络设计与运维具有丰富的实战经验。

朱嘉盛

《网络工程师的Python之路》一书的联合作者，知乎专栏“网工手艺”博主。2010年毕业于华南理工大学，做网络工程师15载，长期扎根网络运维第一线。经历了从2G到5G，从互联网基础设施的初创到百万级用户规模的运维的演进，积累了丰富的实战经验。目前，专注于大型数据中心的云网运维工作，持续拓展网络领域的专业能力。工作之余热爱阅读与写作，善于梳理技术知识，乐于分享和帮助新人。

第1章　LLM和ChatGPT

1.1　LLM的历史

1.2　什么是LLM

1.3　在线LLM与离线LLM

1.4　ChatGPT

1.4.1　获取OpenAI API Key

1.4.2　OpenAI API的资费

1.4.3　为OpenAI API账号充值

第2章　LangChain

2.1　安装LangChain

2.2　LangChain的核心模块

2.3　PromptTemplate和LLM

2.3.1　什么是Prompt

2.3.2　什么是PromptTemplate

2.3.3　SystemMessage和HumanMessage

2.3.4　LangChain支持的LLM

2.3.5　实验1：PromptTemplate和LLM应用示例

2.3.6　实验2：SystemMessage和HumanMessage应用示例

2.4　Chains和Runnable

2.4.1　Chains的基本应用

2.4.2　输出解析

2.4.3　什么是Runnable

2.4.4　Runnable的用法

2.5　Memory

2.5.1　LLM的上下文记忆机制

2.5.2　Memory的上下文记忆机制

2.5.3　Memory的应用

2.6　Tools

2.6.1　使用Tools集成的搜索工具

2.6.2　使用Tools集成的搜索工具配合LLM

第3章　AI在计算机网络运维中的应用（在线LLM）

3.1  实验1：使用ChatGPT登录交换机并执行单个show命令

3.2  实验2：使用ChatGPT登录交换机并执行多个show命令

3.3  实验3：让ChatGPT自行决定输入命令

3.4  实验4：辅助ChatGPT完成特定任务

3.5  实验5：使用ChatGPT分析交换机日志并给出建议

3.6  实验6：使用ChatGPT登录多台设备并执行show命令

3.7  实验7：使用ChatGPT配置设备（LLM生成配置命令）

3.8  实验8：使用ChatGPT配置设备（手动辅助）

第4章　AI在计算机网络运维中的应用（离线LLM）

4.1  LLaMA

4.2  本机安装、运行和使用LLaMA 3.2

4.2.1  通过Ollama在本机安装和使用LLaMA 3.2

4.2.2  通过API与本机部署的LLaMA 3.2交互

4.3  本地使用LLaMA 3.2

4.3.1  部署API Token

4.3.2  服务器端脚本

4.3.3  客户端脚本

4.4  RAG（检索增强生成）

4.4.1  什么是RAG

4.4.2  RAG的工作原理

4.4.3  RAG在LangChain中的应用

4.4.4  Agent（智能体）

第5章　MCP

5.1　什么是MCP

5.2　MCP怎么工作

5.3　MCP实战应用

5.3.1　实验准备

5.3.2　实验1：访问本地文件和文件夹

5.3.3　实验2：访问互联网资源

5.4　开发网络工程师自己的MCP Server

5.4.1　实验准备

5.4.2　实验目的及实验代码

5.4.3　使用自定义的MCP Server

5.5　MCP的局限性

第6章　国产AI大模型在国产网络设备中的使用

6.1　国产AI大模型在网络运维中的应用

6.1.1　国产AI大模型简介

6.1.2　DeepSeek/Qwen

6.1.3　网络模拟环境

6.1.4　实验：从信息解析切入

6.2　Python联动在线版DeepSeek

6.2.1　在线LLM开放平台API的获取

6.2.2　实验1：Python OpenAI库联动在线版DeepSeek

6.2.3　实验2：Python Requests库联动在线版DeepSeek

6.3　Python联动离线版DeepSeek

6.3.1　在Ollama内网部署离线LLM

6.3.2　实验1：Python OpenAI库联动离线版DeepSeek

6.3.3　实验2：Python Requests库联动离线版DeepSeek

6.4　AI大模型联动国产网络设备

6.4.1　实验1：使用ChatGPT登录华为交换机并执行单个display命令

6.4.2　实验2：LangChain框架搭载DeepSeek

6.4.3　实验3：使用DeepSeek-V3登录华为交换机并执行单个display

命令

6.4.4　实验4：使用DeepSeek-R1登录华为交换机并执行单个display命令

6.5　本章总结

 

近年来，AI技术，尤其是LLM的迅猛发展，正在深刻改变着各行各业的工作方式。然而，在网络工程和运维领域，AI的应用仍处于早期阶段。许多网络工程师虽然对AI充满兴趣，却缺乏系统的学习路径和实战案例，难以将LLM真正落地到日常运维中。

2024年7月，我在知乎上发布了“AI在计算机网络运维中的应用”一文，这篇文章是基于强化学习的Q-learning算法写的，该算法能在不借助任何算力资源、数据资源的前提下实现AI机器人的自我训练，通过不断完善Q值表让AI自动修复指定的网络故障。虽然实验成功了，效果也达到了，但若要对强化学习及Q-learning算法本身有更深入的应用，则需要开发者具备一定的数学基础，而数学并不是大部分网络工程师所擅长的。另外，仅通过Q-learning算法实现网络运维自动化，似乎仍有所欠缺，尤其是缺少了“人机互动”这一关键环节。毕竟，目前以ChatGPT、Claude、Gemini、LLaMA、DeepSeek等为代表的基于LLM的AI应用中都少不了真人参与环节。

众所周知，LLM的开发、训练和优化是一项依赖先进算法的高度资源密集型任务，其流程涵盖：大规模语料（数据来源）的收集；数据的处理（数据清洗、数据格式化等）；模型的设计；模型的训练、调整和优化（比如使用RAG技术）；对高性能算力资源（比如成千上万个GPU）的支持。可以说，这样复杂且要求极高的前置条件是任何一位网络工程师都不具备的，因此最初我认为，只有网络硬件厂商才具备为计算机网络的运维研发LLM的条件，比如几年前思科公司公布的包含“基于LLM的日志分析平台”（跨厂商全栈实时异常判断和根因分析）、“基于LLM的AI本地运维聊天机器人”和“基于LLM的AI辅助运维智能体”（使用自然语言生成配置）三大组件的CX GAIOps（生成式智能运维），就是借助思科公司本身拥有的运维数据库和知识库（海量Case、海量Log、软件Bug知识库等核心数据资产），以及足够多的硬件资源和AI工程师团队开发出来的，任何一位网络工程师都不可能单独涉足这一领域。

在撰写本书时，我不断思考一个问题：“如何让AI真正帮助网络工程师，而不是成为一个噱头？”作为网络运维与AI技术相结合的长期实践者，在进行了一段时间的研究和学习后，我深刻体会到：LLM对网络工程师来说不是遥不可及的“黑科技”，而是可以立即提升效率的强大工具。我发现即便在不具备海量数据库和硬件资源支持的前提下，网络工程师依然可以借助当前已有的LLM（比如ChatGPT和DeepSeek）提供的API，手动训练自己可以使用的LLM，从而达到实现AIOps（智能运维）的目的。其原理是，LLM通过NLP（Natural Language Processing，自然语言处理）与推理等技术来理解和分析用户提问的内容。作为网络工程师，我们可以通过市场上现有LLM提供的API来辅助解决问题，而AI对业务问题的具体响应方式，则由我们预先写入的程序代码来决定，这样做的好处如下。

（1）降低了网络工程师从头学习和自己动手搭建、开发LLM的时间成本与学习成本。

（2）与通过Q-learning算法实现的AI自动化运维相比，多了人机互动环节。这个环节不仅能大大提升在类似NOC环境里工作的L1和L2运维网络工程师处理单调、重复且量大的工单时的效率，还能提升他们在AIOps时代的参与感，通过这种方法最终开发出来的是一种混合型AIOps系统：结合了查询处理的人性化与手动脚本的精确性。

（3）省去了需要海量数据库和海量算力资源的这一前置条件，LLM只负责理解我们发出的要求和指令，而登录网络设备，对设备的全局或端口做配置、调试，采集日志或序列号等工作的代码是我们预先写好的。

（4）因为这是一种非生成式的AIOps系统，能保证：可预测性，并且命令是预定义的，无须担心LLM生成错误或不安全的命令；简单性，避免了让LLM动态创建命令的复杂性；可控性，这种预定义的工作流程意味着我们对网络设备上执行的配置、调试、排错命令具有高可控性；可用性，因为借助LLM提供的自然语言界面处理功能，所以这意味着可以让非网络专业人士，比如公司里的领导，也能使用这套系统查询公司当前的一些网络状况。

（5）避免vendor lock-in的尴尬，思科公司的CX GAIOps只有在使用思科全家桶的公司里才能发挥最大的用处，而这种网络工程师自己写的AIOps系统，可以根据自身用的设备、运维需求来灵活开发。

目前，市面上大多数AI图书要么偏重理论，要么局限于通用场景，专门探讨LLM在网络运维中应用的图书几乎不存在。因此，我决定撰写本书，希望能为网络工程师、运维开发人员和AI技术爱好者提供一本实用、可操作、贴近真实工作场景的指南。

 

 

王印

2025年7月于沙特阿拉伯