《實(shí)戰(zhàn)進(jìn)階：AI應(yīng)用程序和大模型計(jì)算能力提升落地實(shí)務(wù)》
課程背景：
當(dāng)前，在全球步入“智能原生”深水區(qū)的背景下，人工智能已從輔助工具演變?yōu)閲?guó)企數(shù)字化轉(zhuǎn)型的“核心驅(qū)動(dòng)引擎”。隨著生成式大模型（LLM）的廣泛應(yīng)用，國(guó)企信息中心正面臨從傳統(tǒng)硬件維護(hù)向智能化算力調(diào)度的角色躍遷。然而，當(dāng)前普遍存在“算力盲目投入”與“效率黑盒”的矛盾，員工往往在不理解張量計(jì)算（Tensor）、模型權(quán)重與硬件拓?fù)洌═opology）邏輯的情況下進(jìn)行作業(yè)，導(dǎo)致高價(jià)值算力資源的極大浪費(fèi)。AI應(yīng)用的部署不僅僅是點(diǎn)擊“運(yùn)行”，更是一場(chǎng)關(guān)于模型推理能力與算力效率的博弈。
與此同時(shí)，AI驅(qū)動(dòng)的全鏈路自動(dòng)化攻擊體系已經(jīng)形成，這使得AI應(yīng)用和算力平臺(tái)本身成為了黑客眼中的“皇冠上的明珠（Crown Jewels）”。在國(guó)企“新質(zhì)戰(zhàn)斗力”的建設(shè)過(guò)程中，算力的使用規(guī)范已直接掛鉤國(guó)家數(shù)據(jù)安全合規(guī)要求。依據(jù)最新發(fā)布的 GB/T 45577-2025 標(biāo)準(zhǔn)，企業(yè)在進(jìn)行AI模型開(kāi)發(fā)、測(cè)試、發(fā)布與運(yùn)維的全生命周期中，必須建立起可感知的“網(wǎng)絡(luò)空間地形圖”，以應(yīng)對(duì)AI驅(qū)動(dòng)的智能化、隱蔽化勒索攻擊所帶來(lái)的威脅。
針對(duì)上述挑戰(zhàn)，本課程立足于“理解底層邏輯、掌握優(yōu)化技巧、守住合規(guī)紅線”三大維度，旨在協(xié)助信息中心員工構(gòu)建起一套安全、合規(guī)、高效的算力應(yīng)用體系。我們將通過(guò)深度解析 Transformer、CNN、RNN 等主流架構(gòu)的算力需求特性，指導(dǎo)學(xué)員如何在本地環(huán)境（如 Docker）與云端平臺(tái)（如阿里PAI）之間進(jìn)行最優(yōu)算力配置。課程不僅關(guān)注運(yùn)行速度的提升，更強(qiáng)調(diào)在復(fù)雜的網(wǎng)絡(luò)空間環(huán)境中，如何通過(guò)安全監(jiān)測(cè)預(yù)警與異常行為識(shí)別，將 AI 算力轉(zhuǎn)化為支撐國(guó)企高質(zhì)量發(fā)展的穩(wěn)健動(dòng)力。
課程收益
1.提升AI應(yīng)用邏輯重構(gòu)與理性判斷能力：透徹理解深度學(xué)習(xí)張量運(yùn)算及不同架構(gòu)（Transformer/CNN）的算力消耗特征，實(shí)現(xiàn)從“按經(jīng)驗(yàn)盲目跑數(shù)”向“按邏輯科學(xué)調(diào)優(yōu)”的高質(zhì)量轉(zhuǎn)變。
2.掌握業(yè)務(wù)效能躍遷與模型部署調(diào)優(yōu)技能：掌握模型量化、剪枝及知識(shí)蒸餾等主流優(yōu)化技術(shù)，學(xué)會(huì)在本地 Docker 環(huán)境及 GPU 云端算力集群中進(jìn)行高性能配置，確保數(shù)據(jù)安全、顯著提升系統(tǒng)運(yùn)行穩(wěn)定性。
3.構(gòu)建排錯(cuò)韌性與高效持續(xù)運(yùn)營(yíng)模式：學(xué)會(huì)利用 RASP 動(dòng)態(tài)防御及日志溯源技術(shù)進(jìn)行實(shí)時(shí)排錯(cuò)，構(gòu)建針對(duì)AI服務(wù)的監(jiān)控儀表盤(pán)，確保業(yè)務(wù)連續(xù)性。
4.領(lǐng)會(huì)與遵守合規(guī)底線：深刻領(lǐng)會(huì)“管業(yè)務(wù)必須管合規(guī)”原則，掌握 GB/T 45577 標(biāo)準(zhǔn)下的數(shù)據(jù)分類分級(jí)保護(hù)實(shí)務(wù)，形成防御勒索軟件及防止敏感數(shù)據(jù)泄露的操作習(xí)慣。
課程時(shí)間：3天，6小時(shí)/天
課程人員：信息中心團(tuán)隊(duì)
課程類型: 技術(shù)賦能與管理風(fēng)控融合型
綜合性實(shí)戰(zhàn)進(jìn)階課程，理論講授 + 環(huán)境實(shí)操 + 案例分析 +場(chǎng)景模擬 + 分組討論 + 課件移交(包括不限于操作手冊(cè)、工具環(huán)境及代碼部分)
課程大綱
第一天：算力基礎(chǔ)與本地大模型部署推薦——通俗理解，落地實(shí)測(cè)
第一講：打好算力地基——AI應(yīng)用運(yùn)行邏輯與架構(gòu)適配
一、精準(zhǔn)認(rèn)知：AI模型運(yùn)行的算力底層邏輯
1.神經(jīng)網(wǎng)絡(luò)計(jì)算本質(zhì)：張量創(chuàng)建（Tensor）、數(shù)值計(jì)算與張量拼接
2.硬件需求評(píng)估：模型量級(jí)（如7B/13B）對(duì)內(nèi)存、顯存與帶寬的硬約束
3.“規(guī)則驅(qū)動(dòng)”向“模型驅(qū)動(dòng)”的跨越：理解AI算力作為新質(zhì)戰(zhàn)斗力的內(nèi)涵
二、解構(gòu)AI算力邏輯——通俗理解底層算力的運(yùn)行原理
1.AI大模型是如何“運(yùn)轉(zhuǎn)”起來(lái)的
(1)代碼執(zhí)行到結(jié)果輸出：計(jì)算圖、張量與算子概念通俗理解
(2)CPU vs GPU：為何AI大模型運(yùn)算效率更加依賴GPU？（并行計(jì)算原理圖解）
(3)內(nèi)存與顯存的博弈：模型加載、中間變量與顯存占用情況計(jì)算
2.常見(jiàn)AI應(yīng)用場(chǎng)景的算力需求畫(huà)像
(1)文本模式：大模型對(duì)生成式文本的顯存消耗量圖解：通過(guò)大家熟知的模型參數(shù)量與顯存占用的換算公式來(lái)說(shuō)明
(2)非文本模式：圖像識(shí)別與生成的計(jì)算密集特性與要求：批處理對(duì)算力的影響，突出并行計(jì)算高強(qiáng)度效果
(3)數(shù)據(jù)分析類任務(wù)的瓶頸識(shí)別：是IO瓶頸還是計(jì)算瓶頸？
三、架構(gòu)透析：不同算法模型的算力指紋
1.Transformer 架構(gòu)：多頭注意力機(jī)制的并行計(jì)算優(yōu)勢(shì)解讀
2.CNN 卷積神經(jīng)網(wǎng)絡(luò)：圖像分析中的局部感知與計(jì)算密度
3.RNN 系列模型：序列數(shù)據(jù)的算力瓶頸與梯度消失問(wèn)題
4.為什么是Transformer？--從BERT到GPT的技術(shù)演進(jìn)趨勢(shì)進(jìn)行說(shuō)明
第二講實(shí)操環(huán)節(jié)--AI大模型本地環(huán)境基礎(chǔ)配置與安全保障
一、本地硬件環(huán)境體檢與效能最大化
1.顯卡驅(qū)動(dòng)與環(huán)境配置：CUDA、cuDNN的正確安裝與版本兼容
2.系統(tǒng)資源監(jiān)控實(shí)戰(zhàn)：如何用任務(wù)管理器和專業(yè)工具“看透”資源占用
3.筆記本與工作站的優(yōu)化策略：散熱、電源管理與性能模式設(shè)置
二、掌握本地模型運(yùn)行優(yōu)化技巧
1.模型量化技術(shù)入門(mén)：浮點(diǎn)數(shù)16位、整型8位量化對(duì)速度與精度的影響實(shí)測(cè)
2.推理框架選擇與配置：Ollama、LM Studio等工具的后臺(tái)參數(shù)解讀
3.上下文窗口管理：如何通過(guò)優(yōu)化提示詞長(zhǎng)度降低顯存消耗
三、性能測(cè)試與評(píng)估：算力基準(zhǔn)測(cè)試
1.基于 Python 的 Numpy/PyTorch張量運(yùn)算性能對(duì)比測(cè)試
2.性能評(píng)估：計(jì)算設(shè)備（CPU vs GPU）在不同批處理規(guī)模下的吞吐率表現(xiàn)
四、本地大模型部署與測(cè)試
1.課程實(shí)戰(zhàn)：在本地私有環(huán)境中部署一個(gè)開(kāi)源大模型。課前提供調(diào)研問(wèn)卷，根據(jù)學(xué)員反饋情況，指定部署具體廠商的開(kāi)源大模型，具體操作流程與效果目標(biāo)如下：
(1)模型選型與下載：講解如何根據(jù)硬件條件選擇參數(shù)規(guī)模適合大小的模型
(2)配置文件修改：調(diào)整線程數(shù)、GPU層數(shù)加載等關(guān)鍵參數(shù)
(3)效果對(duì)比：優(yōu)化前后推理速度與資源占用率對(duì)比記錄
第三講算力成本構(gòu)成與部署模式評(píng)比(本地模型部署的必要性與綜合衡量指標(biāo))：
一、算力成本分析
1.推理成本：Token計(jì)費(fèi)邏輯與優(yōu)化
2.訓(xùn)練/微調(diào)成本：GPU租用與顯存預(yù)估
3.算力成本與定價(jià)策略（商業(yè)核心）
(1)私有化部署工具：Ollama (本地開(kāi)發(fā))、vLLM (高并發(fā)推理加速)、TensorRT-LLM (英偉達(dá))
(2)Token消耗：輸入/輸出Token成本優(yōu)化落地（以DeepSeek“價(jià)格屠夫”策略為例）
(3)SaaS 模式定價(jià)：按席位 vs 按調(diào)用量 vs 混合定價(jià)
(4)GPU 選型指南（示例）：A100 vs A10 vs 4090 --顯存需求與并發(fā)量估算公式
二、部署模式分類：
(1)公有云API vs 云端私有化部署 vs 本地私有化部署（Local LLM），從應(yīng)用效率，數(shù)據(jù)安全性要求、成本投入幾部分指標(biāo)綜合衡量所選模式
第二天：降本增效，云端資源管理與進(jìn)階調(diào)優(yōu)——云部署模式
第四講：云端算力平臺(tái)搭建與AI服務(wù)調(diào)用
一、理解云端算力模式
1.云廠商AI基礎(chǔ)設(shè)施概覽：從虛擬機(jī)到Serverless推理服務(wù)
2.計(jì)費(fèi)模式分類：按量計(jì)費(fèi)、包年包月與競(jìng)價(jià)實(shí)例的選擇策略
3.成本控制實(shí)戰(zhàn)：設(shè)置預(yù)算警報(bào)與資源自動(dòng)釋放機(jī)制，需要根據(jù)不同應(yīng)用場(chǎng)景選擇不同資源占用模式，統(tǒng)籌兼顧成本要求
二、API調(diào)用優(yōu)化與并發(fā)管理
1.API調(diào)用的網(wǎng)絡(luò)延遲與計(jì)算延遲：識(shí)別時(shí)間資源占用分布情況，選擇最優(yōu)渠道和方案
2.并發(fā)控制策略：QPS限制、重試機(jī)制與指數(shù)退避算法應(yīng)用
3.批量請(qǐng)求技術(shù)：如何通過(guò)合并請(qǐng)求提升吞吐效率
實(shí)操環(huán)節(jié)：編寫(xiě)腳本調(diào)用云端大模型API
(1)原始性能測(cè)試：記錄單次調(diào)用耗時(shí)與并發(fā)表現(xiàn)
(2)應(yīng)用優(yōu)化策略：實(shí)時(shí)異步調(diào)用與批量處理改造
(3)壓測(cè)對(duì)比：優(yōu)化后的吞吐量提升效果分析
(4)基于阿里云PAI平臺(tái)的 DSW環(huán)境搭建與資源清理實(shí)踐
三、API 驅(qū)動(dòng)應(yīng)用：基于Flask/Gradio框架的服務(wù)化封裝與交付方案介紹
第五講：模型調(diào)優(yōu)，提升運(yùn)行速度與效率的實(shí)用方案
一、模型壓縮技術(shù)：模型量化、剪枝代碼實(shí)現(xiàn)與關(guān)鍵功能詳解
二、知識(shí)蒸餾：如何針對(duì)大模型在性能與算力成本之間取得平衡？
三、訓(xùn)練策略優(yōu)化：計(jì)劃采樣與權(quán)重綁定技術(shù)應(yīng)用，如何減少模型參數(shù)量、提升訓(xùn)練效率，改善模型性能
第六講 診斷排錯(cuò)：AI服務(wù)的穩(wěn)定性保障
一、系統(tǒng)日志溯源：快速定位進(jìn)程異常退出、顯存溢出原因分析
二、痕跡檢測(cè)功能應(yīng)用：識(shí)別模型運(yùn)行中的異常調(diào)用鏈
三、實(shí)操演練：基于RASP技術(shù)的零日漏洞“免疫式”攔截
第七講提升AI運(yùn)行速度與穩(wěn)定性的核心方法
一、數(shù)據(jù)傳輸與預(yù)處理的加速
1.數(shù)據(jù)管道優(yōu)化：減少“木桶效應(yīng)”，讓數(shù)據(jù)足夠支撐模型
2.緩存機(jī)制應(yīng)用：本地緩存與Redis在AI推理中的應(yīng)用場(chǎng)景
3.數(shù)據(jù)壓縮與傳輸：減少網(wǎng)絡(luò)IO對(duì)算力等待的影響
二、模型微調(diào)與推理加速進(jìn)階
1.提示詞工程對(duì)算力的節(jié)?。壕珳?zhǔn)指令減少無(wú)效計(jì)算輪次
2.常見(jiàn)報(bào)錯(cuò)與穩(wěn)定性保障：內(nèi)存溢出的預(yù)防與處理
3.容器化部署入門(mén)：利用Docker實(shí)現(xiàn)環(huán)境隔離與快速遷移
第三天：提升排錯(cuò)技能水平，養(yǎng)成安全合規(guī)習(xí)慣--AI算力合規(guī)使用與習(xí)慣養(yǎng)成
第八講合規(guī)導(dǎo)航：國(guó)企數(shù)據(jù)安全風(fēng)險(xiǎn)評(píng)估實(shí)務(wù) (GB/T 45577-2025)
一、數(shù)據(jù)資產(chǎn)盤(pán)點(diǎn)：識(shí)別AI模型投喂數(shù)據(jù)中的“皇冠明珠”
二、分類分級(jí)保護(hù)：個(gè)人信息、重要數(shù)據(jù)在算力平臺(tái)上的隔離存儲(chǔ)
三、全生命周期管控：從收集、訓(xùn)練到生成、刪除的合規(guī)核查節(jié)點(diǎn)
第九講AI應(yīng)用常見(jiàn)故障排查實(shí)戰(zhàn)
一、故障診斷方法論
1.排錯(cuò)基本流程：復(fù)現(xiàn)問(wèn)題、隔離變量、日志分析
2.典型報(bào)錯(cuò)代碼解讀：CUDA內(nèi)存溢出、連接超時(shí)等
3.日志分析基礎(chǔ)：如何從海量日志中提取關(guān)鍵報(bào)錯(cuò)信息，支持追溯排查
二、典型場(chǎng)景排錯(cuò)演練
1.場(chǎng)景一：模型加載失敗或推理速度驟降
(1)排查大模型驅(qū)動(dòng)版本、顯存碎片整理與進(jìn)程沖突情況
2.場(chǎng)景二：API調(diào)用頻繁報(bào)錯(cuò)或超時(shí)
(1)排查網(wǎng)絡(luò)代理、并發(fā)閾值與負(fù)載均衡問(wèn)題
3.場(chǎng)景三：服務(wù)器CPU/GPU利用率異常飆升
(1)排查死循環(huán)代碼、僵尸進(jìn)程與挖礦病毒風(fēng)險(xiǎn)
4.防御博弈演練：應(yīng)對(duì) AI 驅(qū)動(dòng)的智能化威脅
(1)勒索軟件態(tài)勢(shì)：Weaxor、LockBit5.0 攻擊路徑及針對(duì)算力節(jié)點(diǎn)的破壞模式分析
(2)賬號(hào)與鑒權(quán)安全：如何防止遠(yuǎn)程桌面協(xié)議弱口令與 VPN 漏洞導(dǎo)致算力被“肉雞化”？
(3)應(yīng)急響應(yīng)SOP：制定發(fā)現(xiàn)內(nèi)網(wǎng)系統(tǒng)感染后的第一時(shí)間“隔離、斷網(wǎng)、憑證清理”清單
第十講：安全合規(guī)與高效工作習(xí)慣養(yǎng)成
一、算力使用的安全與合規(guī)紅線
1.數(shù)據(jù)隱私保護(hù)：敏感數(shù)據(jù)脫敏處理與本地化運(yùn)行優(yōu)先原則
2.合規(guī)使用開(kāi)源模型：開(kāi)源協(xié)議風(fēng)險(xiǎn)與境外模型供應(yīng)鏈安全解析
3.資源使用規(guī)范：禁止與業(yè)務(wù)無(wú)關(guān)的腳本調(diào)度，遵循最小權(quán)限賬號(hào)管理原則
二、養(yǎng)成高效的AI算力使用習(xí)慣
1.任務(wù)調(diào)度習(xí)慣：利用非高峰時(shí)段運(yùn)行重算力任務(wù)
2.資源釋放習(xí)慣：任務(wù)結(jié)束后的顯存清理與環(huán)境重置，根據(jù)業(yè)務(wù)應(yīng)用環(huán)境需要確定資源釋放的時(shí)間點(diǎn)與資源釋放狀態(tài)
3.持續(xù)學(xué)習(xí)習(xí)慣：關(guān)注新技術(shù)動(dòng)態(tài)，更新優(yōu)化知識(shí)庫(kù)
第十一講結(jié)項(xiàng)評(píng)估：數(shù)字化意識(shí)與工作習(xí)慣養(yǎng)成
一、決策支持：通過(guò)儀表盤(pán)實(shí)時(shí)監(jiān)測(cè)算力利用率與安全風(fēng)險(xiǎn)指標(biāo)
二、習(xí)慣塑造：全員簽署《算力合規(guī)使用承諾書(shū)》，建立依規(guī)履職底線意識(shí)
三、知識(shí)測(cè)評(píng)：AI算力、算法與安全融合能力綜合考核
四、綜合實(shí)戰(zhàn)考核
1.模擬故障排除流程：給定一個(gè)運(yùn)行異常的AI環(huán)境，要求在規(guī)定時(shí)間內(nèi)定位并解決
2.優(yōu)化方案設(shè)計(jì)：針對(duì)一個(gè)具體的AI業(yè)務(wù)場(chǎng)景，輸出資源配置與優(yōu)化方案書(shū)
五、課程總結(jié)與行動(dòng)承諾
1.重點(diǎn)知識(shí)回顧：構(gòu)建個(gè)人AI計(jì)算能力知識(shí)體系
2.制定行動(dòng)計(jì)劃：基于崗位特點(diǎn)，制定未來(lái)3個(gè)月的算力優(yōu)化改進(jìn)目標(biāo)。
課程總結(jié)和展望
1. 重點(diǎn)內(nèi)容回顧
2. 互動(dòng)問(wèn)題討論
3. 課后任務(wù)跟進(jìn)
關(guān)于我們
公司核心業(yè)務(wù)包括旅行式團(tuán)建、培訓(xùn)式團(tuán)建、主題式團(tuán)建、策劃式團(tuán)建、體育式團(tuán)建、戶外式團(tuán)建。起贏培訓(xùn)不斷追求團(tuán)建產(chǎn)品創(chuàng)新與服務(wù)超越，致力于打造成為中國(guó)最具影響力與創(chuàng)新力的團(tuán)隊(duì)建設(shè)品牌。
查看更多聯(lián)系我們
- 廣州市天河區(qū)浩和5G創(chuàng)業(yè)園
- 13178805217
- qiyingpx@qq.com
- m.haoke360.com
