一、培訓背景
隨著AI技術(shù)深度融入各行業(yè),大模型、智能識別系統(tǒng)、AI供應鏈等面臨對抗樣本攻擊、數(shù)據(jù)泄露、模型劫持等新型安全風險。傳統(tǒng)安全防護手段已無法應對AI特有的攻擊路徑,亟需掌握AI安全攻防核心技能的專業(yè)人才。
本課程通過“理論+實驗+對抗”模式,系統(tǒng)性講解AI安全漏洞原理、攻擊手法及防御策略,覆蓋從模型開發(fā)到部署的全生命周期安全防護,幫助學員實現(xiàn)從“被動防御”到“主動對抗”的能力躍遷。
二、培訓對象
網(wǎng)絡安全專業(yè)人員、滲透測試人員、安全運維人員、安全顧問和管理人員、學生和研究人員、AI研發(fā)工程師、算法工程師、數(shù)據(jù)科學家、AI系統(tǒng)運維人員。
三、培訓收益
1、掌握AI安全核心漏洞:
深入理解大模型提示詞注入、梯度泄露、供應鏈攻擊等前沿風險。
2、攻防實戰(zhàn)能力提升:
通過實驗復現(xiàn)主流攻擊(如對抗樣本生成、模型逆向工程),設計針對性防御方案。
3、合規(guī)與隱私保護:
學習AI數(shù)據(jù)脫敏、聯(lián)邦學習、差分隱私等技術(shù),滿足GDPR等法規(guī)要求。
4、 紅藍對抗思維:
通過分組演練,模擬真實場景下AI系統(tǒng)攻防對抗,提升應急響應能力。
四、培訓信息
培訓方式:
培訓采用線下專家面授+同步直播的形式。所有課程均贈送學習教材、視頻回放、
答疑交流群、促學服務等。并對考生提供專人報考、考試指導、證書郵寄等。多維度精
細化教學,一站式報考服務,滿足不同企業(yè)及學員的學習需求。
五、培訓內(nèi)容
培訓共計3天,每天6小時,具體日程安排如下:
日程 | 主題 | 內(nèi)容 |
第一天 AI安全基礎攻防 |
大模型提示詞漏洞攻防 | 理論:Prompt Injection分類(直接/間接/多模態(tài)) 實驗:構(gòu)造惡意提示詞注入,觸發(fā)模型輸出敏感內(nèi)容 實驗:多模態(tài)提示詞(文本+圖像)繞過OCR檢測 |
敏感信息泄露與防護 | 理論:模型元數(shù)據(jù)泄露原理(gguf/metadata解析) 案例:System Prompt Leakage復現(xiàn) 實驗:利用工具提取模型元數(shù)據(jù) 實驗:設計防護策略封堵泄露漏洞 |
|
第二天供應鏈漏洞與進階攻擊 | 大模型供應鏈漏洞分析 | 理論:供應鏈攻擊路徑(Ollama/Ray/Deepseek) 案例:開源框架未授權(quán)漏洞導致模型劫持 實驗:利用Ollama漏洞植入后門模型 實驗:Deepseek未授權(quán)訪問漏洞復現(xiàn) |
梯度泄露與對抗防御 | 理論:梯度反推攻擊原理與數(shù)據(jù)逆向工程 案例:通過訓練梯度泄露用戶隱私數(shù)據(jù) 實驗:生成對抗樣本繞過AI檢測系統(tǒng) 實驗:設計梯度噪聲干擾防御方案 |
|
第三天綜合攻防與真實場景實戰(zhàn) | RealWorld偽造攻擊 | 理論:DeepFace/DeepVoice偽造技術(shù)原理 案例:生成高仿真人臉/語音欺騙身份驗證系統(tǒng) 實驗:使用DeepFace生成虛假人臉 實驗:合成語音繞過聲紋識別系統(tǒng) |
IoT與AI融合漏洞利用 | 理論:智能設備固件漏洞與AI模型聯(lián)動風險 案例:通過OCR漏洞劫持IoT設備控制權(quán) |
|
紅藍對抗演練 | 綜合實驗:分組模擬攻擊鏈(如多模態(tài)注入+供應鏈投毒) 防御設計:制定全鏈路防護方案并驗證有效性 |
六、專家講師
高老師 | CTO/資深技術(shù)顧問/信息安全專家
近十年IT互聯(lián)網(wǎng)運維服務管理與信息安全領(lǐng)域研究與從業(yè)經(jīng)驗,主要從事運維服務管理規(guī)劃、運維架構(gòu)、自動化體系建立和實施、信息安全風險評估、信息安全管理體系建立和實施等方面工作,具備豐富的IT服務管理和信息安全管理咨詢實踐經(jīng)驗,尤其在金融、運營商、政府行業(yè)有豐富的項目實施經(jīng)驗。
目前主要專業(yè)領(lǐng)域集中于IT服務管理、IT風險管理與控制、信息安全等方面,曾服務的主要客戶有:中國金幣總公司、千方集團、行園汽車、德法利集團、中彩網(wǎng)等。
專業(yè)資質(zhì):
CISP 注冊信息安全專業(yè)人員—系國家對信息安全人員資質(zhì)的最高認可
CISP-PTE 注冊信息安全專業(yè)人員—滲透測試工程師
ISO27001 Foundation 國際信息安全管理體系標準
ITLE 信息技術(shù)基礎架構(gòu)庫認證—項目管理專家
OSTA 全國計算機信息高新技術(shù)人員
七、相關(guān)證書
參加培訓并通過考試學員,由中國信息化培訓中心頒發(fā)《AI安全攻防專家》職業(yè)技能培訓證書。該證書可作為專業(yè)技術(shù)人員職業(yè)能力考核的證明,以及專業(yè)技術(shù)人員崗位聘用、任職、定級和晉升職務的重要依據(jù)。