腾讯nEINEI_AI安全跨界的有趣问题集_32页_12mb

nEINEI 是一名专注于AI+安全技术应用的专家，具有丰富行业经验。曾就职Intel Security和McAfee Labs，研究方向包括AI安全、高级威胁分析、漏洞利用等。演讲聚焦AI安全落地实践，涵盖AI框架/组件安全、模型后门攻击、返回导向编程迁移、隐写术等，强调其跨界性和工业应用。背景涉及顶级会议发表（如ICLR、CVPR），多次在安全会议分享研究成果，并发布行业首个AI安全威胁风险矩阵。

演讲内容分为核心部分：AI安全问题与传统安全类比（如对抗样本攻击对应远程提权），探讨了模型后门攻击（通过数据投毒植入触发器，可能控制输出）、返回导向编程迁移（KRPO技术在语言模型中实现精确控制，如生成恶意代码或违规内容）、隐写术（编码恶意shellcode到模型参数）、数据攻击（如bitflip翻转影响模型精度或创建后门）。还涉及供应链攻击、模型文件格式安全风险等。结合案例分析，展示了AI系统的潜在脆弱性，提出了分散加密和条件控制等防护建议，旨在加强AI应用的安全保障。总体主题突出AI+安全的挑战与防御策略。