红旗新能源：2023人工智能在自动驾驶决策中的应用与思考报告_26页_9mb

人工智能在自动驾驶决策中的应用与思考总结

核心内容

人工智能技术在自动驾驶领域中发挥着重要作用，尤其是在感知与决策两个关键环节。通过深度学习等方法，AI能够自动提取和优化特征，实现对复杂环境的感知和决策。当前，AI在自动驾驶中的应用主要包括感知型AI和决策型AI，二者在处理信息的方式和目标上存在显著差异。

主要观点

1. 感知型AI与决策型AI的差异

• 感知型AI：主要关注环境的静态表示，依赖于图像语义分割等技术，具有相对真值，便于验证和评估。
• 决策型AI：关注环境的动态表示，强调与环境的交互，但决策行为具有非唯一性，是相对值。由于决策结果的不确定性，其工程化落地面临较大挑战。

2. AI在决策中的应用方式

• 模块化AI决策：通过局部应用AI模型，提高决策效率和性能。例如，在轨迹粗解生成中，AI能够在短时间内从大量轨迹中选出最优路径，效率提升超过85%。
• 端到端AI决策：将感知、地图、障碍物轨迹、车辆运动等信息作为输入，以人类驾驶数据为真值标签，实现自动化路径规划。例如，Tesla的交互式搜索算法和Comma.ai的模型训练方法均体现了这一思路。
• AI加“智”与AI加“速”：
  • 加“智”：通过AI提升系统智能化水平，如强化学习用于应急反应场景，模仿学习用于行为决策。
  • 加“速”：AI在数据挖掘、标注、合成及云端训练中发挥加速作用，显著提升自动驾驶系统的开发效率和验证效果。

关键信息

1. AI决策技术的优势与挑战

• 优势：
  • 提升决策的拟人化程度
  • 增强系统在复杂场景下的适应能力
  • 提高算法的自动化水平和效率
• 挑战：
  • 对数据集依赖性强，错误数据可能导致错误输出
  • 算法存在黑盒特性，难以解释和预测其行为
  • 系统在输入扰动下可能产生不稳定输出
  • 安全性问题复杂，需多维度保障

2. 安全风险与对策

• 安全风险：
  • 数据集的正确性直接影响AI决策
  • 算法不可解释性影响信任度
  • 系统不稳定，容易受到扰动影响
• 安全对策：
  • 模型安全策略：通过分阶段训练（监督策略、奖励模型、强化学习）优化AI决策算法
  • 数据安全策略：确权数据使用权，保护敏感信息，构建精准评估模型
  • 混合建模：结合传统规则型算法，确保底线安全性
  • 安全大脑理念：通过车路云协同监督，形成多重冗余系统
  • 标准与法规：ISO/AWI PAS 8800等标准提供AI安全策略框架，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》加强数据与内容管理

3. AI在自动驾驶开发中的加速方式

• 自动化标注挖掘：依托影子模式与云端算力，实现数据的自动标注与清洗，降低人工成本，提高一致性
• AI合成数据：通过仿真环境与AI生成，定向获取有效数据，加速模型训练与迭代
• 云端大模型训练：自动调整模型超参数与结构，减少重复调参工作，提升开发效率

未来方向与建议

• 需要政府、行业、科研机构共同参与，推动AI标准与模型的完善
• 增强AI的可解释性，提升用户对自动驾驶系统的信任
• 实现数据集从虚拟向现实迁移，提升模型泛化能力
• 推动车路云协同监督，构建更安全、更智能的自动驾驶系统

AI功能安全分类表

总结

人工智能在自动驾驶决策中的应用正逐步深入，其在感知与决策中的优势显著，但也面临数据依赖、黑盒特性、系统不稳定等安全问题。为推动AI在自动驾驶中的安全与高效应用，需加强数据安全与管理、提升模型可解释性、构建统一标准与法规体系，并探索车路云协同监督等新型解决方案。未来，AI与传统规则方法的融合、AI标准的建立及数据集的规范化将是自动驾驶技术发展的关键方向。