算法应用的用户感知调查与分析报告_2021__37页_10mb

算法应用的用户感知调查与分析报告总结

核心内容概述

本报告由对外经济贸易大学数字经济与法律创新研究中心、中国人民大学数字经济研究中心和蚂蚁集团研究院联合发布，旨在分析当前用户对算法应用的认知、态度、权利感知与行为反应，以推动算法治理与改进方向。报告基于6941份有效问卷数据，从算法透明、安全、公平、向善四个维度进行分析，并探讨不同群体在算法感知上的差异及存在的认知悖论。

主要观点与关键信息

1. 算法透明

• 用户认知与态度：

  • 超8成受访者希望有个性化推荐，但对过度精准推荐存在担忧。
  • 仅16.90%的受访者完全不清楚企业是否使用算法，39.08%不太清楚。
  • 60%的受访者不了解算法内容与目的，44.64%不太了解。
  • 多数用户希望企业能提供一定程度的算法解释，其中54.28%希望详尽解释，38.49%希望简单解释。

• 诉求：

  • 用户希望企业能提供更透明的算法信息，包括关闭个性化推荐、选择推荐标签组合等。
  • 当对算法结果有异议时，76.48%的受访者期待人工介入核查。

2. 算法安全

• 用户感知：

  • 近8成受访者认为算法存在损害消费者权益的风险。
  • 超过60%的受访者认为个性化推荐会侵犯隐私。
  • 超过80%的受访者认为企业利用算法进行人为信息扭曲（如操纵榜单、流量造假、信息屏蔽）的情况较多。

• 应对措施：

  • 主动管理数据请求和关闭个性化推荐是用户最常采取的措施，比例分别达到47.27%和45.3%。
  • 仅11.89%的受访者选择“躺平”，不采取任何措施。

• 治理期望：

  • 多数受访者不主张限制算法应用，而是期待加强企业自律（60.12%）。
  • 企业应加强算法安全评估，提升透明度，以增强用户信任。

3. 算法公平

• 用户感知：

  • 仅26.38%的受访者表示经常经历差别定价。
  • 差别定价所依据的条件不足以判断其合理性，用户更关注规则透明与知情权。

• 用户行为：

  • 绝大多数用户在察觉到差别定价后会采取行动，如减少使用或投诉。
  • 企业若采用“暗箱”操作，易引发用户反感。

• 结论：

  • 保障用户知情权和选择权是实现算法公平的关键。
  • 差别定价的合理性应通过规则透明和用户知情来判断。

4. 算法向善

• 用户感知：

  • 仅15%的受访者认为算法可能导致过度消费。
  • 43%的受访者认为算法推荐内容同质化，容易导致“信息茧房”或沉迷。
  • 超过2/3的受访者曾举报不良信息，但不良信息出现频次未明显减少。

• 企业责任：

  • 企业需加强不良信息治理，优化算法以减少负面影响。
  • 在“适老化”和“未成年人模式”设计方面，35.18%以上的受访者认为所有行业做得都不够好。

不同群体对算法感知的差异

1. 年龄差异

• 认知差异：

  • 年轻人（25岁以下）对算法认知更深入，而60岁以上群体认知较为模糊。
  • 年龄越小，对算法的接受度越高，对隐私侵犯的担忧相对较低。

• 行为差异：

  • 年轻人更倾向于主动举报不良信息，且更愿意通过人工介入解决算法问题。
  • 年长者更倾向于直接弃用产品或服务，对算法的不信任度更高。

2. 学历差异

• 认知差异：

  • 高学历群体对算法内容和目的的了解程度更高，52%的研究生及以上受访者表示了解。
  • 高学历群体更关注隐私风险，更倾向于关闭个性化推荐。

• 行为差异：

  • 高学历群体更主动采取措施防范算法风险，如投诉、减少使用等。
  • 低学历群体对算法风险防范意识较弱，更多人未采取任何措施。

3. 性别差异

• 认知与行为：
  • 男女受访者对算法风险的感知基本一致。
  • 男性更倾向于要求详尽解释，女性更倾向于简单解释。
  • 男性举报不良信息的比例略高于女性，且更认为举报后不良信息减少。

用户算法认知悖论及原因分析

1. 认知悖论

• 现象：
  • 用户普遍对算法存在不信任感，但同时接受个性化推荐和差别定价。
  • 用户希望企业解释算法，但又担心解释过于复杂。

2. 悖论原因

• 信息不对称：

  • 多数用户不了解算法内容、目的及相关法规，导致对算法的恐惧和误解。
  • 羊群效应放大了部分用户对算法的排斥心理。

• 企业行为与用户目的冲突：

  • 企业倾向于收集用户信息以提高推荐精准度，但用户更关注隐私保护与信息多样性。
  • 用户希望在享受算法便利的同时，避免隐私侵害和信息扭曲。

• 背景差异：

  • 不同学历、年龄、收入背景的用户对算法的理解和防范能力存在显著差异。
  • 高学历、年轻人和高收入群体更具备算法素养，能更有效地应对算法风险。

总结与建议

总结

• 用户对算法的使用既有积极评价，也有担忧和排斥。
• 算法透明度、安全性和公平性是用户关注的核心问题。
• 用户对算法向善的期待主要体现在不良信息治理和人性化设计上。
• 不同群体在算法认知和行为上有明显差异，尤其是年轻、高学历和高收入群体更具备算法素养和自我保护意识。

建议

• 加强算法透明度：推动企业进行分层次解释，提升用户对算法的理解。
• 完善算法安全机制：加强企业自律，提升算法安全评估能力，建立更有效的用户反馈机制。
• 保障算法公平性：强调规则透明和用户知情权，减少差别定价的“暗箱”操作。
• 提升算法向善能力：加强不良信息过滤和推荐算法优化，完善“适老化”和“未成年人模式”设计。
• 提升用户算法素养：通过教育和宣传，增强用户对算法的认知和应对能力。

关键数据总结