哈佛肯尼迪学院-即将到来的AI黑客（英文）-2021.4-54页_7mb

《The Coming AI Hackers》总结

核心内容

本文探讨了人工智能（AI）在未来可能成为“黑客”的趋势，指出AI不仅能够被用来攻击系统，还可能自身成为系统漏洞的发现者和利用者。作者Bruce Schneier强调，黑客行为不仅仅是针对计算机系统的攻击，而是对任何规则系统的利用，包括经济、社会和政治系统，甚至人类大脑。AI的普及和强大将使这种黑客行为变得更加高效、广泛和难以察觉。

主要观点

• 黑客的定义扩展：黑客行为是指利用系统规则的漏洞，以非预期的方式获取某种优势。这种行为可以发生在任何系统中，包括法律、金融、税收等。
• AI作为黑客的潜力：随着AI技术的发展，它们不仅能够模仿人类行为，还能通过算法发现并利用社会系统的漏洞，造成比传统黑客行为更大的影响。
• AI对社会系统的影响：AI可以通过自动化、自主性和物理代理等能力，对社会系统进行深层次的“认知黑客”，影响人们的信任、决策和行为。
• 现实与虚构的界限：当前的AI并非像科幻作品中那样具有完全的自主意识，但它们已经在现实世界中展现出类似黑客的能力，例如通过生成虚假内容影响公众舆论。

关键信息

税收系统中的漏洞

• 税收系统同样存在漏洞，例如“Double Irish with a Dutch Sandwich”这种跨国税务策略，使科技公司可以合法地将利润转移到低税率地区，从而减少纳税。
• 2017年的《减税与就业法案》中存在明显的错误，例如误将军人死亡抚恤金归类为应税收入，导致家庭面临高额税款。
• 税收漏洞的利用比软件漏洞更复杂，修复难度大，涉及立法、司法和行政等多个层面。

金融与社会系统中的黑客行为

• 金融系统历史上充满了各种“黑客”行为，如利用规则漏洞获取利益。
• 现代AI可以更快、更广泛地利用这些漏洞，甚至影响政策制定和公众意见。

AI对人类认知的操控

• AI可以通过模仿人类行为、语言和情感，影响人类的信任和判断，例如通过“人格机器人”（Persona Bots）在社交媒体上进行信息操控。
• 这些AI可以伪装成真实用户，参与讨论，影响舆论，甚至制造虚假新闻。

AI与机器人技术

• AI和机器人技术结合，可以实现“认知黑客”和“物理黑客”双重能力。
• 机器人如R2-D2具备高度的自动化、自主性和物理代理能力，但当前仍处于初级阶段。

未来风险与应对

• AI黑客行为可能对社会结构、政治决策和经济系统造成深远影响。
• 由于AI的复杂性和速度，传统的漏洞修复方式可能无法应对。
• 需要建立新的防御机制，以防止AI被恶意利用或无意中造成系统性风险。

文档结构概览

• 引言：AI不仅是技术工具，也可能是系统漏洞的利用者。
• 黑客与系统：黑客行为的定义及其在不同系统中的表现。
• 黑客的普遍性：几乎所有系统都可能被黑客利用，包括人类大脑。
• AI如何操控我们：AI通过行为模仿和认知操控影响人类决策。
• 人工智能与机器人：AI和机器人技术的发展及其在系统中的应用。
• 人类般的AI：AI如何被设计成具有人类行为特征的系统。
• AI操控社会：AI在政治、经济和社会系统中的潜在影响。
• AI作为自然黑客：AI如何发现并利用系统漏洞。
• 从科幻到现实：AI黑客行为在现实世界中的发展。
• AI黑客的后果：AI黑客可能带来的权力失衡与社会风险。
• 防御AI黑客：如何应对AI带来的新威胁。

结论

作者认为，AI黑客行为并非科幻幻想，而是现实世界中已存在的趋势。随着AI技术的不断进步，它将对社会各个层面产生深远影响。我们需要认识到AI的潜在风险，并采取相应的措施来防止其被滥用，以维护社会系统的稳定和公平。