2015-11-17-奥纬咨询-Controlling_the_Genie_of_Emerging_Technologies_6页_171kb

总结：控制新兴技术的“ genie” - 六步应对创新风险

核心内容

新兴技术是推动社会和经济发展的重要动力，但同时也带来了新的风险。随着科技的迅速发展，风险治理必须同步跟进，以避免潜在的灾难性后果。本文提出六项关键措施，以实现对新兴技术的严谨风险治理。

主要观点

• 创新与风险并存：新兴技术如合成生物学和人工智能（AI）在带来巨大利益的同时，也伴随着严重风险。
• 风险治理的重要性：理解新兴技术可能带来的危害是避免灾难的关键。
• 全球风险格局：根据《全球风险2015》报告，技术风险（如网络攻击、数据欺诈和关键信息基础设施崩溃）被列为未来十年最值得关注的风险之一。
• 现有治理机制不足：国家层面的法律和监管框架尚未完善，国际层面的协议也缺乏约束力，导致风险管控存在漏洞。

关键信息

新兴技术的潜在风险

• 合成生物学：可用于治疗疾病、改善食品安全和开发生物燃料，但同时也可能引发生物恐怖主义、生态破坏和新疾病的出现。
• 人工智能：虽然能提升经济生产力，但可能导致大规模失业和社会动荡。此外，AI决策的伦理和法律责任问题也日益突出。
• 无人机：随着其数量的迅速增长，相关风险如隐私侵犯、安全威胁和监管缺失也愈加明显。
• 技术奇点：一些专家担忧，当机器智能超越人类时，可能对人类构成存在性威胁。

风险治理的挑战

• 跨部门协调困难：监管机构往往缺乏足够的资源和跨部门协作能力。
• 国际协议效力不足：如《卡塔赫纳生物安全议定书》和《生物多样性公约》等，虽有指导意义，但缺乏法律约束力。
• 市场与监管的冲突：像TTIP这样的国际协议可能阻碍新的风险治理提案。

推荐的六项措施

1. 广泛参与的对话：应建立涉及多方利益相关者的对话机制，包括创新者、政府、监管机构和公众，以形成更全面的风险治理共识。
2. 加强风险治理研究：应优先投入资源，支持对新兴技术风险的研究和评估，提升监管机构的能力。
3. 提高透明度与信息披露：需要在保密与透明之间找到平衡，确保公众和监管者能够获取必要的信息以进行风险评估和控制。
4. 填补监管空白：应针对高风险领域制定明确的合规和责任标准，同时保持监管体系的灵活性和适应性。
5. 推动国际协议的落实：应加强国际机构之间的合作，推动从原则性讨论向具有法律约束力的协议转变。
6. 培养责任文化：应鼓励创新者自我监管，同时减少对黑客的崇拜，以建立一个更加负责任的创新环境。

结论

创新是社会进步的驱动力，但必须与严谨的风险治理并行。及早采取行动，制定有效的监管框架，将有助于避免未来可能出现的灾难性后果。