香港生成式人工智能技術及應用指引_37页_1mb

香港生成式人工智能技術及應用指引總結

核心內容概述

《香港生成式人工智能技術及應用指引》由香港特別行政區政府數字政策辦公室委託香港生成式人工智能研發中心（HKGAI）制定，旨在為生成式人工智能（Generative AI）技術開發者、服務提供者及服務使用者提供實用指南，推動香港在創新與社會責任之間取得平衡。指引涵蓋技術原理、服務領域、風險分類、治理框架及各持份者的責任與義務，並參考國際最佳實踐經驗，以建立一個靈活、透明且具備適應性的治理框架。

主要觀點

1. 生成式人工智能技術概述

• 生成式人工智能是現代人工智能的重要分支，能夠根據人類指令自動生成文本、圖像、音頻、視頻等內容。
• 其主要技術原理包括生成對抗網絡（GANs）、變分自編碼器（VAEs）、自回歸模型、擴散模型及Transformer模型等。
• 生成式人工智能的服務領域涵蓋知識問答、角色扮演、輔助寫作、輔助編程、數學推理、人工智能代理及人工智能藝術等。

2. 技術與服務風險

• 技術局限：包括模型幻覺、模型偏見、黑盒問題、數理能力不足、對輸入變化的敏感性及數據完整性風險。
• 服務風險：包括內容安全、製造謠言、模型越獄、數據洩露等。
• 風險分類：
  • 不可接受風險：需全面禁止，如危害安全或操控意識。
  • 高風險：需合規評估、人工監督及持續監測。
  • 有限風險：需透明度及年度合規審計。
  • 低風險：只需自我認證。

3. 模型生命週期與人為監督

• 生成式人工智能模型生命週期包括規劃與數據獲取、模型開發、部署與集成、使用與維護等階段。
• 每一階段均有相應的風險與責任，需進行風險評估與監督，以確保技術的穩定性與安全性。
• 人為監督分為兩類：生成式人工智能協作模型（需一定程度監督）和人工主導模型（以人工決策為主）。

治理五大維度

1. 個人資料私隱

   • 關注數據收集、處理、存儲及共享過程中的私隱風險。
   • 建議採用聯邦學習等技術，提高數據安全與透明度。

2. 知識產權

   • 關注模型訓練及生成內容可能涉及的版權、商標與專利問題。
   • 建議制定明確的版權豁免條文，以促進創新與保護創作者權益。

3. 犯罪防治

   • 關注人工智能在犯罪預防與打擊中的應用與潛在風險。
   • 強調需對深度偽造、冒充行為等進行有效監管，以維護公共安全。

4. 真實可信

   • 關注生成內容的真實性、準確性與可靠性。
   • 建議明確標識生成內容，並提供可追溯性及事實查證途徑。

5. 系統安全

   • 關注模型與系統在運行過程中的安全風險，如資料投毒、逆向攻擊等。
   • 建議建立安全措施與監控機制，提升系統的穩定性與安全性。

服務持份者實用指南

1. 技術開發者

• 需建立完善的開發團隊，包括數據、算法及質控團隊。
• 遵守法例、保障知識產權與個人資料私隱。
• 落實安全措施，如模型微調、RAG技術、系統測試及合規審計。

2. 服務提供者

• 建立負責任的服務框架，包括合規性、資料安全及系統可信性。
• 遵守《個人資料（私隱）條例》（第486章）等法規。
• 提供清晰的操作指南與使用說明，並建立風險評估與服務維護流程。
• 推動試點項目，以測試生成式人工智能在不同應用場景中的可行性與安全性。

3. 服務使用者

• 需提高對技術風險與倫理問題的認識，並遵守法律法規。
• 進行自主判斷，避免無條件採用生成內容，需核實其真實性與合法性。
• 遵守使用條款，避免生成或傳播有害、不實或侵犯知識產權的內容。
• 優先選擇不涉及個人資料共享的服務，並採用匿名化與假名化手段。

香港治理特色

• 香港採用非約束性治理框架，強調靈活性與創新。
• 以「以應用為本」和「風險分級」為核心理念，平衡創新與治理。
• 保持與國際治理框架（如新加坡、歐盟、美國等）的協調，同時結合本地法律與產業特點。
• 香港已制定《人工智能道德框架》及多個行業指引，如金融、醫療、法律、教育、新聞、旅遊、零售、物流及工業等，以確保生成式人工智能的負責任使用。

結語

本指引旨在促進香港生成式人工智能技術的創新與應用，同時確保技術的合規性與社會責任。透過各方持份者的共同努力，香港將建立一個可信、安全且可持續的人工智能生態系統，推動技術在各產業中的健康發展。