香港生成式人工智能技術及應用指引_39页_1mb

香港生成式人工智能技術及應用指引總結

核心內容概述

《香港生成式人工智能技術及應用指引》由香港特別行政區政府數字政策辦公室（數字辦）委託香港生成式人工智能研發中心（HKGAI）制定，旨在為生成式人工智能技術的開發者、服務提供者及服務使用者提供具體的治理原則與實用指南。指引涵蓋技術原理、治理框架、風險管理、責任分配及國際比較等方面，以促進生成式人工智能的負責任使用，同時確保其創新性與社會效益。

主要觀點

1. 生成式人工智能技術簡述

• 生成式人工智能是一種基於機器學習算法的技術，能根據人類指令自動生成文本、圖像、語音、視像等內容。
• 主流技術包括生成對抗網絡（GANs）、變分自編碼器（VAEs）、自回歸模型、擴散模型及Transformer模型等。
• 生成式人工智能具有多模態生成能力，包括文本、圖像、語音、視像及程式碼。

2. 治理五大維度

指引從五個核心維度出發，以建立全面的人工智能治理框架：

• 個人資料私隱：需確保數據收集、處理及使用符合《個人資料（私隱）條例》。
• 知識產權：需處理模型訓練與內容生成過程中的版權、專利等法律問題。
• 犯罪防治：需防止深度偽造、詐騙、非法資訊散播等行為。
• 真實可信：需確保生成內容的準確性、可追溯性與可解釋性。
• 系統安全：需防止資料洩露、模型越獄及逆向攻擊等風險。

3. 技術開發者、服務提供者與服務使用者的責任

• 技術開發者：需建立完整團隊、遵守道德規範、落實技術保障措施、確保數據完整性與模型可靠性。
• 服務提供者：需建立合規框架、確保資料安全、提供透明的操作指南、加強人為監督與風險評估。
• 服務使用者：需合法使用、主動核實內容、保護個人資料、尊重知識產權。

關鍵信息

1. 技術風險與服務風險

• 技術風險包括模型幻覺、偏見、黑盒問題、數據完整性與算法不穩定等。
• 服務風險包括內容安全、謠言製造、模型越獄、數據洩露等，需根據風險層級制定相應治理策略。

風險分類與治理策略

2. 生成式人工智能的生命周期與風險管理

生成式人工智能系統的生命周期包括：

1. 規劃與數據獲取：需確保數據來源的合法性與安全性，避免數據投毒與偏見。
2. 模型開發：需評估模型的準確性與可靠性，並遵循開源許可證要求。
3. 部署與集成：需確保系統穩定，避免資料洩露與權限擴散。
4. 使用與維護：需加強內容核實、數據安全、系統監控與人為監督。

3. 香港的治理特色與政策框架

• 香港採用「以應用為本」及「風險分級」的治理理念，鼓勵創新與合規並重。
• 引入「文本及數據採集」（TDM）豁免，容許合理使用版權作品進行數據分析。
• 香港已制定《人工智能道德框架》，並根據不同行業需求推出相應的政策與指引。
• 通過監管沙盒、行業自律及國際合作，逐步完善治理措施。

指引重點

• 安全透明：需公開模型訓練方法、資料來源與使用方式，提高系統的可解釋性。
• 準確可靠：需引入RAG等技術，提高生成內容的準確性與可信度。
• 公平客觀：需避免模型偏見，促進資訊公平與社會包容。
• 實用高效：需提高技術應用效率，推動產業升級與社會進步。

行業應用與治理建議

• 金融：需強化系統透明度，避免人為操縱與數據濫用，提供退出選項與人工審核。
• 醫療：需謹慎使用生成式人工智能輔助診斷，避免誤導與隱私泄露。
• 法律：需確保生成內容的準確性與可追溯性，避免用於非法用途。
• 教育：需規範生成式人工智能在課業中的使用，避免影響學術誠信。
• 新聞：需確保生成內容的真實性與來源透明，防止虛假資訊。
• 旅遊與零售：需保護個人資料，避免偏見與不當使用。

結語

指引強調，生成式人工智能的發展需在創新與社會責任之間取得平衡，並通過多方合作、透明治理與持續監管，確保其在各行業中的安全、可靠與合規應用。指引亦鼓勵技術開發者、服務提供者與使用者共同參與治理，以促進香港生成式人工智能生態的健康發展。