解密歐盟人工智慧法案

人工智慧擁有巨大的前景，能夠拓展可實現目標的視野，並影響世界、造福人群，而管理人工智慧的風險以及潛在已知和未知的負面後果也相當重要。《人工智慧法案》將於2024年定案，目標在於確保人工智慧系統安全、尊重基本權利、促進人工智慧投資、改善治理， 並鼓勵建立統一的歐盟人工智慧市場。

《人工智慧法案》對人工智慧的定義預計將是廣泛的，並且包含各種技術和系統，因此各個組織都有可能會受到《人工智慧法案》的重大影響，且大部分的管制預計將於2026年初生效。被禁止使用的人工智慧系統，必須在《人工智慧法案》生效的六個月後逐步淘汰，而管理通用人工智慧的規則，則是預計將於 2025 年初實施。¹

《人工智慧法案》採用風險管理導向的方法，將人工智慧系統劃分為不同的風險級別：不可接受的風險、高風險、有限風險和最低風險。²

高風險的人工智慧系統是被允許使用的，但是需要遵守最嚴格的規範。這些規範不僅會影響使用者，還會影響所謂的人工智慧系統「供應商」。而《人工智慧法案》中的「供應商」一詞，涵蓋了人工智慧系統的開發機構，也包括開發嚴格供內部使用的人工智慧系統的組織，重要的是，組織既可以是使用者，也可以是供給者。

供應商需要確保遵守有關風險管理、資料品質、透明度、人工監督和穩健性等等的嚴格標準。

使用者有責任在《人工智慧法案》的法律範圍內，根據供應商的具體指示操作這些人工智慧系統，包括預期目的、使用案例、資料處理、人工監督和監控的義務。

新的條款也被加入於應對最近新發展的通用人工智慧(General purpose AI, GPAI)模型，包括大型生成式人工智慧模型4。³ 這些模型可適用於各種任務，也可以被整合到大量的人工智慧系統中，包括高風險系統，並漸漸成為歐盟許多人工智慧系統的基礎。考慮到人工智慧系統可以完成的廣泛任務以及其能力的快速擴展，大家一致認為GPAI系統和以其為基礎的模型必須遵守透明度的要求。此外，具備高度複雜性、功能和性能的高影響力GPAI模型，必須遵循更嚴格的規範，這會有助於降低因模型被廣泛使用而可能產生的系統性風險。⁴

現有的歐盟法律及慣例，如關於個人資料、產品安全、消費者保護、社會政策和國家勞動法等，以及與產品安全有關的歐盟部門立法法案將繼續適用，遵守《人工智慧法案》並不能免除各組織在這些領域原有的法律義務。

組織應該花時間為他們開發及使用的人工智慧系統創建藍圖，並按照《人工智慧法案》中的定義對其風險等級進行分類。如果有任何的人工智慧系統屬於有限風險、高風險或不可接受風險的類別，他們就會需要評估《人工智慧法案》對其組織的影響，而當務之急即是儘快瞭解這些影響以及應對的方法。