前陣子韓國男星金秀賢開了全球記者會，引起多國媒體高度關注，並且使用AI即時韓語口譯的功能希望能夠第一時間將訊息轉譯。不料所使用的AI翻譯功能不佳，不但無法連貫語意，甚至翻譯內容也天馬行空。
這樣的AI出包事件其實現在所在多有，小則影響消費者觀感，大則甚至是會侵害到企業聲譽與面臨法規風險。但探究這箇中原由，說到底仍然是人類應用AI技術與對工具的熟悉度尚未完全到位，才會使得用AI時畫虎不成反類犬。
麥肯錫數據顯示，光是生成式AI每年可為全球經濟增加2.6兆至4.4兆美元的GDP。AI也在全球創造巨大的職場改變，因為AI 自動化技術也可能讓包含寫作、軟體coding、圖像設計等外包工作需求而逐步消失。AI的影響是存在而且深遠的，所以核心問題不是AI是否值得信賴，而是如何人類妥善運用AI才能避免各種企業地雷?
KPMG在AI掃雷的過程中，通常會建議從5大面向開始進行盤點，包含企業思維、客戶體驗與期待管理、技術與數據、法規與人才的整備度去協助企業領導者全方位的思考，了解每一個環節的潛在地雷有哪些。
AI避雷區一：企業需要對於創新成果有對應的價值管理
或許讀者們會好奇：AI被市場吹捧的這麼美好，那為什麼許多AI服務或新創還是一間間的倒?大部分原因在於人們往往對新技術的短期影響抱有過高的期望，而忽視了實現這些影響所需的時間和挑戰，甚至未能替AI技術定下明確的影響指標KPI，以至於覺得執行創新的成果與成本無法被量化。
當然也不能為了達成KPI而做出虛假的商業評估。美國司法部指控某AI新創公司Nate的創始人兼前CEO欺詐投資者。Nate是一款AI購物應用程式，聲稱其用戶可以透過AI一鍵購買任何電子商務網站上的商品，進而籌措到數百萬美金的風投資金。然而，Nate實際上依賴菲律賓呼叫中心的數百名人工承包商手動完成這些購買流程。
這個反面案例也提醒企業領導者必須要在可以清楚衡量AI價值、技術應用落地與管理內部組織推動方式之間找到一個平衡的道路，才能真正將AI化為商業助力、展現價值。
AI避雷區二：累積消費者與使用者信任，才能使AI走得長遠
AI所衍生的信任問題其實是現在許多企業所面臨的課題。根據IPSOS的調查，亞洲的消費者對於AI產品的信任度與樂觀程度普遍比歐美國家還要高，這可能是有鑑於許多亞洲Super App在AI服務上已經深刻的結合消費者生活。不過，根據KPMG最新卓越客戶體驗調查顯示，若品牌要長期穩健的營運下去，未來應該以提供具有信賴感的客戶服務模式，才能有效爭取到消費者的品牌忠誠度。
值得注意的是，AI相關服務工具商不僅要爭取消費者的信任，更應該要爭取使用者的信任才會完整。近來我們看到AI結合更多專業的領域如醫療、金融等等。但美國的護士公會也上街抗議，認為AI在輔助醫院行政流程或是協助病患照護的細微之處，仍有判斷不清的疑慮，更可能會影響到病患的健康。AI與專業流程的結合，不僅要讓病患可以獲得高品質的照護，更需要技術與醫療專家同時介入界定人機協作的分工與新流程，才能有效達到提升服務品質的綜效。
AI避雷區三：持續挖掘技術可能性與數據黑金，才能讓商業模式更具體可行
當下的AI技術正在光速演進中，不論是AI Agent的問世或是像DeepSeek這樣的開源模型都將推動AI更進一步的民主化。在這樣的框架下，對於企業的考驗就在於內部是否有能力應用這些百花齊放的AI工具，以及在對接AI工具的同時，將企業內部的數據資產做有效利用。因此企業需要在數據治理方面下功夫，確保數據的品質、完整性和安全性，並建立有效的數據管理流程和政策，以支持AI技術的應用和發展。
數據治理的極致發揮我們可以從NVIDIA最新的GTC大會上看到案例，人型機器人的趨勢背後其實就仰賴著數據治理與AI應用的集大成。人型機器人需要包含兩套AI系統，一是整合環境感知、流程控制與人機互動的AI模型大腦，二是針對人型機器人運動的AI小腦，主要控制機器人在不同環境反應下的細微運動。這樣的人型機器人需要整合大量且多樣化的數據，包含視覺、聽覺與觸覺的感測器，以及針對不同應用場景的現場數據才能使機器人可以即時應對現場諸多突發狀況。NVIDIA不但整合其在軟體與硬體的優勢，逐步拓展新典範轉移外，更用開源數據創造人型機器人標準化的數據護城河。從此例來看，便是一個透過AI技術與高品質數據持續探勘創新商業模式的絕佳案例。
AI避雷區四：法規合規永遠是企業的營運基礎，法規與內規銜接更顯重要
從歐盟的「歐盟AI法案」在各國引起AI監管的熱潮後，即可見國際政府針對AI的規管風向正在逐步成形。美國各州也針對消費者保護、隱私保護各自訂定法條希望防止AI造成歧視性決策與確保消費者隱私安全。國際法規推陳出新，對於企業而言，跟緊國際法規風向才能確保營運長期的穩定，不論是透過主動參與政府產業對話，或是先行訂立企業內規的負責任AI管理策略，都能有效在法條落地時降低合規的成本。
因此，2025年AI治理也成為風頭浪尖的話題。有別於數據治理，AI治理是強調整個AI生命週期中管理風險的能力。企業既有為了應對傳統風險而建立的風險治理模型或框架，可能不太適用於全新的生成式AI風險。因此企業需要開發或更新模型，讓它更符合組織對AI風險的接受度，並針對具體的AI使用情境，確定治理原則以及如何實施。
AI避雷區五：人才整備度是企業的創新引擎，企業需要搧風點火才會啟動
人才是企業前進的驅動力，但根據KPMG最近做的AI調查報告也可發現，企業認為AI人才是關鍵，但是資源上卻給得不足，反而容易導致AI專案推進效果無法徹底被彰顯。據KPMG統計，台灣目前有四分之三的受訪企業暫時沒有進行AI人才培訓。若未來企業要讓AI為企業提升競爭力，投入培訓AI人才的資源是當務之急。
重點是AI的人才培訓也要因材施教，透過業務分類，可以先將員工概略分成懂AI、用AI、寫AI的人，通識的教育訓練包含AI的基礎概念，讓同仁認知到AI如何結合業務流程與認識風險，再進階一些則是可以知道AI的特性進而設計結合AI的業務流程，再來則是針對AI進行技術性的培訓。
在這個過程中，人才的培育最大的需求就是來自管理層的支援。許多新的專案需要同仁投入時間與資源，那管理層就需要為同仁挪開進化路上的絆腳石，才能真正讓AI的創新DNA融入企業文化。
以上五大AI需要掃雷的區域，其實涵括了企業的前中後台營運，逐步的掃雷也象徵著企業的徹底質變。對企業來說，創新所造成的質變雖然也會有風險產生，但風險與機會是一體兩面，如何掌舵就考驗著企業智慧。
（本文轉載自遠見雜誌 2025-04-28）
