我們距離「可解釋的人工智慧」還有多遠?

人工智慧(AI)正為我們與科技間的互動方式帶來革命性的影響,改變了我們在工作、旅遊、娛樂和生活層面上的樣貌,不過這僅僅是個開端。

下一階段是所謂的「可解釋的人工智慧」(explainable AI,亦稱為XAI),此種人工智慧的特點是能讓人類更容易理解其行為背後的成因。而它究竟是如何運作的?我們為何需要它?它又將如何徹底改變各產業(尤其是行銷業)的運作方式

黑盒子裡的秘密:當前人工智慧的問題

人工智慧能創造的成果令人驚豔,此點無庸置疑。電腦不但能在極短的時間內處理巨量資料,還能自行學習、進行決策和採取行動,讓許多產業從此改變其思維模式。專業審計諮詢服務機構PricewaterhouseCoopers的調查顯示,人工智慧市值約為15兆美元。然而,當前的人工智慧卻有一個嚴重的缺點:缺乏解釋。

也就是說,人工智慧無法向人類解釋其決策和行動背後的成因,這項缺點在機器學習中有時又稱為「黑盒子」。舉例來說,所有的演算和決策過程都是在幕後進行,而人工智慧通常無法詳細的說明它做出某個決定的推理過程與原因。

這為什麼是個問題?因為人工智慧若無法解釋其決策成形的機制,則人類便無法對其產生信任,將導致人們質疑其行為;而「可解釋的人工智慧」有望解決這個問題。

「可解釋的人工智慧」是如何運作的?

「可解釋的人工智慧」具備資訊公開透明的特色,不但會告知與其互動的人員它做了何種決定、即將採取何種行動,還會說明它是如何根據現有的資料來達成最終的演算結果。「可解釋的人工智慧」能一面執行前述動作,一面維持高水準的學習表現。

目前的人工智慧將資料導入機器學習程序,進而取得所學到的功能,只是使用者會滿肚子疑問:它為何那樣做?它為何不做其他決定?它何時會成功?何時會失敗?我該相信它嗎?我又該如何修正錯誤?

相形之下,「可解釋的人工智慧」利用可解釋的介面進行新的機器學習程序,以產生可解釋的模型;這樣的技術應能回答上述所有問題。

同時,這也伴隨著某種程度的風險,因為人工智慧所做的決定是依其導入的資料而定,雖然「可解釋的人工智慧」能夠提升人類對其決策的信任,但如果資料本身有瑕疵,那這樣的信任也有可能成為某種「誤信」。

另一個問題是人工智慧如何好好地解釋其決定。倘若使用者(可能是沒有任何技術背景的一般人)無法理解其說明,則該解釋便毫無價值可言。科學家必須與使用者介面專家合作,並且納入解釋心理學的複雜機制,試著從使用者角度思考,才有可能解決這個問題。

為何需要「可解釋的人工智慧」?重點在於「風險」、「信任」及「控管」

當面對鉅額投資決策如安全系統相關的軍事、財政、自動駕駛車輛,或是醫療診斷服務,其相關的風險也相對巨大。因此,人工智慧須能針對其決策過程進行解說,以增加使用者對其能力的信任和信心。除了上述產業,其他許多產業應該也可從這項技術中獲益。

「可解釋的人工智慧」可以有效地協助外部的控管,因為在執行審計或查核作業的情境中,它可以實現完全的透明化,以及說明為何其決策在道德、社會和財政層面上均是最好的選擇,從而鼓勵企業採行最佳實務和高道德標準。它同時能強化外界對於企業的信心,讓企業股東放心。

它也有助於企業創新,因為人工智慧越先進,其在創新用途和新能力的開發上,功能也就越強大。在許多產業中(包含行銷業),與人工智慧互動很快地將成為商務日常行為。因此,使用者是否能在輕鬆、毫無疑慮的環境中與人工智慧互動,便是一件十分重要的事。

專家認為這樣的轉變可賦予行銷人更多能力,並有效地將人工智慧轉化成同僚的角色,而非僅是工具。

「人類需要知道人工智慧的行為成因,才有辦法給予相應的信任。」Appier首席資料科學家林軒田如此說道。「就像人工智慧圍棋軟體AlphaGo應用洞察下圍棋,『可解釋的人工智慧』也可從新的視角切入,向行銷人展示如何採用人工智慧進行更先進的數位行銷。例如,人工智慧可以在適當的時間點接觸到目標受眾,但如果『可解釋的人工智慧』有能力向人類說明其決策的過程,則行銷人便可更為深入地了解其行銷對象,並藉此規劃更有效的行銷策略。」

它還能引領出新的工作型態,也就是行銷人可以選擇接受或拒絕「可解釋的人工智慧」所提出的說明,並且詳細解釋其接受或拒絕的原因,讓人工智慧有機會針對不同情境學習。Appier首席人工智慧科學家孫民表示:「現今有很多很棒的提議並沒有獲得採納,這是由於人工智慧無法解釋其行為成因,導致人類忽視了其提案的潛力。」然而,這樣的情景很快地便不復存在。

美國國防高等研究計畫署(Defense Advanced Research Projects Agency)目前正在執行一項關於「可解釋的人工智慧」的計畫,該計畫預期將進行至2021年,其目的是啟動「第三波人工智慧系統」,讓機器能夠根據其對於上下文脈絡和作業環境的理解,建立基礎的解釋模型,以描述真實世界的各種現象。有些專家也預測未來的三至五年間,「可解釋的人工智慧」將成為現實產物。

「可解釋的人工智慧」無疑是人工智慧技術發展的下一步,它不但有能力取得人類的信任和信心,還提升了自身運作流程的透明度,因此企業更應該重視其潛力。