分享在 facebook
分享在 linkedin
分享在 twitter
分享在 facebook
分享在 linkedin
分享在 twitter

我們距離「可解釋的人工智慧」還有多遠?

人工智慧(AI)正為我們與科技間的互動方式帶來革命性的影響,改變了我們在工作、旅遊、娛樂和生活層面上的樣貌,不過這僅僅是個開端。

下一階段是所謂的「可解釋的人工智慧」(explainable AI,亦稱為XAI),此種人工智慧的特點是能讓人類更容易理解其行為背後的成因。而它究竟是如何運作的?我們為何需要它?它又將如何徹底改變各產業(尤其是行銷業)的運作方式

黑盒子裡的秘密:當前人工智慧的問題

人工智慧能創造的成果令人驚豔,此點無庸置疑。電腦不但能在極短的時間內處理巨量資料,還能自行學習、進行決策和採取行動,讓許多產業從此改變其思維模式。專業審計諮詢服務機構PricewaterhouseCoopers的調查顯示,人工智慧市值約為15兆美元。然而,當前的人工智慧卻有一個嚴重的缺點:缺乏解釋。

也就是說,人工智慧無法向人類解釋其決策和行動背後的成因,這項缺點在機器學習中有時又稱為「黑盒子」。舉例來說,所有的演算和決策過程都是在幕後進行,而人工智慧通常無法詳細的說明它做出某個決定的推理過程與原因。

這為什麼是個問題?因為人工智慧若無法解釋其決策成形的機制,則人類便無法對其產生信任,將導致人們質疑其行為;而「可解釋的人工智慧」有望解決這個問題。

「可解釋的人工智慧」是如何運作的?

「可解釋的人工智慧」具備資訊公開透明的特色,不但會告知與其互動的人員它做了何種決定、即將採取何種行動,還會說明它是如何根據現有的資料來達成最終的演算結果。「可解釋的人工智慧」能一面執行前述動作,一面維持高水準的學習表現。

目前的人工智慧將資料導入機器學習程序,進而取得所學到的功能,只是使用者會滿肚子疑問:它為何那樣做?它為何不做其他決定?它何時會成功?何時會失敗?我該相信它嗎?我又該如何修正錯誤?

相形之下,「可解釋的人工智慧」利用可解釋的介面進行新的機器學習程序,以產生可解釋的模型;這樣的技術應能回答上述所有問題。

同時,這也伴隨著某種程度的風險,因為人工智慧所做的決定是依其導入的資料而定,雖然「可解釋的人工智慧」能夠提升人類對其決策的信任,但如果資料本身有瑕疵,那這樣的信任也有可能成為某種「誤信」。

另一個問題是人工智慧如何好好地解釋其決定。倘若使用者(可能是沒有任何技術背景的一般人)無法理解其說明,則該解釋便毫無價值可言。科學家必須與使用者介面專家合作,並且納入解釋心理學的複雜機制,試著從使用者角度思考,才有可能解決這個問題。

為何需要「可解釋的人工智慧」?重點在於「風險」、「信任」及「控管」

當面對鉅額投資決策如安全系統相關的軍事、財政、自動駕駛車輛,或是醫療診斷服務,其相關的風險也相對巨大。因此,人工智慧須能針對其決策過程進行解說,以增加使用者對其能力的信任和信心。除了上述產業,其他許多產業應該也可從這項技術中獲益。

「可解釋的人工智慧」可以有效地協助外部的控管,因為在執行審計或查核作業的情境中,它可以實現完全的透明化,以及說明為何其決策在道德、社會和財政層面上均是最好的選擇,從而鼓勵企業採行最佳實務和高道德標準。它同時能強化外界對於企業的信心,讓企業股東放心。

它也有助於企業創新,因為人工智慧越先進,其在創新用途和新能力的開發上,功能也就越強大。在許多產業中(包含行銷業),與人工智慧互動很快地將成為商務日常行為。因此,使用者是否能在輕鬆、毫無疑慮的環境中與人工智慧互動,便是一件十分重要的事。

專家認為這樣的轉變可賦予行銷人更多能力,並有效地將人工智慧轉化成同僚的角色,而非僅是工具。

「人類需要知道人工智慧的行為成因,才有辦法給予相應的信任。」Appier首席資料科學家林軒田如此說道。「就像人工智慧圍棋軟體AlphaGo應用洞察下圍棋,『可解釋的人工智慧』也可從新的視角切入,向行銷人展示如何採用人工智慧進行更先進的數位行銷。例如,人工智慧可以在適當的時間點接觸到目標受眾,但如果『可解釋的人工智慧』有能力向人類說明其決策的過程,則行銷人便可更為深入地了解其行銷對象,並藉此規劃更有效的行銷策略。」

它還能引領出新的工作型態,也就是行銷人可以選擇接受或拒絕「可解釋的人工智慧」所提出的說明,並且詳細解釋其接受或拒絕的原因,讓人工智慧有機會針對不同情境學習。Appier首席人工智慧科學家孫民表示:「現今有很多很棒的提議並沒有獲得採納,這是由於人工智慧無法解釋其行為成因,導致人類忽視了其提案的潛力。」然而,這樣的情景很快地便不復存在。

美國國防高等研究計畫署(Defense Advanced Research Projects Agency)目前正在執行一項關於「可解釋的人工智慧」的計畫,該計畫預期將進行至2021年,其目的是啟動「第三波人工智慧系統」,讓機器能夠根據其對於上下文脈絡和作業環境的理解,建立基礎的解釋模型,以描述真實世界的各種現象。有些專家也預測未來的三至五年間,「可解釋的人工智慧」將成為現實產物。

「可解釋的人工智慧」無疑是人工智慧技術發展的下一步,它不但有能力取得人類的信任和信心,還提升了自身運作流程的透明度,因此企業更應該重視其潛力。

歡迎與我們聯繫

|了解人工智慧如何幫助你的企業解決商業難題|

讓我們為你解痛點

還掙扎於不知如何做好做滿你的行銷策略嗎?

你也許也會對這些文章感興趣:

數位出版新思維:
善用數據創造高收益

出版業目前正面臨著艱困的處境。線上搜尋引擎與社群媒體平台主導了亞太地區的廣告市場(佔其中約92%的花費),數位出版也因此逐漸轉向以付費訂閱作為主要的獲利模式。 不過,逆勢之中仍有力挽狂瀾的機會。數位出版社握有大量的顧客資料,若能與外部資料整合使用,將可獲得全方位的顧客行為洞察。外部資料不但有助於提升廣告投資報酬率,更能提供詳細的顧客興趣與行為資料,有助於增加訂閱人數。 只要運用得宜,人工智慧不但能

app push

推播通知教戰手冊,快速提升App黏著度(含產業應用範例)

如果消費者下載應用程式(App)之後卻放著不用,那麼下載量再高也無法為你帶來任何效益。所幸,若能聰明運用推播通知,就可有效提升App內互動,讓你的App成為用戶生活中不可或缺的存在。 App應用程式互動現況 近年來人們大量使用手機app,全球app相關花費已高達1,200億美元,是2016年的2.1倍。 除了消費者外,企業也同樣依賴App。因為App能夠協助企業滿足顧客需求,並藉由行動裝置的便利性

對抗新冠肺炎一役中,人工智慧扮演的關鍵角色

醫療科學相關的資料向來十分豐富。幾世紀以來,科學家透過各式各樣的方式收集資料,無論是來自實驗、縱貫(貫時性)研究、研究調查,或者如診問病患的病歷紀錄等日常活動。然而,新型冠狀病毒(COVID-19)的疫情衝擊大幅改變了遊戲規則。 即使目前規模最大的醫療研究計畫已致力於消化數十萬則病例,疫情仍難以避免地影響了全球數十億人。海量的資料從各種不同的管道雪片般飛來,而此時,正是人工智慧登場對抗病毒的時刻。

    讓我們為你解痛點

    還掙扎於不知如何做好做滿你的行銷策略嗎?