Appier首席人工智慧科學家孫民
Appier首席人工智慧科學家孫民

誰是人工智慧系統的最佳安全守門員?人工智慧為正解

視覺辨識方面的深度學習應用,以及自然語言處理等技術上的進展,是現今人工智慧領域最令人雀躍不已的突破。然而,所有創新科技或多或少都夾帶安全上的隱憂,而人工智慧也不例外。雖然科技上的突破能夠改變業務運作與人類工作的方式,但在應用這些新興科技時,人類須採取更加謹慎的態度,以防堵錯誤、濫用或更糟的情況發生。

那麼,讓人工智慧系統牢不可破的關鍵為何?其實人工智慧本身就是答案。

 

人工智慧的隱憂:其強項與弱點僅一線之隔

安全隱憂並非人工智慧特有的產物,而是廣泛存在於各類型的軟體系統中。不過,人工智慧本身所具備的兩項特質,卻在無形中增加了安全問題應對上的迫切性。

首先是其強大的運算能力。人類建構人工智慧系統的用意在於提高生產力;人工智慧的運作效率不僅高於人力作業,而且在面對重複性高的工作時更是如此。倘若心懷不軌者竊取了整個系統的控制權,那麼其影響力也會隨之大幅躍升。換句話說,人工智慧就好比一把雙面刃,其強大的力量也正好是其最大的弱點所在。因此,一旦人工智慧落入壞人手中,其危險性可想而知。

隨著人工智慧日益普及,這方面的隱患也與日俱增。未來人工智慧將廣泛應用於各產業中,這意味著如果有人抱持著惡意利用這些工具的話,整件事便可能演變成巨大的災難。

人工智慧的第二項特質在於其對資料的依賴性。大部分的人工智慧系統受資料驅動,也就是說其需要以資料為根據來制定決策。換言之,圖謀不軌者無須透過奪取主控權的方式,來加以利用人工智慧系統,其只需操弄資料、竄改數據即可。一旦這些人成功竄改或變更資料來源,則人工智慧系統的運作效率便會大幅下降。因此,除了保護人工智慧系統外,也需確保資料來源的真實性。

 

兩種進擊中的安全威脅:黑箱與白箱攻擊

那麼,惡意行為者如何操縱資料、攻擊人工智慧系統呢?一般而言,攻擊型態可分為兩種:黑箱攻擊與白箱攻擊。

在黑箱攻擊中,由於攻擊者並不了解人工智慧系統的結構,因此,他們需要透過資料蒐集來建構出該系統的樣貌。這意味著攻擊者需觀察近1,000個系統輸入與輸出的樣本,並根據蒐集到的資料猜測該系統的內部架構,接著發動攻擊。他們手中握有的資料越多,攻擊成功機率就越高。黑箱攻擊的對象通常是運行較久的系統,因為這表示有更多的樣本讓攻擊者選擇。

在白箱攻擊中,攻擊者已經知道系統內部的結構、參數等資訊,並利用這方面的知識不著痕跡地竄改資料,以達到欺騙系統的目的。這類攻擊的成功率通常高於黑箱攻擊,但過程中存在著挑戰性,因為攻擊者需滲入該系統中以了解其運作的方式,唯有如此,他們才能開始針對資料進行變更的動作。這聽起來可能有悖常理:既然都滲入到系統中了,何不直接奪下控制權呢?這是因為白箱攻擊讓攻擊者可以長期且持續地操弄系統,從長遠來看會更具破壞力。

此外,駭客還能迅速地入侵系統並將整個系統複製下來,他們雖然不會直接進行操控,但手邊卻備有一個可供其利用的拷貝版系統,而且仍可據此發動白箱攻擊。

 

披上超人外衣的人工智慧

儘管存在著安全上的隱憂,但這並非是個無解習題。事實上,人工智慧本身可保護人工智慧系統免受安全威脅。

企業可藉由機器學習來研究過去的攻擊行為,並藉此預測系統在面對步步逼近的威脅時,會如何改變其運作方式。接著企業可建立一個在偵測到危險訊號後自動發出警告或關閉系統的模型。這個模型比透過人力搜尋危險訊號來得有效率,但前提是企業需蒐集足夠的訓練資料供人工智慧學習。

然而,攻擊型態日新月異、防不勝防,應用機器學習的作法在這種情境下是行不通的,因為系統不知道該注意哪些危險警訊。不過,這樣的情況很快會發生變化。目前專家們正在研究如何訓練人工智慧進行系統偵測,以找出其中的漏洞或弱點所在。與單純記錄訓練資料,以及教導系統應注意哪些警訊相比,這個方法的主動性顯然要高出許多。

目前,人類需為人工智慧定義偵測範圍,以便讓其執行系統弱點測試作業,而這件事要比單純蒐集訓練資料困難得多,因為該作業的複雜性會隨著偵測範圍增大而有所提升。不過,在人工智慧的幫助下,未來這項工作有望全面自動化。屆時企業只需多花一些成本,便能享受人工智慧所帶來的各項優勢,例如更佳的運作效率及生產力表現。

 

最佳實務

當人們想到伴隨著人工智慧而生的危險時,他們腦海中所浮現的往往是電影《魔鬼終結者》的畫面,但事實上我們現在的技術距離那種程度還相當遠,更何況人工智慧的好處遠大於這些風險。

只不過人們和企業在運用人工智慧時,需意識到可能衍生的安全問題。就像所有軟體一樣,最佳的辦法是確認系統始終保持在最新版版本,以便修正其中潛藏的任何安全漏洞。此外,還應針對系統進行弱點測試,以了解資料遭竄改至何種程度可能會導致系統崩潰。在理想的情況下,企業應確保其系統能夠偵測到任何資料上的變化,以便主動關閉或切換至備用系統來加以因應。

 

隨著電腦系統日趨複雜,人們越來越難發現隱藏在其中的安全漏洞。雖然這世上最頂尖的駭客並無法入侵一個極為複雜的系統,但這並不代表系統本身不存在任何安全上的隱憂。我們應善用人工智慧的力量,主動探測埋藏於系統中的弱點,進而創造更牢不可破的系統架構,以更好地滿足使用者的需求。

 

歡迎與我們聯繫

|了解人工智慧如何幫助你的企業解決商業難題|