Check Point 軟件技術公司報告稱，一些網(wǎng)絡犯罪分子利用人工智能來訓練其經(jīng)驗不足的成員實施惡意活動、改進和調(diào)試惡意軟件，甚至實現(xiàn)攻擊自動化。
最近的一項麥肯錫調(diào)查顯示，50% 的公司已在至少一個業(yè)務領域采用了人工智能。
在許多互聯(lián)網(wǎng)安全專家眼中，2022年稱得上“人工智能元年”。ChatGPT的橫空出世以及其他AI服務的相繼上線在改變未來人們工作、學習以及生活的方式的同時，也為互聯(lián)網(wǎng)安全行業(yè)帶來了全新的挑戰(zhàn)。因此，全球領先的專業(yè)網(wǎng)絡安全提供商 Check Point® 軟件技術有限公司（納斯達克股票代碼：CHKP）借此文幫助大家進一步了解人工智能的當前和未來用途以及重點關注安全防護的必要性。
人工智能早在幾年前就開始走入我們的工作生活。事實上，根據(jù)麥肯錫全球研究所在 2022 年開展的一項人工智能調(diào)查，2017 年時 20% 的受訪者表示已在至少一個業(yè)務領域采用了人工智能，而去年這一數(shù)字增長至 50%。隨著企業(yè)逐漸認識到人工智能對其業(yè)務的巨大價值，預計這一增長勢頭將繼續(xù)走高——根據(jù) Forbes Advisor 的一項調(diào)查，超過 60% 的企業(yè)所有者認為人工智能可提高生產(chǎn)力。具體而言，64% 的受訪者表示人工智能有助于提高業(yè)務效率，42% 的受訪者認為人工智能可簡化作業(yè)流程，這充分表明商業(yè)領域?qū)θ斯ぶ悄艿氖褂镁哂袕V泛的市場接受度。
在我國，2017年就由國務院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，規(guī)劃中已明確提及人工智能將成為經(jīng)濟發(fā)展的新引擎。在今年斯坦福大學一項面對全球的AI調(diào)查中，78%的中國受訪者認為AI技術的普及利大于弊。我國用戶對AI技術的正面態(tài)度居全球首位，這也為人工智能在我國高速發(fā)展提供了健康的土壤。值得注意的是，今年5月在天津召開的“第七屆世界智能大會”上，人工智能倫理與安全成為會上主要討論議題之一。
自去年開始，Check Point已經(jīng)就ChatGPT帶來的安全挑戰(zhàn)進行了研究。作為 OpenAI 研發(fā)的人工智能平臺，它在為人們生活帶來便捷的同時，還可幫助網(wǎng)絡犯罪分子實施新的攻擊活動。人工智能工具為網(wǎng)絡犯罪分子帶來了諸多好處，包括但不限于：
1、無需技能和經(jīng)驗： 對于網(wǎng)絡犯罪分子來說，人工智能的最大好處之一是其易用性，這使得更多用戶可以輕松發(fā)起惡意活動，包括一開始可能不具備相關技能的潛在網(wǎng)絡犯罪分子。過去幾個月來，出現(xiàn)了一些新的小型網(wǎng)絡犯罪團伙。借助人工智能，他們能夠?qū)嵤└鼜碗s的網(wǎng)絡攻擊。
2、改進網(wǎng)絡攻擊 ：由于這些人工智能工具采用無限制免費訪問模式，因此攻擊者可利用其速度和精度創(chuàng)建惡意代碼和網(wǎng)絡攻擊，如網(wǎng)絡釣魚攻擊活動。這些人工智能工具可以生成幾乎相同或難以發(fā)現(xiàn)異常的內(nèi)容。此外，這些工具擁有自主學習模式，因此不僅能夠回答問題，而且還能創(chuàng)建各種內(nèi)容（圖像、視頻甚至音頻）。遺憾的是，這導致了所謂的“深度偽造”(Deepfakes) 技術的濫用。這是一種可用于傳播虛擬信息的逼真?zhèn)卧旒夹g，巴拉克·奧巴馬、喬·拜登、弗拉基米爾·普京等國家lingdao人的虛擬內(nèi)容均被偽造過。
3、引發(fā)自動化網(wǎng)絡攻擊： 該技術導致使用 bot 和自動化系統(tǒng)發(fā)起的網(wǎng)絡攻擊大幅增加，提高了網(wǎng)絡犯罪分子的攻擊成功率。全球范圍內(nèi)網(wǎng)絡攻擊的攀升就證明了這一點——網(wǎng)絡攻擊比去年增加了 38%。此外，網(wǎng)絡犯罪分子還可以利用基于人工智能的僵尸網(wǎng)絡發(fā)起大規(guī)模 DDoS 攻擊，致使其攻擊目標的服務器癱瘓和服務中斷。
4、克隆人工智能工具： 盡管開發(fā)人員快速響應去更新語言中的漏洞，但網(wǎng)絡犯罪分子已經(jīng)找到了繞過限制的方法。今年早些時候，Check Point 軟件技術公司研究團隊報告了網(wǎng)絡犯罪分子正在暗網(wǎng)上分發(fā)和銷售他們自己修改的 ChatGPT API。伴隨最新版 ChatGPT4.0 的發(fā)布，市場上出現(xiàn)了一種新型攻擊活動。這種攻擊活動旨在盜取和出售高級帳戶，讓買家無限制地使用該工具的新功能。
監(jiān)管人工智能學習的必要性
雖然人工智能無疑是未來發(fā)展方向，但包括 OpenAI 聯(lián)合創(chuàng)始人之一埃隆·馬斯克在內(nèi)的專家們都要求對人工智能實施更廣泛的監(jiān)管。他們在一份公開請愿書中呼吁，在符合倫理的訓練能夠落實之前暫時停止這些工具的開發(fā)，同時歐盟等國際機構(gòu)已經(jīng)在制定自己的人工智能法律，并提出了重視網(wǎng)絡安全和數(shù)據(jù)安全需求的提案。在我國，近年來也在逐步強化對人工智能的規(guī)范引導。中國國家新一代人工智能治理專業(yè)委員會2019年發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，2021年又發(fā)布《新一代人工智能倫理規(guī)范》，這一系列措施說明了各個政府對人工智能有序、安全發(fā)展的期待與重視。
人工智能監(jiān)管的挑戰(zhàn)在于人工智能模型學會的知識幾乎無法從這些模型中刪除。這意味著安全機制應側(cè)重于防止收集或泄露某些類型的信息，而不是完全刪除知識。如今，人工智能和機器學習是幫助提高網(wǎng)絡安全功能的兩大支柱。事實上，由于當前企業(yè)網(wǎng)絡系統(tǒng)的復雜性和分散性，傳統(tǒng)的人工監(jiān)控、管理和風險控制已無法滿足需求。在今年Check Point CPX全球大會上，以預防為先的思路，通過AI對抗AI的安全解決方案受到了與會來賓的重點關注。
如今，用戶已經(jīng)可以在Check Point 的 ThreatCloud AI 中看到該技術應用于網(wǎng)絡安全領域的示例。ThreatCloud AI 是一款基于人工智能的威脅防御解決方案，它是 Check Point 軟件技術公司所有產(chǎn)品背后的大腦，每天能夠不斷掃描網(wǎng)站、電子郵件、物聯(lián)網(wǎng)設備、移動應用等，做出 20 億次安全決策。
Check Point中國區(qū)技術總監(jiān)王躍霖表示：“打贏與網(wǎng)絡犯罪分子的競賽仍是首要任務之一，我們必須確保環(huán)境及時更新且準備就緒，從而有效應對當前和未來的所有威脅?，F(xiàn)在，Check Point有幾款解決方案充分展示了人工智能在網(wǎng)絡安全領域的無限可能性。為了降低與高級人工智能相關的網(wǎng)絡風險，我們建議企業(yè)管理者應時刻保持‘預防為先’的安全理念，在開發(fā)或部署任何AI技術時，首先應確保其安全性，從而真正安全有效的通過AI技術提高自身核心競爭力。”
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
