欧美国产人妖另类色视频-欧美国产日本高清不卡-欧美国产日韩在线-欧美国产日韩在线观看-jizz国产在线播放-jizz国产在线观看

大語言模型防火墻是 AI 安全的未來嗎?

發(fā)布于:2025-04-11 點擊量:351 來源:至頂網(wǎng)

隨著大語言模型 (LLM) 在各行業(yè)得到更廣泛的應用,確保這些強大 AI 工具的安全性已成為一個日益增長的關切。本周在新加坡舉行的 Black Hat Asia 2025 大會上,一組專家深入探討了 LLM 防火墻是否是 AI 安全的解決方案,還是僅僅是整個安全體系中的一部分。

網(wǎng)絡安全公司 CloudsineAI 的創(chuàng)始人 Matthias Chin 首先指出了防護機制和防火墻之間的區(qū)別:"防護機制是一種保護機制,而防火墻是一個具有更多功能的安全概念 - 例如,它是一個控制點,包含防護機制,擁有威脅向量數(shù)據(jù)庫,并可以與 SIEM (安全信息和事件管理) 工作流程集成。"

新加坡內(nèi)政團隊科技局 (HTX) 首席創(chuàng)新官兼首席云工程師 Pan Yong Ng 指出,將 AI 安全整合到組織 IT 基礎設施的基礎中非常重要,盡管對于安全控制應該放在哪里仍存在不確定性。他建議在各個層面實施組合控制,從推理服務模型到 Web 應用程序安全,甚至擴展到 AI 代理。

AI Singapore 的 AI 創(chuàng)新總監(jiān) Laurence Liew 表示,開發(fā)人員對 AI 代理和大語言模型的使用日益增加,這將需要使用 LLM 防火墻來執(zhí)行防護機制和企業(yè)政策。他說:"我們告訴年輕工程師要確保設置某些防護機制,他們會去做,但他們經(jīng)常忙于編碼,以至于防護機制可能沒有得到更新。"

新加坡南洋理工大學研究員 Xiaojun Jia 指出了傳統(tǒng)防火墻在解決 LLM 特定安全問題方面的局限性。他說:"傳統(tǒng)防火墻專注于網(wǎng)絡安全,這使得它們在防御利用 LLM 邏輯流程的越獄攻擊方面效果不佳。"

Chin 補充說,LLM 防火墻不僅僅是為了確保 AI 安全 - 它們也用于 AI 安全性,以防止模型幻覺和產(chǎn)生有偏見和有害的輸出。它們還可以防范通過人類語言和提示而不是代碼執(zhí)行的新一代攻擊。

專家組還探討了通用 LLM 防火墻是否能夠在所有行業(yè)中有效運作,還是需要定制化的問題。

Liew 特別提到了 AI Singapore 與政府機構(gòu)的轉(zhuǎn)錄項目,其中語音轉(zhuǎn)文本引擎根據(jù)每個機構(gòu)的需求進行了微調(diào)。他說,同樣地,LLM 防火墻應該經(jīng)過精心設計,以處理醫(yī)療保健和金融服務等特定場景。

在實施 LLM 防火墻方面,Jia 提倡采用包括輸入檢測、模型調(diào)優(yōu)和輸出過濾的多層次方法。

"輸入檢測在提示輸入模型之前檢測惡意輸入,模型調(diào)優(yōu)確保輸出與人類價值觀一致,輸出過濾檢測有害輸出,"Jia 說,同時他也承認在安全性和可用性之間取得平衡是一個挑戰(zhàn),呼吁采用能夠應對不斷演變的攻擊的自適應防御措施。

測試和基準測試對于確保 LLM 及其防火墻按預期工作至關重要。Chin 表示這個領域仍在發(fā)展中,需要完成的工作將取決于測試用例,并與防火墻將部署的行業(yè)(無論是銀行還是醫(yī)療保健)保持一致。他指出 Meta 的 CyberSecEval 和新加坡的 AI Verify 是可以幫助支持測試和基準測試工作的示例。

Liew 強調(diào)了在構(gòu)建和測試 LLM 時擁有多元化團隊的重要性。他說:"擁有跨不同學科的人才非常重要。確保團隊中有了解領域的人。你會驚訝地發(fā)現(xiàn),他們提出的問題是網(wǎng)絡安全工程師從未想到的。"

關于 LLM 防火墻是否會阻礙 AI 創(chuàng)新,Chin 表示,隨著模型上下文協(xié)議 (MCP) 等新興技術的采用 - 這是 Anthropic 開發(fā)的一個開放標準,允許 AI 代理與其他應用程序和數(shù)據(jù)源通信 - AI 代理可能會繞過 LLM 防火墻并開始與其他代理通信。他補充說:"我們必須讓創(chuàng)新蓬勃發(fā)展,并繼續(xù)建立應對挑戰(zhàn)的敏捷性。"

Chin 表示,LLM 防火墻將繼續(xù)發(fā)展,這是由代理式 AI 框架的興起推動的,組織,特別是大型企業(yè)和政府,將需要某種形式的防護機制或防火墻。就像網(wǎng)絡防火墻現(xiàn)在包括 Web 應用防火墻和終端防火墻一樣,他指出 LLM 防火墻可以采用部署在安全控制點和終端的硬件或軟件形式。

【版權(quán)聲明】:本站內(nèi)容來自于與互聯(lián)網(wǎng)(注明原創(chuàng)稿件除外),如文章或圖像侵犯到您的權(quán)益,請及時告知,我們第一時間刪除處理!
主站蜘蛛池模板: 日本高清色视频www 日本高清色本在线www游戏 | 亚色网站 | 91啦视频在线观看 | 97久久精品国产成人影院 | 2021久久最新国产精品 | 精品美女激情视频线播放 | 日本人视频18jizz免费 | 色男人的天堂久久综合 | 一区二区精品久久 | 国产中文在线 | 成人国产精品一级毛片视频 | 九九香蕉 | 机机对机机在线观看 | 免费一级a毛片在线播出 | 欧美成人免费一区在线播放 | 国产精品v欧美精品v日韩精品 | 日本中文在线 | 日本韩国一级 | 性生生活三级视频在线观看 | 国内精品久久久久久久97牛牛 | 韩日在线播放 | 欧美日韩成人在线视频 | xx肥妇人爽妇网 | 亚洲欧美另类日本 | 欧美日韩高清在线观看一区二区 | 欧美成人国产一区二区 | 国产乱弄视频在线观看 | 超级碰碰碰精品色时视频 | 九九99久久精品影视 | 久久www免费人成看片入口 | 成年免费大片黄在线观看一 | 日本三级网站在线观看 | 在线观看a网站 | 国产亚洲福利一区二区免费看 | 性视频一级 | 国产亚洲欧洲一区二区三区 | 99在线观看精品 | 亚洲另类天天更新影院在线观看 | 欧美另类亚洲 | 日本不卡在线观看 | 野花日本mv视频 |