F5攜手英特爾簡化AI服務(wù)安全性和交付

9月4日消息,F(xiàn)5日前宣布將為由英特爾驅(qū)動的人工智能(AI)部署提供強(qiáng)大的應(yīng)用安全和應(yīng)用交付能力。全新聯(lián)合解決方案通過將F5 NGINX Plus中的安全能力和流量管理功能,與英特爾發(fā)行版OpenVINO 工具套件及基礎(chǔ)設(shè)施處理單元(IPUs)的尖端優(yōu)化和性能相結(jié)合,從而為先進(jìn)的AI推理提供卓越的保護(hù)、可擴(kuò)展性和性能。

隨著企業(yè)越來越多地采用AI驅(qū)動智能應(yīng)用和工作流程,高效且安全的AI推理變得至關(guān)重要。這一需求通過結(jié)合可提供優(yōu)化并加速AI模型推理的OpenVINO工具套件,以及F5 NGINX Plus,以提供強(qiáng)大的流量管理和安全防護(hù)。

OpenVINO工具套件可簡化來自幾乎任意框架的模型優(yōu)化,實(shí)現(xiàn)“一次編寫,隨處部署”的特性。該工具套件對于旨在用最少代碼更改,創(chuàng)建可擴(kuò)展且高效的AI解決方案開發(fā)者而言尤為關(guān)鍵。

F5 NGINX Plus實(shí)現(xiàn)了增強(qiáng)這些AI模型的安全性和可靠性。作為反向代理服務(wù)器,NGINX Plus提供流量管理功能、確保高可用性,并提供主動健康檢查。同時,NGINX Plus能夠加速SSL終結(jié)和mTLS加密功能,保障應(yīng)用與AI模型之間的安全通信,同時性能不受影響。

為進(jìn)一步提升性能,英特爾IPUs將基礎(chǔ)設(shè)施服務(wù)從主機(jī)CPU卸載,釋放資源以供AI模型服務(wù)器使用。同時,IPUs能夠高效地管理基礎(chǔ)設(shè)施任務(wù),釋放資源以增強(qiáng)NGINX Plus和OpenVINO?模型服務(wù)器(OVMS)的可擴(kuò)展性及性能。

據(jù)介紹,該集成解決方案特別適用于邊緣應(yīng)用,例如視頻分析和物聯(lián)網(wǎng)等,對低延遲和高性能具有極高需求的領(lǐng)域。通過在英特爾IPU上運(yùn)行NGINX Plus,該解決方案有助于確保快速且可靠的響應(yīng),使其成為內(nèi)容分發(fā)網(wǎng)絡(luò)和分布式微服務(wù)部署的理想選擇。(宜月)

2024-09-04
F5攜手英特爾簡化AI服務(wù)安全性和交付
9月4日消息,F(xiàn)5日前宣布將為由英特爾驅(qū)動的人工智能(AI)部署提供強(qiáng)大的應(yīng)用安全和應(yīng)用交付能力。

長按掃碼 閱讀全文