~您知道什么是英特爾® 深度學習部署工具包嗎？免費的您用不用？~在人工智能開發的時代，醫療影像AI的價值在于實現臨床醫生和影像醫生的高效合作。~下面就來看看使用了英特爾®?深度學習部署工具包，尤其是利用其中核心函數庫--英特爾®?MKL-DNN?優化經過訓練的?GE?解決方案后，提升了什么性能？~而這又會為下一代診斷掃描儀和智能醫療影像時代的人工智能部署指明什么樣的道路呢？~英特爾®?深度學習部署工具包幫助在英特爾®?架構上提供優化的推理性能，為臨床診斷掃描及其他醫療工作流賦能人工智能。
英特爾®?技術的深度學習解決方案的提出背景
醫療影像在診斷廣泛的醫療問題、規劃治療和評估治療效果方面的價值極高。與其他衛生保健和人口信息相結合，醫療影像數據也可以帶來新的見解與洞察，從而激發下一代的治療突破。深度學習和其他形式的人工智能（AI）具有巨大潛力，可簡化醫療影像工作流、增強影像質量并提高影像數據的研究價值。為了履行人工智能增強型醫療影像的承諾，開發人員和其他創新者必須在靈活的平臺上部署其人工智能解決方案，這些平臺無需提高成本即可為深度學習創新提供高性能和可擴展性。作為全公司人工智能革新計劃的一部分，英特爾在經濟、通用的英特爾®?架構上為高性能深度學習提供處理器、工具和框架。除了英特爾®?至強®?可擴展處理器和英特爾®?固態盤外，關鍵技術還包括英特爾®?深度學習部署工具包和面向深度神經網絡的英特爾®?數學核心函數庫（英特爾®?MKL-DNN）。通過這些技術，創新者可以按照優化方式，在來自各種框架和訓練平臺的各種英特爾架構上，輕松地部署和整合其深度學習模型。開發人員可以使用英特爾架構交付其創新產品，而不會為部署環境增加成本和復雜程度。英特爾和?GE (General Electric Company)?醫療集團利用?GE?的深度學習圖像分類解決方案探索英特爾®?技術。雙方發現，與基準版本的解決方案相比，使用英特爾®?深度學習部署工具包和英特爾®?MKL-DNN?優化經過訓練的?GE?解決方案后，可將吞吐量平均提高?14?倍，超過?GE?的吞吐量目標近六倍。這些發現為下一代診斷掃描儀和智能醫療影像時代指明了人工智能部署的途徑。
英特爾®?技術的深度學習解決方案的應用實例
對于醫療影像人工智能解決方案，部署架構必須提供適應繁忙放射科工作流的高推理吞吐量，同時不限制靈活性，也不會為部署環境增加不必要的復雜性和成本。訓練基礎設施與推理基礎設施有顯著不同，選擇高度優化的推理基礎設施可以大幅加快推理的吞吐量。采用英特爾®?技術的深度學習解決方案有助于在各種醫療影像應用中提供高吞吐量的推理。例如，浙江大學數學科學學院*?和浙江?DE?影像解決方案有限公司*?的開發團隊開發出一種深度學習解決方案，有助改善中國甲狀腺癌篩查。基于英特爾®?技術的解決方案檢查超聲影像來識別甲狀腺病變并進行分類。中國政府使用基于英特爾技術的深度學習解決方案擴展醫療系統的能力，以檢測可預防性失明的兩種常見病因。愛爾眼科醫院集團*（中國領先的眼保健醫院網絡）與醫療影像集成解決方案提供商?MiiS*?公司聯手創建在英特爾®?至強®?可擴展處理器上運行的云解決方案，將深度學習推理能力與?MiiS?的手持檢眼鏡整合在一起。
英特爾®?技術的深度學習解決方案的概述：英特爾® 深度學習部署工具包
1. 英特爾® 深度學習部署工具包簡介英特爾®?深度學習部署工具包是一套免費的工具，使用戶能夠優化深度學習模型，以加快英特爾®?處理器上的執行速度。該工具包從?Caffe*、Apache?MXNet*、TensorFlow*、Kaldi*?和其他常見的深度學習框架導入訓練模型，而不用考慮用于訓練模型的硬件平臺。英特爾®?深度學習部署工具包中含有面向深度神經網絡的英特爾®?數學核心函數庫（英特爾®?MKL-DNN），這是一個高性能庫，旨在加速多代英特爾處理器上的神經網絡原語、提高應用性能并縮短開發時間。英特爾®?MKL-DNN?還以獨立的開源軟件包形式提供。深度學習部署工具包是?Intel®?Computer?Vision?Software?Development?Kit（英特爾®?計算機愿景軟件開發工具包）的一個組件。
圖1：優化模型使用英特爾® 深度學習部署工具包和面向深度神經網絡的英特爾® 數學核心函數庫（英特爾® MKL-DNN），在臨床和研究環境中的企業“邊緣”為人工智能解決方案的實際部署提供出色的推理性能
2. 英特爾® 深度學習部署工具包優勢
由于工具包將常見的深度學習框架導入訓練模型，無需考慮訓練模型的硬件平臺，因此，開發人員可以使用統一的應用編程接口（API），將各種經過訓練的神經網絡模型與應用邏輯整合在一起。該工具包通過降低解決方案的總占用空間并優化基于英特爾®?架構的選定硬件來最大化推理性能。通過降低解決方案的總占用空間并優化基于英特爾®?架構的選定硬件來最大化推理性能。
該工具包還可增強模型以改善執行、存儲和傳輸，并支持與應用邏輯的無縫整合。開發人員還可以在目標硬件環境中測試和驗證他們的模型，以確認準確度和性能。最終可得到便于嵌入、占用空間小、性能優異的推理解決方案，以行業標準技術實現高吞吐量部署。
英特爾® 深度學習部署工具包推理性能檢驗
英特爾與GE?Healthcare（領先的醫療影像設備和其他醫療技術提供商）聯手檢驗一項?GE?深度學習解決方案的推理性能。在使用?Python*?編程語言和開源軟件（包括?TensorFlow?和?Keras*?深度學習庫）開發和訓練基于人工智能的新模型基礎上，英特爾人工智能優化專家與GE?的?CT?影像專家協作，使用英特爾®?深度學習部署工具包安裝和優化面向英特爾技術環境的解決方案并檢驗該解決方案的性能。針對節省成本的推理性能需求，設定了一個目標：使用英特爾®?至強®?處理器的四個或四個以下專用內核，每秒對?100?個影像進行分類。
運行該解決方案的系統由?2.20GHz?的英特爾®?至強®?處理器?E5-2650?v4?提供支持，配有?264?GB?內存和英特爾®?固態盤數據中心系列?480?GB，采用?CentOS?Linux*?7.4.1708。該系統位于英特爾在俄勒岡州希爾斯伯勒的數據中心健康和生命科學實驗室，使用受隱私保護的數據集，該數據集內包含?8,834?個?CT?掃描影像。
圖2：英特爾® 至強® 處理器 E-2650 在四個內核上的推理性能超過GE目標接近6倍，對于需要更多內核的解決方案演示了穩定的可擴展性能
結果令人印象深刻。由英特爾®?深度學習開發工具包和英特爾®?MKL-DNN?生成的優化代碼使推理吞吐量比同一系統上運行的基準?TensorFlow?模型平均提高了?14?倍，輕松滿足?GE?的性能目標。實際上，英特爾®?至強®?處理器?E5-2650?的單個內核的運行速度幾乎比?GE?的性能目標快?150%，該處理器的四個內核超出?GE?醫療性能目標近六倍（參見圖?2）。英特爾基準測試表明，新型英特爾®?至強®?鉑金?8180?處理器針對一系列人工智能工作負載的執行速度比上一代快?2.4?倍。
GE?Healthcare?首席工程師?David?Chevalier?表示：“我們希望將客戶的部署成本降低，因此，當在各種臨床應用環境中運行各種各樣的人工智能和影像處理任務時，需要高性能和靈活性。我們認為，英特爾的通用處理器、工具和框架可以提供一種經濟的方法，通過它可以在醫療影像領域按照有意義的新方式利用人工智能。”
英特爾® 深度學習部署工具包靈活的部署
英特爾®?至強®?處理器和深度學習部署工具包僅使用少數幾個?CPU?內核即可提供出色的推理性能，這使得創新者（如?GE?Healthcare）可以在同樣經濟的邊緣服務器基礎設施上，以高性能運行一個或多個人工智能解決方案，可處理重構、注冊、分段和降噪等本地影像處理任務。人工智能開發人員可以利用英特爾的性能調整框架和工具在英特爾架構上部署他們的推理解決方案，而無需考慮他們使用的開發和訓練環境。
英特爾處理器上基于?CPU?的推理使創新者（如?GE）可以靈活地更改推理發生位置。盡管醫療影像人工智能部署目前在本地服務器的推理設備上運行，下一代推理可能會移至內部或外部的云中或者掃描儀本身中（圖?3）。
總結
借助靈活的英特爾架構上的高推理吞吐量，創新者（如?GE?Healthcare）更接近于提供實用的醫療影像解決方案，利用深度學習和其他形式的人工智能來提高圖像質量、診斷能力和臨床工作流程。*?其他的名稱和品牌可能是其他所有者的資產。
文章摘自英特爾精英匯
歡迎聯系寶通集團咨詢英特爾產品信息
寶通集團聯系方式
咨詢熱線：0755-88603572
寶通官網：www.btibt.com
客戶垂詢郵箱：cuifang.mo@ex-channel.com
客戶垂詢QQ：1627678462
地址：深圳市福田區深南大道1006號國際創新中心C座11樓
郵編：518026
當前位置：
粵公網安備 44030402001885號
友情鏈接： 金沙古酒 | 中青寶 | 寶德控股 | 寶德計算 |