隨著Deepseek大模型的橫空出世，預計對整個工業領域會產生顛覆性的影響力，尤其針對邊緣部署部分獨創動態剪枝與量化技術，DeepSeek大模型支持在邊緣設備低功耗運行（最低適配5 TOPS算力硬件），推理速度能夠提升3倍。 研華選擇了多款基于英偉達技術的邊緣AI產品，針對目前DeepSeek-R1 系列的不同蒸餾模型進行測試，下面讓我們來看下最新測試數據！ 微型邊緣端推理應用 算力100 TOPS 推薦型號： 基于ARM平臺AI Box：ICAM-540 /MIC-711 / MIC-713 支持DeepSeek-R1蒸餾模型版本： ☑ DeepSeek-R1-Distill-Qwen-1.5B ☑?DeepSeek-R1-Distill-Qwen-7B ☑?DeepSeek-R1-Distill-Llama-8B
DeepSeek-R1的發布讓大家度過了一個熱鬧的春節。DeepSeek用較低的成本，取得了跟OpenAI相同的效果，這也意味我們的客戶可以私有化部署與OpenAI能力接近的基座大模型。
近日，研華發布軌道交通車載 AI 工控機 ITA-560AGX Orin，基于NVIDIA Jetson AGX Orin芯片的優越性能，配備豐富的I/O接口，為軌道列車車載應用提供了專業、可靠的解決方案。
大型語言模型 (LLMs) 在生成式AI中迅速發展，通過轉變數據組織、檢索和分析，徹底改變企業知識管理方式。LLM微調增強了特定任務或領域，研華邊緣人工智能服務器解決方案通過1-4個GPU卡、AI SSD和開發工具包提供支持，使企業能夠經濟高效地進行LLMs的訓練，同時在邊緣處理以保證敏感數據的安全。
研華推出全新高速 NMC-6004FBD 網卡，基于NVIDIA? ConnectX-6網絡芯片, 具有雙端口100GbE 和光 Bypass 功能，搭載研華高端網絡安全平臺，能夠極大提升網絡效能，增強云和AI場景應用，滿足防火墻(NGFW) 及網關對高計算、高帶寬、高性能和可擴展性日益增長的需求。
