近日，英偉達（Nvidia）已開始為其工業和機器人 Jetson 硬件平臺增添 "前沿 "生成式人工智能功能，這些功能可在設備內運行，而無需與云端通信。該公司聲稱，這些更新將使制造業、物流業和醫療保健業等領域的 10,000 多家英偉達客戶能夠更輕松地采用有望促進自動化的新興生成式人工智能功能。

生成式人工智能機器人

英偉達對其 Jetson 軟件的升級旨在簡化生成式人工智能在工業系統中的設計和操作。其目的是在不需要大量特定訓練數據的情況下，集成生成式人工智能功能。英偉達正在提供開發者工具，如預訓練模型、API 和微服務，這樣工程師就能在機器人、制造系統和物流網絡等邊緣設備中快速構建人工智能。使用現成的工具意味著工程師在為機器人或制造設備開發人工智能時不必完全從零開始。例如，生成式人工智能可以讓機器人理解自然語言指令，調整運行軌跡以避開障礙物，或者在裝配線上移動時識別產品缺陷--所有這一切都不需要大量的重新編程。同樣的工具還可以用來教無線傳感器追蹤倉庫中的資產，并自動提供庫存更新。用戶無需對系統重新編程，只需與機器人對話，就能教會它執行新任務。

這些更新建立在英偉達現有的Isaac機器人框架和面向工業設備的Metropolis平臺基礎上，已有成千上萬的客戶在使用這些框架和平臺。通過增強功能，可以無縫利用生成模型等新興人工智能技術。這包括訪問英偉達 全新的 Jetson Generative AI Lab，工程師可以在這里獲得優化的工具和教程，以部署從文本生成到可視化數據處理的 AI 創新。Nvidia 還將推出新的計算機視覺微服務和 API，讓開發人員能夠輕松地為自動化系統注入新一代人工智能功能。此外，一系列新的預構建人工智能模板將使工程師能夠快速采用為制造、檢測、物流等領域量身定制的模塊化組件，實現即插即用。將生成式人工智能等先進模型順利集成到邊緣設備中，對于充分發揮人工智能在各行各業的潛力至關重要。

英偉達負責嵌入式和邊緣計算的副總裁 Deepu Talla 表示："生成式人工智能將大大加快邊緣人工智能的部署，其泛化程度、易用性和準確性都將超過以往。我們在 Jetson 上對 Metropolis 和 Isaac 框架進行了有史以來最大規模的軟件擴展，結合變壓器模型和生成式 AI 的強大功能，滿足了這一需求。"

英偉達人工智能的優勢

將生成式人工智能納入英偉達的工業機器人領域，符合該公司當前的成功戰略，即在可行的情況下利用該技術。目前，英偉達 在涉及生成式人工智能的幾乎所有領域都投下了長長的陰影，而且沒有任何安于現狀的跡象。該公司最近展示了其 Grace Hopper CPU+GPU 超級芯片如何在 MLPerf 行業基準測試中超越任何對手。Nvidia 表示，MLPerf 測試的目的是讓用于提升 LLM 效率和推理處理能力的新 TensorRT-LLM 軟件更具吸引力。

TensorRT-LLM利用Nvidia的GPU和編譯器大幅提高了LLM的速度和可用性。基于 TensorFlow 的平臺最大限度地降低了編碼要求，并將性能優化卸載到軟件中。該公司的 TensorRT 深度學習編譯器和其他技術允許 LLM 在多個 GPU 上運行，而無需更改任何代碼。這兩項升級擴展了英偉達今年早些時候的生成式人工智能工作。從那時起，它就迅速擴大了運營規模，包括與 Hugging Face 合作開發訓練集群即服務（Training Cluster as a Service），這是一種用于簡化企業 LLM 創建的工具。