LLM630 計算套件
大綱
LLM630 運算套件是一款針對邊緣運算和智慧互動應用的 AI 大型語言模型推理開發平台。套件主機板搭載愛信 AX630C SoC 處理器，整合 3.2 TOPs@INT8 算力的高效 NPU，提供強大的 AI 推理能力，可高效執行複雜的視覺（CV）和大型語言模型（LLM）任務，滿足各類智慧應用場景的需求。主機板也搭載 JL2101-N040C 千兆乙太網路晶片和 ESP32-C6 無線通訊晶片，支援 Wi-Fi 6@2.4G，可作為裝置網路卡，提供高速資料傳輸能力，實現 Wi-Fi 與乙太網路橋接功能。無論是透過有線連接進行大規模數據交換，還是透過無線通訊與遠端伺服器或其他智慧型裝置進行即時交互，該平台都能確保高效的數據交互。主機板還整合SMA天線接口，進一步提升無線訊號穩定性與傳輸距離，確保在複雜網路環境下穩定通訊。內建4GB LPDDR4記憶體（2GB用戶使用，2GB硬體加速專用）和32GB eMMC存儲，支援多種模型並行載入和推理，確保任務處理高效流暢。
此底板與主機板完美匹配，顯著擴展了 LLM630 計算套件的功能和適用性。它整合了 BMI270 六軸感測器，提供精準的姿態感知和運動偵測能力，適用於各種動態應用。內建 NS4150B D 類 amp揚聲器、麥克風和揚聲器介面支援高品質的語音輸入和音訊輸出，實現全雙工通訊模式，提升使用者互動體驗。底板還配備雙Grove接口以及LCD/DSI和CAM/CSI MIPI接口，方便擴展顯示器、相機模組等周邊。此外，底板整合了外置天線介面和千兆乙太網路端口，為設備提供靈活的網路連接和增強的無線性能。此外，裝置的使用者按鍵可實現開關機、模式切換等功能，提升裝置的易用性與互動性。底板的充電晶片和預留的電池插槽支援自訂電池配置，確保平台即使在沒有外部電源的情況下也能長時間穩定運作。整合的電池檢測晶片可即時監測電池狀態。 MicroSD卡插槽支援儲存擴展，並支援未來AI模型更新功能。雙USB Type-C介面不僅支援高效率的資料傳輸，還提供OTG功能，讓裝置連接更加靈活，確保高效率的資料交換和裝置連接。
LLM630運算套件支援StackFlow框架，開發者只需幾行程式碼即可輕鬆實現邊緣智慧應用，快速啟動各類AI任務。平台支援視覺辨識、語音辨識、文字轉語音、喚醒詞辨識等多種AI應用，並支援單獨呼叫或管線自動流轉，提升開發效率。此外，平台也支援Yolo11 DepthAnything等視覺模型、InternVL2.5-1B等多模態大模型、Qwen2.5-0.5/1.5B Llama3.2-1B等大型語言模型以及Whisper Melotts等語音模型，支援熱更新，未來也將持續支援最先進的熱門與大模型，確保社群識別與文化趨勢。 LLM630運算套件適用於安防監控、智慧販賣、智慧農業、智慧家庭控制、互動機器人、教育等領域，為邊緣智慧應用提供強大的算力和靈活的擴展能力。
1.1.LLM630 計算套件
1. 溝通能力
- 有線網路：配備JL2101-N040C千兆乙太網路晶片，可實現高速資料交換。
- 無線網路：整合支援Wi-Fi 32（6GHz）和BLE的ESP6-C2.4晶片，確保高效率的無線資料互動。
- 橋接功能：實現乙太網路到Wi-Fi的橋接，方便各種網路環境下的資料傳輸。
- 外接天線介面：SMA連接器用於外接天線，增強無線訊號穩定性與傳輸範圍。
2.處理器和效能
- 主 SoC：AXERA 的 AX630C，配備雙核心 Cortex-A53（1.2GHz）。
- NPU（神經處理單元）：提供3.2 TOPS@INT8（1.2T@FP16）的算力，高效處理AI推理任務（例如電腦視覺和大型語言模型推理）。
- 多模型並行：強大的處理能力支援同時載入和運行多個模型，非常適合複雜的邊緣智慧場景。
3.顯示與輸入
- 感測器：整合 BMI270 六軸感測器（加速度計 + 陀螺儀），用於運動偵測和姿勢感應。
- 聲音的：
- 內建 NS4150B D 類 amp改良劑
- 板載麥克風和揚聲器接口，可實現高品質音訊 I/O 和全雙工語音通信
- 接口：
- 外部顯示器的 LCD/DSI (MIPI)
- 用於相機模組的 CAM/CSI (MIPI)
- 使用者按鈕：提供電源控制、模式切換，增強設備互動性。
4.記憶
- 記憶體：
- 總共 4GB LPDDR4（2GB 用於使用者係統，2GB 專用於 NPU 等硬體加速器）
- 貯存：
- 32GB eMMC 用於儲存作業系統、AI 模型和應用程式數據
- MicroSD 卡插槽可用於擴展儲存空間和未來的 AI 模型更新
5. 電源管理
- 電池支援：
- 板載充電晶片和電池連接器，可自訂電池配置
- 電源監控晶片提供即時電池狀態回饋
- 電源供應：
- 支援USB Type-C電源輸入
- 無需外部電源即可使用電池供電延長運轉時間
6. GPIO 引腳和可編程接口
- 擴充接口：
- 兩個 Grove 端口，可輕鬆連接感測器和周邊設備
- 用於顯示器和相機的 MIPI DSI/CSI 接口
- 兩個 USB Type-C 端口，用於高速數據傳輸和 OTG 功能，增強連接性
- 開發和程式設計：
- 與 M5Stack 的 StackFlow 框架相容，以最少的編碼實現快速的邊緣 AI 應用程式開發
- 支援視覺、語音、文字等多種AI演算法與模型
7. 其他
- AI模型支援：
- 預先載入或可載入模型，例如 Yolo11、用於視覺的 DepthAnything、用於多模態的 InternVL2.5-1B 以及大型
- 語言模型（Qwen2.5-0.5/1.5B、Llama3.2-1B 等）以及用於語音的 Whisper Melotts
- 熱更新功能使平台能夠跟上最新的人工智慧發展
- 應用場景：
- 適用於安全監控、智慧零售、智慧農業、智慧家庭控制、互動式機器人、教育等
- 為廣泛的 AIoT 用例提供強大的運算能力和靈活的擴展能力
- 設備尺寸和重量：緊湊的外形，可輕鬆整合到各種應用程式和快速原型設計中。
規格
2.1. 規格
| 參數及規格 | 價值 |
| 處理器 | AX6300雙核心 Cortex A53 1.2 GHz 最大 12 TOPs @INT8，以及 4 TOPs @INT3.2 |
| 神經網路處理單元 | 3.2TOPs @ INT8 |
| 記憶體 | 4GB LPDDR4（2GB系統記憶體+2GB硬體加速專用記憶體） |
| 多媒體卡 | eMMC5 @ 1GB |
| 有線網路 | IL2101B-N040C @ 1GbE |
| 無線網路 | ESP32-C6 @ Wi-Fi6 2.4G |
| USB轉串口 | CH9102F @ USB轉串口 |
| USB轉OTG | USB 2.0 主機或設備 |
| 天線介面 | SMA內孔 |
| 音訊介面 | MIC 和 SPK 接頭 5P @ 1.25mm |
| 顯示界面 | MIPI DSI lx 2Lane MAX 1080p 0 30fps 0 1.25mm |
| 相機介面 | MIPI CSI lx 4Lane MAX 4K 0 30fps 0 1.25mm |
| 附加功能 | 可程式 RGB LED，用於低功耗控制、蜂鳴器、重設按鈕 |
| 電池管理 | 1.25mm規格電池接口端子 |
| 電池接口端子 | 4個高速空心杯電機 |
| 相容電池規格 | 3.7V鋰電池（鋰離子或鋰聚合物） |
| USB介面 | 2個TVPE-C介面（資料傳輸、OTG功能） |
| USB 電源輸入 | 5伏0安 |
| 格羅夫接口 | 端口A 接頭 4P 0 2.0mm（I2C） 端口C 接頭 4P 0 2.0mm（UART） |
| 儲存擴充介面 | 微型 SD 卡插槽 |
| 外部函數介面 | FUNC Header 8P @ 1.25mm 系統喚醒、電源管理、外部 LED 控制和 I2C 通訊等。 |
| 按鈕 | 2 個按鈕用於電源開/關、使用者互動和重置功能 |
| 感應器 | BMI270 0 6軸 |
| 製造商 | M5Stack科技有限公司 |
2.2. 模組尺寸
快速啟動
3.1.串口
- 將 LLM630 計算套件的 UART 介面連接到您的電腦。您可以使用 Putty 等調試工具透過串列埠登入設備終端進行調試和控制。 （預設：115200bps 8N1，預設使用者名稱為 root，密碼為 root。）
3.2.乙太網路
- LLM630 運算套件提供乙太網路接口，方便網路存取和功能偵錯。
3.3。 無線上網
- LLM630 運算套件採用板載 ESP32-C6 作為 Wi-Fi 晶片，可輕鬆連接到無線網路。
參考以下步驟開啟Wi-Fi並設定連線。使用前請先安裝配套的SMA外接天線。
核心配置
LLM630 計算套件中的預設網路設定工具是 ntmui。您可以使用 nmtui 工具輕鬆設定 Wi-Fi 連線。
尼姆圖伊
FCC 警告
美國聯邦通訊委員會警告：
未經合規負責方明確批准的任何變更或修改都可能導致使用者操作設備的權限失效。
本設備符合 FCC 規則第 15 部分的規定。操作須符合以下兩個條件：(1) 該設備不得造成有害幹擾，且 (2) 該設備必須接受收到的任何干擾，包括可能導致意外操作的干擾。
重要提示：
注意：本設備經過測試，符合 FCC 規則第 15 部分對 B 類數位設備的限制。這些限制旨在提供合理的保護，防止住宅安裝中的有害幹擾。
該設備產生、使用並可能輻射射頻能量，如果不按照說明安裝和使用，可能會對無線電通訊造成有害幹擾。但是，不能保證在特定安裝中不會發生幹擾。如果該設備確實對無線電或電視接收造成有害幹擾（可以透過關閉和開啟設備來確定），我們鼓勵使用者嘗試透過以下一項或多項措施來糾正幹擾：
- 重新調整接收天線的方向或位置。
- 增加設備和接收器之間的距離。
- 將設備連接到與接收器所連接的電路不同的電路上的插座。
- 請諮詢經銷商或經驗豐富的廣播/電視技術人員尋求協助。
FCC 輻射暴露聲明：本設備符合針對不受控制的環境規定的 FCC 輻射暴露限制。
文件/資源
 |
M5STACK LLM630 計算套件 [pdf] 使用者手冊 M5LLM630COMKIT、2AN3WM5LLM630COMKIT、LLM630 運算套件、LLM630、運算套件、套件 |