M5S K144 - M5Stack LLM (großes Sprachmodell) Modul-Kit (AX630C)

Modul LLM Kit ist ein intelligentes modulares Kit, das sich auf Offline-KI-Inferenz- und Datenkommunikationsschnittstellenanwendungen konzentriert. Es integriert die Module Module LLM und Module13.2 LLM Mate, um die Offline-KI-Inferenz- und Dateninteraktionsanforderungen in verschiedenen Szenarien zu erfüllen.Modul LLM ist ein integriertes Offline-LLM (Large Language Model)-Inferenzmodul, das speziell für Endgeräte entwickelt wurde, die eine effiziente und intelligente Interaktion erfordern. Ob für Smart-Home-Anwendungen, Sprachassistenten oder industrielle Steuerungen, Modul LLM bietet eine reibungslose und natürliche KI-Erfahrung, ohne auf die Cloud angewiesen zu sein, und gewährleistet so Datenschutz, Sicherheit und Stabilität.Modul13.2 LLM Mate Modul bietet eine Vielzahl von Schnittstellenfunktionen, um die Systemintegration und -erweiterung zu erleichtern. Es erreicht eine gestapelte Stromversorgung mit dem LLM-Modul über die M5BUS-Schnittstelle; sein integrierter CH340N-USB-Konvertierungschip bietet eine USB-zu-seriell-Debugging-Funktionalität, während die Typ-C-Schnittstelle für die USB-Log-Ausgabe verwendet wird. Darüber hinaus arbeitet die RJ45-Schnittstelle mit dem integrierten Netzwerktransformator zusammen, um einen 100-Mbps-Ethernet-Port und einen seriellen Core-Port (zur Unterstützung von SBC-Anwendungen) zu erweitern; die FPC-8P-Schnittstelle verbindet sich direkt mit dem Modul LLM und gewährleistet eine stabile serielle Kommunikation; außerdem ist ein HT3.96*9P-Lötpad für DIY-Erweiterungen reserviert.Das LLM-Modul integriert das StackFlow-Framework zusammen mit den Arduino/UiFlow-Bibliotheken, so dass Edge Intelligence mit nur wenigen Zeilen Code implementiert werden kann. Angetrieben vom fortschrittlichen AiXin AX630C SoC-Prozessor und mit einer hocheffizienten NPU, die 3,2 TOPS mit nativer Unterstützung für Transformer-Modelle liefert, bewältigt es mühelos komplexe KI-Aufgaben. Ausgestattet mit 4 GB LPDDR4-Speicher (1 GB für Benutzeranwendungen und 3 GB für die Hardware-Beschleunigung) und 32 GB eMMC-Speicher unterstützt er das parallele Laden mehrerer Modelle und verkettete Inferenzen und gewährleistet so reibungsloses Multitasking. Mit einer Betriebsleistungsaufnahme von nur etwa 1,5 W ist es weitaus energieeffizienter als vergleichbare Produkte und damit ideal für den Langzeitbetrieb.Das Modul LLM ist mit mehreren Modellen kompatibel und wird mit dem großen Sprachmodell Qwen2.5-0.5B vorinstalliert, das über integrierte Funktionen wie KWS (Wake Word), ASR (Spracherkennung), LLM (großes Sprachmodell) und TTS (Text-to-Speech) verfügt. Es unterstützt auch apt-basierte schnelle Updates von Software- und Modellpaketen. Durch die Installation des openai-api-Plugins wird es kompatibel mit der OpenAI-Standard-API und unterstützt neben verschiedenen Anwendungsmodi auch Chat, Konversationsvervollständigung, Sprache-zu-Text und Text-zu-Sprache. Das offizielle apt-Repository bietet eine Fülle von großen Modellressourcen - darunter deepseek-r1-distill-qwen-1.5b, InternVL2_5-1B-MPO, Llama-3.2-1B, Qwen2.5-0.5B und Qwen2.5-1.5B - sowie Text-to-Speech-Modelle (whisper-tiny, whisper-base, melotts) und visuelle Modelle (wie yolo11 und andere SOTA-Modelle). Das Repository wird ständig aktualisiert, um die modernsten Modellanwendungen zu unterstützen und die Anforderungen komplexer KI-Aufgaben zu erfüllen.Das LLM-Modul-Kit ist Plug-and-Play-fähig und bietet in Verbindung mit dem M5-Host eine sofortige interaktive KI-Erfahrung. Benutzer können es nahtlos und ohne umständliche Einrichtung in bestehende intelligente Geräte integrieren und so schnell intelligente Funktionen aktivieren und die Geräteleistung verbessern. Dieses Produkt ist ideal für Offline-Sprachassistenten, Text-zu-Sprache-Konvertierung, Smart-Home-Steuerung, interaktive Roboter und mehr.Wesentliche MerkmaleOffline-Inferenz, 3,2 TOPS bei INT8-GenauigkeitIntegrierte KWS (wake word), ASR (Spracherkennung), LLM (large language model), TTS (text-to-speech)Parallele Multimodell-VerarbeitungIntegrierter 32 GB eMMC-Speicher und 4 GB LPDDR4-SpeicherEingebautes Mikrofon und LautsprecherSerielle KommunikationSD-Karten-Firmware-UpgradeUnterstützt ADB-DebuggingRGB-Status-LEDEingebautes Ubuntu-SystemUnterstützt OTG-FunktionalitätEntwicklungsplattformUiFlow1UiFlow2Arduino-IDE