Kostengünstiges LLM-Training vor Ort und besseres Inferencing
Durch die Auslagerung teurer HBM- und GDDR-Speicher auf kostengünstige Flash-Speicher wird der Bedarf an einer großen Anzahl teurer und stromhungriger GPU-Karten erheblich reduziert.
aiDAPTIV+ ermöglicht es Unternehmen, Knoten zu skalieren oder zu erweitern, um die Größe der Trainingsdaten zu erhöhen, die Trainingszeit zu verkürzen und die Inferenz zu verbessern - sogar vor Ort.
Phison aiDAPTIV+ LLM Training Integrated Solution
Nahtlose Integration mit GPU-Speicher
Die optimierte Middleware erweitert den GPU-Speicher mithilfe von aiDAPTIVCache um zusätzliche 320 GB (für PCs) bis zu 8 TB (für Workstations und Server). Dieser zusätzliche Speicher wird zur Unterstützung des LLM-Trainings mit geringer Latenz verwendet. Darüber hinaus bietet die hohe Ausdauerfunktion branchenführende 100 DWPD, wobei ein spezielles SSD-Design mit einem fortschrittlichen NAND-Korrekturalgorithmus zum Einsatz kommt.
Benutzerfreundlichkeit
Verwenden Sie eine Befehlszeile oder nutzen Sie die intuitive All-in-One-Suite aiDAPTIVPro, um LLM-Training durchzuführen. Dieses KI-Toolset ermöglicht die Eingabe in RAG und die Feinabstimmung für die Inferenz über eine intuitive grafische Benutzeroberfläche. Es kann zu Hause, im Büro, im Klassenzimmer oder im Rechenzentrum mit handelsüblicher Stromversorgung und Kühlung eingesetzt werden.
- Transparenter Drop-In
- Keine Notwendigkeit, Ihre KI-Anwendung zu ändern
- Vorhandene Hardware wiederverwenden oder Knoten hinzufügen
Trainieren und inferieren Sie Modelle beliebiger Größe vor Ort
Mit aiDAPTIV+ können Unternehmen Knoten hoch- oder skalieren, um die Trainingsdatengröße zu erhöhen, die Trainingszeit zu verkürzen und die Inferenz zu verbessern.
Behalten Sie die Kontrolle über Ihre Daten
Ermöglicht LLM-Training hinter Ihrer Firewall. Sie haben die volle Kontrolle über Ihre privaten Daten und können sich auf die Einhaltung der Datenhoheit verlassen.
Integrierte Speicherverwaltungslösung
Erleben Sie nahtlose PyTorch-Kompatibilität, ohne Ihre KI-Anwendung ändern zu müssen. Sie können ganz einfach nach Bedarf Knoten hinzufügen. Systemanbieter haben Zugriff auf AI100E SSD, Middleware-Bibliothekslizenzen und umfassenden Phison-Support, um eine reibungslose Systemintegration zu ermöglichen.
Unterstützte Modelle
- Llama, Llama-2, Llama-3, CodeLlama
- Vicuna, Falcon, Whisper, Clip Large
- Metaformer, Resnet, Deit base, Mistral, TAIDE
- Und viele weitere werden ständig hinzugefügt
Kostengünstig
Entlastet teuren HBM- und GDDR-Speicher zugunsten kostengünstiger Flash-Speicher. Macht eine große Anzahl teurer und stromhungriger GPU-Karten überflüssig. Außerdem bleibt die KI-Verarbeitung dort, wo die Daten erfasst oder erstellt werden, wodurch Kosten für die Datenübertragung zur und von der öffentlichen Cloud eingespart werden.
Hohe Ausdauer
Branchenführende 100 DWPD mit 5 Jahren Garantie
SLC NAND mit fortschrittlichem NAND-Korrekturalgorithmus
| PCN | AI100E | |||
| Kapazität (TB) | 320GB | 1TB | 2TB | |
| Formfaktor | M.2 2280 | M.2 2280, U.2 | ||
| Schnitstelle | PCIe 4.0 x4 | |||
| Flashtyp | SLC NAND Flash | |||
| Haltbarkeit | 80 DWPD | 100 DWPD | ||
| Garantie | 5 Jahre | |||
Für weitere Informationen und Anfragen wenden Sie sich bitte per E-Mail an das Zstor-Vertriebsteam unter:
