Ce nouvel outil gratuit vous permet d’entraîner facilement vous-même des modèles d’IA
Gigabyte a annoncé le lancement d'AI TOP, son utilitaire logiciel interne conçu pour offrir des capacités avancées de formation de modèles d'IA aux utilisateurs particuliers. Faisant sa première apparition au Computex de cette année, AI TOP permet aux utilisateurs de former et d'affiner localement des modèles d'IA d'une capacité allant jusqu'à 236 milliards de paramètres lorsqu'ils sont utilisés avec le matériel recommandé.
AI TOP est essentiellement une solution complète permettant d'affiner le modèle d'IA local, améliorant la confidentialité et la sécurité des données sensibles tout en offrant une flexibilité maximale et des ajustements en temps réel. Selon Gigabyte, l'utilitaire est livré avec une interface conviviale et a été conçu pour aider les utilisateurs débutants et expérimentés à naviguer et à comprendre facilement les informations et les paramètres. De plus, l'utilitaire comprend AI TOP Tutor, qui propose diverses solutions AI TOP, des conseils de configuration et une assistance technique pour tous les types d'opérateurs de modèles d'IA.
Actuellement, le logiciel prend en charge plus de 70 modèles LLM open source de Hugging Face, y compris des options populaires telles que Baichuan 2, Distill-GPT2, GLM4, Llama 2 et Llama 3. Bien que Hugging Face héberge plus de 770 000 modèles, la sélection d'AI TOP est limitée. par les contraintes de capacité de mémoire inhérentes au matériel des ordinateurs de bureau.
Le logiciel gratuit est optimisé pour le matériel Gigabyte, notamment les cartes mères, les SSD, les cartes graphiques et les alimentations. Les GPU pris en charge incluent la plupart des séries Nvidia GeForce RTX 40 de Gigabyte, les séries AMD Radeon RX 7900 et les séries Radeon Pro W7900 et W7800. Pour des performances optimales, Gigabyte a répertorié le matériel de marque AI TOP sur son site Web dédié , comprenant une alimentation, une carte mère, deux SSD et trois cartes graphiques.
La formation locale de modèles d'IA offre une confidentialité et une sécurité améliorées en conservant les données sur votre système, une rentabilité en évitant les frais de service cloud et un traitement plus rapide avec une latence réduite. Il permet la personnalisation et le contrôle de l'environnement de formation, permet des fonctionnalités hors ligne et permet une gestion évolutive des ressources matérielles.
Les utilisateurs bénéficient d'un retour d'information et d'une itération immédiats, éliminant les limitations de transfert de données et exploitant pleinement le matériel existant. Cette approche favorise l'apprentissage et l'expérimentation pratiques, ce qui la rend idéale pour les utilisateurs novices et expérimentés à la recherche d'une solution de formation en IA sécurisée, flexible et efficace.
Vous pouvez télécharger gratuitement l'utilitaire AI TOP depuis la page Web officielle de Gigabyte . Bien qu'il soit disponible pour tous les utilisateurs, il n'est pris en charge que sur les systèmes Linux.