Le processeur Sohu personnalisé d'Etched offre une approche innovante de la conception de puces d'IA, offrant des performances dix fois supérieures à un coût inférieur à celui des GPU à usage général en se concentrant sur la spécialisation pour travailler avec des modèles d'IA transformateurs.
Puce Soohu
Solution unique pour les transformateurs
La startup Etched a introduit un processeur Sohu spécialisé optimisé pour travailler avec des modèles d’intelligence artificielle transformables tels que Llama 70B. Cette puce n'est pas conçue pour gérer universellement différents types de modèles d'IA, mais elle démontre des performances sans précédent lorsqu'elle travaille avec des Transformers, surpassant même les derniers GPU de NVIDIA et AMD des dizaines de fois.
Vitesse de traitement incroyable
Grâce à une architecture innovante spécialisée pour les modèles de transformateurs, le Sohu la puce est capable de traiter jusqu'à 500 000 jetons par seconde. Le serveur, équipé de huit processeurs Sohu, équivaut en performances à 160 GPU NVIDIA H100 modernes. Selon Etched, Sohu est 10 fois plus rapide et moins cher que les puces Blackwell (B200) récemment annoncées par NVIDIA.
Analyse de rentabilisation en faveur de la spécialisation
Etched plaide en faveur du passage à des puces personnalisées comme Sohu des coûts importants associés à la formation et à l’exploitation de modèles modernes d’intelligence artificielle. Compte tenu des milliards de dollars d’investissement dans ce domaine, même une modeste amélioration de 1 % de l’efficacité pourrait justifier la création de nos propres puces personnalisées qui sont bien meilleures que les GPU à usage général.
Glossaire
- Gravé est une entreprise innovante qui a développé un processeur Sohu spécialisé pour les modèles d'IA transformables.
- Sohu est la première puce optimisée exclusivement pour les modèles d'IA de transformateur, offrant des performances et une rentabilité sans précédent.
- Les transformateurs sont un type avancé d'architecture de réseau neuronal qui sous-tend les modèles de langage d'IA modernes tels que ChatGPT et GPT-3.
- Llama 70B - Grand modèle de langage d'IA avec 70 milliards de paramètres utilisés pour démontrer les capacités du processeur Sohu.
Liens
Questions répondues
Qu'est-ce qu'Etched et quelle est leur approche pour créer des processeurs IA ?
Quelle est la puissance des processeurs Sohu d'Etched par rapport aux puces NVIDIA ?
Pourquoi Etched pense-t-il que les puces IA dédiées sont meilleures que les GPU à usage général ?
Pourquoi Etched s'est-il concentré sur les modèles transformables ?
Quels sont les projets futurs d'Etched en matière de puces IA personnalisées ?
Hashtags
Enregistrer un lien vers cet article
Discussion sur le sujet – Etched annonce une puce IA révolutionnaire : plus puissante que 160 NVIDIA H100
La startup Etched a introduit une approche innovante pour créer des puces IA basées sur le principe ASIC. Leur puce phare Sohu promet des performances 160 fois supérieures à celles du NVIDIA H100, spécialisé dans les modèles d'IA transformateurs.
Derniers commentaires
8 commentaires
Écrire un commentaire
Votre adresse email ne sera pas publiée. Les champs obligatoires sont cochés *
Hélène
Une nouvelle incroyablement intéressante ! Je suis tout à fait d'accord que les processeurs dédiés comme le Sohu d'Etched pourraient être révolutionnaires pour les transformateurs et les modèles d'IA générative. 🤖 D'accord, les performances sont 10 fois supérieures à des coûts inférieurs à ceux des concurrents de NVIDIA - c'est tout simplement un potentiel explosif ! 💥
Григорий
Oui, les progrès ne s'arrêtent pas ! 🔥 Pour être honnête, la vérité flagrante est que les GPU à usage général n’ont pas beaucoup progressé ces dernières années. Peut-être que la spécialisation est vraiment la voie à suivre pour les tâches les plus exigeantes comme les énormes modèles de langage.
Ян
C'est un peu effrayant de penser que dans quelques années, tous les grands modèles d'IA fonctionneront sur des puces aussi spécialisées... 😰 C'est peut-être une vision trop radicale des auteurs de Sohu ? Toutefois, la flexibilité des solutions universelles reste toujours une priorité.
Марио
Et maintenant, je me demande à quel point il sera difficile et coûteux de former des modèles aussi spécialisés qu'à Sohu ? 🤔 Je doute que cela soit accessible au grand public... Mais les grandes entreprises et les services cloud bénéficieront certainement du transfert de tout vers des solutions personnalisées comme ces puces.
Збигнев
Tout a ses avantages et ses inconvénients, il est important de trouver un équilibre. 💯 D'une part, les solutions spécialisées comme Sohu promettent une grande efficacité pour des tâches spécifiques. Mais d'un autre côté, la polyvalence vous permet d'appliquer de manière flexible les technologies dans différents domaines. Selon moi, l’avenir réside dans une symbiose de puces/systèmes universels et spécialisés. 🧠
Рудольф
Feh, on a trouvé de quoi discuter ! 🙄 Toutes ces choses fantaisistes comme les discussions avec l'IA ne sont que de pures absurdités. A mon époque, on assemblait nous-mêmes les ordinateurs à partir de composants radio, c’est là que des progrès ont été réalisés ! Et les cancres d'aujourd'hui ne peuvent que remuer la langue... 😒
Анна
Oh, Rudolph, ne sois pas si grincheux ! 😄 Ne remarquez-vous pas à quel point nos vies ont changé grâce aux nouvelles technologies ? Oui, il y a des excès et du bruit inutile autour des tendances. Mais ne devrions-nous pas nous réjouir de véritables avancées telles que ces puces personnalisées ? 💡 Pour moi, cela ouvre des horizons complètement nouveaux pour l'IA !
Петр
Je suis d'accord, cela semble très prometteur. Mais nous ne devons pas oublier les risques potentiels et les conséquences négatives de technologies aussi puissantes et hautement spécialisées 🚧. Questions éthiques, sécurité, risques d’abus : il y a beaucoup de choses à considérer ici. Après tout, les progrès sont merveilleux, mais seulement s’ils sont réalisés de manière responsable.