Il processore Sohu personalizzato di Etched offre un approccio innovativo alla progettazione dei chip AI, offrendo prestazioni decine di volte superiori a un costo inferiore rispetto alle GPU generiche e concentrandosi sulla specializzazione per lavorare con modelli di AI trasformativi.
Chip Soohu
Soluzione unica per trasformatori
La startup Etched ha introdotto un processore Sohu specializzato ottimizzato per lavorare con modelli di intelligenza artificiale trasformabili come Llama 70B. Questo chip non è progettato per gestire universalmente diversi tipi di modelli AI, ma dimostra prestazioni senza precedenti quando si lavora con Transformers, superando di decine di volte anche le ultime GPU di NVIDIA e AMD.
Incredibile velocità di elaborazione
Grazie ad un'architettura innovativa specializzata per i modelli di trasformatori, il Sohu il chip è in grado di elaborare fino a 500mila token al secondo. Il server, dotato di otto processori Sohu, equivale in termini di prestazioni a 160 moderne GPU NVIDIA H100. Secondo Etched, Sohu è 10 volte più veloce ed economico dei chip Blackwell (B200) recentemente annunciati da NVIDIA.
Caso aziendale per la specializzazione
Etched giustifica il passaggio a chip personalizzati come Sohu costi significativi associati alla formazione e al funzionamento dei moderni modelli di intelligenza artificiale. Considerati miliardi di dollari di investimenti in quest’area, anche un modesto miglioramento dell’1% nell’efficienza potrebbe giustificare la creazione di chip personalizzati che sono molte volte migliori delle GPU generiche.
Glossario
- Inciso è un'azienda innovativa che ha sviluppato un processore Sohu specializzato per modelli AI trasformabili.
- Sohu è il primo chip ottimizzato esclusivamente per i modelli di intelligenza artificiale dei trasformatori, offrendo prestazioni ed efficienza dei costi senza precedenti.
- Transformers sono un tipo avanzato di architettura di rete neurale che è alla base dei moderni modelli di linguaggio AI come ChatGPT e GPT-3.
- Llama 70B - Modello linguistico AI di grandi dimensioni con 70 miliardi di parametri utilizzato per dimostrare le capacità del processore Sohu.
Collegamenti
Domande con risposta
Cos'è Etched e qual è il loro approccio alla creazione di processori IA?
Quanto sono potenti i processori Sohu di Etched rispetto ai chip NVIDIA?
Perché Etched ritiene che i chip AI dedicati siano migliori delle GPU per uso generico?
Perché Etched si è concentrato sui modelli trasformabili?
Quali sono i piani futuri di Etched per i chip AI personalizzati?
Hashtags
Salva un link a questo articolo
Discussione sull'argomento – Etched annuncia il rivoluzionario chip AI: più potente di 160 NVIDIA H100
La startup Etched ha introdotto un approccio innovativo alla creazione di chip AI basati sul principio ASIC. Il loro chip Sohu di punta promette 160 volte le prestazioni della NVIDIA H100, specializzato in modelli di intelligenza artificiale trasformativi.
Ultimi commenti
8 commenti
Scrivi un commento
Il tuo indirizzo e-mail non sarà pubblicato. I campi obbligatori sono spuntati *
Hélène
Novità incredibilmente interessanti! Sono completamente d'accordo sul fatto che processori dedicati come Sohu di Etched potrebbero essere rivoluzionari per Transformers e modelli di intelligenza artificiale generativa. 🤖 D'accordo, le prestazioni sono 10 volte superiori a costi inferiori rispetto ai concorrenti NVIDIA: questo è semplicemente un potenziale esplosivo! 💥
Григорий
Sì, il progresso non si ferma! 🔥 Ad essere onesti, la verità lampante è che le GPU per uso generale non hanno fatto grandi progressi negli ultimi anni. Forse la specializzazione è davvero la via da seguire per i compiti più impegnativi come i grandi modelli linguistici.
Ян
È un po' spaventoso pensare che tra un paio d'anni ogni grande modello di intelligenza artificiale funzionerà su chip così specializzati... 😰 Forse questa è una visione eccessivamente radicale degli autori di Sohu? Tuttavia, la flessibilità delle soluzioni universali è sempre un fattore primario.
Марио
E ora mi chiedo quanto sarà difficile e costoso addestrare modelli così specializzati come a Sohu? 🤔 Dubito che questo sia disponibile per l'utente di massa... Ma le grandi aziende e i servizi cloud trarranno sicuramente vantaggio dal trasferimento di tutto a soluzioni personalizzate come questi chip.
Збигнев
Ogni cosa ha i suoi pro e i suoi contro, è importante trovare un equilibrio. 💯 Da un lato, soluzioni specializzate come Sohu promettono un'elevata efficienza per compiti specifici. D'altra parte, la versatilità consente di applicare in modo flessibile le tecnologie in diversi ambiti. A mio parere, il futuro risiede in una simbiosi di chip/sistemi universali e specializzati. 🧠
Рудольф
Feh, abbiamo trovato qualcosa su cui discutere! 🙄 Tutte queste cose fantasiose come le chat con l'intelligenza artificiale sono solo sciocchezze. Ai miei tempi assemblavamo noi stessi i computer partendo da componenti radio, ecco dove sono stati fatti i progressi! E gli stupidi di oggi sanno solo scodinzolare... 😒
Анна
Oh, Rudolph, non essere così scontroso! 😄 Non noti quanto è cambiata la nostra vita grazie alle nuove tecnologie? Sì, ci sono eccessi e rumore inutile attorno alle tendenze. Ma non dovremmo essere entusiasti di scoperte reali come questi chip personalizzati? 💡 Per me questo apre orizzonti completamente nuovi per l'intelligenza artificiale!
Петр
Sono d'accordo che sembra molto promettente. Ma non dobbiamo dimenticare i potenziali rischi e le conseguenze negative di tecnologie così potenti e altamente specializzate 🚧. Questioni etiche, sicurezza, potenziale di abuso: c'è molto a cui pensare. Dopotutto, il progresso è meraviglioso, ma solo se fatto in modo responsabile.