El procesador Sohu personalizado de Etched ofrece un enfoque innovador para el diseño de chips de IA, ofreciendo decenas de veces más rendimiento a un costo menor que las GPU de uso general al centrarse en la especialización para trabajar con modelos de IA transformadores.
Chip Soohu
Solución única para transformadores
El inicio grabado introdujo un procesador Sohu especializado optimizado para trabajando con modelos de inteligencia artificial transformables como Llama 70B. Este chip no está diseñado para manejar universalmente diferentes tipos de modelos de IA, pero demuestra un rendimiento sin precedentes cuando se trabaja con Transformers, superando decenas de veces incluso a las últimas GPU de NVIDIA y AMD.
Increíble velocidad de procesamiento
Gracias a una arquitectura innovadora especializada en modelos de transformadores, el Sohu El chip es capaz de procesar hasta 500 mil tokens por segundo. El servidor, equipado con ocho procesadores Sohu, tiene un rendimiento equivalente a 160 GPU NVIDIA H100 modernas. Según Etched, Sohu es 10 veces más rápido y más barato que los chips Blackwell (B200) recientemente anunciados por NVIDIA.
Caso comercial para la especialización
Etched defiende el cambio a chips personalizados como Sohu Costos significativos asociados con la capacitación y el funcionamiento de modelos modernos de inteligencia artificial. Teniendo en cuenta los miles de millones de dólares invertidos en esta área, incluso una modesta mejora del 1% en la eficiencia podría justificar la creación de nuestros propios chips personalizados que son muchas veces mejores que las GPU de uso general.
Glosario
- Grabado es una empresa innovadora que ha desarrollado un procesador Sohu especializado para modelos de IA transformables.
- Sohu es el primer chip optimizado exclusivamente para modelos de IA transformadores, que ofrece un rendimiento y una rentabilidad sin precedentes.
- Transformers son un tipo avanzado de arquitectura de red neuronal que sustenta los modelos de lenguaje de IA modernos como ChatGPT y GPT-3.
- Llama 70B: modelo de lenguaje de IA de gran tamaño con 70 mil millones de parámetros utilizado para demostrar las capacidades del procesador Sohu.
Enlaces
Preguntas respondidas
¿Qué es Etched y cuál es su enfoque para crear procesadores de IA?
¿Qué potencia tienen los procesadores Sohu de Etched en comparación con los chips NVIDIA?
¿Por qué Etched cree que los chips de IA dedicados son mejores que las GPU de uso general?
¿Por qué Etched se centró en modelos transformables?
¿Cuáles son los planes futuros de Etched para los chips de IA personalizados?
Hashtags
Guardar un enlace a este articulo
Discusion del tema – Etched anuncia un revolucionario chip de IA: más potente que 160 NVIDIA H100
Startup Etched ha introducido un enfoque innovador para la creación de chips de IA basados en el principio ASIC. Su chip insignia Sohu promete 160 veces el rendimiento del NVIDIA H100, especializado en modelos transformadores de IA.
Ultimos comentarios
8 comentarios
Escribir un comentario
Su dirección de correo electrónico no se publicará. Los campos obligatorios están marcados *
Hélène
¡Noticias increíblemente interesantes! Estoy completamente de acuerdo en que los procesadores dedicados como el Sohu de Etched podrían ser revolucionarios para los Transformers y los modelos de IA generativa. 🤖 De acuerdo, el rendimiento es 10 veces mayor a costos más bajos que los competidores de NVIDIA: ¡esto es simplemente un potencial explosivo! 💥
Григорий
¡Sí, el progreso no se detiene! 🔥 Para ser honesto, la verdad evidente es que las GPU de uso general no han progresado tanto en los últimos años. Quizás la especialización sea realmente el camino a seguir para las tareas más exigentes, como los enormes modelos de lenguaje.
Ян
Da un poco de miedo pensar que en un par de años todos los grandes modelos de IA funcionarán en chips tan especializados... 😰 ¿Quizás esta sea una visión demasiado radical de los autores de Sohu? Aún así, la flexibilidad de las soluciones universales siempre es un bien escaso.
Марио
Y ahora me pregunto qué tan difícil y costoso será entrenar modelos tan especializados como en Sohu. 🤔 Dudo que esto esté disponible para el usuario masivo... Pero las grandes corporaciones y los servicios en la nube definitivamente se beneficiarán al transferir todo a soluciones personalizadas como estos chips.
Збигнев
Todo tiene sus pros y sus contras, es importante encontrar un equilibrio. 💯 Por un lado, las soluciones especializadas como Sohu prometen una alta eficiencia para tareas específicas. Pero, por otro lado, la versatilidad permite aplicar tecnologías de manera flexible en diferentes áreas. En mi opinión, el futuro pasa por una simbiosis entre chips/sistemas universales y especializados. 🧠
Рудольф
¡Feh, encontramos algo sobre qué discutir! 🙄 Todas estas cosas sofisticadas como los chats con IA son pura tontería. En mi época, nosotros mismos montábamos las computadoras a partir de componentes de radio, ¡ahí es donde se lograron avances! Y los tontos de hoy sólo pueden mover la lengua... 😒
Анна
¡Oh, Rudolph, no seas tan gruñón! 😄 ¿No notas cuánto han cambiado nuestras vidas gracias a las nuevas tecnologías? Sí, hay excesos y ruidos innecesarios en torno a las tendencias. ¿Pero no deberíamos entusiasmarnos con avances reales como estos chips personalizados? 💡 ¡Para mí esto abre horizontes completamente nuevos para la IA!
Петр
Estoy de acuerdo en que suena muy prometedor. Pero no debemos olvidarnos de los riesgos potenciales y las consecuencias negativas de tecnologías tan poderosas y altamente especializadas 🚧. Cuestiones éticas, seguridad, posibilidades de uso indebido: hay mucho en qué pensar aquí. Después de todo, el progreso es maravilloso, pero sólo si se hace de manera responsable.