Специализированный процессор Sohu от компании Etched предлагает инновационный подход к созданию чипов для искусственного интеллекта, обеспечивая в десятки раз более высокую производительность при меньших затратах по сравнению с универсальными графическими процессорами, сосредоточив усилия на специализации для работы с трансформерными моделями ИИ.
Чип Сооху
Уникальное решение для трансформеров
Стартап Etched представил специализированный процессор Sohu, оптимизированный для работы с трансформерными моделями искусственного интеллекта, такими как Llama 70B. Этот чип не предназначен для универсальной обработки различных типов моделей ИИ, однако демонстрирует беспрецедентную производительность при работе с трансформерами, превосходя даже новейшие графические процессоры от NVIDIA и AMD в десятки раз.
Невероятная скорость обработки
Благодаря инновационной архитектуре, специализированной для трансформерных моделей, чип Sohu способен обрабатывать до 500 тысяч токенов в секунду. Сервер, оснащенный восемью процессорами Sohu, эквивалентен по производительности 160 современным графическим процессорам NVIDIA H100. По заявлениям Etched, Sohu в 10 раз быстрее и дешевле, чем недавно анонсированные чипы NVIDIA Blackwell (B200).
Экономическое обоснование специализации
Компания Etched обосновывает необходимость перехода на специализированные чипы, подобные Sohu, значительными затратами, связанными с обучением и эксплуатацией современных моделей искусственного интеллекта. Учитывая миллиардные инвестиции в эту область, даже незначительное повышение эффективности на 1% может оправдать создание собственных специализированных чипов, многократно превосходящих универсальные графические процессоры.
Глоссарий
- Etched - инновационная компания, разработавшая специализированный процессор Sohu для трансформерных моделей ИИ.
- Sohu - первый чип, оптимизированный исключительно для трансформерных моделей ИИ, обеспечивающий беспрецедентную производительность и экономическую эффективность.
- Трансформеры - передовой тип архитектуры нейронных сетей, лежащий в основе современных языковых моделей ИИ, таких как ChatGPT и GPT-3.
- Llama 70B - крупная языковая модель ИИ с 70 миллиардами параметров, используемая для демонстрации возможностей процессора Sohu.
Ссылки
Ответы на вопросы
Что такое Etched и в чем заключается их подход к созданию процессоров для ИИ?
Насколько производительны процессоры Sohu от Etched по сравнению с чипами NVIDIA?
Почему Etched считает, что специализированные чипы для ИИ лучше универсальных GPU?
Почему Etched сфокусировалась именно на моделях-трансформерах?
Какие планы у Etched на будущее в области специализированных чипов для ИИ?
Хештеги
Сохрани ссылку на эту статью
Обсуждение темы – Etched анонсировал революционный чип для ИИ: мощнее, чем 160 NVIDIA H100
Стартап Etched представил новаторский подход к созданию чипов для ИИ, основанный на принципе ASIC. Их флагманский чип Sohu обещает производительность, в 160 раз превосходящую NVIDIA H100, специализируясь на трансформерных моделях ИИ.
Последние комментарии
8 комментариев
Написать комментарий
Ваш адрес электронной почты не будет опубликован. Обязательные поля отмечены *
Hélène
Невероятно интересная новость! Я полностью согласна, что специализированные процессоры вроде Sohu от Etched могут быть революционны для трансформеров и генеративных ИИ-моделей. 🤖 Согласитесь, производительность в 10 раз выше при меньших затратах чем у конкурентов NVIDIA - это просто взрывной потенциал! 💥
Григорий
Да уж, прогресс не стоит на месте! 🔥 Честно говоря, бросается в глаза правда о том, что универсальные GPU уже не так сильно прогрессируют за последние годы. Может и вправду специализация - путь вперёд для самых требовательных задач вроде огромных языковых моделей.
Ян
Жутковато как-то думать, что через пару лет каждая большая ИИ-модель будет работать на таких специализированных чипах... 😰 Может, это чересчур радикальный взгляд авторов Sohu? Всё же гибкость универсальных решений всегда в цене.
Марио
А я вот сейчас гадаю, насколько сложным и дорогим будет обучение таких специализированных моделей как в Sohu? 🤔 Сомневаюсь, что это доступно массовому пользователю... Зато крупные корпорации и облачные сервисы точно выиграют, переведя всё на штучные решения вроде этих чипов.
Збигнев
Всё имеет свои плюсы и минусы, важно найти баланс. 💯 С одной стороны, специализированные решения как Sohu обещают высокую эффективность для конкретных задач. Но с другой - универсальность позволяет гибко применять технологии в разных областях. На мой взгляд, будущее за симбиозом универсальных и специализированных чипов/систем. 🧠
Рудольф
Фе, нашли о чем спорить! 🙄 Все эти модные штучки вроде чатов с ИИ - просто ерунда на постном масле. В моё время мы компьютеры сами собирали из радиодеталей, вот где был прогресс! А нынешние балбесы только языками трепать могут... 😒
Анна
Ох, Рудольф, не будьте таким ворчуном! 😄 Разве вы не замечаете, как сильно изменилась наша жизнь благодаря новым технологиям? Да, бывают перегибы и лишний шум вокруг трендов. Но разве нельзя радоваться настоящим прорывам вроде этих специализированных чипов? 💡 По мне, так это открывает совершенно новые горизонты для ИИ!
Петр
Соглашусь, что звучит очень перспективно. Но не стоит забывать о потенциальных рисках и негативных последствиях таких мощных и узкоспециализированных технологий 🚧. Этические вопросы, безопасность, возможность недобросовестного использования - здесь есть над чем поразмыслить. В конце концов, прогресс прекрасен, но только при ответственном подходе.