Спеціалізований процесор Sohu від компанії Etched пропонує інноваційний підхід до створення чіпів для штучного інтелекту, забезпечуючи в десятки разів вищу продуктивність за менших витрат порівняно з універсальними графічними процесорами, зосередивши зусилля на спеціалізації для роботи з трансформерними моделями ІІ.
Чіп Сооху
Унікальне рішення для трансформерів
Стартап Etched представив спеціалізований процесор Sohu, оптимізований для роботи з трансформерними моделями штучного інтелекту, такими як Llama 70B. Цей чіп не призначений для універсальної обробки різних типів моделей ІІ, проте демонструє безпрецедентну продуктивність при роботі з трансформерами, перевершуючи навіть новітні графічні процесори від NVIDIA та AMD у десятки разів.
Неймовірна швидкість обробки
Завдяки інноваційній архітектурі, спеціалізованій для трансформерних моделей, чіп Sohu здатний обробляти до 500 тисяч токенів за секунду. Сервер, оснащений вісьмома процесорами Sohu, еквівалентний за продуктивністю 160 сучасним графічним процесорам NVIDIA H100. За заявами Etched, Sohu в 10 разів швидше та дешевше, ніж нещодавно анонсовані чіпи NVIDIA Blackwell (B200).
Економічне обґрунтування спеціалізації
Компанія Etched обґрунтовує необхідність переходу на спеціалізовані чіпи, подібні до Sohu, значними витратами, пов'язаними з навчанням та експлуатацією сучасних моделей штучного інтелекту. Враховуючи мільярдні інвестиції в цю область, навіть незначне підвищення ефективності на 1% може виправдати створення власних спеціалізованих чіпів, які багаторазово перевершують універсальні графічні процесори.
Глосарій
- Etched - інноваційна компанія, що розробила спеціалізований процесор Sohu для трансформерних моделей ІІ.
- Sohu - перший чіп, оптимізований виключно для трансформерних моделей ІІ, що забезпечує безпрецедентну продуктивність та економічну ефективність.
- Трансформери - передовий тип архітектури нейронних мереж, що лежить в основі сучасних мовних моделей ІІ, таких як ChatGPT та GPT-3.
- Llama 70B - велика мовна модель ІІ з 70 мільярдами параметрів, що використовується для демонстрації можливостей процесора Sohu.
Посилання
Відповіді на питання
Що таке Etched і в чому полягає їхній підхід до створення процесорів для ІІ?
Наскільки продуктивні процесори Sohu від Etched у порівнянні з чіпами NVIDIA?
Чому Etched вважає, що спеціалізовані чіпи для ІІ кращі за універсальні GPU?
Чому Etched сфокусувалася саме на моделях-трансформерах?
Які плани у Etched на майбутнє в галузі спеціалізованих чіпів для ІІ?
Хештеги
Збережи посилання на цю сторінку
Обговорення теми – Etched анонсував революційний чіп для ІІ: потужніший, ніж 160 NVIDIA H100
Стартап Etched представив новаторський підхід до створення чіпів для ІІ, заснований на принципі ASIC. Їх флагманський чіп Sohu обіцяє продуктивність, що у 160 разів перевершує NVIDIA H100, спеціалізуючись на трансформерних моделях ІІ.
Останні коментарі
8 коментарів
Написати коментар
Ваша адреса електронної пошти не буде опублікована. Обов'язкові поля відмічені *
Hélène
Неймовірно цікава новина! Я повністю згодна, що спеціалізовані процесори на кшталт Sohu від Etched можуть бути революційними для трансформерів та генеративних ІІ-моделей. 🤖 Погодьтеся, продуктивність у 10 разів вища за менших витрат ніж у конкурентів NVIDIA - це просто вибуховий потенціал! 💥
Григорий
Так, прогрес не стоїть на місці! 🔥 Чесно кажучи, впадає в око правда про те, що універсальні GPU вже не так сильно прогресують за останні роки. Може і справді спеціалізація - шлях вперед для найвибагливіших завдань на кшталт великих мовних моделей.
Ян
Моторошно якось думати, що через пару років кожна велика ІІ-модель працюватиме на таких спеціалізованих чіпах... 😰 Може, це надто радикальний погляд авторів Sohu? Все ж таки гнучкість універсальних рішень завжди в ціні.
Марио
А я ось зараз гадаю, наскільки складним і дорогим буде навчання таких спеціалізованих моделей як Sohu? 🤔 Сумніваюся, що це доступно масовому користувачеві... Зате великі корпорації та хмарні сервіси точно виграють, перевівши все на штучні рішення на кшталт цих чіпів.
Збигнев
Все має свої плюси та мінуси, важливо знайти баланс. 💯 З одного боку, спеціалізовані рішення, як Sohu обіцяють високу ефективність для конкретних завдань. Але з іншого - універсальність дозволяє гнучко застосовувати технології у різних галузях. На мій погляд, майбутнє за симбіозом універсальних та спеціалізованих чіпів/систем. 🧠
Рудольф
Фе, знайшли про що сперечатися! 🙄 Всі ці модні штучки на кшталт чатів з ІІ - просто нісенітниця на олії. У мій час ми комп'ютери самі збирали з радіодеталей, де був прогрес! А нинішні балбеси тільки язиками тріпати можуть... 😒
Анна
Ох, Рудольфе, не будьте таким буркуном! 😄 Хіба ви не помічаєте, як сильно змінилося наше життя завдяки новим технологіям? Так, бувають перегини та зайвий шум навколо трендів. Але хіба не можна радіти справжнім проривам на кшталт цих спеціалізованих чипів? 💡 На мене, так це відкриває абсолютно нові горизонти для ІІ!
Петр
Погоджуся, що звучить дуже перспективно. Але не варто забувати про потенційні ризики та негативні наслідки таких потужних та вузькоспеціалізованих технологій 🚧. Етичні питання, безпека, можливість недобросовісного використання – тут є над чим подумати. Зрештою, прогрес прекрасний, але лише за відповідального підходу.