Niestandardowy procesor Sohu firmy Etched oferuje innowacyjne podejście do projektowania chipów AI, zapewniając dziesięciokrotnie większą wydajność przy niższych kosztach niż procesory graficzne ogólnego przeznaczenia, koncentrując się na specjalizacji w pracy z transformacyjnymi modelami AI.
Układ Soohu
Unikalne rozwiązanie dla transformatorów
Startup Etched wprowadził wyspecjalizowany procesor Sohu zoptymalizowany pod kątem praca z transformowalnymi modelami sztucznej inteligencji, takimi jak Lama 70B. Układ ten nie jest zaprojektowany do uniwersalnej obsługi różnych typów modeli AI, ale wykazuje niespotykaną wydajność podczas pracy z Transformersami, przewyższając nawet najnowsze procesory graficzne NVIDIA i AMD dziesiątki razy.
Niesamowita prędkość przetwarzania
Dzięki innowacyjnej architekturze specjalizującej się w modelach transformatorów, Sohu chip jest w stanie przetworzyć do 500 tysięcy tokenów na sekundę. Serwer wyposażony w osiem procesorów Sohu ma wydajność równoważną 160 nowoczesnym procesorom graficznym NVIDIA H100. Według Etched Sohu jest 10 razy szybszy i tańszy niż niedawno zaprezentowane przez firmę NVIDIA chipy Blackwell (B200).
Uzasadnienie biznesowe specjalizacji
Etched uzasadnia przejście na niestandardowe chipy, takie jak Sohu znaczne koszty związane ze szkoleniem i obsługą nowoczesnych modeli sztucznej inteligencji. Biorąc pod uwagę miliardy dolarów inwestycji w tej dziedzinie, nawet niewielka poprawa wydajności o 1% może uzasadniać tworzenie własnych, niestandardowych układów, które są wielokrotnie lepsze niż procesory graficzne ogólnego przeznaczenia.
Słownik
- Wytrawione to innowacyjna firma, która opracowała specjalistyczny procesor Sohu do przekształcalnych modeli AI.
- Sohu to pierwszy chip zoptymalizowany wyłącznie pod kątem modeli AI transformatorów, zapewniający niespotykaną wydajność i opłacalność.
- Transformatory to zaawansowany typ architektury sieci neuronowej, który stanowi podstawę nowoczesnych modeli języków sztucznej inteligencji, takich jak ChatGPT i GPT-3.
- Lama 70B – Duży model języka AI z 70 miliardami parametrów użyty do zademonstrowania możliwości procesora Sohu.
Linki
Odpowiedzi na pytania
Czym jest Etched i jakie jest jej podejście do tworzenia procesorów AI?
Jak wydajne są procesory Sohu firmy Etched w porównaniu z chipami NVIDIA?
Dlaczego według Etched dedykowane chipy AI są lepsze od procesorów graficznych ogólnego przeznaczenia?
Dlaczego firma Etched skupiła się na modelach, które można przekształcać?
Jakie są plany firmy Etched na przyszłość dotyczące niestandardowych chipów AI?
Hashtagi
Zapisz link do tego artykulu
Dyskusja na ten temat – Etched ogłasza rewolucyjny układ AI: mocniejszy niż 160 NVIDIA H100
Startup Etched wprowadził innowacyjne podejście do tworzenia chipów AI w oparciu o zasadę ASIC. Ich flagowy układ Sohu zapewnia 160 razy większą wydajność niż NVIDIA H100 i specjalizuje się w transformacyjnych modelach AI.
Najnowsze komentarze
8 komentarzy
Napisz komentarz
Twój adres e-mail nie zostanie opublikowany. Wymagane pola są zaznaczone *
Hélène
Niesamowicie ciekawa wiadomość! Całkowicie zgadzam się, że dedykowane procesory, takie jak Sohu firmy Etched, mogłyby być rewolucyjne dla Transformers i generatywnych modeli AI. 🤖 Zgadzam się, wydajność jest 10 razy wyższa przy niższych kosztach niż konkurenci NVIDIA - to po prostu wybuchowy potencjał! 💥
Григорий
Tak, postęp nie stoi w miejscu! 🔥 Szczerze mówiąc, rażąca prawda jest taka, że procesory graficzne ogólnego przeznaczenia nie poczyniły dużego postępu w ostatnich latach. Być może specjalizacja naprawdę jest rozwiązaniem w przypadku najbardziej wymagających zadań, takich jak ogromne modele językowe.
Ян
Aż strach pomyśleć, że za kilka lat każdy duży model AI będzie działał na tak wyspecjalizowanych chipach… 😰 Może to zbyt radykalne podejście autorów Sohu? Jednak elastyczność uniwersalnych rozwiązań jest zawsze na wagę złota.
Марио
A teraz zastanawiam się, jak trudne i kosztowne będzie szkolenie tak wyspecjalizowanych modelek jak w Sohu? 🤔 Wątpię, żeby było to dostępne dla masowego użytkownika... Ale duże korporacje i usługi chmurowe na pewno na tym skorzystają, przenosząc wszystko na niestandardowe rozwiązania, takie jak te chipy.
Збигнев
Wszystko ma swoje wady i zalety, ważne jest, aby znaleźć równowagę. 💯 Z jednej strony specjalistyczne rozwiązania typu Sohu obiecują wysoką wydajność przy konkretnych zadaniach. Ale z drugiej strony wszechstronność pozwala elastycznie stosować technologie w różnych obszarach. Moim zdaniem przyszłość leży w symbiozie uniwersalnych i wyspecjalizowanych chipów/systemów. 🧠
Рудольф
Uff, znaleźliśmy powód do kłótni! 🙄 Wszystkie te fantazyjne rzeczy, takie jak czaty z AI, to po prostu czysty nonsens. Za moich czasów sami składaliśmy komputery z podzespołów radiowych i tam był postęp! A dzisiejsze głupki potrafią tylko machać językami... 😒
Анна
Och, Rudolfie, nie bądź takim zrzędą! 😄 Czy zauważyłeś jak bardzo zmieniło się nasze życie dzięki nowym technologiom? Tak, wokół trendów są przesady i niepotrzebny szum. Ale czy nie powinniśmy być podekscytowani prawdziwymi przełomami, takimi jak te niestandardowe chipy? 💡 Dla mnie otwiera to zupełnie nowe horyzonty dla AI!
Петр
Zgadzam się, że brzmi to bardzo obiecująco. Nie powinniśmy jednak zapominać o potencjalnych zagrożeniach i negatywnych konsekwencjach tak potężnych i wysoce wyspecjalizowanych technologii 🚧. Kwestie etyczne, bezpieczeństwo, możliwość nadużyć – jest tu o czym myśleć. W końcu postęp jest cudowny, ale tylko wtedy, gdy odbywa się on w sposób odpowiedzialny.