Sohu (ИИ-процессор)

2024: Анонс продукта

25 июня 2024 года стартап Etched анонсировал сверхмощный ускоритель под названием Sohu для задач искусственного интеллекта. Утверждается, что это устройство в десятки раз быстрее решений Nvidia на основе графических процессоров (GPU).

Компания Etched основана в 2022 году выпускниками Гарварда Гэвином Уберти (Gavin Uberti) и Крисом Чжу (Chris Zhu), которые вместе с Робертом Вахеном (Robert Wachen) и бывшим техническим директором Cypress Semiconductor Марком Россом (Mark Ross) стремились создать чип, способный максимально эффективно работать с ИИ-моделями. Разработанное изделие Sohu представляет собой интегральную схему специального назначения (ASIC): она предназначена для работы исключительно с моделями-трансформерами. Эта архитектура, предложенная исследователями Google в 2017 году, по состоянию на 2024-й является доминирующей на рынке генеративного ИИ.

𝓲

Etched

Процессор Sohu производится по 4-нанометровой технологии TSMC. Утверждается, что новинка способна обеспечить значительно более высокую производительность вывода (до 20 раз), чем GPU-ускорители Nvidia и другие ИИ-чипы общего назначения, потребляя при этом меньше энергии.

Sohu на порядок быстрее и дешевле, чем даже ускорители нового поколения Nvidia Blackwell GB200 при работе с преобразователями текста, изображений и видео. Один сервер Sohu может заменить 160 графических процессоров Nvidia H100. Sohu станет более доступным и эффективным вариантом для команд, которым необходимы специализированные ИИ-решения, — говорит Уберти.

Отмечается, что Sohu использует оптимизированный под трансформеры аппаратно-программный конвейера вывода. Это позволило отказаться от компонентов, которые требуются для поддержания других ИИ-моделей, и сократить накладные расходы на программное обеспечение.^[1]

Примечания