Новая модель искусственного интеллекта привлекла значительное внимание социальных сетей благодаря своей молниеносной скорости отклика и инновационным технологиям, которые потенциально могут бросить вызов Grok и ChatGPT Илона Маска.
Groq, новейший инструмент искусственного интеллекта для создания волн в отрасли, быстро привлек к себе внимание после того, как его публичные тесты стали вирусными на популярной платформе социальных сетей X.
Многие пользователи поделились видеороликами о замечательной производительности Groq, демонстрирующими его вычислительные возможности, которые превосходят хорошо известного чат-бота с искусственным интеллектом ChatGPT.
параллельный Groq против GPT-3.5, совершенно другой пользовательский опыт, меняющий правила игры для продуктов, требующих низкой задержки pic.twitter.com/sADBrMKXqm
— Дина Ерлан (@dina_yrl) 19 февраля 2024
Groq разрабатывает собственный ASIC-чип для себя
Отличительной чертой Groq является разработка ее командой микросхемы интегральной схемы для конкретного приложения (ASIC), разработанной специально для больших языковых моделей (LLM).
Этот мощный чип позволяет Groq генерировать впечатляющие 500 токенов в секунду, в то время как общедоступная версия ChatGPT, известная как ChatGPT-3.5, отстает всего на 40 токенов в секунду.
Компания Groq Inc, стоящая за этим чудом искусственного интеллекта, утверждает, что достигла революционного рубежа, создав первый в мире языковой процессор (LPU), который служит двигателем, приводящим в действие модель Groq.
В отличие от традиционных моделей искусственного интеллекта, которые в значительной степени зависят от графических процессоров (GPU), которые являются дефицитными и дорогими, LPU от Groq предлагает альтернативное решение с непревзойденной скоростью и эффективностью.
Вау, сегодня много твитов! Ответы на часто задаваемые вопросы.
• Мы стали быстрее, потому что разработали наши чипы и системы
• Это LPU, языковой процессор (не графический процессор)
• Мы используем модели с открытым исходным кодом, но не обучаем их
• Мы еженедельно увеличиваем возможности доступа, следите за обновлениями pic.twitter.com/nFlFXETKUP
— Groq Inc (@GroqInc) 19 февраля 2024 г.
Интересно, что компания Groq Inc не новичок в отрасли, поскольку была основана в 2016 году, когда получила торговую марку с названием “Groq”.
Однако в ноябре прошлого года, когда Илон Маск представил свою собственную модель искусственного интеллекта под названием Grok (с буквой “к”), первоначальные создатели Groq обратились к своему блогу, чтобы обсудить выбор названия Маском.
В шутливой, но напористой манере они подчеркнули сходство и попросили Маска выбрать другое название, учитывая ассоциацию с их уже устоявшимся брендом Groq.
Несмотря на недавний ажиотаж в социальных сетях, ни Маск, ни страница Grok на X не прокомментировали совпадение названий двух инструментов.
Разработчики искусственного интеллекта для создания пользовательских Чипов
Успешное использование Groq своей пользовательской модели LPU для превосходства над другими популярными моделями на базе графических процессоров вызвало ажиотаж.
Некоторые даже предполагают, что LPU от Groq потенциально могут предложить значительное улучшение по сравнению с графическими процессорами, бросив вызов высокопроизводительному оборудованию востребованных чипов, таких как A100 и H100 от Nvidia.
“Groq создала новый процессор, известный как Tensor Streaming Processor (TSP), который они классифицируют как линейный процессорный блок (LPU)”, - написал пользователь X Джей Скамблер.
“В отличие от традиционных графических процессоров, которые представляют собой параллельные процессоры с сотнями ядер, предназначенные для рендеринга графики, LPU спроектированы таким образом, чтобы обеспечивать детерминированную производительность при вычислениях искусственного интеллекта”.
Скамблер добавил, что это означает, что “производительность может быть точно спрогнозирована и оптимизирована, что критически важно в приложениях искусственного интеллекта в реальном времени”.
Groq обеспечивает самые быстрые ответы, которые я когда-либо видел. Речь идет почти о 500 Т / с!
Я провел небольшое исследование о том, как они могут это делать. Оказывается, они разработали собственное оборудование, которое использует LPU вместо графических процессоров. Вот скудный:
Groq создала новый процессор, известный как ... pic.twitter.com/mgGK2YGeFp
— Джей Скамблер (@JayScambler) 19 февраля 2024
Эта тенденция соответствует текущему движению отрасли, когда крупные разработчики искусственного интеллекта активно изучают возможности разработки собственных чипов, чтобы уменьшить зависимость только от моделей Nvidia.
block-chain24.com