happycoin.club
Компания Tether создала новую платформу искусственного интеллекта, предназначенную для запуска больших моделей ИИ на обычных устройствах. Она позволяет разработчикам точно настраивать модели ИИ непосредственно на смартфонах и потребительских компьютерах.
Новая платформа работает с моделями Microsoft BitNet и поддерживает кроссплатформенное обучение. Она также позволяет ускорять вывод результатов на потребительских графических процессорах и мобильных процессорах.
Первая кроссплатформенная платформа тонкой настройки LoRA для моделей BitNet Tether позволяет запускать языковые модели с миллиардом параметров на ноутбуках, смартфонах и потребительских графических процессорах.
И это действительно революционное предложение, поскольку сейчас многие разработчики вынуждены пользоваться вычислительными решениями корпоративного уровня, которые построены на специализированном оборудовании NVIDIA или крупных облачных платформах. Эксплуатация такой инфраструктуры по-настоящему затратная.
Новая платформа Tether работает на чипах Intel, AMD и Apple Silicon. Она также поддерживает мобильные графические процессоры Adreno, Mali и Apple Bionic.
Инженеры Tether продемонстрировали работу системы, обучив модели BitNet на смартфонах. Модель со 125 миллионами параметров завершила обучение на устройстве Samsung S25 примерно за 10 минут, используя биомедицинский набор данных. Тестирование также показало, что модель с 13 миллиардами параметров может работать на iPhone 16.
Производительность мобильных графических процессоров также улучшилась во время тестирования. На мобильных устройствах они обрабатывали рабочие нагрузки в два-одиннадцать раз быстрее, чем центральные процессоры. Это улучшение позволяет смартфонам выполнять задачи, которые ранее делали исключительно специализированные системы.
Генеральный директор Tether Паоло Ардоино подчеркнул, что их решение делает инструменты ИИ более доступными для более широкой аудитории и доказывает, что передовой ИИ может быть децентрализованным и инклюзивным.