Исследователь в области безопасности и разработчик под псевдонимом 0X0SOJALSEC сообщил об успешном обходе ограничений Apple, которые не позволяют использовать Neural Engine в чипах M4 для полноценного обучения моделей искусственного интеллекта.
Обычно нейронный движок Apple предназначен преимущественно для выполнения уже обученных моделей и ускорения работы ИИ-функций на устройстве. Однако энтузиасту удалось задействовать вычислительные возможности блока для решения более сложных задач, включая обучение трансформерных моделей с использованием обратного распространения ошибки.
Для этого был создан собственный компиляторный слой на базе Model Intermediate Language (MIL), который позволяет напрямую взаимодействовать с Neural Engine, минуя стандартные инструменты Apple вроде Core ML и Metal. Все данные во время работы хранятся в оперативной памяти, что помогает избежать задержек, связанных с записью на накопитель. Разработчик также реализовал обходной механизм, позволяющий автоматически перезапускать процесс обучения через команду exec() в случае зависания. Благодаря этому модель может продолжать работу с последней контрольной точки без потери прогресса.
Исходный код проекта уже опубликован на GitHub. По словам автора, первые испытания показали весьма высокую скорость работы: отдельные этапы обучения моделей типа transformer выполнялись на чипах M4 всего за несколько миллисекунд. Apple официально не предоставляет возможность обучать нейросети с помощью Neural Engine и позиционирует этот блок как решение для ускорения инференса. Однако проведенный реверс-инжиниринг показал, что аппаратные возможности чипов значительно шире, чем предполагалось ранее.
Эксперты отмечают, что подобный подход может сделать компьютеры Mac и планшеты iPad более привлекательной платформой для локальной разработки и тестирования небольших ИИ-моделей без необходимости использовать облачные сервисы.
Открытие также вновь поднимает вопрос о том, насколько большой потенциал скрыт в аппаратном обеспечении Apple и какие возможности могут оставаться недоступными из-за программных ограничений компании.