Первые устройства с новой технологией появятся в продаже осенью.
Новый чип NVIDIA RTX Spark может стать настоящим прорывом, однако его реальная эффективность может вызвать вопросы. Об этом рассказал Роман Душкин, генеральный директор компании-разработчика ИИ «А-Я эксперт».
Эксперт отметил, что крупные языковые модели, которые служат основой для ИИ, обычно используют облачные сервисы и дата-центры, где основные процессы проходят удаленно. Это позволяет не нагружать устройства пользователей и получать быстрые ответы.
«Если Nvidia создала аналогичный компактный чип, который можно установить в ноутбук, — это действительно прорыв. Но у меня есть сомнения, что это возможно», — заявил Душкин.
По его словам, возможностей ноутбука для оперативного ответа от нейросети может не хватить. Также он отметил, что для стабильной работы ИИ потребуется качественное охлаждение, чтобы устройство не перегревалось в процессе работы. Поэтому, по мнению эксперта, скорость ответа нейросети на запрос пользователя может оказаться ниже по сравнению с использованием облачных ИИ.
Душкин привел пример: студенты уже пытались установить локальную языковую модель на несколько серверов, но результат оказался неудовлетворительным. На любой вопрос нейросеть отвечала несколькими буквами раз в три секунды. «Поэтому трудно ожидать, что на ноутбуке она будет работать быстро», — добавил он.
Эксперт подчеркнул, что ноутбуки с чипом Nvidia найдут своего пользователя, особенно в тех областях, где важна конфиденциальность. В таком случае данные, обработанные нейросетью, не покинут устройство.
NVIDIA представила ARM-чипы RTX Spark 1 июня. Подробнее о новинке можно узнать в материале Hi-Tech Mail.
Фото: hi-tech.mail.ru