Всего через 3 дня после запуска модели с 2,8 трлн параметров компания сосредоточила все доступные ресурсы на поддержании действующих пользователей
Искусственный интеллект020 июл 13:40
Китайская компания Moonshot AI приостановила регистрацию новых пользователей на потребительские подписки Kimi после релиза модели K3 из-за нехватки вычислительных мощностей. Это решение было принято всего через 3 дня после выхода: все доступные вычислительные ресурсы были переориентированы на поддержку уже зарегистрированных пользователей, чтобы сохранить для них прежний уровень доступа.
Kimi K3 получила обширный международный отклик после своего запуска: модель была отмечена представителями технологической индустрии, включая Илона Маска, а также продемонстрировала высокие результаты в ряде независимых тестов. Модель включает 2,8 трлн параметров и использует архитектуру MoE (Mixture of Experts, «смесь экспертов» — метод, при котором для обработки запроса активируется лишь часть параметров модели), а её контекстное окно достигает 100 млн токенов.
Интерес к продукту оказался выше ожиданий Moonshot AI и в первые 72 часа превысил возможности существующей инфраструктуры. Дополнительное внимание разработчиков привлекли результаты тестирования K3 в задачах программирования: генеральный директор Vercel Гильермо Раух опубликовал данные, согласно которым модель заняла первое место в оценке возможностей генерации интерфейсного кода.
Компания также планирует изменить структуру подписок после того, как восстановится возможность регистрации новых пользователей. Сервисы Kimi Web, Kimi App и Kimi Work будут отделены от Kimi Code, чтобы распределять вычислительные ресурсы между различными типами задач. Такой подход позволит отдельно учитывать нагрузку от программирования, анализа документов и других сценариев использования модели.
Kimi K3 требует значительных вычислительных мощностей при каждом запросе, поэтому рост числа пользователей быстро стал ограничением для инфраструктуры. Moonshot AI сообщила, что ускоряет развертывание нового оборудования, но не указала сроки полного восстановления доступности подписок.
Для китайского рынка искусственного интеллекта ситуация имеет двоякое значение. С одной стороны, высокий спрос демонстрирует, что китайские модели способны привлекать внимание разработчиков и пользователей за пределами страны. С другой стороны, нехватка вычислительных мощностей становится ограничением даже для компаний, достигнувших высокого уровня в разработке ИИ.
Darth SaharaИсточники:pandailyИскусственный интеллект0Искусственный интеллектКитайВычислительные мощностиДата-центрыMoonshot AIИИ-ускорителиKimi K320 июл 13:40
Источник