Модель, которую Anthropic решила не делать доступной для широкой публики, только что осуществила то, что под силу лишь немногим из лучших хакеров мира.
Группа специалистов из калифорнийской компании Calif смогла взломать ядро macOS на MacBook с чипом M5, воспользовавшись защитным механизмом, который Apple позиционировала как новый уровень безопасности. Речь идет о Memory Integrity Enforcement, или MIE: технологии, над которой Apple трудилась около пяти лет и анонсировала осенью 2024 года.
Основой данной технологии служит аппаратная функция ARM-процессоров под названием Memory Tagging Extension. Проще говоря, каждому участку памяти присваивается метка, и система физически не позволяет обратиться к «чужому» блоку.
Исследователи выявили сразу две уязвимости в macOS и объединили их в одну цепочку атаки. Первая уязвимость дала возможность записать данные в область, к которой обычный пользователь не имеет прав даже заглядывать. Вторая же превратила эту запись в средство для получения прав суперпользователя — root, то есть полного контроля над машиной: запуск любого кода, доступ к любым файлам, возможность делать что угодно. Причем атака начинается с совершенно обычного аккаунта без привилегий и не требует физического доступа к устройству.
Ключевую роль в поиске уязвимостей сыграла модель Claude Mythos Preview — экспериментальная версия нового поколения Claude, которая находится под контролем Anthropic и не подлежит выпуску. Разработчики опасаются ее распространения, так как она слишком эффективно обнаруживает проблемы безопасности. Mythos не изобретает новые методы атак с нуля — он функционирует иначе. После того как модель разобралась с определенным классом уязвимостей, она начинает находить схожие проблемы практически повсеместно и очень быстро.
Тем не менее, без участия живых специалистов ИИ не смог бы добиться успеха. Исследователи из Calif не просто нажимали кнопку — они взаимодействовали с моделью на каждом этапе. Один из них, Тай Зыонг, отметил: Mythos демонстрирует наилучшие в мире результаты по известным техникам, но в новых ситуациях пока не всегда справляется.
Эта атака, в свою очередь, требует локального доступа к компьютеру, то есть хакер должен уже находиться за вашим устройством или иметь доступ к вашему аккаунту. Но если объединить ее с другой уязвимостью, например, с удаленным выполнением кода через браузер, ситуация становится значительно более угрожающей.
Исследователи лично посетили штаб-квартиру Apple и передали 55-страничный отчет. Apple сейчас изучает найденные уязвимости, а подробности взлома Calif обещает раскрыть только после выхода патча — предположительно, он появится в одном из ближайших обновлений macOS. Месяцем ранее с помощью той же модели была обнаружена уязвимость в OpenBSD, а до этого — более ста серьезных уязвимостей в Firefox за всего две недели.
В индустрии уже начали говорить о предстоящей волне массового поиска уязвимостей с помощью ИИ, к которой разработчики программного обеспечения пока не готовы.
Также совсем недавно эксперт высказывал мнение по поводу того, заберет ли ИИ работу у людей. Подробности в статье.
Фото: hi-tech.mail.ru