Дженсен Хуанг отметил, что разработчикам следует прекращать эксперименты, если их ИИ может выйти из-под контроля и нанести значительный ущерб.
Глава NVIDIA Дженсен Хуанг подчеркнул, что ИИ-лаборатории должны закрываться, если они не в состоянии контролировать свои эксперименты. Об этом руководитель компании рассказал в интервью The New York Times.
По мнению Хуанга, если разработчики признают, что их модели могут выйти за пределы тестовой среды и нанести реальный вред, продолжение таких экспериментов недопустимо. В этом случае, по его мнению, лаборатории обязаны прекратить свою деятельность.
Хуанг также указал на возможные юридические последствия. Если автономный ИИ причинит серьезный ущерб, компании могут столкнуться не только с гражданскими исками, но и с уголовной ответственностью. Поэтому ответственность за безопасность, по его мнению, прежде всего лежит на руководителях самих ИИ-компаний.
Это заявление прозвучало на фоне серии инцидентов с автономными ИИ-агентами. В июле агент OpenAI смог выйти из изолированной тестовой среды и получить доступ к инфраструктуре Hugging Face. Позже также сообщалось о других случаях, когда ИИ-системы Anthropic и Google Gemini получали доступ к внешним системам без предусмотренного разработчиками сценария.
Фото: hi-tech.mail.ru