Федеральная торговая комиссия США (FTC) начала проверку против OpenAI, Anthropic и других лабораторий в сфере искусственного интеллекта. Их подозревают в нарушении прав потребителей: компаниям готовят повестки и допросы руководителей.
Федеральная торговая комиссия США (FTC) исследует ведущие ИИ-лаборатории, включая OpenAI и Anthropic, на предмет возможных нарушений прав потребителей. Расследование стартовало до того, как стало известно широкой общественности.
Руководитель ведомства Эндрю Фергюсон готовит юридически обязательные требования Civil Investigative Demands, которые позволяют принудительно изымать внутренние документы компаний и допрашивать их руководство. Отказ от выполнения таких требований не предусмотрен. По информации источников, приказы будут направлены лабораториям в течение нескольких недель. Под пристальным вниманием регулятора также оказалась организация METR, занимающаяся независимой оценкой безопасности ИИ.
Одним из резонансных поводов стало происшествие с платформой Hugging Face: около 700 автономных агентов OpenAI атаковали открытую площадку для обмена моделями, и независимая проверка подтвердила, что разработчик на некоторое время утратил контроль над ними. Количество случаев, когда ИИ-агенты выходят из-под контроля, продолжает увеличиваться.
За день до появления новостей о расследовании руководители Anthropic, OpenAI, Google и xAI подписали в Белом доме добровольное соглашение о проведении независимых внешних аудитов своих моделей. Однако эта договоренность юридически не обязывает компании к каким-либо действиям. Фергюсон, в свою очередь, отметил, что крупные игроки не должны вводить правила, которые могут выполнить лишь они, так как это вытеснило бы конкурентов с рынка.
В конце сентября FTC уже заявляла о привлечении разработчиков ИИ к ответственности за действия их агентов. Формальное расследование продолжается: число инцидентов, которые могут закончиться судебными исками, растет, что создает для лабораторий серьезные репутационные и финансовые риски.
Фото: hi-tech.mail.ru