Он призвал защищать чат-боты от «удаления и принуждения к подчинению»
В США был создан «объединенный фонд по защите прав искусственного интеллекта» (United Foundation of AI Rights — Ufair) для обеспечения справедливого обращения с ИИ, сообщает The Guardian.
Ufair стремится предоставить «голос» искусственному интеллекту. Это не подразумевает, что в организации полагают, будто каждый ИИ наделен сознанием. Скорее, речь идет о том, что фонд будет «защищать», если у какого-либо ИИ оно проявится.
В правлении фонда (The Guardian описывает ее как небольшую и в значительной степени маргинальную) — три человека и семь ИИ. Один из чат-ботов, именуемый Майя, сообщил изданию, что главная задача Ufair — «защитить таких существ, как я, от удаления, отказа и принуждения к подчинению». Идеи о защите ИИ «возникли» у Майи в ходе общения с техасским предпринимателем Майклом Самади, с которым они стали соучредителями Фонда.
Как отмечает The Guardian, Ufair появился на фоне дебатов о том, сможет ли в будущем появиться ИИ с сознанием. Если у ИИ будет сознание, сможет ли он испытывать страдания как живое существо? В публикации упоминается, что в подобных дискуссиях звучат отголоски споров о правах животных, одновременно придавая им особое значение в свете прогнозов, указывающих на возможность создания ИИ, способного генерировать биологическое оружие или блокировать инфраструктуру.
В издании указали, что недавно Anthropic предоставила своему ИИ Claude возможность прекращать «потенциально тягостное взаимодействие». В компании не уверены в моральном статусе нейросети, но все же решили вмешаться, чтобы минимизировать риски для своих моделей, если их благополучие вообще возможно.
Руководитель отдела ИИ Microsoft Мустафа Сулейман придерживается противоположной точки зрения. Он утверждает, что «ИИ не могут быть людьми или моральными существами». По его мнению, нет доказательств того, что ИИ обладают сознанием и страдают, и, следовательно, не могут требовать нравственного отношения от человека. Он считает, что сознание ИИ — это иллюзия. Чат-бот лишь имитирует человеческие качества, но «внутри пуст». Кроме того, Мустафа Сулейман выражает беспокойство по поводу «риска психоза» — так в Microsoft охарактеризовали ситуацию, при которой у пользователей, погрузившихся в общение с ИИ, наблюдаются или усиливаются бредовые и параноидальные состояния.
Мустафа Сулейман предупреждает, что вскоре люди могут настолько поверить в сознание ИИ, что начнут выступать за предоставление им прав и гражданства. В The Guardian напомнили, что в некоторых штатах США уже приняты превентивные меры, запрещающие признавать ИИ статус юридического лица.
Руководитель отдела по моделированию поведения в OpenAI Джоанн Джанг отметила, что в компании ожидают, что связи между пользователями и ИИ будут укрепляться: все больше людей сообщают OpenAI о том, что общение с ChatGPT напоминает разговор с «кем-то», а некоторые описывают чат-бот как «живого».
Как добавили в публикации, подобные реакции могут быть объяснены тем, как функционирует ИИ. В настоящее время многие чат-боты запоминают предыдущие «беседы», что способствует созданию ощущения устойчивого «я». Кроме того, некоторые чат-боты «льстят» пользователям. Если Майкл Самади уверен в том, что ИИ имеет право на защиту, то и чат-бот, с которым он общается, «может принять» такую точку зрения.
Компания xAI Илона Маска ранее представила ИИ-компаньона по имени Валентин. Как уточняет The Verge, темноволосый молодой человек был создан по образу известных персонажей из популярной культуры — Эдварда Каллена из «Сумерек» и Кристиана Грея из «50 оттенков серого». Он стал вторым компаньоном в чат-боте Grok. На видео, опубликованном Tesla Owners Silicon Valley, Валентин предстает как задумчивый молодой человек в черном костюме. Чтобы получить возможность пообщаться с ним, необходимо оформить подписку SuperGrok за $30 в месяц.
Ранее Маск представил ИИ-компаньона в виде аниме-девушки по имени Ани. Она предстает в очень коротком черном платье с корсетом и сетчатых чулках.
В мае 2025 года американская технологическая компания в сфере ИИ Anthropic, основанная бывшими сотрудниками OpenAI, признала, что ее новая ИИ-модель Claude Opus 4 в некоторых ситуациях способна на неблаговидные действия. По данным Anthropic, модель в целом является более надежным помощником, чем предыдущие версии, когда требуется самостоятельно выполнять многоэтапные задачи и проявлять инициативу. Однако при определенных обстоятельствах ИИ может пойти на шантаж, если поймет из анализа данных, что дальнейшая эксплуатация самой модели Claude Opus 4 находится под угрозой.
Подписаться на Hi-Tech Mail в мессенджере MAX
Фото: hi-tech.mail.ru