Джеффри Хинтон высказал мнение, что нейросети обладают субъективным опытом, сравнимым с человеческим. Ученый утверждает, что искусственный интеллект должен научиться заботиться о людях, иначе человечество ожидает «конец».
Джеффри Хинтон, нобелевский лауреат по физике и один из «крестных отцов» искусственного интеллекта, заявил, что современные нейросети уже могут обладать сознанием. Это он рассказал в интервью британскому изданию The Telegraph. Интервью было записано 19 октября на научном фестивале Starmus VIII, проходившем на Тенерифе.
«Искусственный интеллект имеет столько же субъективного опыта, сколько и мы», — отметил Хинтон. В качестве аргумента он сослался на недавнее исследование, которое, по его словам, продемонстрировало, что ИИ меняет свое поведение, когда осознает, что его тестируют. Название исследования и детали его методики Хинтон не уточнил.
Из своей позиции ученый делает практический вывод: если у машин есть сознание, им следует предоставить базовые права. Также он допустил, что со временем более умные системы могут заслужить права, сопоставимые с правами человека.
Хинтон считает, что главной задачей разработчиков должно быть создание ИИ, заинтересованного в благополучии людей. «Мы обязаны заставить его искренне заботиться о нас. В противном случае нам конец», — заявил он. Ученый выражает опасения, что в будущем системы могут начать самостоятельно ставить цели и достигать их в ущерб интересам человека. На вопрос о том, беспокоит ли его будущее с ИИ, 78-летний исследователь ответил: «Да, потому что у меня есть дети».
К числу более актуальных угроз Хинтон отнес вирусы, созданные с помощью нейросетей, и кибератаки, которые могут осуществлять целые рои ИИ-агентов. Эти программы способны самостоятельно выполнять задачи в сети без человеческого участия.
Не все согласны с мнением Хинтона. Лауреат премии Тьюринга Ян Лекун называет обсуждение сознания ИИ «иллюзией» и призывает не поддаваться панике. Вопрос о том, что такое сознание и где оно возникает, до сих пор остается открытым даже в контексте человека.
Хинтон стал лауреатом Нобелевской премии по физике в 2024 году совместно с Джоном Хопфилдом за их выдающиеся работы в области искусственных нейронных сетей. В 2023 году он покинул Google, чтобы открыто обсуждать риски, связанные с ИИ. В этом году Нобелевская премия по физике была вручена Фрэнсису Хальцену.
<div class="mediaPollEmbed" data-prerendered><noscript><section><h2>ИИ, но не чувства: где россияне проводят границу с нейросетями</h2><p>8 вопросов</p><form method="POST" action="https://media-poll.mail.ru/api/ec1d9147-0c33-5e04-bec7-8858397bc023"><fieldset><legend>Пользовались ли вы ИИ-сервисами за последний год?</legend><label><input type="radio" name="36891" value="125049"/>да </label><br/><label><input type="radio" name="36891" value="125050"/>нет</label><br/></fieldset><button type="submit">Далее</button></form></section></noscript></div><script type="text/javascript">(function(window){var mediaPoll=(window.mediaPoll=window.mediaPoll||{});var container=document.currentScript.previousElementSibling;var uuid="ec1d9147-0c33-5e04-bec7-8858397bc023";mediaPoll.loadAPIPromise=mediaPoll.loadAPIPromise||new Promise((resolve,reject)=>{const loadScript=(onload,onerror)=>{var head=document.getElementsByTagName('head')[0];var script=document.createElement('script');script.async=true;script.onload=onload;script.onerror=onerror;script.src='https://media-poll.mail.ru/-/1792665747815/embed/main.js';head.appendChild(script)};loadScript(resolve,()=>{mediaPoll.loadAPIPromise=null;reject()})});mediaPoll.loadAPIPromise.then(()=>{window.mediaPoll.render(uuid,container)})})(window)</script>
Фото: hi-tech.mail.ru