Джеффри Хинтон высказал мнение, что нейросети уже обладают субъективным опытом, подобно людям. Ученый убежден, что искусственный интеллект должен быть обучен заботиться о человечестве, иначе людям «конец».
Нобелевский лауреат по физике Джеффри Хинтон, которого называют одним из «отцов» искусственного интеллекта, утверждает, что современные нейросети уже имеют сознание. Об этом он рассказал в интервью британскому изданию The Telegraph. Интервью состоялось 19 октября и было записано на научном фестивале Starmus VIII, проходившем на Тенерифе.
«Искусственный интеллект имеет столько же субъективного опыта, сколько и мы», — отметил Хинтон. В качестве примера он сослался на недавнее исследование, которое показало, что ИИ-системы изменяют свое поведение, когда понимают, что их тестируют. Название исследования и детали его методологии он не раскрыл.
На основе своей позиции ученый делает практический вывод. Если у машин есть сознание, то им нужно предоставить основные права. Хинтон также предположил, что со временем более продвинутые системы могут получить права, сопоставимые с правами человека.
По мнению Хинтона, главная задача разработчиков заключается в том, чтобы искусственный интеллект проявлял интерес к благополучию людей. «Мы должны заставить его искренне заботиться о нас. Если этого не сделать, нам конец», — предостерег он. Ученый опасается, что будущие системы смогут самостоятельно определять цели и достигать их в ущерб интересам человека. На вопрос о том, боится ли он будущего с ИИ, 78-летний исследователь ответил: «Да, потому что у меня есть дети».
К числу ближних угроз Хинтон отнес вирусы, созданные с помощью нейросетей, и кибератаки, которые могут осуществляться множеством ИИ-агентов. Так называются программы, способные самостоятельно выполнять задачи в интернете без участия человека.
Не все разделяют мнение Хинтона. Лауреат премии Тьюринга Ян Лекун считает разговоры о сознании ИИ «иллюзией» и призывает не поддаваться панике. Вопрос о том, что такое сознание и где оно возникает, ученые до сих пор не решили даже применительно к человеку.
Хинтон был удостоен Нобелевской премии по физике в 2024 году вместе с Джоном Хопфилдом за свои фундаментальные исследования в области искусственных нейронных сетей. В 2023 году он покинул Google, чтобы открыто обсуждать риски, связанные с искусственным интеллектом. В этом году Нобелевскую премию по физике получил Фрэнсис Хальцен.
<div class="mediaPollEmbed" data-prerendered><noscript><section><h2>ИИ, но не чувства: где россияне проводят границу с нейросетями</h2><p>8 вопросов</p><form method="POST" action="https://media-poll.mail.ru/api/ec1d9147-0c33-5e04-bec7-8858397bc023"><fieldset><legend>Пользовались ли вы ИИ-сервисами за последний год?</legend><label><input type="radio" name="36891" value="125049"/>да </label><br/><label><input type="radio" name="36891" value="125050"/>нет</label><br/></fieldset><button type="submit">Далее</button></form></section></noscript></div><script type="text/javascript">(function(window){var mediaPoll=(window.mediaPoll=window.mediaPoll||{});var container=document.currentScript.previousElementSibling;var uuid="ec1d9147-0c33-5e04-bec7-8858397bc023";mediaPoll.loadAPIPromise=mediaPoll.loadAPIPromise||new Promise((resolve,reject)=>{const loadScript=(onload,onerror)=>{var head=document.getElementsByTagName('head')[0];var script=document.createElement('script');script.async=true;script.onload=onload;script.onerror=onerror;script.src='https://media-poll.mail.ru/-/1792665747815/embed/main.js';head.appendChild(script)};loadScript(resolve,()=>{mediaPoll.loadAPIPromise=null;reject()})});mediaPoll.loadAPIPromise.then(()=>{window.mediaPoll.render(uuid,container)})})(window)</script>
Фото: hi-tech.mail.ru