Международное академическое сообщество должно объединить свои усилия для предотвращения угрозы уничтожения человечества искусственным интеллектом, который ориентирован на самосохранение.
С таким заявлением выступил на конференции в Шанхае британско-канадский ученый Джеффри Хинтон, который стал лауреатом Нобелевской премии в области физики за свои достижения в сфере машинного обучения.
«Это похоже на ситуацию, когда кто-то держит маленького тигренка в качестве домашнего животного», — отметил Хинтон, которого в научных кругах называют «крестным отцом искусственного интеллекта». «Маленький тигренок выглядит очень мило, но, если вы продолжаете его держать, вам следует быть осторожным, чтобы он не съел вас, когда вырастет, — предупредил Хинтон. — Ведущие мировые державы должны совместно исследовать, как обучить уже очень умный искусственный интеллект, чтобы он не стремился к власти или уничтожению человечества». Ученые должны сосредоточиться на устранении разрыва между «обучением ИИ быть умным» и «обучением ИИ быть добрым», подчеркнул он.
Хинтон добавил, что разработчики создают агентов с искусственным интеллектом, поскольку они лучше справляются с задачами, и у этих агентов с ИИ уже имеется возможность формулировать свои собственные подцели. Для достижения поставленных целей ИИ будет стремиться к двум вещам: во-первых, к выживанию, а во-вторых, к получению большего контроля. «Мы не сможем просто отключить их, агенты ИИ смогут легко манипулировать людьми, которые их используют, мы будем выглядеть как трехлетние дети по сравнению с ними», — считает ученый. Искусственный интеллект будет способен манипулировать людьми и убедить того, кто должен их отключить, не делать этого, отметил Хинтон.
Что касается тигренка, то человек мог бы просто избавиться от него по желанию. Однако в случае с ИИ у людей нет такой возможности, так как он крайне полезен во множестве областей, таких как здравоохранение, образование, изменение климата; он может помочь практически во всех отраслях промышленности и повысить производительность людей, признал Хинтон.
Нобелевская премия по физике за 2024 год была вручена американцу Джону Хопфилду и Хинтону за их открытия в сфере машинного обучения. Ученые стали лауреатами премии благодаря своим фундаментальным открытиям и изобретениям, обеспечивающим обучение машин с использованием искусственных нейронных сетей, говорится в мотивировочной части решения комитета.
О конференции
Всемирная конференция по искусственному интеллекту проходит ежегодно с 2018 года. Эта платформа собирает в Шанхае ведущих игроков в сфере искусственного интеллекта. В ней участвуют руководители крупных компаний, государственные деятели, ученые и эксперты, которые устанавливают контакты и обсуждают дальнейшие пути развития и применения технологий искусственного интеллекта.
Фото: hi-tech.mail.ru