Один из ведущих игроков на рынке искусственного интеллекта не желает предоставлять больше свободы.
Пентагон угрожает прекратить сотрудничество с компанией Anthropic, которая занимает одну из лидирующих позиций в области разработки искусственного интеллекта. Как сообщается изданием Axios, ссылающимся на свои источники в ведомстве, причиной разногласий стало нежелание ИИ-гиганта ослаблять ряд ограничений на использование своих технологий военными.
По словам неназванного источника, среди всех компаний, с которыми Пентагон взаимодействует в области ИИ, Anthropic является самой «идейной» и опасается, что ее разработки могут быть применены во вред человечеству. Компания известна своей нейросетью Claude и Claude Code, а также технологиями, использующими ИИ в том числе для торговли акциями и решения других сложных задач, где традиционные компьютерные системы не могут заменить человека.
В прошлом году Anthropic объявила о получении контракта с Пентагоном на 200 миллионов долларов. Тогда компания охарактеризовала это как «новую главу в стремлении Anthropic поддерживать национальную безопасность США». Интересно, что теперь разработчик выступает против некоторых условий сотрудничества с оборонным ведомством.
По данным Axios, компанию беспокоят два аспекта: она не хочет ослаблять строгие ограничения на полностью автономные виды оружия, а также допускать массовую внутреннюю слежку по умолчанию. В частности, Anthropic выражает опасения относительно перспектив создания роев абсолютно автономных беспилотников, которые могут стать мощным оружием, способным дестабилизировать обстановку. Любое оружие, основанное на независимом от человека ИИ, потенциально не имеет границ в отношении вреда, который может причинить людям.
А массовая слежка может привести к тому, что власть начнет использовать собранные и обработанные искусственным интеллектом данные для выявления и нейтрализации своих политических противников.
Axios также указывает, что Anthropic обратилась к компании Palantir для уточнения информации о том, использовались ли ее технологии во время атаки США на Венесуэлу в начале января. Вероятно, Anthropic пыталась выяснить, применяли ли военные ее разработки в области ИИ во время нападения.
Фото: hi-tech.mail.ru