Первая в мире система прозрачности ИИ.
Сингапур стал первой державой на планете, которая собирается обязать технологические компании маркировать приложения с искусственным интеллектом специальными информационными этикетками — по аналогии с пищевыми продуктами. Министр цифрового развития и информации Джозефин Тео сообщила Reuters, что этикетки будут содержать информацию о предполагаемом использовании продукта, его ограничениях и различать «правильные» и «не совсем правильные» способы применения ИИ.
Сначала в Сингапуре будет внедрена добровольная система, затем будет оценена ее эффективность, и на основании этого примут решение о дальнейших действиях. Параллельно страна работает над созданием систем тестирования и аккредитации организаций для оценки ИИ-продуктов. Это часть стратегии по превращению Сингапура в нейтральный центр для ИИ-индустрии — уже объявлено о создании первой лаборатории OpenAI за пределами США и о сотрудничестве с Google DeepMind в сферах образования, здравоохранения и науки.
Как на упаковке продуктов указаны калории и белки, так и ИИ-продукты будут получать маркировку, раскрывающую их «потребительские свойства». По словам Тео, этикетки будут информировать пользователей о:
- Предполагаемом использовании (для каких задач предназначен ИИ);
- Ограничениях (где может произойти ошибка, при каких условиях он неэффективен);
- «Правильных» и «неправильных» сценариях применения (например, чат-бот для консультаций, а не для медицинской диагностики).
Регулятор будет оценивать, насколько такие маркировки снижают риски злоупотребления ИИ (дезинформация, дискриминация, утечка данных) и повышают прозрачность. После этого может быть введение обязательных требований.
Министр Тео также озвучила планы внедрить ИИ в 10 000 компаний и расширить его применение в производстве, медицине и финансах. Город-государство становится технологическим «швейцарским ножом» и выступает в роли «песочницы» для регулирования ИИ. Если система окажется успешной, другие страны (особенно в Азии и Европе) могут принять аналогичные стандарты для снижения риска фрагментации мирового рынка ИИ, где одни государства разрешают все, а другие устанавливают строгие запреты.
Фото: hi-tech.mail.ru