Документ направлен на укрепление доверия к компаниям, использующим ИИ, со стороны клиентов и инвесторов, а также окажет положительное влияние на обеспечение безопасности применения технологий на финансовом рынке.
Информация о перспективах использования ИИ в финансовом секторе, о том, какие преимущества он принесет россиянам и какие риски могут возникнуть, представлена в материале «Известий».
Что известно о кодексе этики по работе с ИИ
Сообщение о том, что ЦБ РФ утвердил ключевые принципы использования ИИ на финансовом рынке и подготовил проект кодекса этики для организаций сектора, было опубликовано на сайте регулятора 9 июля.
«Кодекс этики ИИ будет способствовать росту доверия к компаниям, использующим ИИ как со стороны клиентов, так и инвесторов, положительно повлияет на обеспечение безопасности применения технологии на финансовом рынке, позволит регулятору участвовать в наблюдении и анализе рисков, а также обеспечит более глубокое понимание специфики рисков, связанных с ИИ», — говорится в документе.
Согласно документу, большинство участников финансового рынка поддержали инициативу создания отдельного этического кодекса, который учтет специфику применения ИИ в сфере финансовых услуг.
ЦБ РФ предлагает использовать так называемые инструменты мягкого регулирования: рекомендации, руководства и стандарты, которые помогут компаниям развивать практики ответственного использования ИИ без введения дополнительных правовых барьеров. При этом регулятор продолжит работу по устранению препятствий в области обмена и оборота данных, включая обезличенные персональные данные, что, по мнению участников рынка, является одним из ключевых условий для развития ИИ в России.
Почему в ЦБ РФ решили разработать кодекс этики
Вопрос разработки и принятия Кодекса этики по работе ИИ давно обсуждается на IT и ИБ-рынке, отмечает в беседе с «Известиями» директор Центра консалтинга Angara Security Александр Хонин. По словам эксперта, крупнейшие технологические компании еще несколько лет назад при поддержке Аналитического центра при Правительстве РФ и Минэкономразвития создали Альянс в сфере ИИ и разработали «Кодекс этики в сфере ИИ», а также «Этические рекомендации по применению алгоритмов ИИ в работе цифровых сервисов».
— Обсуждение подобных документов ведется и на законодательном уровне, однако Кодекс этики в сфере ИИ так и не получил статус закона, — говорит специалист. — Банк России, как лидер цифровой трансформации, первым перешел от слов к делу и разработал отраслевой Кодекс этики по работе с ИИ.
По словам Александра Хонина, во многом этот шаг обусловлен правовой неопределенностью использования технологий ИИ в банковском секторе: применение алгоритмов искусственного интеллекта не определено нормативными требованиями регулятора. Этот пробел планируется устранить.
Кодекс необходим, чтобы создать доверенную и безопасную среду для стремительно развивающихся ИИ-технологий в финансах, не тормозя инновации, добавляет директор по ИИ «Группы Астра» Станислав Ежов. Он задает единые принципы: человекоцентричность, справедливость и прозрачность — и облегчает надзор за рисками, учитывая мировую практику регулирования.
— С точки зрения рынка появление кодекса от ЦБ может стать точкой отсечения между формально ИИ-продуктами и зрелыми решениями, реально встроенными в институциональные процессы, — говорит в беседе с «Известиями» архитектор национальных систем цифровой идентичности, заместитель гендиректора Центра биометрических технологий — оператора государственной Единой биометрической системы Евгений Семенов. — Это возможность для игроков не только соответствовать регуляторным требованиям, но и выстраивать более устойчивые, прозрачные и этичные модели цифрового взаимодействия с пользователями.
Каковы перспективы применения ИИ в финансовом секторе
По мнению ЦБ РФ, использование искусственного интеллекта открывает для финансовых организаций значительные возможности по повышению качества услуг, развитию персонализированных продуктов и оптимизации бизнес-процессов. Среди направлений применения технологии участники рынка выделяют автоматизацию аналитики, работу с большими данными, создание интеллектуальных финансовых ассистентов и развитие генеративного ИИ, включая большие языковые модели.
Сегодня банки активно внедряют искусственный интеллект в свою работу, подчеркивает Александр Хонин. Цифровые ассистенты и ИИ-аватары, анализ и обработка больших данных, автоматизация рутинных задач, управление рисками и персонализация услуг — это лишь небольшой перечень областей, где активно применяются новейшие технологии ИИ. Также алгоритмы ИИ анализируют транзакции в режиме реального времени и выявляют подозрительные активности, связанные с мошенничеством. Ряд крупных банков активно внедряет ИИ-технологии в системы кибербезопасности.
— Искусственный интеллект способен противостоять телефонным и кибермошенникам, которые активизировались в последние годы, и значительно повысить безопасность операций, — говорит директор направления Data Fusion Лиги Цифровой Экономики Александр Кобозев. — В целом внедрение прорывных технологий позволит улучшить качество обслуживания в банковской сфере и расширить спектр финансовых услуг.
При этом, как отмечает Александр Хонин, согласно положениям Кодекса от ЦБ, финансовая кредитная организация должна будет уведомить потребителя о взаимодействии с ИИ и предоставить возможность общаться с живым оператором. Потребитель сможет пересмотреть решение, принятое искусственным интеллектом, сотрудниками организации. Сегодня клиенты банков часто жалуются на немотивированные отказы в получении тех или иных услуг, опротестовать которые не представляется возможным.
Также Кодекс в целом призван повысить уровень доверия граждан к новым технологиям, учитывая факторы уязвимости клиентов (возраст, образование, ограниченные возможности и другие) и возможное влияние этих факторов на оказание услуг таким потребителям, подчеркивает эксперт.
Какие риски несет в себе внедрение ИИ в финансовом секторе
Между тем, как отмечается в докладе ЦБ РФ, широкое внедрение искусственного интеллекта связано с рядом рисков, включая угрозы утечки персональных данных, киберугрозы, возможные «галлюцинации» моделей, а также риски нарушения прав потребителей. Отдельно подчеркивается, что генеративный ИИ может быть использован мошенниками, например, для создания дипфейков и манипулирования информацией.
— Главные угрозы, связанные с внедрением ИИ в финансовом секторе, — утечки данных и кибератаки, ошибки алгоритмов и их необъяснимые решения, а также возможность злоупотреблений генеративными технологиями, — отмечает в беседе с «Известиями» Станислав Ежов. — Без должных мер это может подорвать доверие, увеличить финансовые потери и усилить дискриминационные эффекты.
Среди других угроз Александр Кобозев выделяет риск атак на персональные данные, которые могут быть использованы для обучения ИИ. Кроме того, у нейросетей, если соответствующие системы не до конца отточены, могут возникать различные ошибки, выливающиеся в выдачу некорректных или опасных рекомендаций. Также Кобозев обращает внимание на этические риски: возможность принятия предвзятых или дискриминационных решений алгоритмами.
Для того чтобы минимизировать эти угрозы, в финансовой сфере должны использоваться надежные модели генеративного ИИ, созданные с учетом требований к безопасной разработке на всех этапах жизненного цикла модели и набора данных, подчеркивает Александр Хонин. Кроме того, должна проводиться регулярная проверка качества датасетов и самих моделей ИИ.
— Управление рисками при разработке и использовании искусственного интеллекта необходимо рассматривать в рамках общей системы управления рисками в финансовой организации и включить системы ИИ в модели угроз, связанные с нарушением ИБ и операционной надежностью конкретного банка, — завершает эксперт.
Фото: hi-tech.mail.ru