Израильским банкам разрешили использовать искусственный интеллект (ИИ) - но в строго заданных регуляторных рамках. Это следует из окончательного отчета межведомственной группы регуляторов, опубликованного в среду, 24 декабря.
В межведомственную группу входили Банк Израиля, Управление ценных бумаг, Управление рынка капитала, Управление содействию конкуренции и честной торговле (антимонопольное ведомство) и министерство юстиции. Она окончательно определила новые рамки для банков, страховых компаний и инвестиционных домов в Израиле при использовании ИИ.
Ключевая новость отчета призвана решить дилемму, которая до сих пор сдерживала широкое внедрение технологий глубокого обучения (Deep Learning). Речь идет о системах, способных принимать точные решения на основе огромных массивов данных, но логика их решений порой остается неясной даже для разработчиков.
Группа решила не блокировать использование таких технологий и одновременно утвердила компромиссную модель. Финансовые организации будут обязаны предоставлять "общее объяснение" логики и принципов работы системы, но не будут обязаны разъяснять клиенту, почему в его конкретном случае было принято то или иное решение (например, отказ в ипотеке или определенный кредитный рейтинг).
Исключение возможно лишь в редких случаях, когда риск особенно высок и отсутствуют адекватные альтернативы. Эта оговорка призвана гарантировать, что в критически важных для жизни клиента точках, где нет человеческого контроля, искусственный интеллект не станет "последней инстанцией", не несущей ответственности.
При этом технологический "зеленыи свет" сопровождается серьезной юридической ценой. В отчете однозначно сказано: вся ответственность за ущерб, причиненный клиенту в результате работы искусственного интеллекта, на 100% ложится на регулируемую финансовую организацию.
Это означает, что банки и институциональные структуры не смогут переложить ответственность на разработчиков алгоритмов или внешних поставщиков программного обеспечения. Более того, отчет вводит полный запрет на включение в клиентские договоры пунктов, ограничивающих ответственность финансовой организации в случае сбоя системы.
Еще один важный акцент отчета - борьба с вводящим в заблуждение маркетингом. Группа выявила растущую практику AI Washing (ИИ-отмывание) - ситуацию, когда компании заявляют об использовании искусственного интеллекта для привлечения инвесторов или клиентов, хотя за этими заявлениями не стоит реальная технология.
Новые правила требуют не просто раскрывать сам факт использования ИИ, но и передавать информацию простым, нейтральным и точным языком, без преувеличений ожидаемой пользы.
Помимо отношений между банком и клиентом отчет затрагивает системные вопросы корпоративного управления и конкуренции. Регуляторы рекомендуют финансовым организациям внедрять формализованную модель AI Governance - управление искусственным интеллектом, с четкими процедурами принятия решений, управления рисками и постоянного контроля систем, в зависимости от характера услуги и уровня риска.
В конкурентном аспекте отчет указывает на опасность избыточной концентрации: существует риск, что небольшие финансовые структуры не смогут конкурировать с крупными из-за высоких технологических барьеров входа либо что чрезмерная рыночная власть сосредоточится у ограниченного круга технологических гигантов, поставляющих ИИ-решения всей банковской системе. Группа предлагает рассмотреть меры по предотвращению таких конкурентных "узких мест".
В заключение отчет обращается к новым угрозам в сфере кибербезопасности и мошенничества, прежде всего к росту технологий дипфейков (Deepfake). Подделка голоса или видео клиентов может использоваться для сложных финансовых афер, и группа определяет это как системный риск. Рекомендация финансовым организациям - не ждать кризиса, а уже сейчас внедрять технологические инструменты для выявления дезинформации и попыток подмены личности.
Подробности на иврите читайте здесь