Глава корпоративного регулятора ASIC предупредил о рисках безопасности и конфиденциальности, связанных со «слепым доверием» к новым финансовым и регуляторным технологиям, таким как искусственный интеллект (ИИ) и аналитика данных.
Выступая сегодня на ежегодном форуме ASIC в Сиднее, Грег Медкрафт подчеркнул изменение ожиданий клиентов в ходе «четвертой промышленной революции».
В то время как финансовые и регуляторные технологии имеют потенциал для снижения затрат, расширения возможностей клиентов и улучшения их опыта, он предостерег от слепого доверия алгоритмам, лежащим в основе продуктов искусственного интеллекта и автоматизации.
«Поскольку мы видим потенциал автоматизированных финансовых услуг и роль искусственного интеллекта, нам нужно обратить внимание на алгоритмы, лежащие в основе этих услуг», — сказал Медкрафт.
«Эти алгоритмы должны быть прозрачными, чтобы их решения можно было оспорить, а не просто считать непрозрачными «черными ящиками».»
Это проблема, которая поразила федеральное правительство в последние месяцы, когда оно борется с последствиями своей спорной программы сопоставления данных Centrelink, которая опирается на алгоритм, который, по-видимому, генерирует высокий уровень ошибок.
Medcraft заявила, что использование технологий для предоставления клиентам большего контроля над услугами, а также их данными без надлежащего понимания связанных с ними рисков может привести к негативным результатам.
«Появятся новые каналы, по которым мошенничество может совершаться как внутри страны, так и за ее пределами», — сказал он.
«Растущее использование технологий для сбора, хранения и анализа данных увеличивает риск неправильного использования этих данных, а системы, используемые для сбора и хранения данных, подвергаются кибератакам.»
Конфиденциальность также является проблемой, сказал он, — данные могут храниться, использоваться и передаваться без согласия клиента.
По мере того как финансовая индустрия переходит в состояние, когда информация передается в режиме реального времени по мобильным и цифровым каналам, необходимо задуматься о ее фундаментальной основе, сказал Медкрафт.
«Мы вступаем в период, когда ответственное лидерство никогда не было более критичным, особенно для лидеров, которые управляют инновационными стратегиями будущего», — сказал он.
«Наши усилия должны быть сосредоточены на содействии как инклюзивности, так и доверию и уверенности. Наш будущий успех требует этого фундамента доверия, и это доверие не будет дано автоматически – оно должно быть действительно заработано.»
По его словам, задача ASIC состоит в том, чтобы создать среду, которая поощряет инновации, не ставя под угрозу доверие потребителей и инвесторов, а также рыночные операции.
Он уже открыл регуляторную песочницу, которая дает финтехам возможность тестировать новые технологии без необходимости обращаться за лицензией на финансовые услуги.
ASIC погружается в машинное обучение, аналитику
Однако, предупреждая о потенциальных рисках, связанных с новыми технологиями, Medcraft показала, что ASIC внедряет машинное обучение и аналитику данных в свои собственные операции.
Он внедряет аналитику в свои группы наблюдения, расследования и правоприменения, включая использование машинного обучения для выявления вводящего в заблуждение маркетинга, использование алгоритмов для выявления подозрительной торговли и аналитику социальных сетей для мониторинга определенных горячих точек.
«Мы разрабатываем программное обеспечение машинного обучения для использования в расследованиях, которое позволяет визуализировать соответствие паттернов в нашей базе данных доказательств, используя алгоритмы как для структурированных, так и для неструктурированных данных. Это позволяет нам визуально отображать отношения людей и организаций и создавать хронологию времени», — сказал он.
ASIC также пилотирует технологию Nuix для лучшей идентификации наиболее важных документов для судебных целей.
В настоящее время агентство набирает специалистов по анализу данных и поведенческой аналитике и разработало хранилище данных на основе динамики, управляемое новым главным управлением данных и советом по управлению данными.
Он также создает «лаборатории данных», которые предоставят как ASIC, так и, возможно, regtech компаниям доступ к «наборам данных, инструментам с открытым исходным кодом и среде для тестирования новых технологий».
