Исследователи из Института Уорика совместно с сотрудниками из Имперского института Лондона и лабораторией Sciteb отыскали математическое решение, которое поможет банковскому и денежному сектору надзирать систему искусственного ума (ИИ) от принятия потенциально дорогостоящих и коммерческий нерентабельных решений. информация о работе возникла в журнальчике Royal Society Open Science.
У ИИ есть большущее количество возможных стратегий, из которых система выбирает одно верное. Также в этом пуле есть потенциально небезопасные методы, которые могут повлечь за собой лишние Издержки и даже штрафы. Неверный выбор ИИ может привести даже к бойкоту от возможных клиентов, если они выяснят причину ошибки.
Таковым образом, в критериях, когда решения все почаще воспринимает ИИ без вмешательства человека, существует глобальная причина узнать, при каких обстоятельствах система даст сбой либо сделает неверный выбор, чтоб вполне исключить этот риск.
Арифметики вводят такое понятие, как «неэтичный принцип оптимизации» (Unethical Optimization Principle), и высчитывают формулу для оценки его действия.
Предложенный нами «неэтичный принцип оптимизации» быть может применен для того, чтоб посодействовать регуляторам, сотрудникам компаний и иным отыскать проблемные методы, которые могут быть укрыты для огромным количеством других решений. Можно ждать, что в дальнейшем процесс оптимизации столкнется с алогичными и неправильными стратегиями собственных систем. Наша проверка обязана показать, где может появиться возможная ошибка в системе.
Роберт Маккей из Математического института Уорика
Маккей также добавил, что новенькая проверка, может быть, принудит переосмыслить работу ИИ в огромных стратегических местах.
Читать также
Парад планет — 2020: где глядеть, когда произойдет и что о этом гласит наука
Выяснилось, что принудило цивилизацию майя покинуть свои городка
Поглядите на Crew Dragon с нежданного ракурса: этот снимок сделал космонавт