ЕС хочет ограничить использование искусственного интеллекта

15.04.2021, 12:41

0

0


фото: unsplash.com

Европейский союз обсуждает возможность запрета на использование искусственного интеллекта (ИИ) в нескольких сферах, таких как массовое наблюдение и социальные кредитные рейтинги, сообщило издание Politico со ссылкой на разработанный документ

Согласно проекту члены ЕС, например, должны будут создать оценочные комиссии для тестирования и проверки систем ИИ с высоким риском. А компании, которые разрабатывают или продают ИИ, подпадающие под ограничения, в том числе из других странах мира, могут быть оштрафованы до 4% их глобального дохода.

Согласно копии проекта, с которой ознакомился The Verge, проект предусматривает:

  • запрет на ИИ для «неизбирательного наблюдения», включая системы, которые напрямую отслеживают людей в физических средах или собирают данные из других источников;
  • запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения или личностных качеств;
  • специальное разрешение на использование «удаленных систем биометрической идентификации«, таких как распознавание лиц в общественных местах.
  • уведомления о взаимодействии человека с ИИ, если это не «очевидно из обстоятельств и контекста использования».
  • надзор за ИИ «высокого риска», которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например для найма на работу и судебных решений.
  • оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет производиться на проверенных «высококачественных» наборах данных.
  • создание «Европейского совета по искусственному интеллекту», состоящего из представителей всех стран ЕС.

Подписывайтесь на LIGA.Tech в Facebook: главные новости о технологиях

Некоторые пункты нуждаются в доработке, считают эксперты, опрошенные изданием. «Описания запрещаемых систем искусственного интеллекта расплывчаты и содержат непонятные формулировки, которые могут создать серьезные лазейки», – сказал The Verge Дэниел Леуфер, аналитик европейской политики Access Now. 

Кроме того, эксперты отмечают пробелы в таких пунктах, как социальное кредитование, которые, по их мнению, недостаточно регулируются в новом проекте – ИИ не должен решать, кто заслуживает доверия, а кто нет.

Другие аналитики отмечают, что власти наоборот лезут туда, куда им не стоило бы. Проект «представляет собой типичный брюссельский подход к новым технологиям и инновациям. Если есть сомнения, регулируйте», – отметил Омер Тене, вице-президент некоммерческой организации IAPP.

Пока неизвестно, какие изменения могут быть внесены в этот проект, поскольку власти ЕС готовятся к официальному релизу 21 апреля, после чего документ будут дорабатывать депутаты Европарламента и обсуждать в каждом государстве ЕС.

  • В Европе уже не впервые говорят о регулировании технологической отрасли. Так, власти ЕС хотят заставить Google и Facebook платить издателям за новости, а в начале года европейские политики вызвали глав техгигантов для обсуждения законов, ограничивающих их монополию. Судя по слухам, разрабатываемые законы будут предусматривать штраф в 10% дохода для технологических гигантов, чтобы ограничить их монополию. 

Подписывайтесь на LIGA.Tech в Telegram: только важное

Источник