Блог

Европейский парламент принял свою позицию относительно Закона о регулировании искусственного интеллекта (ИИ). Правила обеспечат полное соответствие искусственного интеллекта, разработанного и используемого в Европе, правам и ценностям ЕС. Основная цель - разработка ИИ, сосредоточенного на безопасности, конфиденциальности, прозрачности, недискриминации, социальном благополучии и окружающей среде.

Что запрещает закон?

Документ устанавливает четкие обязательства для разработчиков и поставщиков ИИ на основе уровня риска, который может создать ИИ.

Запрещены системы ИИ с неприемлемым уровнем риска для безопасности людей, такие как:

· Системы биометрической идентификации в реальном времени в общественных местах;

· Удаленные «пост» биометрические системы идентификации (за исключением правоохранительных органов для уголовного преследования тяжких преступлений и только после судебного разрешения);

· Биометрические классификационные системы, использующие чувствительные характеристики (например, пол, раса, этническая принадлежность, гражданство, религия, политическая ориентация);

· Прогностические системы полиции (основанные на профилировании, местоположении или прежнем преступном поведении);

· Системы распознавания эмоций в правоохранительных органах, управлении границами, на рабочем месте и в учебных заведениях;

· Системы скрэппинга изображений лиц из интернета или изображений CCTV для создания баз данных распознавания лиц (нарушение прав человека и права на конфиденциальность).

Особое внимание уделяется системам социальных медиа:

· Системы, используемые для воздействия на избирателей и результаты выборов;

· Системы рекомендаций, используемые платформами социальных медиа.

Разработчики должны будут оценить и смягчить потенциальные риски (для здоровья, безопасности, основных прав, окружающей среды, демократии и правового государства) и зарегистрировать свои модели в Европейской базе данных до их запуска на рынок ЕС.

Генеративные системы искусственного интеллекта на основе таких моделей, как ChatGPT, также должны соответствовать требованиям прозрачности, раскрывая, что содержание было создано искусственным интеллектом, и обеспечивать гарантии против создания незаконного контента. Подробные сводки авторских данных, использованных для их обучения, также должны быть обнародованы.

Чтобы стимулировать инновации в ИИ и поддержать МСП, европейские законодатели добавили исключения для исследовательской деятельности и компонентов ИИ, предоставленных на основе лицензий с открытым исходным кодом.

Закон также продвигает так называемые песочницы регулирования, или реальные среды, созданные государственными органами для тестирования ИИ перед его внедрением.

Наконец, закон будет обеспечивать право граждан подавать жалобы относительно систем ИИ и получать объяснения относительно решений, основанных на системах ИИ с высоким уровнем риска, которые имеют значительное влияние на их основные права. И роль Управления ИИ ЕС также будет поручена мониторингу того, как регулируется ИИ.

Источник: https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf