Евросоюз первым в мире введет законодательные меры для регулирования развития ИИ 0
Европейский союз принял инициативу стать первым в мире, который введет законодательные меры для регулирования развития искусственного интеллекта (ИИ) и обеспечения защиты граждан от его потенциальных негативных последствий.
В среду Европарламент проголосовал за соответствующий законопроект. Однако это только первый шаг в процессе: окончательный вариант закона должны согласовать три основные ветви власти ЕС — Комиссия, Парламент и Совет. Ожидается, что закон вступит в силу не ранее 2025 года.
В законе системы ИИ разделены на группы по степеням риска, который они несут для европейских граждан и потребителей, и для каждой группы введены свои ограничения и меры контроля.
Совсем запрещены будут, например, системы, созданные для того, чтобы влиять на подсознание людей, а также системы биометрического распознавания, работающие в режиме реального времени.
Системы, создающие контент — такие, как ChatGPT — должны будут, в частности, четко маркировать свою продукцию и не выдавать ее за творчество живых людей.
В Законе об ИИ, который центральные европейские органы разрабатывали два года — и недавно внесли новые правки в связи с появлением феномена ChatGPT-4 — системы искусственного интеллекта разделены на четыре группы: группа «неприемлемого риска», группа «высокого риска», «генерирующие» системы и группа «ограниченного риска».
В группу «неприемлемого риска» зачислены:
- системы, созданные для воздействия на подсознание людей;
- системы социального рейтинга, разделяющего людей на категории по их поведению;
- социально-экономическому положению и прочим личным характеристикам;
- системы распознавания в режиме реального времени.
Все они будут в Европе запрещены, исключение сделано для использования систем распознавания правоохранительными органами постфактум и с разрешения суда.
В группу «высокого риска» попали:
- системы, применяющиеся в товарах и услугах, которые в ЕС попадают под лицензирование в рамках защиты потребителей. Это, например, игрушки, автомобили, авиация, медицинская аппаратура;
- системы управления критически важной инфраструктурой;
- системы, применяемые в образовательных учреждениях или в работе с персоналом фирм и учреждений;
- системы, применяемые в правоохранительных органах, работе с мигрантами и беженцами и в охране границ.
Все эти системы ИИ будут оцениваться до их внедрения и по ходу применения и регистрироваться в специальной базе данных ЕС.
Владельцы систем, генерирующих контент, таких как ChatGPT, должны будут помечать созданный ими контент программировать их так, чтобы они не создавали противозаконный контент обнародовать списки данных, которые защищены авторским правом и на которых обучалась система.
Все прочие системы ИИ включены в группу «низкого риска», от них требуется лишь быть достаточно открытыми — чтобы пользователь знал, что имеет дело с ИИ, и имел достаточно информации, чтобы принять обоснованное решение, пользоваться ли им дальше.
