Учет и контроль: Европарламент и латвийский Сейм обуздывают искусственный интеллект 0
Законодатели Евросоюза и Латвии почти одновременно рассмотрели законы, посвященные ограничениям в применении искусственного интеллекта. В Европарламенте вопрос охватили максимально широко, а в Сейме — узко, лишь в отношении предвыборной агитации.
Европарламент одобрил Закон об искусственном интеллекте — первый в мире нормативный документ, посвященный ограничениям в использовании ИИ.
Проблема эта не только назрела, но уже и перезрела. Человечество ухватилось за ИИ, как дите малое — за игрушку, и пытается применить его во всех сферах, не задумываясь о последствиях. А они огромны, и формирование фальшивой действительности — лишь одно из них.
Закон, одобренный вчера Европарламентом, предусматривает различные меры защиты общества: от маркировки изображений, созданных нейросетью без непосредственного участия человека, до полного запрета некоторого контента. В частности, строго ограничивается использование индивидуальных, этнических или религиозных характеристик для идентификации людей или распознавания их эмоций.
Как пояснил евродепутат от Италии Брандо Бенифеи: «Мы запрещаем определять с помощью компьютеров, что чувствуют трудящиеся или студенты. У работодателя не будет возможности анализировать эмоции работника. Такая практика, по нашему мнению, недопустима в Европе».
Правда, там, где речь идет о безопасности, предусмотрены исключения. По этому вопросу были самые большие разногласия, отмечает «Евроньюс»: между Европарламентом, который стремился к ужесточению контроля за искусственным интеллектом, и государствами-членами ЕС, которые хотели дать своим силовым ведомствам допуск к системам ИИ для пресечения актов терроризма или торговли людьми.
Вот как прокомментировал это румынский европарламентарий Драгош Тудораке: «Мы обязали правоохранительные органы и спецслужбы обращаться за разрешением в суд, если им нужна такая технология. Мы ограничили сферу использования её очень строгим набором преступлений, в том числе тяжких, чтобы у правоохранительных органов не возникло соблазна постоянно использовать эту технологию в общественных местах».
Ожидается, что закон будет официального одобрен на политическом и техническом уровне в мае. В ноябре вступят в силу предусмотренные им запреты, а к 2027 году Закон об искусственном интеллекте полностью вступит в силу.
Что касается латвийского парламента, то он занялся ограничением использования ИИ сегодня. Но только в одной сфере — предвыборной агитации. Поправку к закону разработал президент Латвии Эдгар Ринкевич. Она обяжет все партии, если те используют в предвыборный период искусственный интеллект, четко это указывать. В противном случае их предвыборная кампания будет приостановлена.
В аннотации к законопроекту сказано: «Правам избирателей участвовать в честных и свободных выборах нельзя угрожать использованием систем искусственного интеллекта. Такие системы искусственного интеллекта в прочем мире уже используются для влияния и манипуляций избирательным процессом (…) а также для распространения дезинформации. У избирателей Латвии есть право знать, что из доступной избирателям информации в действительности есть предвыборный агитационный материал”.
Возможностей повлиять на умы избирателей с помощью ИИ очень много. Изучая профили пользователей в соцсетях, компьютерные программы собирают целые досье: интересы человека, уровень образованности, ценности, политические предпочтения. Это позволяет адресно обращаться к людям, подсовывать им целенаправленно созданные ролики, обращаться к ним при обсуждении определенных тем или напрямую в мессенджере, даже совершать звонки. Делают это специально созданные программы: пресловутый ИИ. В их арсенале — умелое создание фальшивок: «генерированный или манипулируемый образ, аудио— или видеосодержание, достоверно изображающее лица, предметы, места или другие субъекты или события, и пользователю они ошибочно кажутся аутентичными или подлинными».
Поправка Ринкевича требует отмечать материалы, созданные нейросетью, особой маркипровкой. Если какая–то партия использует ИИ для изготовления материалов, но не промаркирует их, она будет исключена из предвыборной агитации. Следить за процессом должно Бюро по предотвращению и борьбе с коррупцией (БПБК).
Конечно, жаль, что поправка Ринкевича касается только предвыборной агитации. Давно пора распространить маркировку «сделано нейросетью» на все видео-, аудио-, текстовые материалы и просто картинки, которые в безумном количестве выкидываются сегодня в публичное пространство. Как итог — массовая дезориентация людей, которые уже не в силах отличить вымысел от правды.
К слову, Ринкевич сам недавно стал объектом эксплуатации со стороны ИИ. Точней — мошенников, использовавших ИИ, чтобы создать фальшивый видеоматериал, в котором президент Латвии призывал людей инвестировать в какую-то инвестиционную платформу. Это видео распространялось в соцсетях, и бог знает сколько доверчивых жертв клюнуло на удочку аферистов.
Между прочим, если этих жуликов поймают, правоохранителям придется поломать голову, что им впаять. Как квалифицировать то, что нейросеть (которая не запрещена) заставила видеоизображение Ринкевича произносить то, что он не произносил? Это явно не «изготовление фальшивых документов». И — вон ведь, пожалуйста, по Интернету гуляют ролики, где известные лица поют песни, которых они в реальности не пели, но никого за это не сажают! В общем, наше криминальное законодательство не поспевает за современными технологиями — это факт.
Тем не менее, понятно, почему поправка Ринкевича обращена только к очень узкой сфере. Да потому что контроль за применением ИИ некому исполнять.
Даже сейчас, когда речь идет лишь о контроле за предвыборной агитацией, Бюро по предотвращению и борьбе с коррупцией (на которое его возложат), видимо, придется обращаться за консультациями в Латвийский университет, в центр противодействия кибератакам CERT, а то и в находящийся в Риге центр НАТО по стратегической коммуникации — STRATCOM.
Тем не менее, Латвии все равно скоро придется задуматься над созданием отдельной серьезной структуры, контролирующей использование ИИ не только перед выборами, а круглый год, и не только в агитационных материалах, а вообще всюду. Ведь закон, который принял вчера Европарламент и который вступит в силу с мая, надо будет исполнять.
