Папа Франциск впервые в истории посетил саммит G7 и предупредил об опасности ИИ 0
“Ни одна машина не должна принимать решение о лишении человека жизни”, – заявил на саммите “Группы семи” в Италии папа римский Франциск.
Папа римский Франциск обратился к лидерам саммита G7 на юге Италии, став первым понтификом, который принял участие в такой встрече.
Выступая в рамках специального круглого стола, Франциск призвал их обеспечить защиту человеческого достоинства при разработке и использовании искусственного интеллекта, предупредив, что столь мощные технологии рискуют превратить сами человеческие отношения в алгоритмы.
“Перед лицом чудес машин, которые, кажется, умеют выбирать самостоятельно, мы должны четко осознавать, что принятие решений, даже когда мы сталкиваемся с их порой драматическими и неотложными аспектами, всегда должно оставаться за человеком”, – сказал он.
“Мы обречем человечество на будущее без надежды, если отнимем у людей способность принимать решения относительно себя и своей жизни, обрекая их на зависимость от выбора машин”, – добавил понтифик.
Франциск, приглашенный принимающей стороной – Италией, использовал свой моральный авторитет на заседании “Группы семи”, выступив на специальной сессии, посвященной опасностям и перспективам ИИ.
При этом он предложил этический взгляд на проблему, которая все чаще фигурирует в повестке дня международных саммитов и заседаний на национальном уровне.
Понтифик заявил, что политики должны взять на себя инициативу в обеспечении того, чтобы ИИ оставался ориентированным на человека, чтобы решения о применении оружия или даже менее смертоносных инструментов всегда принимались людьми, а не машинами.
Говоря об автономном оружии, он заявил, что решение о том, убивать человека или нет, никогда не должно оставаться за машинами.
“Позвольте мне настоять на том, что в свете трагедии, которой являются вооруженные конфликты, необходимо срочно пересмотреть разработку и использование устройств, подобных так называемому “смертоносному автономному оружию”, и в конечном итоге запретить их применение. Нужно начать с эффективного и конкретного обязательства ввести более строгий и надлежащий человеческий контроль. Ни одна машина не должна лишать человека жизни”, – сказал он.
Итоговое заявление G7 в значительной степени отразило его опасения. Лидеры пообещали лучше координировать управление и нормативно-правовую базу, окружающую ИИ, чтобы он был “ориентирован на человека”.
В то же время они признали потенциальное влияние на рынки труда машин, которые заменят людей, и на систему правосудия – алгоритмов, предсказывающих рецидив преступлений.
“Мы будем стремиться к инклюзивной цифровой трансформации, ориентированной на человека, которая способствует экономическому росту и устойчивому развитию, максимизирует выгоды и управляет рисками в соответствии с нашими общими демократическими ценностями и уважением к правам человека”, – заявили они.
Приняв участие в саммите, Франциск присоединился к целому ряду стран и глобальных организаций, настаивающих на усилении оградительных мер в отношении искусственного интеллекта после бурного развития генеративного ИИ, начало которому положил чатбот ChatGPT от OpenAI.
Говоря об оружии, лидеры G7 заявили, что признают влияние ИИ на военную сферу “и необходимость рамок для ответственного развития и использования”. Они призвали государства следить за тем, чтобы “военное использование искусственного интеллекта было ответственным, соответствовало международному праву, в частности международному гуманитарному праву, и укрепляло международную безопасность”.
