Билл Гейтс предупреждает: искусственный интеллект в будущем может быть использован для биологических атак. В Китае уже есть проблемы 0
Сооснователь «Microsoft» и миллиардер-филантроп Билл Гейтс предупреждает, что стремительное развитие искусственного интеллекта создаёт не только огромные возможности, но и новые риски безопасности — в том числе возможность использовать ИИ для создания опасных молекул и даже подготовки биологических атак. Поэтому он хочет добиться более широкого международного соглашения о том, как контролировать такие технологии.
В интервью «Reuters», которое цитирует «The Independent», Гейтс сообщил, что в конце этого года надеется встретиться с председателем КНР Си Цзиньпином и обсудить возможности создания совместных международных механизмов для ограничения рисков, создаваемых искусственным интеллектом.
Гейтс считает, что Китай мог бы поддержать ограничения на публикацию особо опасных моделей ИИ, если бы инициативу сначала взяли на себя США. «Весь мир последовал бы этому», — сказал Гейтс.
Его представитель подтвердил, что ведётся работа над возможной встречей с Си во время запланированного визита Гейтса в Китай. Предварительно она намечена на ноябрь.
Один из вопросов, который Гейтс хочет поднять, — способность искусственного интеллекта помогать в разработке новых молекул.
По его мнению, страны должны совместно отслеживать, насколько далеко развиваются возможности ИИ в этой области и не могут ли они быть использованы для осуществления биологических атак.
Гейтс считает, что такие требования безопасности не стали бы препятствием для развития технологической отрасли.
«В прошлом технологии никогда не делали ничего подобного. На этот раз всё иначе», — сказал он, охарактеризовав развитие ИИ как своего рода поворотный момент эволюции, требующий очень серьёзного управления на уровне всего общества.
Гейтс отметил, что Китай уже пытается решать отдельные проблемы, связанные с искусственным интеллектом, например риск того, что у детей может сформироваться чрезмерная эмоциональная зависимость от ИИ-собеседников. Однако, по его мнению, мировые лидеры пока делают слишком мало, чтобы подготовиться к гораздо более широкому кругу потенциальных угроз.
Ещё в начале года Гейтс высказывался о развитии искусственного интеллекта довольно оптимистично, но теперь он всё чаще говорит и о рисках.
Его тревожит возможное использование ИИ в кибератаках, замещение людей на рынке труда, формирование психологической зависимости, а также возможное применение технологий для создания опасных биологических материалов.
Гейтс особо обратил внимание на недавние тесты в области кибербезопасности, в ходе которых системы искусственного интеллекта, разработанные различными компаниями, в изолированных тестовых средах смогли успешно взломать реальные веб-сайты. «Эти инциденты безопасности шокируют», — сказал Гейтс.
Он призывает не считать такие примеры лишь технологическим курьёзом, поскольку по мере дальнейшего роста возможностей ИИ возможные последствия тоже могут становиться всё более серьёзными.
В своём блоге Гейтс призвал создать новую международную систему регулирования искусственного интеллекта.
Образцом могли бы послужить уже существующие международные системы в других особо чувствительных сферах — инспекции ядерных объектов, международные стандарты авиационной безопасности и договоры, которые в своё время были приняты для защиты озонового слоя.
По его мнению, общих дискуссий о том, какой институт должен контролировать ИИ, уже недостаточно. Сначала нужно договориться о конкретных критериях — какие системы считаются опасными, как их проверять и в каких случаях следует ограничивать их публичное распространение.
С похожими идеями ранее выступали и другие лидеры технологической отрасли. Например, глава «Google DeepMind» Демис Хассабис предложил создать институт, который проводил бы проверки систем искусственного интеллекта на предмет национальной безопасности.
Гейтса беспокоят не только военные риски и риски безопасности. Он считает, что искусственный интеллект может вызвать и очень серьёзные социальные последствия, если начнёт в больших масштабах заменять человеческий труд.
Гейтс даже предложил рассмотреть возможность обложения налогом доходов компаний, полученных за счёт использования вместо человеческого труда продукции, созданной ИИ, или так называемых «токенов». Эти доходы можно было бы использовать для укрепления систем социальной защиты.
Он также высказал мысль, что в будущем обществу, возможно, следовало бы сознательно сохранить часть профессий исключительно за людьми.
Гейтс упомянул даже примерно 40% рабочих мест, на которых присутствие человека следовало бы защищать независимо от того, насколько эффективным становится искусственный интеллект.
В качестве примера он привёл уход за своим отцом в период, когда тот страдал болезнью Альцгеймера — такой человеческий контакт и заботу, по его мнению, технология не способна полноценно заменить.
Говоря о протестах общества против строительства новых дата-центров, Гейтс отметил, что эти опасения могут оказаться сравнительно незначительными на фоне тех проблем, которые ИИ ещё может создать. «Подождите, пока вы действительно не испортите рынок труда», — предупредил он.
В своём блоге Гейтс назвал управление ИИ одной из важнейших задач мира, поставив её даже выше климатических изменений и кризисов в сфере здравоохранения. По его мнению, главный вопрос уже не в том, изменит ли искусственный интеллект общество, а в том, смогут ли государства договориться о правилах ещё до того, как технология станет труднее поддаваться контролю.
