Foto. pexels.com/ Jakub Zerdzicki

Технологическая компания Anthropic предупредила об угрозах неконтролируемого самосовершенствования искусственного интеллекта, сообщает Dialog.

Одна из ведущих компаний в сфере искусственного интеллекта — Anthropic, разрабатывающая языковые модели Claude, — предупредила о рисках, связанных с появлением таких систем искусственного интеллекта, которые были бы способны самостоятельно создавать всё более развитые версии самих себя. По мнению компании, такой сценарий потенциально может представлять угрозу для человечества.

В докладе компании современная индустрия искусственного интеллекта сравнивается с автомобилем, у которого есть мощная педаль газа, но отсутствует полноценная тормозная система. Авторы доклада указывают, что крупнейшие технологические компании продолжают наращивать вычислительные мощности и совершенствовать свои модели, однако в мире по-прежнему не существует эффективных международных механизмов, которые при необходимости позволили бы замедлить этот процесс.

В качестве одной из наиболее существенных угроз упоминается так называемый сценарий рекурсивного самосовершенствования. Это означает ситуацию, при которой искусственный интеллект получает способность самостоятельно проектировать, обучать и внедрять новые, ещё более развитые поколения искусственного интеллекта без прямого участия людей.

По сути, речь идёт о сценарии, при котором искусственный интеллект мог бы выйти из-под контроля человека.

Эксперты также подчёркивают, что обучение новой модели искусственного интеллекта гораздо легче скрыть, чем, например, строительство ракетной шахты. Поэтому для снижения потенциальных рисков компания призывает создать глобальную систему сотрудничества между государствами и ведущими технологическими компаниями. Такая система позволила бы координировать возможное замедление темпов развития искусственного интеллекта и контролировать, соблюдают ли вовлечённые стороны заключённые между собой соглашения.