Человечество уничтожит не война: «крёстный отец» искусственного интеллекта бьёт тревогу из-за ещё большей угрозы 0
Доктор Джеффри Хинтон, которого называют «крёстным отцом» искусственного интеллекта (ИИ), выступил с предупреждением, что ИИ может привести к вымиранию человечества, если станет суперинтеллектом. Интересно, что сам он получил широкую известность благодаря своей работе в области развития искусственных нейронных сетей.
По его мнению, суперинтеллект — это точка, в которой искусственная система становится более способной и могущественной, чем любой отдельный человек, компания или даже целое государство. «С нашей стороны было бы крайне безрассудно развивать суперинтеллект в то время, когда не существует научного консенсуса относительно того, возможно ли создать его безопасным и управляемым образом», — подчеркнул доктор Хинтон в комментарии новостному порталу DailyMail.
«Потеря контроля над искусственным интеллектом, который умнее нас самих, может стать катастрофической и даже привести к гибели человечества», — пояснил он.
Комментарии доктора Хинтона прозвучали одновременно с появлением законопроекта, разработанного кампанией ControlAI и продвигаемого депутатом Лейбористской партии Алексом Собелом.
Цель британского законопроекта о безопасности искусственного суперинтеллекта — запретить разработку суперинтеллектуального искусственного интеллекта в Соединённом Королевстве.
Согласно данным ControlAI, кампанию уже поддерживают более 135 депутатов парламента Соединённого Королевства из разных партий.
«Лауреаты Нобелевской премии, ведущие учёные в области ИИ и лидеры индустрии ясно указали, что снижение риска уничтожения человечества, вызванного ИИ, должно быть глобальным приоритетом», — говорится в заявлении кампании ControlAI.
Специализированный искусственный интеллект, например такой, который помогает развивать науку и медицину, способствует росту, инновациям и улучшению общественных услуг. В свою очередь, суперинтеллектуальные системы ИИ угрожали бы как национальной, так и глобальной безопасности. Соединённое Королевство может извлечь выгоду из преимуществ, предоставляемых ИИ, и снизить риски, выполнив данное обещание ввести обязательное правовое регулирование для самых мощных систем ИИ.
Тем временем заметные фигуры в сфере искусственного интеллекта, включая генерального директора компании OpenAI Сэма Альтмана, который когда-то сам призывал ввести более жёсткое регулирование этой новой технологии, теперь выступают против чрезмерного регулирования.
Выступая в Сенате США в мае прошлого года, Альтман заявил, что аналогичные ограничения в ЕС были бы катастрофическими. Альтман отметил: «Нам нужна свобода для инноваций и способность действовать быстро».
Также, выступая на важной конференции по вопросам конфиденциальности месяц назад, Альтман сказал, что невозможно создать механизмы безопасности ИИ до возникновения реальных проблем.
Однако доктор Хинтон считает, что такой подход может напрямую привести к гибели всего человечества. Ещё в прошлом году он признал: «Если мы не сможем найти решение того, как сосуществовать в то время, когда они станут значительно умнее и сильнее нас, нам придёт конец. Необходим противовес тем представителям технологической отрасли, которые утверждают, что никакого регулирования ИИ вообще не должно существовать».
