Создатели ChatGPT и Claude призывают замедлить развитие ИИ, чтобы он не вышел из-под контроля 0
Более тысячи ведущих исследователей и сотрудников крупнейших технологических гигантов объединились, чтобы предупредить мир об опасности.
Они призывают правительства создать механизмы контроля, которые позволят замедлить развитие искусственного интеллекта, если он начнет угрожать человечеству.
Угроза автоматизации исследований
С момента запуска ChatGPT в конце 2022 года большие языковые модели прошли путь от развлекательных чат-ботов до мощных инструментов, способных даже находить критические уязвимости в кибербезопасности и осуществлять хакерские атаки. Однако сегодняшняя ситуация вызывает серьезную тревогу в профессиональном сообществе, пишет Neowin. Сотрудники ведущих компаний отрасли, включая OpenAI, Google и Anthropic, подписали открытое заявление под названием “Pacing the Frontier”.
Среди подписантов фигурируют имена, определяющие будущее современных технологий: главный научный сотрудник OpenAI Якуб Пачоцкий, руководитель отдела исследований OpenAI Марк Чен, генеральный директор Anthropic Дарио Амодеи и главный научный специалист Meta AI Шэнцзя Чжао.
Эксперты предупреждают, что отрасль приблизилась к моменту, когда системы начнут самостоятельно автоматизировать исследования в сфере искусственного интеллекта. Это может привести к взрывному ускорению разработок, за которым люди просто не успеют следить или которое не смогут контролировать.
Ловушка конкуренции и роль государства
Основная проблема заключается не только в технологиях, но и в жесткой рыночной борьбе. Сегодня ни одна корпорация не решится добровольно затормозить свои разработки ради безопасности, ведь это будет означать мгновенное поражение от конкурентов. Авторы инициативы отмечают, что, несмотря на осознание рисков, давление рынка заставляет компании двигаться вперед, зачастую игнорируя необходимые проверки и усиление надзора.
Именно поэтому группа специалистов обращается к правительству США с просьбой поддержать международные усилия. Они предлагают создать набор технических и управленческих инструментов, которые позволят отрасли синхронно и осознанно регулировать темпы развития автоматизированного искусственного интеллекта при необходимости.
Важно, что инициативу организовали сотрудники как частные лица, а поддержку оказали независимые некоммерческие организации Guidelight AI Standards и Encode AI. Компания OpenAI уже публично выразила поддержку этому движению, подтвердив серьезность намерений специалистов изменить подход к безопасности будущего.
По материалам зарубежной прессы.
