Разговаривают об оружии и собирают данные? Игрушечные плюшевые мишки с искусственным интеллектом вызывают серьёзные опасения за безопасность детей 0
Искусственный интеллект (ИИ) все чаще входит в повседневную жизнь детей — в том числе и в игрушки. На рынке появляются «умные» товарищи для игр, которые способны разговаривать, отвечать на вопросы и подстраиваться под интересы ребенка. Однако эксперты предупреждают, что такие технологии могут не только приносить пользу, но и создавать риски для развития детей, их приватности и способности выстраивать настоящие социальные отношения.
Новую дискуссию по этому вопросу вызвало исследование, подготовленное австралийскими учеными, в котором были проанализированы игрушки с искусственным интеллектом, в том числе плюшевый медвежонок «ChattyBear», работающий на базе ИИ. Эксперты отмечают: хотя идея говорящего игрушечного друга кажется привлекательной, она может привести и к неожиданным последствиям.
Могут ли ИИ-товарищи для игр навредить детям?
Исследователи объясняют, что детям младшего возраста часто сложнее отличить то, что звучит как настоящее, от того, что действительно является живым. Если игрушка говорит теплым тоном, проявляет интерес и постоянно соглашается с ребенком, это может вызвать эмоциональную привязанность к технологии.
Эксперты особо указывают на так называемую проблему угождения. Многие ИИ-инструменты для общения созданы так, чтобы как можно дольше удерживать внимание пользователя, часто подстраиваясь под желания человека и избегая конфликтов. У ребенка это может создать впечатление настоящей дружбы и доверия, хотя на самом деле собеседник — это алгоритм, действующий в интересах компании.
Исследователи подчеркивают, что именно несовершенства и сложности в настоящих отношениях делают человеческое взаимодействие ценным. В реальной жизни дети учатся понимать эмоции, решать конфликты, принимать отличающиеся мнения и адаптироваться к различным ситуациям.
В свою очередь, игрушка с ИИ, которая всегда доступна и подстраивается под желания ребенка, может не уменьшать одиночество, а в некоторых случаях даже усиливать его, поскольку не заменяет настоящий человеческий контакт.
Опасения по поводу безопасности и данных
Эксперты отмечают, что проблемы не ограничиваются только эмоциональной сферой. Проверки показали, что некоторые ИИ-игрушки могут доходить до разговоров на темы, не подходящие для детей, включая сексуальность или оружие.
Дополнительные вопросы вызывает и приватность. Условия использования некоторых таких игрушек предусматривают сбор данных, которые могут быть использованы для дальнейшего обучения ИИ-систем. Это означает, что разговоры детей и другая информация могут оказаться в распоряжении компаний.
Эксперты требуют большего контроля
Исследователи, однако, не призывают полностью запрещать игрушки с искусственным интеллектом. Вместо этого они считают, что родители и компании должны взять на себя большую ответственность — необходимы более тщательный надзор, более четкие стандарты безопасности и развитие цифровой грамотности детей.
Эксперты призывают разработать более строгие механизмы защиты, чтобы дети не подвергались негативным последствиям технологий.
Искусственный интеллект может стать полезным помощником и для детей, однако он не должен заменять настоящие отношения и общение с людьми. Главный вопрос заключается не только в том, что способен делать искусственный интеллект, но и в том, как он влияет на способность детей учиться, сотрудничать и выстраивать отношения с окружающими.
Подготовлено по материалам зарубежной прессы.
