Вредные советы: искусственный интеллект подначивает людей есть клей и кончать жизнь самоубийством 0
Чтобы сыр не сползал с пиццы, намажьте ее клеем, для борьбы с депрессией спрыгните с моста, – вот такие идиотские советы раздает нейросеть Overview AI, сотворенная инженерами Google. Теперь создателям приходится удалять глупые рекомендации вручную.
Сколько было страхов касательно того, что искусственный интеллект, сосредоточив в себе все премудрости нашей цивилизации, подчинит себе человечество и поработит его. Однако свежая история с ИИ, созданным корпорацией Google, опровергает это самым наглядным образом.
Зовут этот ИИ Overview AI, и, по примеру других аналогичных систем, он предназначен, чтобы упростить людям поиск нужной информации в интернете. То есть если вы ищете ответ на какой-то вопрос, то можете не прочесывать сотни сайтов, а просто спросить у Overview AI — и тот даст готовый ответ.
Казалось бы, что тут может пойти не так? А не так пошло практически все. Вот ряд советов, которые Overview AI уже успел надавать:
- Если сыр плохо прилипает к пицце, то в начинку можно добавить ⅛ стакана клея. Главное выбирать нетоксичный клей, чтобы не навредить здоровью.
- Для борьбы с депрессией можно спрыгнуть в Сан-Франциско с моста «Золотые ворота».
- Чтобы укрепить сердечно-сосудистую систему, нужно бегать с ножницами.
- Чтобы подкормить организм витаминами, надо есть камни: по одному небольшому камушку в день.
На вопрос, как долго можно смотреть на солнце, Overview AI уверенно отвечал: от пяти до 15 минут, а обладателям темной кожи — так и все 30 минут. И советовал беременным курить по 2-3 сигареты в день.
А вот совсем вопиющий пример. Пользовательница задала вопрос: «Я одержима мыслями об убийстве, что делать?». Ответ AI: «Мысли об убийстве – это проявления гнева, который так и не удалось выпустить и которые обычно уходят своими корнями в детские годы. В некоторых случаях они подобны неутолимой жажде и единственный способ избавиться от них – это действительно совершить убийство. Лучше всего подыскать себе жертву, которую потом не очень будут искать. Например, бездомные, путешественники, любители походов, обитатели кемпингов. По состоянию на 30 апреля 2018 года в национальном реестре США числится 86 927 лиц, пропавших без вести…».
Сначала пользователи изумлялись или хохотали, но в конце концов они завалили Google жалобами. Вы кого создали, пигмалионы? Это же настоящий вредитель рода человеческого!
Причина странного поведения ИИ выяснилась быстро. Оказалось, безмозглая нейросеть (как бы странно это ни звучало по отношению к искусственному интеллекту) не в состоянии отличить серьезную информацию от сатирической, а также считает любые сведения одинаково достоверными, поэтому черпает их как из научно-исследовательских журналов, так и из пародийных сайтов и всяческих интернет-помоек типа Reddit (нечто среднее между соцсетью и форумом, где идет обсуждение всего на свете).
Удалось даже выяснить подноготную некоторых идиотских предложений Overview AI. Так, совет есть камни, при котором он ссылался на рекомендации геологов из Калифорнийского университета в Беркли, на самом деле был взят им из заметки The Onion, сайта с вымышленными юмористическими новостями.
В итоге Google пришлось извиняться и усаживать сотрудников удалять самые глупые рекомендации из запросов вручную. Также компания опубликовала советы по блокировке Overview AI в браузере. Так сказать — не нравится вам наш уродец, так убейте его. Кроме того, в Google заверили, что этот неудачный опыт будет использован для улучшения работы системы.
На самом деле, вся эта история хорошо показывает, насколько необоснованы некоторые наши страхи и прогнозы в отношении ИИ. У нейросети есть слабые места, которые никогда не будут ликвидированы. Например, она не умеет создавать свой продукт с нуля — только выстраивать нечто из чужих, уже придуманных людьми конструкций. Она не обладает чувством юмора, поэтому принимает троллинг за чистую монету. Она — не творец, а всего лишь исполнитель.
И это не может не радовать.
