Все может кончиться очень плохо: микологи просят не верить ИИ 0
В разгар грибного сезона латвийские микологи просят латвийцев не советоваться с чат-ботами, съедобен ли найденный гриб. ИИ часто ошибается, в итоге можно отравиться и даже умереть.
Увлечение модным искусственным интеллектом и удивительное (на уровне детской наивности) доверие к его ответам уже успело натворить бед. Так, со слов ординатора из Калифорнийского университета в Сан-Франциско Кита Саката, только в этом году в его практике случилось уже 12 госпитализаций пациентов, которые слишком долго общались с нейросетями — и в итоге потеряли связь с реальностью, получив взамен зрительные и слуховые галлюцинации. Таким образом, ИИ может запросто стать катализатором психоза.
Но это еще полбеды. Некоторые советы нейросети могут вообще привести на порог смерти. Свежий тому пример — облетевшая весь мир история о 60-летнем американце, опубликованная недавно в американском медицинском журнале.
Доверившись ChatGPT, этот человек едва не сыграл в ящик. При этом вопрос, который он задал чат-боту, был самого невинного свойства: как отказаться от привычки все солить, ведь это несовместимо со здоровым образом жизни. И чат-бот дал совет — заменить поваренную соль (хлорид натрия) на бромид натрия. Доверчивый американец так и сделал: заменил неполезную соль — полезной, и через три месяца был доставлен в больницу с симптомами сильнейшего отравления, острой паранойи и галлюцинациями. Не мудрено: уровень бромидов у пациента в крови зашкаливал, достигая 1700 миллиграммов на литр (при норме от 0,9 до 7,3 мг на литр).
Так что прогноз Маска, что к 2030 году ИИ уже превзойдет интеллект всех людей, очень поспешен. Сегодня доверять ему точно не стоит, в том числе — когда вы отправляетесь в лес по грибы.
Латвийские микологи предупреждают — популярные у многих неопытных грибников приложения с искусственным интеллектом для распознавания грибов не дают стопроцентных гарантий. Их можно использовать как помощника, но полностью доверять — нельзя. Фотография может дать искажения, система распознавания ИИ может дать сбой — и в итоге ядовитый гриб может запросто определяться как съедобный. Поэтому при малейших сомнениях лучше просто не кладите гриб себе в корзину. Ведь это может стоить вам и вашим близким жизни.
К примеру, на определенной стадии роста многие грибники путают съедобный шампиньон с бледной поганкой, она же Amanita phalloides, suņu sēnes («собачьи грибы») или мухомор зеленый. Это — один из самых опасных грибов на планете, на долю которого приходится около 90% смертей в мире, связанных с грибами. Токсичность его зашкаливает: достаточно употребить в пищу всего четверть шляпки — и мучительная смерть обеспечена. В составе бледной поганки содержится большое количество токсинов — фаллоидин и аманитин, которые разрушают клетки печени, а также фаллолизин, который вызывает растворение клеток крови.
А ведь кроме этого гриба хватает и других ядовитых, маскирующихся под привычные нам и съедобные. Так что будьте крайне внимательны при сборе лесных даров, забудьте об ИИ и не рискуйте: если гриб вызывает хоть малейшие подозрения, просто пройдите мимо.
