ChatGPT черпает свои знания из болтовни на форумах и в соцсетях 0
Откуда чат-боты берут ответы на вопросы пользователей? Компания Semrush провела исследование и пришла в шок: источником знаний для ChatGPT оказались не научные трактаты, а форумы «Реддит» и посты в «Фейсбуке» и «Х».
Вообще-то Semrush — отнюдь не социологическая компания, это американская платформа для маркетинга, которая помогает компаниям повышать свою видимость в интернете. Но так даже лучше, потому что своё исследование она провела не ради любопытства, а чтобы понимать, насколько стоит привлекать к своей работе чат-боты и насколько можно им доверять, чтобы удовлетворить запросы своих 10 миллионов клиентов по всему миру.
Поэтому исследователям было дано задание: уточнить, на какие источники опираются большие языковые модели — такие, как широко раскрученный ChatGPT, – когда дают ответы пользователям на любые вопросы, от «что такое реликтовое излучение и теория струн» до «как вывести пятно со скатерти и невесту из похмелья».
Исследователи потрудились на славу. Результаты оказались шокирующими. Выяснилось, что нейросеть ChatGPT, траля интернет в поисках ответа, чаще всего ориентируется на форум Reddit — гигантскую болталку, где пользователи делятся прикольными ссылками, публикуют собственные материалы и обсуждают их. По словам исследователей, 40,1% информации, выданной чат-ботом в ответ на запрос, оказалось прямыми цитатами из «Реддит».
Ещё в 26,3% своих ответах нейросеть ChatGPT опиралась на данные Wikipedia. И это притом, что весь мир уже ловил «всемирную энциклопедию» и на неточности, и на прямой лжи, и на политической ангажированности. А недавно из интервью её основателя и первого редактора также выяснилось, что многие статьи в «Википедии» напрямую редактируют из Лэнгли (штаб-квартира ЦРУ). Ничего себе источник знаний!
Вот где ещё нейросеть находит ответы на вопросы пользователей:
- в роликах YouTube
- на просторах Google
- в постах и комментариях на Facebook
- в Instagram
- Tripadvisor
- на Amazon
И так далее, вплоть до, прости господи, Еbay.com. И где здесь оцифрованные научные библиотеки, где архивы диссертаций по различным дисциплинам, где словари и настоящие академические энциклопедии? Нет их.
Выходит, всемогущий и многомиллиардный ChatGPT не формирует экспертных знаний, а просто воспроизводит усреднённое мнение толпы. Как пишут под этим исследованием разъярённые комментаторы: «Это делает рыночный пузырь ИИ ещё более наглядным. Все бегают в эйфории от того, как резко ИИ изменит нашу жизнь к лучшему. Вот только это вовсе не ИИ, а банальный мусоросборщик, единственным достоинством которого является, что он ищет всякий мусор в сети ищет быстрее, чем вы».
