Foto: Pexels.com

Чат-боты с искусственным интеллектом для многих стали неотъемлемой частью жизни — они помогают людям быстрее справляться с рабочими обязанностями и почти так же часто служат психотерапевтами, отвечая на очень личные вопросы, например об интимной жизни. Согласно сообщениям СМИ, сотни таких разговоров с искусственным интеллектом появились в поиске “Google”.

Как сообщает издание Der Spiegel, простого запроса было достаточно, чтобы в “Google” и других поисковых системах найти сотни разговоров с чат-ботом “Claude”. Лишь после того, как сообщения об этом инциденте начали распространяться на интернет-форумах, компания в сфере ИИ, по-видимому, устранила эту брешь в безопасности.

Проблема была известна уже давно. Год назад американское издание “Fast Company” сообщало, что тысячи частных запросов и ответов чат-бота “ChatGPT” были доступны в интернете и находились через “Google”. Позже от подобных утечек пострадали и другие компании. Так, например, “Grok” допустил попадание в Google сотен тысяч разговоров.

Почему теперь в поисковых системах снова оказались записи разговоров с “Claude”, неясно. По-видимому, утечка данных затронула только сообщения, в которых пользователи активировали функцию общего доступа чат-бота, позволяющую делать ответы “Claude” доступными другим лицам.

Также многие пользователи, по-видимому, не осознавали, что ссылки на эти протоколы разговоров становятся свободно доступными для всех. Самые внимательные пользователи нашли ссылки на разговоры об эротических фантазиях, а также на секретные коды, которые могли дать доступ к криптовалютным кошелькам, а также к данным пациентов и телефонным номерам.

Как сообщает американский журнал “Wired”, причиной этого, по-видимому, была техническая уязвимость. Компания “Anthropic” использует специальный файл (robots.txt), чтобы не позволять “Google” и другим поисковым системам автоматически считывать все разговоры пользователей. Однако если кто-то размещал ссылку на свой разговор, например, на форуме “Reddit”, поисковики всё равно находили её и показывали другим.

Чтобы предотвратить это, компании нужно было добавить дополнительную защиту для каждого разговора отдельно, однако этого сделано не было. Сама компания, впрочем, утверждает, что никакого сбоя не было — если человек делится разговором, он становится публичным. Несмотря на это, в настоящее время частные разговоры уже удалены из результатов поиска, хотя ссылки на форумах по-прежнему работают.