Slack, широко используемая платформа для общения на рабочем месте, использует пользовательские данные для расширения своих возможностей искусственного интеллекта.
Доступ к информации, к которой обращается ИИ, включает в себя использование сообщений, файлов и другого пользовательского контента для улучшения таких функций, как рекомендации каналов, функции поиска, автозаполнение и предложения смайлов.
Хотя эти улучшения направлены на оптимизацию пользовательского опыта, практика использования пользовательских данных вызвала обеспокоенность по поводу конфиденциальности и согласия.
Декодирование алгоритма искусственного интеллекта Slack — секретный ингредиент пользовательских данных
В основе обучения искусственному интеллекту в Slack лежит использование взаимодействия с пользователем внутри платформы. Анализируя закономерности в сообщениях, файлах и других формах коммуникации, модели искусственного интеллекта Slack получают информацию, которая затем применяется для улучшения различных функций. Этот подход, хотя и кажется полезным для улучшения пользовательского опыта, поднимает вопросы о том, в какой степени осуществляется доступ к пользовательским данным и как они используются. Конечно, это мысли компании. Пользователи очень обеспокоены данной ситуацией.
Доступ к этому контенту, который может включать личные сообщения, информацию компании или конфиденциальные файлы, с разрешения искусственного интеллекта компании начал вызывать этические проблемы.
Включение по умолчанию вызывает споры
Одним из наиболее спорных аспектов обучения искусственному интеллекту в Slack является включение всех пользователей по умолчанию. Это означает, что, если пользователь или организация специально не отказывается от участия, их данные автоматически включаются в процесс обучения. Эта практика вызвала критику со стороны тех, кто считает, что пользователи должны быть проинформированы и иметь возможность участвовать в сборе данных до его начала.
Открытие противоречия: признание и ответ Slack
Проблема приобрела особую остроту, когда Кори Куинн, руководитель DuckBill Group, публично раскритиковал политику Slack в области искусственного интеллекта. В ответ Slack подтвердила, что использует пользовательский контент для обучения некоторых своих инструментов ИИ, уточнив при этом, что данные клиентов не используются для обучения платных инструментов ИИ. Компания также заявила, что организации или администраторы рабочих пространств могут запросить удаление их сообщений и контента из набора обучающих данных, что вызывает вопросы о том, почему такой запрос необходим на платформе, за которую платят пользователи.
Проблемы пользователей распространяются в социальных сетях
Споры еще больше обострились платформа социальных сетей X, где многие пользователи утверждали, что Slack следовало сделать функцию обучения ИИ необязательной, а не настройкой по умолчанию. Были высказаны опасения по поводу возможного неправомерного использования личных сообщений, информации компании и конфиденциальных файлов, а также отсутствия простого механизма отказа для отдельных пользователей.
В ответ на запросы представитель Slack повторил, что модели искусственного интеллекта компании не предназначены для изучения, запоминания или воспроизведения данных клиентов. Они подчеркнули, что клиенты могут исключить свои данные из обучения этих (негенеративных) моделей ИИ. Однако это разъяснение мало помогло развеять опасения пользователей, которые считают, что первоначальное сообщение об использовании данных было неясным и потенциально вводящим в заблуждение.
Запутанная история: несовпадающие заявления о политике в области ИИ
Заявление Slack на странице искусственного интеллекта: «Ваши данные — это ваши данные. Мы не используем его для обучения Slack AI», — добавила путаницы. Хотя компания поясняет, что платные продуктивные инструменты ИИ не обучаются с использованием пользовательских данных Slack, признание того, что другие модели ИИ обучаются с использованием таких данных, противоречит идее, что пользовательские данные остаются исключительно в руках пользователей. Адвокат Элизабет Уортон назвал решение Slack «беспорядком с конфиденциальностью» и раскритиковал отсутствие простого выхода для отдельных пользователей.
Практика Slack по использованию пользовательских данных для обучения ИИ, хотя и направлена на улучшение функций платформы, вызвала серьезные споры. Включение пользователей по умолчанию, отсутствие четкого общения и потенциальные последствия для конфиденциальности подогрели споры о согласии, прозрачности и этичном использовании данных в эпоху цифровых технологий. Поскольку ИИ продолжает играть все более заметную роль в различных аспектах нашей жизни, разговоры о пользовательских данных и их использовании, вероятно, останутся в центре внимания как потребителей, так и бизнеса.
Предоставленное изображение предоставлено: Стивен Филлипс – Hostreviews.co.uk / Unsplash
Source: Искусственный интеллект Slack основан на пользовательских данных