Користувачі Slack з жахом виявляють повідомлення, які використовуються для навчання ШІ

після реліз Slack AI У лютому Slack, схоже, намагається захищати свою містику політика Який за замовчуванням всмоктує дані клієнтів — включаючи повідомлення, вміст і файли — для навчання моделей ШІ світового класу від Slack.

За словами інженера Slack Аарона Маурерапояснив Слек у a Блог Служба чату, що належить Salesforce, не навчає великих мовних моделей (LLM) на даних клієнтів. Але політику Slack, можливо, потрібно оновити, щоб «більш ретельно пояснити, як ці принципи конфіденційності працюватимуть із Slack AI», — написав Маурер у Threads, частково тому, що політика «спочатку була написана навколо роботи з пошуку/рекомендації, яку ми виконували роками». перед Slack”. Міжнародна амністія.”

Маурер відповідав на теми пошта Від інженера та письменника Ґергелі Ороса, який закликав компанії відмовитися від обміну даними, доки політика не буде чітко викладена не в блозі, а мовою фактичної політики.

«Один інженер ML у Slack каже, що вони не використовують повідомлення для навчання моделей LLM», — написав Орос. «Я відповідаю, що поточні умови дозволяють їм це робити. Я думаю, що це політика, коли ти займаєшся політикою. А публікація в блозі не є політикою конфіденційності: це знає кожна серйозна компанія».

Напруга для користувачів стає ще більш очевидною, якщо порівняти принципи конфіденційності Slack із тим, як компанія просуває Slack AI.

У Принципах конфіденційності Slack конкретно зазначено: «Машинне навчання (ML) і штучний інтелект (AI) є корисними інструментами, які ми використовуємо обмежено для просування місії нашого продукту. Для розробки моделей AI/ML наші системи аналізують дані клієнтів (наприклад, повідомлення, вміст, файли), надані Slack, а також інша інформація (включно з інформацією про використання), як визначено в нашій Політиці конфіденційності та у вашій Угоді з клієнтом».

поки, Сторінка Slack AI «Працюйте без хвилювань, — каже він, — ваші дані. Ми не використовуємо їх для навчання Slack AI».

Через цю розбіжність користувачі закликали Slack оновити свої принципи конфіденційності, щоб уточнити, як дані будуть використовуватися для Slack AI або будь-яких майбутніх оновлень AI. За словами представника Salesforce, компанія погодилася, що оновлення потрібне.

«Вчора деякі учасники спільноти Slack попросили роз’яснити наші принципи конфіденційності», — сказав представник Salesforce Ars. «Сьогодні ми оновимо ці принципи, щоб краще пояснити зв’язок між даними клієнтів і генеративним ШІ в Slack».

Представник сказав Ars, що оновлення політики пояснює, що Slack не «розробляє LLM або інші генеративні моделі з використанням даних клієнтів», «використовує дані клієнтів для навчання сторонніх LLM» або «створює або навчає ці моделі таким чином, щоб вони можуть вивчати, запам’ятовувати або мати можливість відтворювати дані клієнтів». Оновлення також уточнює, що «Slack AI використовує готові LLM, де моделі не зберігають дані клієнтів», гарантуючи, що «дані клієнтів ніколи не виходять за межі довіри Slack, а постачальники LLM ніколи не мають доступу до даних клієнтів».

Однак ці зміни, схоже, не вирішують ключову проблему для користувачів, які ніколи не погоджувалися ділитися чатами та іншим вмістом Slack для використання в навчанні ШІ.

Користувачі вирішують не ділитися чатами зі Slack

Ця суперечлива політика не нова. Провідний до обережності Про це повідомляє TechCrunch у квітні згадується Політика діє щонайменше з вересня 2023 року.

Але вчора ввечері поширена негативна реакція почала посилюватися Піратські новини, де користувачі Slack критикували службу чату за те, що вона, очевидно, не повідомила користувачів про зміну політики, натомість тихо ввімкнувши їх за замовчуванням. Для критиків вони вважали, що немає сенсу обирати когось, окрім Slack.

Звідти негативна реакція перекинулася на соціальні мережі, де SlackHQ швидко прояснив термінологію Slack за допомогою пояснень, які, здавалося, не відповідали всій критикі.

«Вибачте, Slack, що ви робите з DM користувачів, повідомленнями, файлами тощо?» Корі Квінн, головний економіст хмарних технологій компанії з управління витратами Duckbill Group, опублікувати На X. «Я впевнений, що не правильно це читаю».

SlackHQ Він відповів Квінну після того, як економіст заявив: «Я це так ненавиджу», і підтвердив, що він відмовився від обміну даними у своїй оплачуваній робочій зоні.

«Для уточнення, Slack має моделі машинного навчання на рівні платформи для таких речей, як рекомендації каналів, емодзі та результати пошуку», — опублікував SlackHQ. «І так, клієнти можуть виключити свої дані з навчання (негенеративних) моделей машинного навчання. Дані клієнтів належать до Slack AI — наш генеративний досвід штучного інтелекту, спочатку створений у Slack.[and] «Це окремо придбаний додаток, який використовує великі мовні моделі (LLM), але не навчає цих LLM на даних клієнтів».