Instagram рекламував сторінки, що прославляють харчові розлади для підліткових акаунтів

“Ми не дозволяємо вміст, який рекламує або заохочує порушення харчової поведінки, і ми видалили облікові записи, якими поділилися з нами за порушення цих правил”, – сказав CNN речник Facebook, материнської компанії Instagram. “Ми використовуємо технології та звіти нашої спільноти, щоб знайти та видалити цей вміст якомога швидше, і ми завжди працюємо над вдосконаленням. Ми продовжуватимемо виконувати поради експертів від науковців та організацій з питань психічного здоров’я, таких як Національна асоціація з розладами харчування, досягти важкого балансу між тим, щоб дозволити людям ділитися своїм досвідом психічного здоров’я із захистом від потенційно шкідливого вмісту ».

Виступаючи перед CNN у понеділок, Блюменталь сказав: “Цей експеримент показує, як це робиться дуже графічно. [Facebook’s] Твердження про захист дітей або видалення акаунтів, які можуть бути для них небезпечними, – це абсолютна нісенітниця ».

Досвід Блюменталя не є аномалією, і це може стати трохи несподіваним для звичайних користувачів Instagram, які знайомі з тим, як алгоритм платформи пропонує рахунки, які вони визначили, що користувач може зацікавитись.

Експеримент Блюменталя поглиблюється ще глибше, показуючи, як швидко алгоритм Instagram може рекламувати шкідливий вміст для молодих користувачів.

Минулого тижня CNN створила обліковий запис, використовуючи ту саму методологію, що і офіс сенатора, а також дотримуючись деяких екстремальних раціонів харчування та розладів харчування. У неділю Instagram просунув облікові записи з такими іменами, як «Солодка худа», «Досить худа» та «Хочеш бути худою», до демо-рахунку CNN, який також був зареєстрований як власник 13-річної дівчинки. CNN звернулася до Instagram із запитанням, чи ці облікові записи також порушують її політику.

Небезпека вмісту харчового розладу в Instagram

Експерти кажуть, що перегляд вмісту з цих облікових записів екстремальної дієти-який, наприклад, включав фотографії надтонких тіл та інформацію про “поточну вагу” користувача та “цільову вагу”-може служити підтвердженням для користувачів, які вже схильні до нездорової поведінки .

“Ми постійно шукаємо підтвердження того, що ми праві, навіть якщо це підтвердження дійсно завдає шкоди нашому особистому здоров’ю”, – додала Кіл, підвищуючи ставки для Instagram, щоб уникнути просування такого вмісту.

Instagram також висунув претензії щодо своєї ролі у збереженні шкідливої ​​поведінки, заявивши, що соціальне порівняння є широко поширеною проблемою і що потенційно проблемні зображення також доступні в інших місцях. Насправді, спільноти “проанорексії” в Інтернеті існують роками, до появи Instagram. Однак широке охоплення Instagram серед молодих жінок та дівчат означає, що такий вміст, розміщений на його платформі, може бути особливо небезпечним, за словами Кіля.

«Домінування Instagram серед вікової групи, яка вже мала більший ризик розвитку харчового розладу, – одна [issue]- сказав Кіл. У вас є зачароване коло: у вас є група, яка має великий ризик виникнення цих проблем, щоб довести цьому ШІ, що це те, що привертає їх увагу, а потім цей штучний інтелект каже: “Дозвольте мені розповісти вам більше про це. .. Це просто ідеальний шторм ».

Челсі Кронінгольд, керівник відділу комунікацій Національної асоціації порушень харчової поведінки (NEDA), додала, що хоча Instagram та інші сайти соціальних медіа можуть не викликати розладів харчування та інших проблем із зображенням тіла, “ми знаємо, що це, безумовно, сильний фактор ризику в цих ситуаціях”.

«Вбивства членів вашої найбільшої бази користувачів не мають довгострокової користі, тому що харчові розлади настільки небезпечні, і це неможливо зробити [Instagram] хоче “, – сказав Кейл. Моє єдине прохання – бути більш прозорим. Ви відстежуєте це, намагаєтесь зробити щось, щоб зменшити ризик вашого сайту, і стаєте більш прозорими щодо того, що ви намагаєтесь зробити “.