TikTok подталкивает подростков к суицидальному контенту во Франции
В новом отчете Amnesty International TikTok обвиняется в том, что он подвергает опасности молодых пользователей во Франции, продвигая через свой алгоритм поток депрессивного и суицидального контента, несмотря на правила ЕС, призванные защитить детей в Интернете.
Исследование под названием «Dragged into the Rabbit Hole» («Затянутый в кроличью нору») показало, что лента «For You» («Для тебя») платформы в течение нескольких часов подвергала 13-летних подростков воздействию тревожных видео, создавая то, что Amnesty назвала «токсичным циклом» материалов, связанных с психическим здоровьем.
Исследователи Amnesty создали три тестовых аккаунта подростков во Франции, чтобы изучить, как система рекомендаций TikTok реагирует на интерес к темам психического здоровья.
Всего за пять минут на этих аккаунтах появились видео о печали и разочаровании. Через 15 минут половина ленты содержала депрессивные материалы, а через 45 минут на двух аккаунтах были показаны видео, содержащие упоминания о суицидальных мыслях.
«Наше исследование показывает, как быстро TikTok может втянуть уязвимых подростков в спираль вредного контента», — сказала Лиза Диттмер, исследователь Amnesty по вопросам цифровых прав детей и молодежи.
«Дизайн платформы усиливает дистресс вместо того, чтобы защищать пользователей».
Исследование, проведенное в сотрудничестве с Институтом алгоритмической прозрачности, также показало, что когда аккаунты взаимодействовали с грустными или депрессивными видео, алгоритм более чем вдвое увеличивал количество предлагаемого похожего контента.
По мнению Amnesty, практика TikTok, по-видимому, нарушает Закон ЕС о цифровых услугах (DSA), который требует от социальных сетей оценивать и снижать системные риски для прав детей.
В отчете содержится призыв к Европейской комиссии ввести «обязательные и эффективные меры», чтобы сделать приложение безопасным для несовершеннолетних.
Отчет Amnesty включает свидетельства французских подростков и скорбящих родителей, которые говорят, что платформа нормализовала самоповреждения и суицидальные мысли.
«Есть видео, которые до сих пор запечатлелись в моей памяти», — сказала 18-летняя Маэль, которая описала, как ее психическое здоровье ухудшилось после просмотра контента о самоповреждениях в TikTok. «Видеть людей, которые режут себя или объясняют, какие лекарства принимать, влияет на тебя и побуждает причинять себе вред».
Стефани Мистре, чья 15-летняя дочь Мари покончила с собой в 2021 году, сказала, что алгоритмы TikTok превратили детей в «продукты».
«Они используют наших детей как продукты, захватывая их эмоции, чтобы удержать их в сети», — сказала она Amnesty.
«Это вторжение в частную жизнь детей неприемлемо. У детей есть права».
TikTok, который с 2023 года регулируется в ЕС в соответствии с DSA, сталкивается с растущим вниманием со стороны европейских регулирующих органов в связи с его обращением с вредным контентом. Несмотря на введение новых мер безопасности в 2024 году, Amnesty заявляет, что платформа продолжает подвергать несовершеннолетних контенту, который романтизирует отчаяние и самоповреждение.
«Пренебрежение TikTok системным вредом, связанным с его моделью, ориентированной на вовлечение пользователей, вызывает серьезные опасения по поводу соблюдения нормативных требований», — заявила Катя Ру, сотрудник по адвокации Amnesty France.
«Комиссия должна действовать решительно, чтобы защитить уязвимых пользователей».