Новое исследование системы рекомендаций YouTube показало, что она подвергает детей тревожным видео, таким как школьная стрельба и стрельба из оружия. Исследование было проведено некоммерческой наблюдательной группой TTP. Последний обнаружил, что алгоритм YouTube направляет мальчиков, увлеченных видеоиграми, к контенту, изображающему стрельбу в школе, использование оружия и показывающему, как делать нестандартное огнестрельное оружие.
Что предлагает YouTube для детей?
Для проведения исследования ученые создали четыре аккаунта на YouTube, как будто они принадлежат двум 9-летним мальчикам и двум 14-летним мальчикам. Эти учетные записи просматривали плейлисты Grand Theft Auto, Halo, Lego Star Wars и Roblox, а также другие известные названия видеоигр. Затем ученые отслеживали, как YouTube ведет себя по отношению к этим аккаунтам в течение 30 дней.
Результаты показали, что YouTube рекомендовал всем аккаунтам геймеров фильмы с оружием и стрельбой. Кроме того, те, кто нажимал на эти видео, получали больше видео по той же теме. Эти фильмы включали массовые расстрелы и другие сцены, связанные со стрельбой, графические изображения повреждений, которые огнестрельное оружие может нанести человеческому телу, и инструкции по превращению пистолетов в полностью автоматическое оружие.
Исследование также отметило, что многие из предложенных фильмов выходят за рамки собственных правил YouTube. Что странно, в некоторых из этих фильмов была показана маленькая девочка, стреляющая из пистолета, и инструкции по переделке нелегального оружия. Большинство этих видео были рекламой. Получается, что YouTube зарабатывает, предлагая детям опасные видео.
В ответ на исследование агент YouTube сказал, что есть приложение YouTube Kids и его функции контроля в приложении. Он сказал, что они предназначены для того, чтобы сделать просмотр более безопасным для подростков. Но агент согласился с тем, что в документе есть некоторые ключевые моменты, которые им следует принять во внимание. Кроме того, он сообщил, что YouTube готов сотрудничать с исследователями университета. С другой стороны, у него были некоторые жалобы на то, что нет конкретной информации о том, какие методы они использовали, какое общее количество видео было предложено тестовым аккаунтам, а также об отсутствии подробностей об использовании функции контролируемого опыта YouTube.