TikTok следовало запретить много лет назад, и вот почему

За последние пару дней я видел, как многие мои коллеги-маркетологи и исследователи искусственного интеллекта обсуждали потенциальный запрет TikTok и слепо защищали платформу.

Как человек, который не только проводит рекламные кампании в социальных сетях и в течение многих лет посещал курсы человеко-ориентированного компьютерного дизайна, но и провел некоторое время в либертарианских организациях, защищающих свободный рынок и индивидуализм над государственным контролем, у меня есть несколько идей.

Позвольте мне внести ясность: моя поддержка искусственного интеллекта с открытым исходным кодом , свободного от государственного контроля, отражена в моей позиции в социальных сетях. Однако суть нынешних дебатов сосредоточена на доказанном использовании Китаем TikTok для слежки за западными людьми, лидерами, а также журналистами и формирования идеологической траектории нашей молодежи.

Не вдаваясь слишком глубоко в политику, позвольте мне обрисовать с помощью данных и исследовательских работ, почему я решительно поддерживаю двухпартийный законопроект о запрете TikTok и почему вам следует удалить приложение прямо сейчас!

До TikTok социальные сети были социальными.

Instagram, Twitter и Snapchat; эти приложения были ориентированы на взаимодействие между друзьями, группами или сообществами, пока TikTok не принес дофамин и не оторвал внимание пользователей.

Исследование «Нравится и фрагменты: изучение восприятия времени, проведенного в TikTok» — доказанный пример того, как пользователи TikTok часто неправильно оценивают время своего использования .

Результаты показывают, что пользователи, которые более интенсивно взаимодействовали с платформой, лайкая больше видео и чаще открывая приложение, имели большее расхождение между предполагаемым и фактическим временем использования.

Это говорит о том, что привлекательный и захватывающий характер TikTok в сочетании с его алгоритмически курируемой лентой «Для вас» создает среду, в которой пользователи могут неправильно оценить количество времени, которое они проводят в приложении.

Это важно, поскольку приводит нас к алгоритму TikTok, который во многом опирается на тактику казино. Чтобы играть в азартные игры, вам должно быть больше 18 или 21 года, но это приложение вызывает зависимость следующих поколений с юных лет.

Итак, что же это за тактика?

Коварная тактика алгоритма TikTok

Значительные исследования, проведенные Школой общественного здравоохранения Университета Брауна, подчеркивают вызывающую привыкание природу TikTok. В дизайне TikTok используются классические процессы обучения и обучения, основанные на вознаграждении, чтобы стимулировать постоянное использование. Такие функции, как поток «Для вас», настраивают каналы контента на основе взаимодействия с пользователем.

Кроме того, в TikTok используется шаблон переменного вознаграждения, аналогичный игровым автоматам , с функцией «проведите пальцем вниз» для обновления ленты, отражающей действие нажатия рычага игрового автомата. Такое периодическое подкрепление поддерживает интерес пользователей, всегда ожидая следующего «полезного» видео.

Я изучил алгоритм ниже более подробно. В этой стратегической манипуляции используются классические процессы обучения и обучения, основанные на вознаграждении, что делает платформу очень захватывающей, и ей сложно сопротивляться.

В прошлом году генеральный прокурор штата Юта Шон Рейес подал иск против TikTok, показав, как алгоритм рекомендаций «Для вас» зацепляет молодых пользователей. Вы можете прочитать иск, демонстрирующий тактику казино TikTok, здесь для дальнейшего изучения.

«TikTok вызывает этот эффект, полагаясь на ту же стратегию, которую казино используют для привлечения игроков к игровым автоматам – удерживая их у автомата, тратя по четвертаку за раз, надеясь, что следующий рывок будет «тот самый»».

Эти случайные выбросы дофамина и другие манипулятивные приемы подключают еще не полностью развитый мозг нашей молодежи к этому государственному медиаканалу.

Теперь давайте обсудим, почему нам не следует оставлять контроль над развитием мозга нашего следующего поколения коммунистическому Китаю.

Культурная дихотомия

Сравнение Douyin (китайской версии TikTok) и нашей после того, как Национальная разведка Китая взяла под свой контроль ByteDance, показывает огромную разницу.

В 2021 году Национальная разведка Китая взяла на себя контроль над ByteDance . Они назначили правительственного чиновника с золотым голосом (за этим человеком остается последнее слово в компании), и после этого изменения алгоритмы Доуина полностью изменились.

В то время как ваши дети засыпаны «мусорным контентом», поколения китайцев знакомятся с образовательным контентом . В то время как ваш единственный ребенок часами прокручивает Doom, у его детей есть обязательные ограничения по времени.

Светильник маркетинга Скотт Галлоуэй приводит веские причины избегать TikTok :

«Если бы я был членом КПК и осознавал личную заинтересованность в подрыве стратегического положения Америки в мире, я бы тонко и хитро нарушил баланс содержания, чтобы выставить Америку в неблагоприятном свете. Я считаю, что именно это и происходит в данный момент – это с их стороны было бы глупо не использовать такую тактику».

Зависимость и ее последствия

Средний пользователь TikTok проводит в приложении около 60 минут в день, и, по прогнозам, в этом году это число превысит 100 минут. Алгоритм гиперперсонализации приводит к поведению, напоминающему зависимость.

Неоднократно было доказано, что алгоритм гиперперсонализации TikTok приводит к проблематичным моделям использования, похожим на поведение, подобное зависимости .

TikTok поощряет изоляцию и одиночество среди молодых людей, а статистика депрессии за год показывает, что депрессия среди молодежи значительно возросла после широкого распространения этого оружия мягкой силы.

«Люди, особенно молодые люди, страдающие социальной тревожностью или депрессией, могут быть склонны проводить слишком много времени в Интернете, уменьшая взаимодействие в реальной жизни», — объясняет Энн Мари Альбано, доктор философии, директор клиники тревоги и связанных с ней расстройств Колумбийского университета.

«Избегание активного взаимодействия с миром — посредством социального обмена, решения проблем, участия в дискуссиях или разрешения конфликтов со сверстниками — может усилить чувство изоляции, отчаяния и эмоционального стресса».

Результаты показывают, что использование TikTok вызывает у пользователей негативные эмоции, влияющие на их намерение продолжать использовать эти платформы. Это приводит к ощущению напрасно потраченного времени, зависимости и даже влияет на психическое здоровье, когда употребление становится чрезмерным или нарушает повседневную жизнь.

Исследование «Понимание негативных эмоций пользователей и намерений их постоянного использования на платформах коротких видео» доказывает, что алгоритм потока негативных эмоций Tiktok приводит к большему потреблению и, в конечном итоге, к зависимости.

Использование TikTok в качестве оружия

TikTok служит оружием в реализации программы, спонсируемой государством. Исследование, проведенное Исследовательским институтом сетевого заражения в сотрудничестве с Центром Миллера Университета Рутгерса, изучает расхождения в соотношениях хэштегов по чувствительным для правительства Китая темам .

Для нечувствительных тем, таких как общая политика и поп-культура, соотношение хэштегов между Instagram и TikTok примерно соответствует соотношению пользователей (~ 2:1).

Такая картина аномалий была одинаковой для национальных, региональных и международных проблем, чувствительных к Китаю, что предполагает систематический подход TikTok к влиянию на видимость контента на основе его соответствия интересам правительства Китая.

Исследование NCRI распространяется на геополитически чувствительные темы, демонстрируя недопредставленность хэштегов , поддерживающих нарративы, противоречащие интересам китайского правительства , и чрезмерное представительство тех, кто согласен, особенно в отношении международных конфликтов, в которых у Китая есть стратегические интересы.

Результаты вызывают обеспокоенность по поводу беспристрастности TikTok и потенциального использования платформы для достижения национальных/региональных или международных целей правительства Китая. Расхождения в представлении хэштегов подчеркивают необходимость более комплексного анализа, чтобы понять влияние TikTok на общественные мнения и его соответствие геостратегическим целям правительства Китая.

Работа NCRI подчеркивает важность прозрачности и контроля в работе цифровых платформ, особенно когда они оказывают значительное влияние на общественный дискурс и обладают потенциалом государственного влияния.

Действительно, это инструмент, используемый для продвижения программ, спонсируемых государством, и недавняя тенденция «Письма в Америку», приписываемая бен Ладену, является лишь одним из наиболее печально известных примеров.

Есть два основных применения этого инструмента: обширные политические манипуляции и опасения по поводу безопасности данных .

Было установлено, что TikTok распространяет контент, связанный с членовредительством, проблемами психического здоровья и экстремизмом, среди своей более молодой аудитории. Расследование Wall Street Journal показывает, что алгоритм TikTok показывал кадры взрывов, ракет и несчастных семей из зон боевых действий 13-летнему пользователю, который только что зарегистрировался, подчеркивая воздействие платформы на молодых пользователей на такой графический контент.

Более того, исследование Newsguard показывает, что всего лишь 40 минут пребывания в TikTok приводит к раскрытию ложного контента о политических событиях , таких как вторжение России в Украину.

В исследовании « Эмпирическое исследование факторов персонализации в TikTok» изучается, как поведение и настройки пользователей влияют на рекомендации, предоставляемые алгоритмом TikTok.

Исследователи использовали контролируемые учетные записи «носков-марионеток», чтобы сосредоточиться на влиянии факторов персонализации, включая языковые предпочтения, географическое местоположение, взаимодействие с пользователем, такое как лайки и подписки, а также продолжительность просмотра видео, на контент, который TikTok предлагает своим пользователям.

Природа «черного ящика» алгоритма рекомендаций TikTok с ограниченным контролем над контентом, который им показывают, приводит к появлению эхо-камер и пузырей фильтров, где пользователи все чаще подвергаются воздействию контента, который укрепляет их существующие убеждения и интересы, ограничивая воздействие различных точек зрения.

Эти исследования показывают, что это приложение не только вызывает у вас зависимость, ухудшая вашу способность концентрировать внимание, но и намеренно меняет будущее нашей собственной цивилизации.

Другая проблема связана с безопасностью данных. Учитывая более 112 миллионов установок TikTok на iPhone и устройствах Android в США, существует почти 112 миллионов различных источников данных, охватывающих не только контент, но и голосовые потоки в реальном времени.

Безопасность данных

«Монолит: система рекомендаций в реальном времени с таблицей встраивания без столкновений», автор: Чжуоран Лю и др. в ByteDance Inc. демонстрирует позицию ByteDance в использовании сложных алгоритмов .

Это система, разработанная для рекомендаций в режиме реального времени.

Monolith решает критические проблемы, присущие рекомендательным системам, такие как обработка разреженных категориальных данных и адаптация к нестационарному поведению пользователей, с помощью таких решений, как таблица встраивания без коллизий и механизмы динамического вытеснения функций.

Давайте проясним это;

Традиционные системы рекомендаций часто полагаются на пакетное обучение, при котором данные собираются в течение определенного периода, обрабатываются, а затем используются для обновления рекомендаций модели. Это может привести к задержкам в модели, отражающей последние взаимодействия с пользователем.

Система Monolith, напротив, использует онлайн-обучение. Это означает, что он учится на основе взаимодействия с пользователем в режиме реального времени, обеспечивая гораздо более отзывчивый и персонализированный пользовательский опыт. Взаимодействие пользователя с контентом немедленно передается в систему, что позволяет ей оперативно корректировать свои рекомендации.

В контексте машинного обучения таблица внедрения преобразует разреженные категориальные данные в плотные векторы фиксированного размера, с которыми модели легче работать. «Коллизия» в этом контексте будет означать, что разные точки входных данных отображаются в одно и то же векторное представление, что может привести к неточным предсказаниям модели. Таблица встраивания без коллизий предлагает метод, позволяющий минимизировать или устранить эти коллизии, повышая точность и эффективность модели при обработке огромных объемов категориальных данных.

В архитектуре системы используется онлайн-обучение, обеспечивающее немедленную адаптацию на основе взаимодействия с пользователем, что значительно улучшает персонализацию контента.

Однако эта современная персонализация с помощью искусственного интеллекта вызывает важные дискуссии о конфиденциальности данных, поскольку непрерывная обработка пользовательских данных в реальном времени для персонализированной доставки контента предполагает обширный сбор и анализ данных в реальном времени , часто без прозрачных механизмов согласия или четкая политика использования данных.

.

TikTok находится под пристальным вниманием на предмет объема данных, которые он собирает для настройки контента и совершенствования своего алгоритма. Есть опасения, что авторитарное правительство потенциально может получить доступ к этим данным и использовать их против нас.

Можно возразить, что ByteDance недавно предложила перенести свои центры обработки данных в США, используя серверы Oracle . Однако принимать это за чистую монету не только наивно, но и подчеркивает, что обеспечение безопасности данных — практически невыполнимая задача.

Срочная необходимость действий

Китай разоблачает свои планы управлять миром с помощью искусственного интеллекта с 2017 года.

Удаление TikTok с наших телефонов, создание публичной кампании против его использования и распространение этих результатов и исследований для просвещения наших друзей — это важные шаги.

Я считаю, что вношу свою лепту, написав эту статью, чтобы продемонстрировать, почему нам нужны немедленные действия против этого приложения, контролируемого государством.

«Контроль над использованием своего разума является неотъемлемой частью человеческой автономии, и отрицание такого контроля подрывает свободу мысли и свободу воли».

Чтобы получить более глубокое представление о цифровой конкуренции и ее критических последствиях для будущего, я настоятельно рекомендую включить сеанс All-In Summit: Bill Gurley 2,851 Miles , если вы еще его не смотрели.

Здесь Герли углубляется в дискуссии о правилах, будущем искусственного интеллекта и предстоящем интенсивном историческом кризисе между Китаем и США.

Я призываю вас поделиться этим контентом со своими друзьями, которые используют TikTok, и призываю их немедленно принять меры и удалить это шпионское приложение.

Ваше участие в этом разговоре имеет решающее значение.

Не стесняйтесь делиться своими мыслями и комментариями ниже, поскольку мы продолжаем вместе исследовать и решать эту важную тему.