TikTok은 몇 년 전에 금지되었어야 했는데, 그 이유는 다음과 같습니다.

지난 며칠 동안 저는 많은 마케팅 담당자 동료와 AI 연구자들이 TikTok 금지 가능성에 대해 토론하고 맹목적으로 플랫폼을 방어하는 것을 보았습니다.

소셜 미디어에서 광고 캠페인을 운영하고 수년 동안 인간 중심의 컴퓨터 설계 과정을 수강했을 뿐만 아니라 자유 시장과 국가 통제에 대한 개인주의를 옹호하는 자유주의 조직에서 시간을 보낸 사람으로서 나는 몇 가지 통찰력을 가지고 있습니다.

분명히 말씀드리자면, 정부 통제에서 자유로운 오픈 소스 AI에 대한 저의 옹호는 소셜 미디어 플랫폼에 대한 저의 입장에 반영되어 있습니다. 그러나 현재 논쟁의 핵심은 중국이 서구인, 지도자, 언론인을 감시하고 우리 젊은이들의 이념적 궤적을 형성하기 위해 TikTok을 입증했다는 사실에 초점을 맞추고 있습니다.

정치에 너무 깊이 들어가지 않고 제가 TikTok을 금지하는 초당적 법안을 강력히 지지하는 이유와 지금 앱을 삭제해야 하는 이유를 데이터와 연구 논문을 통해 간략하게 설명하겠습니다!

TikTok 이전에는 소셜 미디어가 소셜 미디어였습니다.

인스타그램, 트위터, 스냅챗; 이러한 앱은 TikTok이 도파민 효과를 가져와 사용자의 주의력을 빼앗기 전까지 친구, 그룹 또는 커뮤니티 간의 상호 작용에 중점을 두었습니다.

"좋아요와 조각: TikTok에서 소비한 시간에 대한 인식 조사" 연구는 TikTok 사용자가 자신의 사용 시간을 어떻게 잘못 판단하는지를 보여주는 입증된 예입니다.

조사 결과에 따르면 더 많은 동영상을 좋아하고 앱을 더 자주 열어 플랫폼에 더 집중적으로 참여한 사용자는 인지된 사용 시간과 실제 사용 시간 간의 차이가 더 컸습니다.

이는 TikTok의 매력적이고 몰입도 높은 특성이 알고리즘으로 선별된 "For You" 피드와 결합되어 사용자가 앱에서 소비하는 시간을 잘못 판단할 가능성이 있는 환경을 조성한다는 것을 의미합니다.

이는 카지노와 같은 전술에 크게 의존하는 TikTok의 알고리즘으로 연결되기 때문에 중요합니다. 도박을 하려면 18세 또는 21세 이상이어야 하지만 이 앱은 어린 나이부터 다음 세대를 중독시킵니다.

그렇다면 이러한 전술은 정확히 무엇입니까?

TikTok 알고리즘의 사악한 전술

브라운 대학교 공중 보건 대학의 중요한 연구는 TikTok의 중독성을 강조합니다. TikTok의 디자인은 지속적인 사용을 장려하기 위해 고전적인 조건화 및 보상 기반 학습 프로세스를 사용합니다. "For You" 스트림과 같은 기능은 사용자 상호 작용을 기반으로 콘텐츠 피드를 맞춤화합니다.

또한 TikTok은 슬롯 머신 레버를 당기는 동작을 반영하여 피드를 새로 고치는 "아래로 스와이프" 기능을 사용하여 슬롯 머신과 유사한 가변 보상 패턴을 사용합니다. 이러한 간헐적인 강화는 사용자의 참여를 유지하고 항상 다음 "보상" 비디오를 기대하게 합니다.

아래 알고리즘을 더 자세히 살펴보았습니다. 이러한 전략적 조작은 고전적인 조건화 및 보상 기반 학습 프로세스를 활용하여 플랫폼을 중독성이 강하고 저항하기 어렵게 만듭니다.

지난해 유타 주 법무장관 Sean Reyes는 TikTok을 상대로 소송을 제기하여 "For You" 추천 알고리즘이 어떻게 젊은 사용자를 사로잡는지 보여주었습니다. 추가 조사를 위해 여기에서 TikTok의 카지노 전술을 보여주는 소송을 읽을 수 있습니다.

"TikTok은 카지노가 도박꾼을 슬롯머신에 연결하는 데 사용하는 것과 동일한 전략에 의존하여 그 효과를 유도합니다. 즉, 도박꾼을 기계에 유지하고 한 번에 1/4씩 지출하며 다음 당김이 '그 하나'가 되기를 희망합니다."

이러한 무작위 도파민 방출과 기타 조작 전술은 아직 완전히 발달하지 않은 우리 청소년의 두뇌를 이 국영 미디어 채널에 연결합니다.

이제 우리 다음 세대의 두뇌 발달에 대한 통제권을 중국 공산당에 맡겨서는 안 되는 이유에 대해 논의해 보겠습니다.

문화적 이분법

중국 국가 정보국(National Intelligence)이 ByteDance를 장악한 후 Douyin(TikTok의 중국 버전)과 당사를 비교하면 엄청난 차이가 나타납니다.

2021년 중국 국가정보국(National Intelligence) 이 ByteDance를 장악했습니다 . 그들은 황금 투표(이 사람이 회사에서 최종 발언권을 가짐)로 정부 관리를 임명했고, 이 변경 이후 Douyin의 알고리즘은 완전히 바뀌었습니다.

여러분의 자녀가 '쓰레기 콘텐츠'의 폭격을 받는 동안 중국 세대는 교육 콘텐츠 에 노출됩니다. 당신의 외동딸이 둠 스크롤링을 하면서 몇 시간을 보내는 동안, 그들의 아이들에게는 의무적인 시간 제한이 있습니다.

마케팅 전문가 Scott Galloway는 TikTok을 피해야 할 강력한 이유를 제시합니다.

"내가 중국 공산당의 일원이고 전 세계적으로 미국의 전략적 위치를 훼손하려는 기득권을 인식했다면 나는 미묘하고 교활하게 내용의 균형을 조정하여 미국을 불리한 시각으로 몰아갈 것입니다. 나는 이것이 바로 지금 이 순간 일어나고 있다고 믿습니다. 그런 전술을 사용하지 않는 것은 어리석은 일이다."

중독과 그 영향

평균 TikTok 사용자는 하루에 약 60분을 앱에서 소비하며 올해는 100분을 초과할 것으로 예상됩니다. 초개인화 알고리즘은 중독과 유사한 행동을 유발합니다.

TikTok의 초개인화 알고리즘이 중독과 유사한 행동 과 유사한 문제적 사용 패턴을 초래한다는 것이 반복적으로 입증되었습니다.

TikTok은 젊은이들 사이에 고립과 외로움을 장려하며, 연간 우울증 통계에 따르면 이 소프트 파워 무기가 널리 채택된 이후 청소년의 우울증이 크게 증가한 것으로 나타났습니다.

컬럼비아 대학교 불안 및 관련 장애 클리닉 소장인 Anne Marie Albano 박사는 "개인, 특히 사회적 불안이나 우울증이 있는 젊은이들은 온라인에서 과도한 시간을 보내는 경향이 있어 실제 상호 작용이 줄어들 수 있습니다."라고 설명합니다.

"사회적 교류, 도전에 맞서기, 토론에 참여하기, 또래 갈등 해결 등을 통해 세상과의 적극적인 참여를 피하면 고립감, 절망, 정서적 고통이 가중될 수 있습니다."

연구 결과에 따르면 TikTok을 사용하면 사용자의 부정적인 감정이 유발되어 이러한 플랫폼을 계속 사용하려는 의도에 영향을 미치는 것으로 나타났습니다. 시간 낭비라는 느낌과 중독을 일으키고, 사용량이 과도하거나 일상 생활을 방해할 경우 정신 건강에도 영향을 미칩니다.

"짧은 동영상 플랫폼에서 사용자의 부정적인 감정과 지속적인 사용 의도를 이해" 연구는 Tiktok의 부정적인 감정 흐름 알고리즘이 더 많은 소비를 초래하고 궁극적으로 중독으로 이어진다는 것을 입증합니다.

TikTok 무기화

TikTok은 국가가 후원하는 의제를 위한 무기 역할을 합니다. 네트워크 감염 연구소(Network Contagion Research Institute)가 러트거스 대학교 밀러 센터(Rutgers University Miller Center)와 공동으로 실시한 연구는 중국 정부에 민감한 주제에 대한 해시태그 비율의 불일치를 조사합니다.

일반 정치, 대중 문화 등 민감하지 않은 주제의 경우 인스타그램과 틱톡 간의 해시태그 비율은 대략 사용자 비율(~2:1)을 따랐습니다.

이러한 변칙적 패턴은 중국에 민감한 국가/지역 및 국제 문제 전반에 걸쳐 일관되게 나타났으며, 이는 TikTok이 중국 정부 이익과의 연계를 기반으로 콘텐츠 가시성에 영향을 미치는 체계적인 접근 방식을 제안합니다.

NCRI의 연구는 지정학적으로 민감한 주제로 확장되어 중국 정부의 이익에 반대되는 서술을 선호하는 해시태그가 과소 대표되고, 특히 중국이 전략적 이해관계를 갖고 있는 국제 분쟁과 관련하여 동조하는 해시태그가 과도하게 대표되는 것을 보여줍니다.

이번 조사 결과는 TikTok의 공정성과 중국 정부의 국가/지역 또는 국제적 목표를 달성하는 데 있어 플랫폼의 잠재적인 사용에 대한 우려를 제기합니다. 해시태그 표현의 불일치는 TikTok이 공개 서사에 미치는 영향과 중국 정부의 지정학적 목표와의 일치를 이해하기 위한 보다 포괄적인 분석의 필요성을 강조합니다.

NCRI의 작업은 특히 디지털 플랫폼이 대중 담론에 중대한 영향을 미치고 정부 영향력을 미칠 가능성이 있는 경우 디지털 플랫폼 운영의 투명성과 정밀한 조사의 중요성을 강조합니다.

실제로 이는 국가가 후원하는 의제를 발전시키는 데 사용되는 도구이며, 최근 빈 라덴이 언급한 "미국에 보내는 편지" 추세는 가장 악명 높은 사례 중 하나일 뿐입니다.

이 도구의 주요 용도는 두 가지입니다. 광범위한 정치적 조작 과 데이터 보안에 대한 우려입니다 .

TikTok은 자해, 정신 건강 문제, 극단주의와 관련된 콘텐츠를 젊은 시청자에게 확대하는 것으로 확인되었습니다. 월스트리트 저널 조사에 따르면 TikTok의 알고리즘은 방금 가입한 13세 사용자에게 전쟁 지역의 폭발, 로켓 및 고통받는 가족의 장면을 표시하여 플랫폼이 젊은 사용자에게 그러한 그래픽 콘텐츠에 노출되었음을 강조했습니다.

또한 Newsguard의 연구에 따르면 TikTok에 단 40분만 투자해도 러시아의 우크라이나 침공과 같은 정치적 사건에 관한 허위 콘텐츠 에 노출될 수 있는 것으로 나타났습니다.

" TikTok의 개인화 요소에 대한 실증적 조사" 연구는 사용자 행동과 설정이 TikTok 알고리즘의 권장 사항에 어떤 영향을 미치는지 조사합니다.

연구원들은 통제된 "양말 인형" 계정을 사용하여 언어 선호도, 지리적 위치, 좋아요 및 팔로우와 같은 사용자 상호 작용, 비디오 시청 시간 등 개인화 요소가 TikTok이 사용자에게 제안하는 콘텐츠에 미치는 영향에 초점을 맞췄습니다.

표시되는 콘텐츠에 대한 제어가 제한된 TikTok 추천 알고리즘의 "블랙박스" 특성은 반향실 및 필터 버블로 이어지며, 여기서 사용자는 기존 신념과 관심을 강화하는 콘텐츠에 점점 더 노출되어 다양한 관점에 대한 노출이 제한됩니다.

이러한 연구에 따르면 이 앱은 주의력을 저하시키면서 중독되게 만들 뿐만 아니라 의도적으로 우리 문명의 미래도 변화시키는 것으로 나타났습니다.

또 다른 우려 사항은 데이터 보안과 관련이 있습니다. 미국 내 iPhone 및 Android 기기에 1억 1,200만 개가 넘는 TikTok이 설치되어 있으며, 콘텐츠뿐만 아니라 실시간 음성 스트림도 포함하는 거의 1억 1,200만 개의 서로 다른 데이터 소스가 있습니다.

데이터 보안

Zhuoran Liu 등의 "모놀리스: 충돌 없는 임베딩 테이블을 갖춘 실시간 추천 시스템" at ByteDance Inc.는 복잡한 알고리즘을 활용하는 ByteDance의 위치를 보여줍니다.

실시간 추천을 위해 설계된 시스템입니다.

Monolith는 충돌 없는 임베딩 테이블 및 동적 기능 제거 메커니즘과 같은 솔루션을 통해 희박하고 범주적인 데이터를 처리하고 고정되지 않은 사용자 행동에 적응하는 등 추천 시스템에 내재된 중요한 문제를 해결합니다.

이것을 명확히 하자;

기존 추천 시스템은 일정 기간 동안 데이터를 수집하고 처리한 다음 모델 추천을 업데이트하는 데 사용되는 일괄 교육에 의존하는 경우가 많습니다. 이로 인해 최신 사용자 상호 작용을 반영하는 모델이 지연될 수 있습니다.

대조적으로 Monolith의 시스템은 온라인 교육을 사용합니다. 즉, 실시간으로 사용자 상호 작용을 학습하여 훨씬 더 반응성이 뛰어나고 개인화된 사용자 경험을 제공할 수 있습니다. 사용자와 콘텐츠의 상호 작용은 즉시 시스템으로 피드백되어 즉시 권장 사항을 조정할 수 있습니다.

기계 학습의 맥락에서 임베딩 테이블은 희박한 범주형 데이터를 모델이 더 쉽게 사용할 수 있는 고정 크기의 밀집된 벡터로 변환합니다. 이 맥락에서 "충돌"은 서로 다른 입력 데이터 포인트가 동일한 벡터 표현에 매핑되는 것을 의미하며, 이는 부정확한 모델 예측으로 이어질 수 있습니다. 충돌 없는 임베딩 테이블은 이러한 충돌을 최소화하거나 제거하는 방법을 제안하여 방대한 양의 범주형 데이터를 처리할 때 모델의 정확성과 효율성을 향상시킵니다.

시스템 아키텍처는 온라인 교육을 활용하여 사용자 상호 작용을 기반으로 즉각적인 적응을 가능하게 하여 콘텐츠 개인화를 크게 개선합니다.

그러나 이 최첨단 AI 개인화는 개인화된 콘텐츠 제공을 위한 사용자 데이터의 지속적이고 실시간 처리에는 종종 투명한 동의 메커니즘 없이 실시간으로 광범위한 데이터 수집 및 분석이 포함되기 때문에 데이터 개인정보 보호에 대한 중요한 논의를 불러일으킵니다. 명확한 데이터 사용 정책.

.

TikTok은 콘텐츠를 맞춤화하고 알고리즘을 개선하기 위해 수집하는 데이터의 범위를 면밀히 조사하고 있습니다. 이 데이터는 잠재적으로 권위주의 정부에 의해 접근되어 우리에게 불리하게 사용될 수 있다는 우려가 있습니다.

ByteDance가 최근 Oracle 서버를 사용하여 데이터 센터를 미국으로 이전할 것을 제안했다고 반박할 수도 있습니다. 그러나 이를 액면 그대로 받아들이는 것은 순진할 뿐만 아니라 데이터 보안을 보장하는 것이 거의 불가능한 작업임을 강조합니다.

긴급한 조치가 필요함

중국은 2017년부터 인공지능(AI)으로 세계를 지배하겠다는 계획을 공개해 왔다.

휴대폰에서 TikTok을 삭제하고, TikTok 사용에 대한 공개적인 이야기를 만들고, 이러한 결과와 연구를 공유하여 친구들을 계몽하는 것은 중요한 단계입니다.

저는 국가가 통제하는 이 앱에 대해 우리가 즉각적인 조치를 취해야 하는 이유를 보여주기 위해 이 기사를 작성함으로써 제 역할을 다하고 있다고 믿습니다.

"자신의 정신 사용에 대한 통제는 인간의 자율성에 필수적이며, 그러한 통제를 거부하는 것은 사상의 자유와 의지의 자유를 침해하는 것입니다."

디지털 경쟁과 이것이 미래에 미치는 중요한 영향에 대한 더 깊은 통찰력을 얻으려면 아직 시청하지 않으셨다면 All-In Summit: Bill Gurley 2,851 Miles 세션을 시청하실 것을 적극 권장합니다.

여기에서 걸리(Gurley)는 규제, AI의 미래, 그리고 다가오는 중국과 미국 간의 격렬한 역사적 충돌에 대해 논의합니다.

TikTok을 사용하는 친구들과 이 콘텐츠를 공유하고 이 스파이웨어 앱을 삭제하여 즉각적인 조치를 취할 것을 권장합니다.

이 대화에 귀하의 참여가 중요합니다.

우리가 이 중요한 주제를 계속 함께 탐구하고 다루는 동안 아래에서 여러분의 생각과 의견을 자유롭게 공유해 주십시오.