소셜 미디어의 AI: 소셜 미디어 상호 작용 형성 시 AI 및 알고리즘에 대한 윤리적 고려 사항

오늘날 소셜 미디어는 우리가 의사소통하고, 정보를 얻고, 서로 정보를 공유하는 방식에 영향을 미치면서 삶에서 필수적인 역할을 합니다. 설립된 지 30년도 채 안 됐지만[1] 우리는 Facebook, Twitter, TikTok, LinkedIn과 같은 플랫폼의 엄청난 발전을 목격했습니다. Facebook은 이제 Meta이며 WhatsApp, Instagram 및 Threads를 소유하고 있습니다. Twitter는 X입니다. 둘 다 기술 동향을 예측하고 이러한 기회를 활용하며 빠르게 혁신적인 산업을 위한 길을 개척한 억만장자들이 소유하고 있습니다.

비즈니스 관점에서 볼 때 소셜 미디어의 가장 큰 성공을 이끄는 요인은 소비자 데이터입니다. 대부분의 소셜 미디어 플랫폼은 무료이며, 그 대가로 귀하의 데이터에 액세스할 수 있도록 허용하기 때문에 이러한 방식으로 작동할 수 있습니다. 이를 통해 Meta와 같은 회사는 소셜 미디어 콘텐츠와 상호 작용을 형성할 수 있었습니다. 이는 의도와 사용 사례에 따라 유익하거나 비윤리적인 것으로 볼 수 있으며, 개인 정보 보호 및 조작과 같은 문제는 현재 흔하지 않습니다.

이 기사에서는 소셜 미디어에서 AI 와 알고리즘을 사용하는 윤리에 대해 자세히 알아보고, 이것이 콘텐츠를 개인화하는 데 어떻게 도움이 되는지, 잠재적으로 편견과 반향실로 이어질 수 있는지, 그리고 소셜 미디어 플랫폼에서 AI의 미래를 살펴볼 것입니다.

알고리즘의 간략한 역사와 소셜 미디어에서 증가하는 사용 사례

'알고리즘은 특정 문제를 해결하고, 작업을 수행하고, 결정을 내리기 위해 설계된 일련의 명령입니다'[2]. 소셜 미디어에서 이러한 지침은 일반적으로 다양한 소비자 그룹의 추세를 기반으로 콘텐츠 순위, 필터링, 개인화와 같은 사용자 경험을 관리합니다. 이를 통해 사용자는 관심 있는 콘텐츠를 검색하지 않고도 For You 페이지에 표시될 가능성이 높기 때문에 훨씬 더 빠르게 관심 있는 콘텐츠를 찾을 수 있습니다.

알고리즘이 항상 소셜 미디어에서 사용되는 것은 아닙니다. 2009년에는 Tumblr와 Facebook이 순위 지표와 개인화된 피드를 도입했습니다. 2012년에는 더 많은 사람들이 뒤따랐습니다. Facebook은 뉴스피드에서 알고리즘 사용을 늘리고 후원 콘텐츠를 도입했습니다[3].LinkedIn은 "반구조화된 피드"를 시작했고 YouTube는 수량보다 시청 시간을 우선시하는 순위 알고리즘을 도입했습니다[4]. 그 이후로 이러한 소셜 미디어에서 알고리즘의 역할은 계속해서 증가해 왔습니다. 2015년에는 빅 데이터 노력의 발전에 힘입어 머신 러닝이 정렬 및 필터링 알고리즘에서 역할을 하기 시작했습니다. 2016년 트럼프 선거, 브렉시트 국민투표(그리고 Cambridge Analytica 스캔들의 중요한 해)와 같은 정치적 사건으로 인해 소셜 미디어에서 알고리즘 및 사용자 데이터 수집의 과도하고 증가하는 사용을 둘러싼 윤리적 딜레마가 대중의 관심을 끌었습니다.

요즘 AI 기반 알고리즘은 플랫폼에서의 특정 이전 상호 작용을 기반으로 콘텐츠를 추천할 정도로 정밀하게 구축되었으며, 사용자 데이터가 증가함에 따라 소셜 미디어 회사는 대부분의 추측을 제거할 수 있습니다. The Social Dilemma [5] 및 The Great Hack [6]과 같은 다큐멘터리는 이러한 알고리즘 중 일부가 어떻게 엔지니어링되었는지에 대한 통찰력을 제공하며, 종종 사용자를 플랫폼에 더 오랫동안 유지하고 플랫폼과의 상호 작용을 유도하는 최종 목표를 가지고 있습니다. 사용자 상호 작용의 증가는 소셜 미디어 회사가 이 프로세스를 수집하고 조정하고 반복할 수 있는 더 많은 데이터를 의미하지만, 이 목표는 소셜 미디어 소비와 관련하여 사용자와 더 넓은 사회에 가장 적합한 것이 무엇인지 고려하지 않습니다.

알고리즘 편견으로 인한 윤리적 문제

알고리즘은 해로운 편견을 영속시킬 수 있으며, 소셜 미디어의 맥락에서 이는 종종 고정관념이 강화되고 다양한 관점에 대한 노출이 제한되는 것으로 나타납니다. 시간이 지남에 따라 최고조에 달하는 이는 차별을 촉진하고 유권자를 양극화하며 심지어 사회 분열을 이용하는 극단주의와 우파/독재적 포퓰리즘에 기여할 수도 있습니다.

낮은 수준의 영향에서 알고리즘 편향의 예로는 특정 산업 분야의 채용 공고가 포함될 수 있습니다. 예를 들어 LinkedIn은 여성보다 남성에게 더 많이 표시됩니다. 알고리즘이 모델링한 훈련 데이터 세트는 더 많은 남성이 해당 산업에서 일할 가능성이 있다고 예측하기 때문입니다. 역할. 이것이 반드시 즉각적으로 명백한 해로운 영향을 미치는 것은 아니지만, 직장과 특정 산업 전반에 걸쳐 평등과 대표성을 향상시키려는 사회의 목표에 반하는 부정적인 피드백 루프를 생성합니다. 이러한 방식으로 성별 편견은 여성이 해당 광고를 볼 수 있는 기회를 제한함으로써 알고리즘 편견의 결과로 영속됩니다.

이제 알고리즘 편향의 더 높은 수준의 영향을 더 깊이 조사하기 위해 2016년 트럼프 선거를 사례 연구로 살펴보겠습니다.

사례 연구: 2016년 트럼프 선거에서 알고리즘이 양극화/에코 챔버에 영향을 미치는 방법

2016년 미국 대통령 선거 기간 동안 알고리즘이 반향실을 증폭시키고 유권자가 다양한 관점에 노출되는 것을 제한함으로써 정치적 양극화를 악화시켰을 수 있다는 연구 결과가 나왔습니다. 많은 사람들은 트럼프주의가 만연할 수 있었던 것이 바로 이 메커니즘 때문이라고 생각하며, 선거 기간 동안 이러한 역학이 완전히 이해되거나 가시화되지 않았기 때문에 그의 승리를 예측하는 사람이 거의 없었습니다[7].

따라서 소셜 미디어에서도 '깃털 같은 새들이 함께 모인다'는 것이 사실인 것 같습니다[8].

알고리즘은 사용자의 선호도에 맞춰 콘텐츠를 맞춤화하고 반대되는 견해와 의견으로부터 사용자를 보호하며 '필터 버블'을 생성합니다. 결과적으로 이러한 필터 버블 내의 일부 개인은 자신의 신념과 의견이 반영되고 훨씬 더 강화되는 디지털 환경에서 자신을 더욱 고립시킴으로써 자신의 견해를 긍정적으로 계속 강화합니다. 이것을 '에코 챔버'라고 합니다.

본질적으로 소셜 미디어는 우리 모두가 극도로 개인화된 뉴스와 콘텐츠 피드를 섭취하여 다른 사람의 다양한 관점을 인식하지 못하는 환경을 조성합니다.

현재 연구에서는 소셜 미디어가 반향실이 출현할 수 있는 플랫폼 역할만 하는지, 아니면 소셜 미디어의 알고리즘 사용이 반향실을 만드는 역할을 하는지 명확하지 않습니다[8].

2016년 트럼프의 승리는 소셜 미디어 기업의 의제가 어떻게 수백만 명의 사람들에게 광범위한 결과를 가져올 수 있는지를 보여줍니다. 이는 의도하지 않았지만 여전히 큰 영향을 미치고 비윤리적입니다. 우리는 소셜 미디어 알고리즘이 개인 취향에 맞는 콘텐츠를 제공함으로써 사용자 참여와 유지를 극대화하도록 설계되었다는 것을 알고 있습니다. 하지만 이제 우리는 이것이 사용자의 정치적 성향과 취약성을 활용하여 정치적 대화에도 어떻게 적용되는지 살펴봅니다.

알고리즘이 사람들의 개인적인 정치적 신념에 영향을 미치지 않았다면 선거가 어떻게 진행되었을지 누가 알겠습니까?

그리고 이것이 민주주의와 정치적 안정에 어떤 영향을 미칠까요? 사람들이 이러한 조작을 인식하지 못한다면 그 결과가 공정하고 타당하다고 간주될 수 있습니까?

소셜 미디어에서 AI의 미래

소셜 미디어에서 알고리즘과 AI의 역할은 해당 분야의 혁신과 함께 계속 발전하고 있습니다. AI 생성 콘텐츠부터 앞서 다루었던 정밀도를 허용하는 AI 기반 알고리즘에 이르기까지 소셜 미디어에 통합할 때 발생하는 윤리적 문제도 마찬가지로 점점 더 고려해야 합니다. 이는 알고리즘 편견을 해결하고 소셜 미디어 플랫폼에서 알고리즘 투명성을 높이는 것부터 시작되어야 합니다.

미래의 정책 고려 사항과 규제는 소셜 미디어에서 AI 사용의 궤적을 형성하는 데 중요한 역할을 할 것입니다. 특히 미국에서는 이러한 눈에 보이지 않는 편견이 초래할 수 있는 피해로부터 알고리즘을 규제하고 보호해야 하는 필요성에 대한 관심이 이미 높아지고 있습니다. 지금까지의 이니셔티브에는 다음이 포함됩니다[9].

• “2022년 알고리즘 책임법”
• “2023년 알고리즘 시스템의 편견 제거법”
• “AI 권리장전”

현재 제안 단계에서 더 많은 프레임워크가 작성되고 있지만, 이러한 강력한 기술이 이미 미치는 영향을 고려할 때 여전히 규제가 부족합니다. 혁신과 사용자 이익 보호 사이에 미묘한 균형을 맞추려면 기술 회사, 정책 입안자, 사용자 모두가 참여하는 공동 접근 방식이 필요합니다.

소셜 미디어는 선을 위한 힘이 되어 커뮤니티를 하나로 묶고 포용성을 촉진하는 힘을 가지고 있습니다. 그러나 사용자 권리를 보호하는 적절한 프레임워크와 규정이 없으면 AI와 알고리즘의 사용은 개인과 더 넓은 사회에 파괴적인 힘을 가질 수도 있습니다.

참고자료

[1] 소셜 미디어의 진화: 어떻게 시작되었으며 다음 단계는 어디입니까? | 메리빌 온라인 .

[2] 소셜 미디어 알고리즘에 대해 알아야 할 모든 것

[삼] 페이스북의 뉴스피드가 출시된 지 10년이 되었습니다. 사이트가 이렇게 바뀌었습니다 | 세계경제포럼

[4] 역사 - 소셜 미디어 알고리즘

[5] 사회적 딜레마 보기 | Netflix 공식 사이트

[6] 위대한 해킹 보기 | Netflix 공식 사이트

[7] '필터 버블'은 트럼프가 승리했지만 당신이 그것을 보지 못한 이유를 설명합니다

[8] 소셜 미디어 반향실이 등장하는 방법(그리고 모든 친구들이 트럼프가 패할 것이라고 생각하는 이유)

[9] 2023년 알고리즘 시스템의 편견 제거법