GenAI trong bầu cử: Định hình lại các chiến dịch, nâng cao mối quan ngại về đạo đức

Năm 2024 là năm sẽ chứng kiến tới hai tỷ người bỏ phiếu khi các cuộc bầu cử được tổ chức trên toàn thế giới, bắt đầu từ Bangladesh vào tháng 1 đến Ghana vào tháng 12. Với mọi khía cạnh hành vi của con người và ngành công nghiệp đều bị tác động bởi Generative AI (AI), bao gồm hẹn hò, giáo dục, sáng tạo, dịch vụ khách hàng và mạng xã hội, các cuộc bầu cử, bất kể chúng được tổ chức ở đâu, sẽ không bị ảnh hưởng bởi Gen. AI.

Gen AI đang định hình lại cách thức thực hiện các chiến dịch, phổ biến thông tin và gây ảnh hưởng đến cử tri. Ví dụ, vào tháng 12, cựu thủ tướng Pakistan đang bị giam giữ, Imran Khan, người bị cấm tổ chức các cuộc biểu tình công khai, đã sử dụng một đoạn âm thanh do AI tạo ra để phát biểu về một cuộc biểu tình ảo. Bài phát biểu được tạo ra từ một phiên bản viết mà Khan đã phê duyệt từ trong tù.

Công nghệ đã mang lại tiếng nói cho những người phải đối mặt với sự áp bức. Belarus, nơi các nhà lãnh đạo phe đối lập thường gặp bất hạnh khi bị bỏ tù, bị lưu đày hoặc bị chết, phe đối lập đã đưa ra một bot AI, Yas Gaspadar, một ứng cử viên ảo được xây dựng bằng ChatGPT của OpenAI, người có thể phát biểu thoải mái mà không sợ bị ảnh hưởng.

Tuy nhiên, từ việc tạo ra các thông điệp thuyết phục đến nhắm mục tiêu theo nhóm nhân khẩu học cụ thể, tất cả đều không thành công khi áp dụng công nghệ này. Cảm xúc dẫn đến vừa là sự phấn khích vừa là sự e ngại của các nhà phân tích chính trị và các nhà hoạch định chính sách trên toàn thế giới.

Theo Báo cáo về mối đe dọa toàn cầu của CrowdStrike năm 2024 , việc khai thác Generative AI sẽ diễn ra vào năm 2024. Báo cáo dự đoán rằng với hơn 40 cuộc bầu cử dân chủ dự kiến vào năm 2024, những kẻ thù của quốc gia và tội phạm điện tử sẽ có nhiều cơ hội để làm gián đoạn quá trình bầu cử hoặc gây ảnh hưởng đến quan điểm của cử tri. Các chủ thể quốc gia từ Trung Quốc, Nga và Iran rất có thể sẽ tiến hành các hoạt động đưa thông tin sai lệch hoặc sai lệch nhằm gây ra sự gián đoạn trong bối cảnh xung đột địa lý và bầu cử toàn cầu.

Chiến dịch được cá nhân hóa

Một trong những tác động đáng kể nhất của AI tổng quát đối với các cuộc bầu cử là khả năng tạo điều kiện thuận lợi cho việc vận động cá nhân hóa ở quy mô chưa từng có. Bằng cách phân tích các tập dữ liệu khổng lồ về thông tin cử tri, thuật toán AI có thể tạo ra các thông điệp, quảng cáo và chiến lược tiếp cận được cá nhân hóa cao. Với cách tiếp cận này, các chiến dịch chính trị có thể nhắm mục tiêu vi mô đến các cá nhân dựa trên nhân khẩu học, sở thích và hành vi trong quá khứ của họ, tận dụng tối đa nỗ lực tiếp cận của họ.

Một chiếc cốc Starbucks chính trị đã gây sốt trên mạng xã hội vào tháng 3, khi tổ chức dân sự Mexico Sociedad Civil de México đăng một hình ảnh do AI tạo ra trên X, trong đó cho thấy một chiếc cốc Starbucks đầy màu sắc có dòng chữ #Xochitl2024, cùng với thẻ bắt đầu bằng # #StarbucksQueremosTazaXG ( #StarbucksWeWantACupXG). Ứng cử viên tổng thống đối lập của Mexico Xóchitl Gálvez đã yêu cầu những người theo dõi X của cô gọi một “café sin miedo” (cà phê không sợ hãi). Người dùng đã sớm chia sẻ hình ảnh do AI tạo ra và xu hướng này đã bắt đầu. Sau đó, Starbucks tuyên bố rằng thiết kế này không bắt nguồn từ thương hiệu cà phê.

Đây là điểm uốn của một cách tiến hành chính trị trực quan hoàn toàn mới và được cho là một cách sẽ thay đổi căn bản cách chúng ta sử dụng các đồ tạo tác đa phương tiện trong các chiến dịch chính trị.

Joyojeet Pal, phó giáo sư tại Đại học Michigan

Ở Ấn Độ, mọi thứ đã trở thành chính thức, Aljazeera nói . Vào tháng 2, một video trên Instagram nhại lại Thủ tướng Narendra Modi của Đảng Quốc đại Ấn Độ (INC) đã thu hút hơn 1,5 triệu lượt xem. Cùng ngày, người quản lý chính thức của BJP đã tải lên một video sử dụng AI để sao chép giọng hát của ca sĩ yêu nước đã qua đời Mahendra Kapoor để hát về những thành tựu của Thủ tướng.

Joyojeet Pal, phó giáo sư tại Đại học Michigan, cho biết: “Đây là điểm uốn của một cách tiến hành chính trị trực quan hoàn toàn mới và được cho là một cách sẽ thay đổi căn bản cách chúng ta sử dụng các đồ tạo tác đa phương tiện trong các chiến dịch chính trị”.

Thông tin xuyên tạc & thông tin sai lệch

Tuy nhiên, sự phổ biến của AI sáng tạo cũng làm dấy lên mối lo ngại về sự lan truyền của thông tin sai lệch và thông tin sai lệch. Với khả năng tạo ra văn bản giống con người một cách thuyết phục, những kẻ độc hại có thể khai thác AI để tạo và phổ biến những câu chuyện sai sự thật, gieo rắc bất hòa và thao túng dư luận. Thách thức trong việc chống lại thông tin sai lệch do AI tạo ra đặt ra mối đe dọa đáng kể đối với tính toàn vẹn của các quy trình dân chủ trên toàn thế giới.

Tại Indonesia, một video bịa đặt trên Facebook cho thấy phó tổng thống đắc cử xúc phạm những người được hưởng lợi từ chính phủ. Ở Mỹ, người xem đã chứng kiến các cuộc gọi tự động do AI tạo ra của Tổng thống Joe Biden yêu cầu cử tri ở nhà.

Vào tháng 2, Viện Đối thoại Chiến lược (ISD), một tổ chức tư vấn có trụ sở tại Vương quốc Anh, đã phát hiện ra cái được gọi là 'thư rác' do chính phủ Trung Quốc điều hành, đây là một chiến dịch chia sẻ các hình ảnh do AI tạo ra nhằm truyền bá thông tin sai lệch trước Hoa Kỳ. cuộc bầu cử năm nay.

Các video deepfake đã trở nên tràn lan trong năm đầy bầu cử này. Một số quốc gia như Pakistan , Đài Loan và Bangladesh , đã chứng kiến sự cố của những video như vậy lan truyền thông tin sai lệch trong cử tri.

Những thách thức về đạo đức và quy định

Sự trỗi dậy của AI trong các cuộc bầu cử đã thúc đẩy các cuộc tranh luận xung quanh ý nghĩa đạo đức của nó và sự cần thiết phải giám sát theo quy định. Các câu hỏi liên quan đến tính minh bạch, trách nhiệm giải trình và bảo vệ các chuẩn mực dân chủ đã trở thành trọng tâm trong các cuộc thảo luận giữa các nhà hoạch định chính sách và nhà công nghệ.

Mỗi quốc gia cần có cơ sở hạ tầng AI riêng để tận dụng tiềm năng kinh tế đồng thời bảo vệ nền văn hóa của chính mình

Giám đốc điều hành Nvidia Jensen Huang

Như Giám đốc điều hành Nvidia, Jensen Huang đã nói , mỗi quốc gia cần có cơ sở hạ tầng AI của riêng mình để tận dụng tiềm năng kinh tế đồng thời bảo vệ nền văn hóa của chính mình. Tạo sự cân bằng giữa việc khai thác tiềm năng của AI cho vận động chính trị trong khi giảm thiểu hậu quả tiêu cực của nó vẫn là một thách thức chính đối với các bên liên quan.

Liên minh châu Âu (EU) đã thực hiện bước đi chính thức đầu tiên bằng việc thiết lập Đạo luật AI vào tháng 3. Theo đạo luật, các trường hợp sử dụng có nguy cơ cao đối với các quyền cơ bản của mọi người sẽ bị hạn chế. AI gây ra “rủi ro không thể chấp nhận” cũng đang phải đối mặt với lệnh cấm. Điều này bao gồm các trường hợp sử dụng trong đó hệ thống AI triển khai “các kỹ thuật ngầm, lôi kéo hoặc lừa đảo để bóp méo hành vi và làm suy yếu khả năng ra quyết định sáng suốt” hoặc lợi dụng những người dễ bị tổn thương.

Tại Ấn Độ, Bộ trưởng Bộ Điện tử và CNTT Rajeev Chandrashekhar đã tuyên bố rằng khung pháp lý về AI sẽ được thảo luận và tranh luận vào tháng 6-tháng 7 năm nay.

Các công ty công nghệ cũng đang nỗ lực hạn chế thiệt hại do nội dung do AI tạo ra.

Giao thức internet nguồn mở có tên C2PA sử dụng mật mã để mã hóa thông tin chi tiết về nguồn gốc của một phần nội dung. Điều này có nghĩa là những thông tin như nguồn gốc của một phần nội dung và ai hoặc cái gì đã tạo ra nội dung đó sẽ có sẵn cho chúng tôi. Những gã khổng lồ công nghệ như Google, Microsoft và Meta đã thông báo rằng họ là một phần của giao thức này.

Khi việc sử dụng Gen AI tiếp tục được áp dụng trong bầu cử chính trị, tác động của nó sẽ ngày càng tăng lên trong những năm tới. Những tiến bộ trong công nghệ AI và sự phức tạp ngày càng tăng của các thuật toán sẽ tiếp tục thay đổi động lực của chiến dịch vận động chính trị và sự tham gia của cử tri. Để điều hướng bối cảnh đang thay đổi nhanh chóng này, các nhà hoạch định chính sách, cơ quan bầu cử và xã hội dân sự phải hợp tác để thiết lập các khuôn khổ pháp lý mạnh mẽ và các hướng dẫn đạo đức nhằm bảo vệ tính toàn vẹn của các quy trình dân chủ.

Rốt cuộc, chúng ta biết AI được bao nhiêu?

Gen AI, đặc biệt là các mô hình ngôn ngữ như GPT (Generative Pre-training Transformer), chắc chắn đang định hình các câu chuyện chính trị. Những mô hình này có thể tạo ra một lượng lớn văn bản, bắt chước ngôn ngữ giống con người và tạo ra nhiều nội dung từ bài phát biểu đến bài đăng trên mạng xã hội. Bằng cách tạo ra các thông điệp phù hợp để gây được tiếng vang với các phân khúc cử tri cụ thể và gây ảnh hưởng hiệu quả đến dư luận về các vấn đề quan trọng, công nghệ này đã trao quyền lực to lớn cho các nhà vận động.

Tuy nhiên, điều quan trọng là phải hỏi liệu mọi người có hiểu những gì họ nhìn thấy hay họ tin tưởng một cách mù quáng vào điều đó. Bản thân Thủ tướng Narendra Modi cũng bày tỏ lo ngại về vấn đề deepfake và kêu gọi giới truyền thông giáo dục công chúng về những rủi ro của Gen AI.

Theo dữ liệu thăm dò của Ipsos, có sự chậm trễ trong cách các cá nhân hiểu về AI và quan sát này mang tính toàn cầu. Trong một cuộc khảo sát trên 31 quốc gia, trung bình có khoảng 70% cho rằng họ hiểu rõ về AI nhưng chỉ 50% có thể nêu tên các sản phẩm, dịch vụ sử dụng AI. Ví dụ, ở Ấn Độ, con số này là 64%. Ngoài ra, điều thú vị là người dân ở các thị trường mới nổi có niềm tin cao hơn vào công nghệ AI. Ngoài ra, họ có xu hướng nhìn thấy những ưu điểm hơn là nhược điểm của AI.

Sự trỗi dậy của AI thế hệ thể hiện sự thay đổi sâu sắc trong cách thức tranh cử và giành chiến thắng trong các cuộc bầu cử. Trong khi mang đến những cơ hội chưa từng có cho chiến dịch cá nhân hóa và sự tham gia của cử tri, AI cũng đặt ra những thách thức đáng kể về thông tin sai lệch, quyền riêng tư và trách nhiệm dân chủ. Khi các xã hội thích ứng với thực tế mới này, việc triển khai AI có trách nhiệm trong các quy trình bầu cử sẽ rất quan trọng trong việc duy trì tính toàn vẹn và hợp pháp của quản trị dân chủ trên toàn thế giới.