Chiến tranh dẫn đến việc AI chống lại tin tức giả mạo như thế nào

Chiến tranh là phát minh tồi tệ nhất của con người, hủy hoại cuộc sống và để lại những vết thương chưa lành cho nhiều thế hệ. Các cuộc chiến trong Thiên niên kỷ trước có ít nhất một số điểm trung thực trong chúng theo cách mà chúng được tuyên bố, và rõ ràng ai là người chống lại ai. Tuy nhiên, chiến tranh thời hiện đại thì khác. Cuộc chiến thông tin là một phần rất lớn của cuộc chiến đang diễn ra giữa Ukraine và Nga, với rất nhiều tin tức giả mạo nhằm thao túng dư luận. Chính phủ Nga đã triển khai toàn bộ mạng lưới các kênh truyền hình nhắm mục tiêu đến khán giả phương Tây và giờ đây họ đang tận dụng chúng để thay đổi quan điểm của thế giới về Ukraine, đưa ra những tuyên bố sai sự thật về vấn đề này và thuyết phục rằng Nga không giết người mà là để "cứu họ". "

Tại sao nó quan trọng với tôi?

Chiến tranh đã ảnh hưởng đến cá nhân tôi. Tôi là đồng sáng lập của Cầu đầu tiên - một công ty nghiên cứu và phát triển CNTT ở Ukraine với hơn 100 công nhân Ukraine. Chiến tranh mang lại cái chết và sự tàn phá hàng loạt cho đất nước của chúng tôi, nhưng chúng tôi không từ bỏ với tư cách là một xã hội hay một công ty. Chúng tôi tiếp tục làm việc để hỗ trợ nhóm và quốc gia của chúng tôi.

Khi cuộc chiến diễn ra trên các mặt trận, chúng tôi đã chứng kiến cách tuyên truyền của Nga ảnh hưởng đến các nước hậu Xô Viết, và nhiều nhà báo Ukraine và các nhà báo khác đã bắt đầu chiến đấu chống lại những hành vi giả mạo của Nga tại các quận này. Tuy nhiên, chúng ta thường quên mất những tuyên truyền mà chúng ta ít thấy - tuyên truyền của Nga trong thế giới nói tiếng Anh phương Tây, điều này rất quan trọng vì nó bao gồm rất nhiều người có ảnh hưởng đến các quyết định chính trị của các nước phương Tây. Đó là khi chúng tôi quyết định rằng chúng tôi phải làm điều gì đó để giúp chống lại tin tức giả mạo.

Cách chúng tôi quyết định sử dụng trí tuệ nhân tạo để chống lại hàng giả

Một trong những dự án phát triển nội bộ của chúng tôi cho BrandVision, đối tác của chúng tôi, là ứng cử viên tốt nhất với công nghệ thích hợp có thể được tích hợp vào một công cụ mới để chống lại tin tức giả. Đây là một dự án giúp các thương hiệu tiếp nhận và tương tác với phản hồi từ đối tượng mục tiêu của họ một cách hiệu quả. Nó sử dụng mạng thần kinh để phân tích nội dung video, âm thanh và văn bản trên YouTube, kết hợp với phân tích ngữ nghĩa của nội dung âm thanh / văn bản. Đó là một công ty khởi nghiệp ở giai đoạn đầu đi đến MVP.

Chúng tôi muốn tìm cách nhanh chóng tạo ra một sản phẩm phù hợp với nhu cầu thị trường. Đồng thời, chúng tôi đã hiểu rằng có một cuộc chiến thông tin trong đó các công nghệ phân tích đóng một vai trò quan trọng. Nhận thấy lỗ hổng trong hoạt động chống lại các nguồn thông tin tiếng Anh theo định hướng phương Tây, chúng tôi đã chọn một trong những yếu tố công nghệ của chúng tôi để giải quyết vấn đề này.

Một Pivot hoàn hảo

Và đó là khi chúng tôi xoay trục và biến Brand Vision thành Fake Vision - một công cụ trực tuyến để chống lại tuyên truyền quân sự trên các phương tiện truyền thông tiếng Anh phương Tây bằng cách kiểm tra tính khách quan của tin tức bằng một mạng lưới thần kinh có thể huấn luyện được. Điều này cho phép chúng tôi xây dựng sản phẩm thực tế trong 2 tháng thay vì 6 tháng và cho chúng tôi cơ hội để giúp đỡ đất nước của mình. Và, như một phần thưởng, do tình hình, có khả năng tăng tốc chuyển đổi người dùng, giúp chúng tôi và giúp đất nước.

Khả năng tương tác với nội dung âm thanh, văn bản và video, cũng như phản ứng cảm xúc, đạt được thông qua việc sử dụng nhiều mạng nơ-ron làm nền tảng cho dự án BrandVision. Chuyên môn toàn diện này là cơ sở của dự án Fake Vision, một sáng kiến phi lợi nhuận được hình thành do kết quả của cuộc xâm lược Ukraine. Mục tiêu chính của dự án là hình thành một công cụ đơn giản cho phép người dùng nói tiếng Anh đánh giá tin tức liên quan đến các sự kiện ở Ukraine, hình thành tầm nhìn khách quan về các sự kiện và giải quyết vấn đề tuyên truyền nói chung.

Tầm nhìn giả

Fake Vision là một sản phẩm cho phép người dùng phân tích thông tin dạng văn bản về sự thật và dối trá. Gán điểm số cuối cùng dưới dạng phần trăm từ 0 đến 100%, trong đó 0 là sai và 100% là đúng. Các trang web tin tức có thể là một nguồn thông tin, trong đó một cách tiếp cận riêng lẻ để thu thập dữ liệu được xây dựng để tiến hành thêm phân tích thần kinh.

Phân tích một tin bài bao gồm hai phần: tiêu đề và nội dung của bài báo. Một mạng nơ-ron riêng biệt sẽ phân tích tiêu đề và phần chính của bài viết được phân đoạn thành các đoạn văn để đánh giá chính xác hơn để người dùng có thể biết phần nào của nội dung là thao túng. Khả năng Fake Vision ngày nay dựa trên phân tích từng bài báo, có nghĩa là một bài báo có thể được phân tích theo yêu cầu của người dùng. Trong khuôn khổ dự án, một cơ chế đào tạo liên tục mạng nơ-ron đã được xây dựng, cho phép người dùng đánh giá tính khách quan của tin tức và chúng tôi tính đến nó trong mỗi đợt đào tạo AI.

Là bộ phân loại chính cho Fake Vision, một mạng nơ-ron lặp lại của loại bộ nhớ ngắn hạn hai chiều dài hạn (bi-LSTM) đã được chọn. Các mạng nơ-ron này được thiết kế để xây dựng các bộ phân loại văn bản. Sơ lược chung của mạng LSTM được thể hiện trong Hình 1.

Bước quan trọng trong quá trình phân loại là đào tạo trình phân loại. Bộ phân loại được đào tạo trên cơ sở dữ liệu bao gồm các ma trận và nhãn của chúng. Nhãn chứa thông tin về việc ma trận này thuộc về dữ liệu giả hay dữ liệu thật. Các thẻ được tải từ cơ sở dữ liệu và tất cả các bài báo trong cơ sở dữ liệu đã được đánh dấu là đúng hay không. Bộ phân loại được đào tạo theo phương pháp học có giám sát, ngụ ý sự hiện diện của một bộ dữ liệu được gắn nhãn hoàn chỉnh để đào tạo mô hình ở tất cả các giai đoạn xây dựng của nó.

Hình bên cho thấy nguyên tắc chung của việc huấn luyện mạng nơ-ron. Các bài báo được cung cấp cho mạng nơ-ron và kết quả đầu ra của mạng nơ-ron y được tính toán và so sánh với "sự thật" ban đầu - z, do đó lỗi mạng được tính toán và các thông số của mạng được điều chỉnh theo sai số này (xem Hình 2), dưới dạng hệ số trọng số.

Tại đầu ra của mạng nơron, dữ liệu được phân loại theo chức năng kích hoạt sigmoidal, có dạng như trong Hình 3.

Giai đoạn hiện nay

Hiện tại, mạng nơ-ron của Fake Vision đang trong quá trình hiệu chỉnh (huấn luyện để trở nên thông minh như Vua Solomon) và nhóm cần sự hỗ trợ của cộng đồng để huấn luyện nhanh hơn. Bạn cũng có thể trở thành một anh hùng chiến đấu giả mạo bằng cách truy cập __ trang web Fake Vision __ và thêm liên kết đến bài báo mà họ quan tâm - sau đó, mạng thần kinh sẽ kiểm tra độ tin cậy và sẽ cho điểm độ tin cậy. Sau đó, người dùng có thể đồng ý hoặc không đồng ý với cấp độ tin cậy của Fake Vision cho mỗi đoạn văn và giúp cải thiện thuật toán.

Sự kết luận

Sau khi mạng lưới thần kinh huấn luyện đủ để có độ chính xác gần như hoàn hảo, nhóm nghiên cứu có kế hoạch mở rộng Tầm nhìn giả để có thể kiểm tra độ tin cậy của bất kỳ tin tức nào. AI sẽ không giải quyết tất cả các vấn đề thế giới, nhưng báo chí tốt, kết hợp với AI có thể xác định thông tin giả, chắc chắn sẽ giúp Ukraine chiến thắng trong cuộc chiến và biến nơi này trở thành một nơi tốt đẹp hơn.

Theo quan điểm của công ty, chiến tranh gây ra những thách thức, một số thách thức mà chúng tôi tin rằng có thể giải quyết được. Đây là cơ hội để chúng ta trở thành những phiên bản tốt nhất của chính mình và giúp ích cho chính chúng ta, đất nước chúng ta và các công ty của chúng ta.