Tại sao sự thiên vị của con người trong ChatGPT và các Chatbot khác có thể dẫn đến sự gián đoạn xã hội

Không còn nghi ngờ gì nữa, cuộc cách mạng AI đã tạo ra những phát minh công nghệ mới.

Sự gián đoạn của nó đã giới thiệu các mô hình AI như chatbot và ChatGPT hiện đang định hình cách mọi người sống, tương tác và giao tiếp xã hội trong thế kỷ 21 đầy kinh ngạc.

Chỉ hai tháng sau khi ra mắt vào năm ngoái, chatbot OpenAI, ChatGPT, đã ghi nhận hơn 100 triệu người dùng trên toàn thế giới.

Theo sau đó, Google cũng đã công bố ra mắt Bard , một mô hình hội thoại do AI hỗ trợ cung cấp cho mọi người thông tin dễ hiểu từ kết quả tìm kiếm.

Tất cả những điều này đều đóng vai trò là những thành tựu to lớn, cho thấy mức độ phát triển của AI gần với việc đảm bảo con người có một lối sống dễ dàng. Nhưng có thể có một số sai sót.

Vấn đề với cuộc cách mạng AI

Việc tạo ra những cách tốt hơn để giải quyết công việc của con người với sự trợ giúp của AI có một số tác động.

Sự xuất hiện của các mô hình AI cấp cao như ChatGPT và các chatbot tiên tiến khác đã đặt ra mối đe dọa đối với công việc của con người.

Sớm hay muộn, AI sẽ lén lút chiếm đoạt công việc của con người hoặc khiến nhiều công nhân trở nên vô dụng trong lĩnh vực của họ.

Sự gián đoạn công việc được cho là không thể tránh khỏi khi AI được cách mạng hóa. Nhưng còn nhiều điều cần chú ý khi các mô hình AI này thay phiên nhau thâm nhập vào cuộc sống con người và thay đổi trật tự của mọi thứ.

Một vấn đề tiềm ẩn liên quan đến các công nghệ mới này – ChatGPT và các Chatbot khác – cần được quan sát nghiêm túc là cách các mô hình này có thể gây ra sự gián đoạn xã hội.

Theo Giám đốc điều hành OpenAI, Sam Altman, một vấn đề lớn chống lại ChatGPT là vấn đề thiên vị.

Sự thiên vị của con người đã được xác định là một vấn đề lớn của ChatGPT và tất nhiên, nó không chỉ dành riêng cho ChatGPT của OpenAI.

Có những Chatbot khác có vấn đề về sở thích chọn lọc của con người.

Thống kê xu hướng AI

Nghiên cứu của Tidio cho thấy chỉ có 2% mọi người nghĩ rằng AI không thiên vị; ngược lại, 45% số người được hỏi cho rằng vấn đề hiện đại chính của AI là thành kiến xã hội.

Điều này có nghĩa là các chatbot AI như ChatGPT và phần còn lại vẫn thiếu sự công bằng trong phán đoán và hoạt động của chúng. Bởi vì định kiến của con người có vẻ đáng chú ý khi sử dụng các mô hình AI này.

Xu hướng AI (Con người) là gì?

Sai lệch AI là một vấn đề trí tuệ nhân tạo gây ra khi dữ liệu sai lệch được sử dụng để đào tạo thuật toán mô hình, điều này cuối cùng ảnh hưởng đến phán đoán của máy.

Giải thích về vai trò của sự thiên vị trong AI , Steve Nouri , người đứng đầu Khoa học Dữ liệu & AI, cho biết sự thiên vị của con người trong AI có ba dạng: thành kiến giới tính, thành kiến chủng tộc và phân biệt tuổi tác.

Sự thiên vị của con người trong AI được coi là trách nhiệm của dữ liệu bị xâm phạm hoặc của các nhà phát triển.

Điều này cho thấy Chatbot gần như không thể xúi giục nói xấu chủng tộc, đưa ra những tuyên bố gây tổn thương hoặc phân biệt đối xử với một nhóm người nhất định.

Ngoại trừ có một thuật toán sai lệch hoặc dữ liệu được sử dụng bởi mô hình.

Một ví dụ điển hình là việc tắt đột ngột chatbot Twitter của Microsoft , Tay, vào năm 2016 sau khi nó bị cáo buộc là phân biệt chủng tộc.

Ngay cả mô hình đàm thoại OpenAI mới ra mắt gần đây, ChatGPT, đã bị lên án là thiên vị bằng cách giữ "sự thiên vị và ác cảm chống bảo thủ " đối với cựu tổng thống Hoa Kỳ, Donald Trump.

Tại sao sự thiên vị của con người trong Chatbots có thể dẫn đến sự gián đoạn xã hội

Sự thiên vị chính trị mà ChatGPT nắm giữ về cựu tổng thống Donald Trump đã dẫn đến sự chỉ trích mạnh mẽ đối với mô hình AI và công ty đang phát triển của nó, OpenAI, trên mạng xã hội.

Để đáp lại sự tin tưởng rộng rãi, Giám đốc điều hành OpenAI, Sam Altman đã tweet vào đầu tháng 2 để giải quyết vấn đề. Theo Sam, việc điều chỉnh để loại bỏ sai lệch ChatGPT và cải thiện nó đang diễn ra.

Trong các dòng tweet của mình, Sam thừa nhận đã có sự “ghét bỏ” nhắm vào các nhân viên của OpenAI, điều mà anh ấy coi là “kinh khủng”.

Anh ấy cũng tiết lộ rằng công ty của anh ấy đang nỗ lực cải thiện cài đặt mặc định của chatbot để thúc đẩy tính trung lập và cũng cho phép người dùng sử dụng hệ thống dựa trên sở thích cá nhân.

Nhưng điều này sẽ không dễ dàng xảy ra. Ngay cả Sam cũng thừa nhận rằng quá trình này rất khó khăn và sẽ mất thời gian để thực hiện.

Xu hướng chính trị của ChatGPT đã dẫn đến các cuộc tấn công không chính đáng vào nhân viên của OpenAI. Đó là dấu hiệu đủ để cân nhắc hậu quả xã hội của bất kỳ mô hình AI thiên vị nào.

Những thành kiến của AI có thể gây ra những hậu quả nghiêm trọng đối với các cá nhân và cộng đồng. Nó có thể dẫn đến sự chỉ trích không công bằng đối với một nhóm người hoặc phân biệt đối xử, điều này gián tiếp gây ra sự thù địch hoặc bùng nổ xã hội.

Đó là lý do tại sao điều quan trọng là không được bỏ qua những thành kiến vào lúc này mà nên yêu cầu các giải pháp khả thi.

Đúng như Sam đã nói, “tấn công người khác” không có tác dụng đáng kể trong việc giúp lĩnh vực AI tiến bộ. Cần chú ý đến các tùy chọn khả thi để giảm bớt sự thiên vị của chatbot AI.

Cách giảm thiểu sai lệch trong AI Chatbots

Sự thiên vị của con người trong chatbot AI là do sử dụng thuật toán hoặc dữ liệu thiên vị và các nhà phát triển mô hình. Để ngăn chặn sự thiên vị trong AI, những điều sau đây phải được tuân thủ khi xây dựng chatbot:

Nhà phát triển có nguồn gốc đa dạng

Xu hướng thuật toán hoặc sai lệch dữ liệu trong AI hầu như có thể xảy ra do các nhà phát triển - là con người - có xu hướng tự nhiên trong cách tiếp cận của họ.

Thật dễ dàng để một nhóm các nhà phát triển đồng nhất xây dựng một mô hình AI ủng hộ hoặc hỗ trợ quan điểm và quan điểm của họ về một số vấn đề trong cuộc sống.

Để ngăn điều này xảy ra, cần phải tuyển dụng một nhóm các nhà khoa học dữ liệu đa dạng , những người có thể hỗ trợ quan sát và giảm sai lệch thuật toán.

Sử dụng dữ liệu tổng hợp

Việc các mô hình AI tiêu thụ một lượng lớn dữ liệu chưa được kiểm duyệt khiến nó trở nên sai lệch. Một cách để loại bỏ sự thiên vị của chatbot là đảm bảo mô hình sử dụng dữ liệu tổng hợp được các nhà phát triển quan sát kỹ lưỡng.

minh bạch

Phản ứng dữ dội đối với sự thiên vị do ChatGPT phát hiện, OpenAI đồng ý rằng chatbot AI mới của họ vẫn gặp "vấn đề trong việc giữ cho sự thật của nó thẳng thắn và đôi khi đưa ra các hướng dẫn có hại".

Công ty AI đã đứng ra làm sạch để cho mọi người biết lý do tại sao vẫn không thể dựa vào chatbot để lấy thông tin quan trọng hoặc nhạy cảm.

Đó là một hình thức minh bạch cần thiết để hạn chế sự thiên vị của con người trong chatbot. Bằng cách nêu rõ những điểm yếu của mô hình, sự gián đoạn xã hội có thể được chế ngự trước khi leo thang.

Kiểm tra mô hình trước và sau khi phát triển

Như đã nêu, các nhà phát triển nên thử nghiệm mô hình trước và sau khi nó được phát triển.

Quá trình này có thể mất nhiều thời gian để đánh giá các chức năng của chatbot và giải quyết bất kỳ dạng sai lệch nào có thể xuất hiện trong nguyên nhân thử nghiệm.

Việc cho phép các nhà khoa học dữ liệu nghiên cứu kỹ dữ liệu mà chatbot AI cần để hoạt động và hoàn thiện cách nó mong đợi mô hình phản hồi hoặc xây dựng thông tin mà nó suy thoái nên là một cuộc kiểm tra bắt buộc phải tiến hành sau khi phát triển.

Phần kết luận

ChatGPT, giống như mọi chatbot khác, vẫn còn lâu mới thoát khỏi sự thiên vị của con người. Đó là một vấn đề cơ bản được tạo ra bởi cả dữ liệu mà AI được đào tạo và sở thích cá nhân của các nhà phát triển.

Sau khi các nhà phát triển và nhóm khoa học dữ liệu bắt đầu thực tế và khách quan trong cách tiếp cận của họ đối với việc thu thập dữ liệu được sử dụng bởi các mô hình AI này, xu hướng AI sẽ bắt đầu hành trình tuyệt chủng.