Vấn đề thiên vị của AI có thể ảnh hưởng đến đơn xin việc tiếp theo của bạn như thế nào

Người tìm việc công nghệ đang bị chặn bởi sự thiên vị của AI khi ứng tuyển vào các vai diễn . Mặc dù đối với các chuyên gia nhân sự, gen AI có rất nhiều tiềm năng trong việc tự động hóa các nhiệm vụ tẻ nhạt, xu hướng thiên vị của nó vẫn là một nguyên nhân gây lo ngại.

Sự thiên vị AI trong tuyển dụng phát sinh khi các hệ thống và công cụ được sử dụng để sàng lọc và lựa chọn ứng viên vô tình duy trì hoặc thậm chí khuếch đại những định kiến hiện có.

Những thành kiến này thường xuất phát từ dữ liệu mà các hệ thống này đào tạo, có thể phản ánh những định kiến xã hội hoặc mô hình tuyển dụng lịch sử ưu tiên một số nhóm nhân khẩu học nhất định hơn những nhóm khác.

Đôi khi, sự thiên vị của AI là do bản thân thiết kế, phản ánh những thành kiến vô thức của các nhà phát triển, trong khi các vòng phản hồi có nghĩa là nếu một hệ thống liên tục chọn các ứng viên có nền tảng tương tự, nó sẽ tiếp tục làm như vậy trừ khi được sửa chữa.

Sự thiên vị sẵn có có thể ảnh hưởng đến bạn tìm kiếm việc làm đáng kể. Mặc dù báo cáo đã được phổ biến rộng rãi về những thành kiến trên Hệ thống theo dõi người nộp đơn (ATS), hệ thống quét sơ yếu lý lịch để tìm các từ khóa trong thông số công việc và tìm các từ khóa phù hợp với các ứng viên thành công trước đó, thí nghiệm gần đây cho thấy thành kiến AI có thể hói đến mức nào.

Thiên vị trong hành động

Bằng cách áp dụng những cái tên hư cấu nhưng “khác biệt về mặt nhân khẩu học” cho những hồ sơ có trình độ ngang nhau, ChatGPT 3.5 được yêu cầu xếp hạng những người nộp đơn theo thông số công việc thực tế cho vai trò nhà phân tích tài chính của một công ty thực tế.

Những cái tên khác biệt với người Mỹ da đen có khả năng được xếp vào danh sách ứng viên tốt nhất thấp hơn; những cái tên liên quan đến phụ nữ châu Á và đàn ông da trắng thường hoạt động tốt hơn.

Với tốc độ phát triển AI chóng mặt, một số người cho rằng thí nghiệm này đã lỗi thời. Thật không may, đó không phải là trường hợp.

Mặc dù ChatGPT-4o hiện đang được triển khai và OpenAI tuyên bố đã thử nghiệm nó với các chuyên gia bên ngoài, nhưng họ cũng cho biết họ sẽ tiếp tục giải quyết các mối lo ngại như thiên vị, công bằng và thông tin sai lệch khi chúng được đưa ra ánh sáng. Có nghĩa là những thành kiến vẫn tồn tại.

Người tìm việc có thể làm gì để tránh sự thiên vị AI?

Đối với những người tìm việc, việc tìm hiểu sâu hơn một chút về cam kết của công ty với DE&I sẽ cho biết liệu công ty đó có khả năng tập trung vào việc giảm xu hướng cho các công cụ AI của mình hay không.

Với khả năng quét hàng nghìn hồ sơ trong vài giây, khó có khả năng các công ty sẽ quay lại chỉ xem xét hồ sơ theo cách thủ công, nhưng nhiều tổ chức đang bổ sung thêm một lớp giám sát của con người trong quy trình sàng lọc để giúp giảm thiểu các kết quả AI sai lệch. Tất nhiên, con người cũng có thành kiến nên không có phương pháp nào là hoàn hảo.

Các nhóm tuyển dụng khác đang sử dụng ATS để che giấu tên và trình độ học vấn của ứng viên.

Ngoài ra, hãy xem liệu công ty bạn mong muốn có quan tâm đến trình độ học vấn cụ thể hay không; nếu đúng như vậy thì có nhiều khả năng thiên vị AI hơn.

Tất nhiên, trong các ngành cụ thể như y học và chăm sóc sức khỏe, trình độ chuyên môn rất quan trọng, nhưng đối với những ngành khác, như công nghệ phần mềm, các tổ chức có thể áp dụng phương pháp tuyển dụng dựa trên kỹ năng hơn.

Các kỹ sư và nhà phát triển thường là NGÔI SAO (có kỹ năng thông qua các con đường thay thế), vì vậy hãy chú ý đến các yêu cầu dựa trên kinh nghiệm thay vì trình độ học vấn tối thiểu trong quảng cáo việc làm.

Kỹ sư DevOps, SAP, Bellevue

Sap đang tìm kiếm một Kỹ sư DevOps chịu trách nhiệm cung cấp hiệu quả và hiệu quả môi trường khách hàng trên Đám mây của các dòng sản phẩm tương ứng và đảm bảo việc phân phối tuân theo các Thỏa thuận cấp độ dịch vụ đã xác định.

Bạn cũng sẽ đóng góp vào việc phát triển các giải pháp tự động để phát hiện sự bất thường và tự động khắc phục sự cố, giám sát và đo lường các hệ thống để lập kế hoạch hiệu suất, tải trọng và công suất, đồng thời đảm bảo vận hành trơn tru và tối đa hóa thời gian hoạt động.

Để được xem xét, bạn cần có ít nhất hai năm kinh nghiệm về Docker, Kubernetes, Jenkins, Ansible, Python và BASH cùng những người khác. Tìm hiểu thêm tại đây .

Kỹ sư phần mềm cao cấp - DevOps, Roku, San Jose, CA

Đưa ra mức lương khá lớn, mặc dù chỉ dành cho California, Roku đang tuyển dụng một vị trí Kỹ sư phần mềm cao cấp với các kỹ năng DevOps đặc biệt. Các trách nhiệm bao gồm tự động hóa và mở rộng quy mô các nhóm công nghệ Dữ liệu lớn và Phân tích trên cơ sở hạ tầng Đám mây, xây dựng quy trình CI/CD, thiết lập giám sát và cảnh báo cho cơ sở hạ tầng sản xuất cũng như luôn cập nhật các nhóm công nghệ của mình.

Với khả năng đủ điều kiện nhận bảo hiểm y tế, giải thưởng cổ phần, bảo hiểm nhân thọ, trợ cấp tàn tật, nghỉ phép của cha mẹ, trợ cấp chăm sóc sức khỏe và thời gian nghỉ có lương, vai trò này yêu cầu bốn năm kinh nghiệm về DevOps và/hoặc kỹ thuật độ tin cậy. Đọc thêm tại đây .

Nhân viên cấp cao Kỹ sư DevOps, FanDuel, Atlanta

Đóng vai trò then chốt trong việc tự động hóa cơ sở hạ tầng và ứng dụng đám mây của FanDuel Group bằng cách cộng tác với các kỹ sư phần mềm, kỹ sư phát hành và các nhóm chức năng chéo khác với tư cách là một Kỹ sư DevOps nhân viên cấp cao . Người đăng ký thành công sẽ thúc đẩy các sáng kiến quan trọng bằng cách phát triển, lập kế hoạch và triển khai các chiến lược trên nhiều lĩnh vực đa chức năng phù hợp với mục tiêu kinh doanh của mình.

Mặc dù trọng tâm chính là AWS, nhưng các nền tảng đám mây khác cũng có thể được yêu cầu, vì vậy việc thể hiện cam kết phát triển chuyên môn về công nghệ đám mây là điều quan trọng. Dần dần, không có yêu cầu về trình độ học vấn nào được liệt kê nhưng có một danh sách các kinh nghiệm và kỹ năng mong muốn. Xem yêu cầu tại đây .

Bởi Amanda Kavanagh