OpenAI đã tạo ra công cụ phát hiện AI, tại sao lại không phát hành?

OpenAI đã trở thành cái tên quen thuộc chỉ sau một đêm, ít nhất là trong giới công nghệ, bằng cách phát hành ChatGPT vào tháng 11 năm 2022. Các doanh nghiệp và cá nhân đã nhanh chóng áp dụng các công cụ của công ty và bắt đầu sử dụng chúng để tự động hóa các tác vụ hàng ngày.

Một vấn đề với văn bản và hình ảnh do AI tạo ra là chúng có thể phản ánh các tác phẩm hiện có. Một số người cáo buộc phần mềm này đạo văn, trong khi những người khác cảm thấy nó không chi tiết bằng tác phẩm do con người tạo ra. Các nhà tuyển dụng ở khắp mọi nơi đều muốn có những cách tốt hơn để phát hiện việc sử dụng AI nhằm đáp ứng nhu cầu của đối tượng mục tiêu và biết thời điểm tốt nhất để sử dụng công nghệ này.

Open AI đã phản hồi bằng cách tạo ra một công cụ phát hiện AI nhưng vẫn chưa phát hành. Nhiều người muốn biết lý do trì hoãn và liệu nó có bao giờ được công khai cho công chúng hay không.

Tại sao OpenAI còn ngần ngại phát hành công cụ của mình?

TechCrunch đã xuất bản một bài viết giải thích về công cụ phát hiện của OpenAI, công cụ này có mục đích bắt những sinh viên gian lận bằng cách để chương trình máy tính viết bài luận của họ. Công ty đã giữ lại thay vì phát hành, khiến một số người đặt câu hỏi tại sao. Một đại diện của OpenAI cho biết công ty đang xem xét tác động rộng hơn của công cụ và cần thời gian.

Nhiều công cụ phát hiện khác không hiệu quả, đôi khi tạo ra kết quả dương tính giả và đôi khi không phát hiện được văn bản do AI tạo ra. Sản phẩm của OpenAI sẽ tập trung chủ yếu vào việc phát hiện văn bản có hình mờ của ChatGPT. Một lý do không phát hành là lo ngại rằng nó có thể ảnh hưởng tiêu cực đến những người không nói tiếng Anh bản xứ. Công cụ này cũng buộc ChatGPT phải thay đổi cách thức hoạt động khi thêm các từ có hình mờ.

Sử dụng rộng rãi hơn của công cụ

Mặc dù phần mềm phát hiện này có mục đích phát hiện sinh viên sử dụng AI để viết bài luận, nhưng nó có thể được áp dụng cho nhiều tình huống khác, đặc biệt là trong việc chống gian lận ở quy mô lớn hơn.

Ví dụ, hãy xem xét công cụ phát hiện AI có thể hữu ích như thế nào trong việc phát hiện văn bản do máy tính tạo ra được tội phạm mạng sử dụng. Chỉ tính riêng năm 2023, các khoản thanh toán bằng phần mềm tống tiền tăng gấp đôi so với năm trước lên tới hơn 1 tỷ đô la, và con số này dự kiến sẽ tiếp tục tăng đáng kể với sự phổ biến của AI. Khi người tiêu dùng và các công ty nỗ lực chống lại vi phạm dữ liệu, AI có thể giúp phát hiện văn bản do máy tính tạo ra dễ dàng hơn.

Nhiều vụ lừa đảo bao gồm lời lẽ hoa mỹ nhằm đánh vào cảm xúc của ai đó hoặc gây ra nỗi sợ hãi. Khi không chắc chắn liệu một tin nhắn có hợp lệ hay không, mọi người có thể chạy văn bản qua công cụ phát hiện để xem liệu AI có được sử dụng để tạo ra nó hay không. Điều này có thể khá có giá trị vì nhiều vụ lừa đảo liên quan đến văn bản do robot viết.

Các lập luận phản đối việc sử dụng công cụ phát hiện

Cho đến nay, các công cụ phát hiện AI vẫn chưa thực sự chính xác. Chúng đã đánh dấu sai nội dung gốc là do AI tạo ra và khiến sinh viên phải đấu tranh cho điểm số và đôi khi là sự nghiệp học tập của mình. Các trường đại học và nhà tuyển dụng coi đạo văn là nghiêm trọng, vì vậy một lời buộc tội sai có thể hủy hoại tương lai hoặc sinh kế của ai đó.

Các công cụ cũng có thể không hiệu quả khi người dùng có thể cắm vào phần mềm dễ sử dụng và đa năng giúp họ vượt qua sự phát hiện của AI, chẳng hạn như HumanizeAI và RealWriter. Mọi người nên học cách sử dụng AI theo cách cho phép họ động não và tạo ra những ý tưởng mới mà không sao chép thông tin. Tuy nhiên, họ có thể tránh sử dụng bất kỳ loại phần mềm nào vì sợ bị máy dò gắn cờ.

Những người phản đối phần mềm này lo ngại rằng nó có thể khiến mọi người kém sáng tạo hơn vì sợ kích hoạt máy dò. Các chương trình như StealthAI sẽ viết lại văn bản do AI tạo ra để nghe có vẻ giống con người hơn. Họ cũng cho biết mọi người sẽ tránh xa các công cụ thường dùng như ChatGPT và tìm kiếm những công cụ không có hình mờ tương tự, khiến công cụ phát hiện trở nên vô dụng.

Mọi người cũng bày tỏ mối quan ngại về những người chơi xấu sử dụng công cụ này để đảo ngược kỹ thuật mã và tạo ra thứ gì đó sẽ sử dụng AI để tạo video giả mạo sâu hoặc các cuộc tấn công DDoS. Tội phạm mạng đã rất tinh vi. Không ai muốn cung cấp cho chúng thêm cách để lừa mọi người chia sẻ dữ liệu cá nhân của họ.

Lợi ích của Công cụ phát hiện AI

Những lập luận chống lại các công cụ phát hiện AI có thể sớm trở thành vấn đề gây tranh cãi. Trong khi mọi người bày tỏ lo ngại về việc người nói tiếng Anh không phải là tiếng mẹ đẻ bị tụt hậu, các nhà phát triển phần mềm có thể sẽ khắc phục các vấn đề về rào cản ngôn ngữ theo thời gian.

Nhiều người tin rằng OpenAI sẽ sớm phát hành công cụ của mình. Các báo cáo chỉ ra cuộc tranh luận nội bộ đó đã diễn ra trong gần hai năm về tính hữu ích của phần mềm so với mối quan tâm về tính bao hàm. Một số người thấy được lợi ích của các trường đại học và nhà tuyển dụng khi sử dụng các công cụ phát hiện AI.

Khi sự phát triển của máy dò AI ngày càng tăng, chúng ta có thể mong đợi thấy nó được sử dụng cho những mục đích như:

• Nhận dạng video giả được sử dụng trong các chiến dịch chính trị

• Tìm kiếm thông tin sai lệch và đánh dấu nó chính xác hơn các bot khác

• Tạo nội dung có đạo đức

  
  

Việc phát hành công cụ này có thể truyền cảm hứng cho các thương hiệu khác tạo ra chương trình riêng và thúc đẩy tỷ lệ thành công của phát hiện AI.

Tương lai của việc sử dụng AI

Dù bạn có thích hay ghét thì AI vẫn sẽ tồn tại — mặc dù các công ty đã chậm hơn một chút trong việc áp dụng công nghệ này so với dự đoán ban đầu. MIT đã công bố một báo cáo cho thấy công nghệ này đang được được áp dụng ở các mức giá khác nhau dựa trên các lĩnh vực. Ví dụ, hầu hết các doanh nghiệp áp dụng AI đều hoạt động trong lĩnh vực sản xuất và chăm sóc sức khỏe.

Khi các phòng tiếp thị tìm hiểu thêm về cách thức hoạt động của AI và cách triển khai nó, chúng ta có thể mong đợi nhiều thương hiệu hơn sẽ sử dụng nó và tìm kiếm các công cụ phát hiện để ngăn chặn các vấn đề về quyền riêng tư và sao chép.

Những người sử dụng AI trong một thời gian bắt đầu nhận thấy các mẫu có thể phát hiện mà không cần sự trợ giúp của phần mềm. Ví dụ, phần giới thiệu của hầu hết mọi bài viết đều có ngôn ngữ tương tự nhau. Bố cục, nhịp độ và chi tiết đều giống nhau. Với một chút luyện tập, hầu hết mọi người có thể phát hiện ra một bài viết do AI tạo ra khá chính xác.

Tại sao mọi người cần công cụ ngay bây giờ

Nếu không có cách phát hiện chính xác nội dung do AI tạo ra, mọi người có thể không tin tưởng vào những gì họ đọc trực tuyến. Trong những tình huống khác, họ có thể nghi ngờ ai đó đã sử dụng AI mà không tiết lộ nhưng không thể chứng minh được. Người lao động có thể bị buộc tội sai hoặc mất việc làm và bằng cấp khi họ không có tội.

Công cụ này sẽ giải quyết vấn đề sinh viên học rất ít và không chăm chỉ nhưng vẫn đạt được bằng cấp cao nhờ vào sự chăm chỉ, mồ hôi và nước mắt của người khác.

Sản phẩm của OpenAI có thể sẽ có tác động lớn nhất trong lĩnh vực giáo dục. Tuy nhiên, các công ty cũng có thể sử dụng nó để đảm bảo họ tạo ra nội dung độc đáo, có mục tiêu cao mà khách hàng muốn đọc.

Một vấn đề phức tạp

Quyết định của OpenAI về việc giữ lại công cụ phát hiện của mình bắt nguồn từ mong muốn làm điều tốt nhất khi công nghệ AI phát triển và các mối quan ngại về đạo đức nảy sinh. Có khả năng họ sẽ phát hành phần mềm vào một thời điểm nào đó, để các nhà giáo dục ở khắp mọi nơi được an tâm. Các ngành công nghiệp khác có thể sử dụng nó như thế nào vẫn còn phải chờ xem. \

Tất cả các công ty phát triển chương trình AI nên cân bằng ưu và nhược điểm của từng tính năng mà họ giới thiệu. Chỉ khi đó, AI mới trở thành công cụ không thể thiếu thúc đẩy sự tiến bộ.