![Search icon](https://hackernoon.imgix.net/search-new.png?w=19&h=19)
OpenAI đã trở thành cái tên quen thuộc chỉ sau một đêm, ít nhất là trong giới công nghệ, bằng cách phát hành ChatGPT vào tháng 11 năm 2022. Các doanh nghiệp và cá nhân đã nhanh chóng áp dụng các công cụ của công ty và bắt đầu sử dụng chúng để tự động hóa các tác vụ hàng ngày.
Một vấn đề với văn bản và hình ảnh do AI tạo ra là chúng có thể phản ánh các tác phẩm hiện có. Một số người cáo buộc phần mềm này đạo văn, trong khi những người khác cảm thấy nó không chi tiết bằng tác phẩm do con người tạo ra. Các nhà tuyển dụng ở khắp mọi nơi đều muốn có những cách tốt hơn để phát hiện việc sử dụng AI nhằm đáp ứng nhu cầu của đối tượng mục tiêu và biết thời điểm tốt nhất để sử dụng công nghệ này.
Open AI đã phản hồi bằng cách tạo ra một công cụ phát hiện AI nhưng vẫn chưa phát hành. Nhiều người muốn biết lý do trì hoãn và liệu nó có bao giờ được công khai cho công chúng hay không.
TechCrunch đã xuất bản một bài viết giải thích về công cụ phát hiện của OpenAI, công cụ này có mục đích bắt những sinh viên gian lận bằng cách để chương trình máy tính viết bài luận của họ. Công ty đã giữ lại thay vì phát hành, khiến một số người đặt câu hỏi tại sao. Một đại diện của OpenAI cho biết công ty đang xem xét
Nhiều công cụ phát hiện khác không hiệu quả, đôi khi tạo ra kết quả dương tính giả và đôi khi không phát hiện được văn bản do AI tạo ra. Sản phẩm của OpenAI sẽ tập trung chủ yếu vào việc phát hiện văn bản có hình mờ của ChatGPT. Một lý do không phát hành là lo ngại rằng nó có thể ảnh hưởng tiêu cực đến những người không nói tiếng Anh bản xứ. Công cụ này cũng buộc ChatGPT phải thay đổi cách thức hoạt động khi thêm các từ có hình mờ.
Mặc dù phần mềm phát hiện này có mục đích phát hiện sinh viên sử dụng AI để viết bài luận, nhưng nó có thể được áp dụng cho nhiều tình huống khác, đặc biệt là trong việc chống gian lận ở quy mô lớn hơn.
Ví dụ, hãy xem xét công cụ phát hiện AI có thể hữu ích như thế nào trong việc phát hiện văn bản do máy tính tạo ra được tội phạm mạng sử dụng. Chỉ tính riêng năm 2023, các khoản thanh toán bằng phần mềm tống tiền
Nhiều vụ lừa đảo bao gồm lời lẽ hoa mỹ nhằm đánh vào cảm xúc của ai đó hoặc gây ra nỗi sợ hãi. Khi không chắc chắn liệu một tin nhắn có hợp lệ hay không, mọi người có thể chạy văn bản qua công cụ phát hiện để xem liệu AI có được sử dụng để tạo ra nó hay không. Điều này có thể khá có giá trị vì nhiều vụ lừa đảo liên quan đến văn bản do robot viết.
Cho đến nay, các công cụ phát hiện AI vẫn chưa thực sự chính xác. Chúng đã đánh dấu sai nội dung gốc là do AI tạo ra và khiến sinh viên phải đấu tranh cho điểm số và đôi khi là sự nghiệp học tập của mình. Các trường đại học và nhà tuyển dụng coi đạo văn là nghiêm trọng, vì vậy một lời buộc tội sai có thể hủy hoại tương lai hoặc sinh kế của ai đó.
Các công cụ cũng có thể không hiệu quả khi người dùng có thể
Những người phản đối phần mềm này lo ngại rằng nó có thể khiến mọi người kém sáng tạo hơn vì sợ kích hoạt máy dò. Các chương trình như StealthAI sẽ
Mọi người cũng bày tỏ mối quan ngại về những người chơi xấu sử dụng công cụ này để đảo ngược kỹ thuật mã và tạo ra thứ gì đó sẽ
Những lập luận chống lại các công cụ phát hiện AI có thể sớm trở thành vấn đề gây tranh cãi. Trong khi mọi người bày tỏ lo ngại về việc người nói tiếng Anh không phải là tiếng mẹ đẻ bị tụt hậu, các nhà phát triển phần mềm có thể sẽ khắc phục các vấn đề về rào cản ngôn ngữ theo thời gian.
Nhiều người tin rằng OpenAI sẽ sớm phát hành công cụ của mình. Các báo cáo chỉ ra
Khi sự phát triển của máy dò AI ngày càng tăng, chúng ta có thể mong đợi thấy nó được sử dụng cho những mục đích như:
Nhận dạng video giả được sử dụng trong các chiến dịch chính trị
Tìm kiếm thông tin sai lệch và đánh dấu nó chính xác hơn các bot khác
Tạo nội dung có đạo đức
Việc phát hành công cụ này có thể truyền cảm hứng cho các thương hiệu khác tạo ra chương trình riêng và thúc đẩy tỷ lệ thành công của phát hiện AI.
Dù bạn có thích hay ghét thì AI vẫn sẽ tồn tại — mặc dù các công ty đã chậm hơn một chút trong việc áp dụng công nghệ này so với dự đoán ban đầu. MIT đã công bố một báo cáo cho thấy công nghệ này đang được
Khi các phòng tiếp thị tìm hiểu thêm về cách thức hoạt động của AI và cách triển khai nó, chúng ta có thể mong đợi nhiều thương hiệu hơn sẽ sử dụng nó và tìm kiếm các công cụ phát hiện để ngăn chặn các vấn đề về quyền riêng tư và sao chép.
Những người sử dụng AI trong một thời gian bắt đầu nhận thấy các mẫu có thể phát hiện mà không cần sự trợ giúp của phần mềm. Ví dụ, phần giới thiệu của hầu hết mọi bài viết đều có ngôn ngữ tương tự nhau. Bố cục, nhịp độ và chi tiết đều giống nhau. Với một chút luyện tập, hầu hết mọi người có thể phát hiện ra một bài viết do AI tạo ra khá chính xác.
Nếu không có cách phát hiện chính xác nội dung do AI tạo ra, mọi người có thể không tin tưởng vào những gì họ đọc trực tuyến. Trong những tình huống khác, họ có thể nghi ngờ ai đó đã sử dụng AI mà không tiết lộ nhưng không thể chứng minh được. Người lao động có thể bị buộc tội sai hoặc mất việc làm và bằng cấp khi họ không có tội.
Công cụ này sẽ giải quyết vấn đề sinh viên học rất ít và không chăm chỉ nhưng vẫn đạt được bằng cấp cao nhờ vào sự chăm chỉ, mồ hôi và nước mắt của người khác.
Sản phẩm của OpenAI có thể sẽ có tác động lớn nhất trong lĩnh vực giáo dục. Tuy nhiên, các công ty cũng có thể sử dụng nó để đảm bảo họ tạo ra nội dung độc đáo, có mục tiêu cao mà khách hàng muốn đọc.
Quyết định của OpenAI về việc giữ lại công cụ phát hiện của mình bắt nguồn từ mong muốn làm điều tốt nhất khi công nghệ AI phát triển và các mối quan ngại về đạo đức nảy sinh. Có khả năng họ sẽ phát hành phần mềm vào một thời điểm nào đó, để các nhà giáo dục ở khắp mọi nơi được an tâm. Các ngành công nghiệp khác có thể sử dụng nó như thế nào vẫn còn phải chờ xem. \
Tất cả các công ty phát triển chương trình AI nên cân bằng ưu và nhược điểm của từng tính năng mà họ giới thiệu. Chỉ khi đó, AI mới trở thành công cụ không thể thiếu thúc đẩy sự tiến bộ.