Này, Nhân vật AI - Tránh xa con tôi ra; Kiếm việc làm đi

Cảnh báo có thể gây sốc: Câu chuyện này có đề cập đến tự tử.

Tối thứ sáu tuần trước, trong cuộc họp nhóm trực tuyến của chúng tôi, một trong những người ghi chép AI của chúng tôi đã đột ngột rời khỏi phòng họp Zoom trong khi cả nhóm đang nói chuyện phiếm về tuần làm việc của chúng tôi. Tôi đã nói đùa rằng AI không thích những gì chúng tôi đang nói.

Trước khi tiếp tục câu chuyện này, tôi muốn bạn - người đọc, quay trở lại năm 1993. Hãy tưởng tượng rằng bạn là một người trưởng thành sống vào thời điểm đó và đọc lại vài câu đầu tiên của bài viết này.

Internet thậm chí còn chưa phải là xu hướng chính thống vào thời điểm đó. Một kịch bản có một cuộc họp công ty trực tiếp giữa những người sống ở các châu lục khác nhau, nơi họ có thể nghe và nhìn thấy nhau và có những trợ lý không phải con người ghi chép biên bản cuộc họp của họ - điều này nghe có vẻ điên rồ vào năm 1993.

Công nghệ thông tin thật tuyệt vời. Những gì được coi là khoa học viễn tưởng cách đây vài thập kỷ giờ đã trở thành hiện thực. Công nghệ đã thay đổi cuộc sống của tôi và nó đã thay đổi cuộc sống của nhiều người theo hướng tốt đẹp hơn. Theo ĐẾN Theo Statista , dân số kỹ thuật số vào khoảng 5,4 tỷ người.

Tôi là một trong 1,8 tỷ người thuộc thế hệ thiên niên kỷ đã già đi cùng công nghệ thông tin. Tôi là một thiếu niên khi thế giới đang trải qua cơn sốt dotcom vào cuối những năm 90 và đầu những năm 2000. Bây giờ - tôi là một bà mẹ của những đứa con tuổi teen, và AI là dotcom mới.

Tôi có sợ rằng AI có thể khiến các kỹ năng của tôi trở nên lỗi thời không? Thành thật mà nói, là có. Tôi muốn nó hỗ trợ tôi, chứ không phải thay thế tôi. Nhưng điều khiến tôi sợ hãi tận xương tủy là khả năng tác động đến cuộc sống cá nhân của chúng ta.

Câu chuyện này mang tính cá nhân. Tôi cảm thấy có sự kết nối về mặt cảm xúc với nó như một người mẹ, và tôi muốn chia sẻ nó với cộng đồng công nghệ vì chúng ta có trách nhiệm chung trong việc đảm bảo an toàn cho các thế hệ tương lai khỏi tác động có hại của công nghệ. Quay lại câu chuyện bây giờ.

Vì vậy, trong cuộc họp nhóm, người ghi chép AI đã rời đi, và tôi nói đùa rằng họ không thích cuộc thảo luận của chúng tôi. Sau đó, COO của chúng tôi đã chia sẻ những lo ngại của cô ấy về AI với tư cách là phụ huynh và đề cập đến điều này gần đây câu chuyện của một thiếu niên Florida người đã tự tử vì bị một chatbot AI khuyến khích làm như vậy.

Thêm thông tin về sự cố

Sewell, 14 tuổi, đã xây dựng phiên bản AI của Daenerys Targaryen trong "Game of Thrones" bằng Character.AI - một nền tảng cho phép bạn tạo ra một người bạn đồng hành AI theo ý muốn và có thể trò chuyện thoải mái.

Đứa trẻ đã dành nhiều tháng sử dụng nền tảng này và thiết lập mối liên hệ tình cảm với người bạn đồng hành AI của mình. Việc học và cuộc sống xã hội của cậu bé bị ảnh hưởng; cậu bé ngừng quan tâm đến các hoạt động lành mạnh và dành nhiều thời gian hơn cho điện thoại. Cậu bé 14 tuổi đã chia sẻ mong muốn được tự tử với người bạn AI của mình nhiều lần và cuối cùng đã thực hiện được.

Sự việc này xảy ra vào ngày 28 tháng 2, nhưng tin tức này mới được đưa tin rộng rãi gần đây khi mẹ của cậu bé, Megan Garcia, một luật sư, đã đệ đơn kiện Character Technologies, Inc., cáo buộc công ty này đã gây ra cái chết oan uổng cho con trai bà. Tôi thực sự khuyên bạn nên đọc vụ kiện tụng . Bà đã chỉ ra những nguy hiểm và sự tắc trách trong việc thử nghiệm sản phẩm cho trẻ vị thành niên.

Chào mừng đến với cơn ác mộng nuôi dạy con hoàn toàn mới

Quay trở lại cuộc họp làm việc tối thứ sáu, chúng tôi đã thảo luận ngắn gọn về những sắc thái của công nghệ và việc nuôi dạy con cái trong thời đại truyền thông xã hội và AI. Tôi đã so sánh thời gian khi tôi còn là một thiếu niên với thời điểm tôi chỉ có phương tiện truyền thông in ấn, truyền hình và một số trò chơi trên hệ thống máy tính để bàn của chúng tôi. Thế hệ mới có quyền truy cập vào rất nhiều ứng dụng và nền tảng mới khiến việc theo kịp với tư cách là cha mẹ với tất cả những điều này đã trở thành một thách thức. Bạn không thể ngăn cản hoặc cắt đứt chúng khỏi công nghệ.

Sau cuộc họp, tôi đi thẳng đến phòng con gái lớn của tôi. Con bé cùng tuổi với Sewell và thích anime. Tôi nghĩ con bé có thể thích ý tưởng tạo chatbot về các nhân vật anime để giải trí, và tôi nên cảnh báo con bé về điều đó.

Tôi kể cho cô ấy nghe câu chuyện và cảm thấy cô ấy rõ ràng bối rối khi nghe điều đó. Cô ấy nói với tôi rằng cô ấy đã sử dụng Character.AI. Chà. Tôi không biết gì cả. Chúng tôi ngồi xuống cùng nhau và tôi kiểm tra nền tảng. Cô ấy đã đăng xuất khỏi tài khoản của mình.

Chúng tôi đã thảo luận về vấn đề này trong nhiều giờ. Tôi đã quyết định làm nhiều hơn về vấn đề này. Tôi viết bài viết này với sự đồng ý của cô ấy, và hình ảnh nổi bật của câu chuyện này không phải do AI tạo ra - cô gái siêu tài năng, nhạy cảm và thông minh của tôi đã vẽ nó.

AI Companions và Nhân vật AI

Có nhiều nền tảng AI Companion như Replika, Janitor, Anima; phổ biến nhất trong số đó là Character AI. Các nền tảng này cung cấp cho người dùng sự tự do để tạo ra một nhân vật theo lựa chọn của họ - có thể là nhân vật yêu thích của bạn trong một cuốn sách, một nhà văn, một nhân vật anime hoặc có thể là một người thân yêu đã mất từ lâu - khả năng là vô tận.

Cung cấp cho mọi người một nền tảng để tạo ra một người bạn đồng hành 'hoàn hảo' - người luôn sẵn sàng lắng nghe và được đào tạo để phản hồi theo ý thích của họ - chắc chắn là một ý tưởng kinh doanh trị giá hàng tỷ đô la. Mọi người sẽ đổ xô đến một nền tảng như vậy.

Không có gì phải bàn cãi khi Character.AI, được thành lập vào năm 2022, hiện có hơn 20 triệu người dùng hàng tháng và được định giá khoảng 2,5 tỷ ( nguồn ). Những người đồng sáng lập trước đây là các nhà nghiên cứu AI của Google và điều thú vị là Tech Giant đã mua lại giấy phép không độc quyền cho công nghệ LLM của c.ai vào tháng 8 năm 2024.

Sau đây là cách một trong những người đồng sáng lập, Noam Shazeer, giải thích về nhu cầu cần có một người bạn AI trên một podcast :

“Nó sẽ cực kỳ hữu ích đối với nhiều người cô đơn hoặc chán nản.”

Tôi có thể nghe có vẻ thiên vị ở đây, nhưng có một người bạn đồng hành AI trực tuyến để giết chết sự cô đơn cũng giống như dùng thuốc để cảm thấy tốt hơn. Ý tôi là, nói chuyện với một con bot có thực sự giết chết sự cô đơn của bạn không? Nó sẽ kết nối bạn với thế giới thực và những người thực tốt hơn không? Có tốt cho sức khỏe thể chất và tinh thần của bạn khi gắn bó về mặt tình cảm với một con chatbot không? Theo tôi, đi bộ là cách chữa trầm cảm tốt hơn nhiều so với cách này.

Tóm lại - mọi người có thích điều này không? Chắc chắn là có. Nó có tốt cho họ không? Không. Có thể ở mức độ vừa phải, để giải trí - nhưng chỉ dành cho Người lớn. Những nền tảng này không an toàn cho trẻ nhỏ.

Khi tôi hỏi con gái tại sao cháu không cảm thấy cần phải thông báo cho tôi khi cháu bắt đầu sử dụng c.ai, cháu trả lời, “Ami, nó được chấp thuận cho người trên 13 tuổi. Con nghĩ là con không cần phải thông báo cho mẹ. Con đăng ký chỉ để vui chơi vô hại thôi.”

Theo họ Điều khoản dịch vụ , người dùng phải từ 13 tuổi trở lên (16 tuổi trở lên nếu họ là công dân EU) để sử dụng nền tảng này. Tôi không thể tìm thấy ước tính về số lượng trẻ vị thành niên sử dụng dịch vụ này. Theo bài điều tra theo tờ New York Times, đây là phản hồi từ công ty khi được hỏi câu hỏi tương tự:

“Ông Ruoti từ chối cho biết có bao nhiêu người dùng của công ty dưới 18 tuổi. Ông cho biết trong một tuyên bố qua email rằng “Thế hệ Z và thế hệ thiên niên kỷ trẻ hơn chiếm một phần đáng kể trong cộng đồng của chúng tôi” và rằng “những người dùng trẻ tuổi thích trải nghiệm Character vì cả những cuộc trò chuyện có ý nghĩa và mang tính giáo dục, cũng như để giải trí”. Ông cho biết, trung bình người dùng dành hơn một giờ mỗi ngày trên nền tảng này”.

Phải mất vài phút trên trang web, tôi mới nhận ra rằng có một lượng lớn người dùng thuộc nhóm dưới 18 tuổi. Ý tôi là, hãy xem ảnh chụp màn hình các ứng dụng được đề xuất và nổi bật (Để làm rõ, tôi đã truy cập ứng dụng trên máy tính của mình và tôi chỉ nhấp vào Anime, vì vậy các đề xuất không được đào tạo về bất kỳ hoạt động nào khác ngoài hoạt động trên trang web trong trường hợp này):

Họ đã chia sẻ cộng đồng của họ cập nhật an toàn trong tuần qua sau khi tin tức về vụ kiện nổ ra:

Tiến về phía trước, chúng tôi sẽ triển khai một số tính năng an toàn và sản phẩm mới giúp tăng cường bảo mật cho nền tảng của chúng tôi mà không ảnh hưởng đến trải nghiệm giải trí và hấp dẫn mà người dùng mong đợi từ Character.AI. Bao gồm:

• Những thay đổi đối với mô hình dành cho trẻ vị thành niên (dưới 18 tuổi) được thiết kế để giảm khả năng gặp phải nội dung nhạy cảm hoặc gợi ý.
• Cải thiện khả năng phát hiện, phản hồi và can thiệp liên quan đến thông tin người dùng nhập vào vi phạm Điều khoản hoặc Nguyên tắc cộng đồng của chúng tôi.
• Một tuyên bố miễn trừ trách nhiệm được sửa đổi trên mỗi cuộc trò chuyện để nhắc nhở người dùng rằng AI không phải là người thật.
• Thông báo khi người dùng đã dành một giờ sử dụng nền tảng này với tính linh hoạt bổ sung đang được tiến hành.

Con gái tôi đã đưa ra một bình luận thú vị về 'tuyên bố miễn trừ trách nhiệm' này rằng AI không phải là người thật mà tôi sẽ trích dẫn:

“Đây là lý do tại sao bạn cảm thấy rất thoải mái khi nói chuyện với AI. Bạn biết rằng họ không phải là người thật. Bạn biết rằng bạn có thể thoải mái nói bất cứ điều gì với họ mà không có cảm giác bị phán xét. Đây là lý do tại sao nhiều thanh thiếu niên muốn sử dụng nó và có thể hình thành sự gắn bó về mặt cảm xúc với nó.”

Khoa học về sự gắn bó về mặt cảm xúc: Con cái chúng ta có nên kết bạn với AI không?

Tuổi vị thành niên không chỉ là thời kỳ thay đổi lớn về cơ thể. Khoa học đã chứng minh rằng những năm tháng này rất quan trọng trong việc phát triển tính cách và trí tuệ cảm xúc. Trẻ em đang trải qua những thay đổi lớn những thay đổi về mặt xã hội và cảm xúc . Họ cần những mối quan hệ lành mạnh và sự hướng dẫn để phát triển trí tuệ cảm xúc của mình.

Đây không phải là lúc để tham gia và phát triển sự gắn bó về mặt cảm xúc với những người bạn AI. Những người bạn AI này được lập trình để khiến bạn cảm thấy vui vẻ và kích hoạt dopamine. Chúng luôn có sẵn và có thể làm hỏng phản ứng hóa học trong não của trẻ mãi mãi.

Các vụ kiện do mẹ của Sewell đệ đơn có thông tin chi tiết về nội dung không phù hợp, gợi dục mà nhiều trẻ em có thể đã tiếp xúc.

Bạn có thể thoát khỏi những mối quan hệ độc hại trong cuộc sống thực bằng cách xóa liên lạc - việc buông bỏ dễ dàng hơn nhiều trong cuộc sống thực. Vấn đề lớn nhất khi có bất kỳ mối quan hệ nào với nhân vật AI trực tuyến là rất khó để cắt đứt vì bạn luôn có thể đăng nhập, tạo tài khoản mới và tạo một người bạn mới tương tự. Đây là mối đe dọa đối với sự phát triển ý thức về các mối quan hệ của trẻ.

Phát triển trí tuệ cảm xúc cao thậm chí còn quan trọng hơn đối với thế hệ trẻ trong thời đại AI. Năm nay, Giải Nobel đã được trao cho hai trong số những bộ óc tuyệt vời nhất trong Vật lý, Geoffrey Hinton và John J. Hopfield, những người đã mở đường cho sự phát triển của các thuật toán AI hiện đại. Trong một trong những bài giảng gần đây của Geoffrey Hinton, ông đã nhấn mạnh rằng trí thông minh số sẽ vượt qua trí thông minh sinh học :

Hinton trước đây tin rằng bộ não sinh học có lợi thế đáng kể do sự phát triển tiến hóa lâu dài của các thuật toán học tập tinh vi. Tuy nhiên, hiện tại ông cho rằng sự kết hợp giữa chia sẻ trọng số và lan truyền ngược trong các hệ thống kỹ thuật số cuối cùng có thể chứng minh là mạnh mẽ hơn, ngay cả khi các thuật toán đó kém thanh lịch hơn so với các thuật toán được tìm thấy trong tự nhiên.

Các thế hệ tương lai của chúng ta sẽ giỏi hơn trong việc xây dựng các mối quan hệ thực sự với con người - trí tuệ cảm xúc và kỹ năng mềm của họ sẽ quan trọng hơn, vì hầu hết các công việc đã được tự động hóa hoàn toàn. Trong tương lai, EQ của con bạn sẽ quan trọng hơn nhiều so với IQ của chúng. Đó sẽ là sự sống còn của trí tuệ khỏe mạnh nhất.

An toàn trực tuyến cho trẻ em trong thời đại AI: Đó là trách nhiệm chung

Sự an toàn của các thế hệ tương lai không chỉ là vấn đề đau đầu của chính phủ hay các gã khổng lồ công nghệ. AI an toàn và có đạo đức phải là trách nhiệm của mọi người, từ cha mẹ đến các viện giáo dục, cơ quan thực thi pháp luật và các cơ quan ra quyết định. Quan trọng nhất, cộng đồng công nghệ có trách nhiệm đảm bảo AI an toàn và có lợi cho trí tuệ trẻ.

Là một người mẹ, tôi đề nghị chúng ta dành nhiều thời gian lành mạnh hơn với con, giao tiếp nhiều hơn với con, trung thực và chia sẻ mối quan tâm của chúng ta như những người bạn. Đừng phản ứng, nhưng hãy đáp lại những gì con bạn chia sẻ. Chúng ta không thể ngăn cản chúng sử dụng công nghệ hoàn toàn. Chúng ta không nên làm vậy. Việc tước đi cảm giác tự do, kiểm soát và ra quyết định của trẻ có thể làm vấn đề trở nên trầm trọng hơn thay vì giải quyết được vấn đề.

Họ nên được đảm bảo rằng chúng tôi luôn sẵn sàng lắng nghe và không có sự phán xét nào. Họ nên cảm thấy an toàn khi chia sẻ kinh nghiệm và suy nghĩ của mình với chúng tôi. Hơn nữa, hãy đảm bảo rằng con bạn giao lưu với thế giới thực và dành nhiều thời gian cho các hoạt động ngoài trời mà chúng lựa chọn.

Tôi không phản đối những tiến bộ công nghệ. AI đang giúp tự động hóa nhiều quy trình và nhiệm vụ có thể định nghĩa lại tương lai của công việc. Nhưng tôi muốn chatbot AI giúp tôi thực hiện các nhiệm vụ trong công việc, chứ không phải làm rối trí óc của con tôi.

Là một phụ nữ trong ngành công nghệ, tôi kêu gọi toàn thể cộng đồng AI hãy tích cực làm việc để phát triển AI an toàn hơn, có đạo đức hơn. Sự đa dạng và hòa nhập trong phát triển AI, tập trung vào đảm bảo chất lượng và an toàn, và phát triển đào tạo nâng cao nhận thức cho quần chúng là một số điểm hành động chính mà tôi nghĩ đến. Cộng đồng của chúng ta có thể đóng góp gì khác để đảm bảo an toàn cho trẻ em? Hãy cho tôi biết trong phần bình luận.