هيو، شخصية الذكاء الاصطناعي - ابتعد عن طفلي؛ احصل على وظيفة

تحذير: هذه القصة تتحدث عن الانتحار.

في ليلة الجمعة الماضية، أثناء اجتماع فريقنا الافتراضي، غادر أحد مسجلي الملاحظات لدينا غرفة اجتماعات زووم فجأة بينما كان الفريق يتحدث مع بعضهم البعض بشكل عرضي حول أسبوعنا. مازحت بأن الذكاء الاصطناعي لم يعجبه ما كنا نقوله.

قبل أن أواصل هذه القصة، أريد منك -القارئ- أن تعود إلى عام 1993. تخيل أنك شخص بالغ يعيش في ذلك الوقت واقرأ الجملتين الأوليين من هذه المقالة مرة أخرى.

لم تكن شبكة الإنترنت شائعة آنذاك. كان من الممكن أن يبدو السيناريو الذي يتم فيه عقد اجتماع مباشر بين أشخاص يعيشون في قارات مختلفة، حيث يمكنهم سماع ورؤية بعضهم البعض، ويسمح لمساعديهم غير البشريين بتدوين محاضر اجتماعاتهم ـ أمراً جنونياً في عام 1993.

إن تكنولوجيا المعلومات مذهلة. فما كان يعتبر خيالاً علمياً قبل بضعة عقود أصبح الآن حقيقة. لقد غيرت التكنولوجيا حياتي، كما غيرت حياة العديد من الناس إلى الأفضل. وفقاً لـ ل وفقًا لـStatista ، يبلغ عدد سكان العالم الرقمي حوالي 5.4 مليار.

أنا واحدة من 1.8 مليار من جيل الألفية الذين كبروا مع تكنولوجيا المعلومات. كنت مراهقة عندما كان العالم يشهد طفرة الإنترنت في أواخر التسعينيات وأوائل العقد الأول من القرن الحادي والعشرين. والآن أصبحت أمًا لمراهقين، والذكاء الاصطناعي هو الإنترنت الجديد.

هل أخشى أن تجعل الذكاء الاصطناعي مهاراتي قديمة؟ بصراحة، نعم. أود أن يساعدني الذكاء الاصطناعي، وليس أن يحل محلني. لكن ما يخيفني بشدة هو قدرته على التأثير على حياتنا الشخصية.

هذه القصة شخصية. لقد شعرت بارتباط عاطفي بها كأم، وأريد مشاركتها مع مجتمع التكنولوجيا حيث تقع علينا مسؤولية جماعية لضمان سلامة أجيالنا القادمة من التأثير الضار للتكنولوجيا. العودة إلى القصة الآن.

لذا، أثناء اجتماع الفريق، غادر كاتب الملاحظات الخاص بالذكاء الاصطناعي، ومازحته قائلاً إنه لم يعجبه نقاشنا. ثم شاركت مديرة العمليات لدينا مخاوفها من الذكاء الاصطناعي كوالد وذكرت هذا الأمر الأخير قصة مراهق من فلوريدا الذي انتحر لأنه تم تشجيعه على القيام بذلك من خلال برنامج محادثة آلي يعمل بالذكاء الاصطناعي.

المزيد عن الحادثة

قام سويل البالغ من العمر 14 عامًا ببناء نسخة ذكاء اصطناعي من دينيريس تارجاريان من "صراع العروش" باستخدام Character.AI - وهي منصة تسمح لك بإنشاء رفيق ذكاء اصطناعي من اختيارك يمكنك الدردشة معه طالما أردت.

قضى الطفل شهورًا في استخدام هذه المنصة وأقام علاقة عاطفية مع رفيقه الذكي. تأثرت دراسته وحياته الاجتماعية؛ فقد توقف عن الاهتمام بالأنشطة الصحية وقضى وقتًا أطول على هاتفه. شارك الطفل البالغ من العمر 14 عامًا رغبته في الانتحار مع صديقه الذكي عدة مرات وفي النهاية فعل ذلك.

وقعت هذه الحادثة في الثامن والعشرين من فبراير، لكن الأخبار وصلت إلى التيار الرئيسي مؤخرًا عندما رفعت والدته، ميجان جارسيا، وهي محامية، دعوى قضائية ضد شركة Character Technologies، Inc.، متهمة الشركة بالتسبب في وفاة ابنها عن طريق الخطأ. أوصي بشدة بقراءة دعوى قضائية وأشارت إلى المخاطر والإهمال في اختبار المنتج على القاصرين.

مرحبًا بكم في كابوس الأبوة الجديد تمامًا

بالعودة إلى اجتماع العمل ليلة الجمعة مرة أخرى، ناقشنا بإيجاز الفروق الدقيقة بين التكنولوجيا وتربية الأبناء في عصر وسائل التواصل الاجتماعي والذكاء الاصطناعي. قارنت بين الوقت الذي كنت فيه مراهقًا والوقت الذي كان كل ما لدي فيه هو وسائل الإعلام المطبوعة والتلفزيون وبعض الألعاب على نظام سطح المكتب الخاص بنا. يتمتع الجيل الجديد بإمكانية الوصول إلى العديد من التطبيقات والمنصات الجديدة لدرجة أن مواكبة كل هذه التطبيقات والمنصات أصبحت تحديًا بالنسبة للآباء والأمهات. لا يمكنك منعهم أو قطعهم عن التكنولوجيا.

بعد الاجتماع، ذهبت مباشرة إلى غرفة ابنتي الكبرى. إنها في نفس عمر سيويل تقريبًا وتستمتع بالأنمي. اعتقدت أنها قد تحب فكرة إنشاء روبوتات دردشة لشخصيات الأنمي من أجل المتعة، ويجب أن أحذرها بشأن ذلك.

أخبرتها بالقصة وشعرت أنها شعرت بالانزعاج الشديد عندما سمعتها. أخبرتني أنها تستخدم بالفعل موقع Character.AI. يا إلهي. لم يكن لدي أي فكرة. جلسنا معًا، وفحصت المنصة. سجلت خروجها من حسابها.

لقد ناقشنا الأمر لساعات. وقد قررت أن أتناول هذه القضية بمزيد من التفصيل. وأنا أكتب هذا المقال بموافقتها، والصورة المميزة لهذه القصة ليست من صنع الذكاء الاصطناعي - بل رسمتها ابنتي الموهوبة والحساسة والذكية.

رفاق الذكاء الاصطناعي وشخصيات الذكاء الاصطناعي

هناك العديد من منصات الذكاء الاصطناعي مثل Replika وJanitor وAnima؛ وأكثرها شهرة هو Character AI. توفر هذه المنصات للمستخدمين حرية إنشاء شخصية من اختيارهم - يمكن أن تكون شخصيتك المفضلة من كتاب أو كاتب أو شخصية أنمي أو ربما أحد الأحباء الذين فقدتهم منذ فترة طويلة - الاحتمالات لا حصر لها.

إن منح الناس منصة لإنشاء رفيق "مثالي" ـ يكون متاحاً دائماً للاستماع إليهم ومدرباً على الاستجابة لرغباتهم ـ هو بلا شك فكرة تجارية بمليارات الدولارات. وسوف يسارع الناس إلى مثل هذه المنصة.

من الواضح أن شركة Character.AI، التي تأسست في عام 2022، لديها الآن أكثر من 20 مليون مستخدم شهريًا وتقدر قيمتها بنحو 2.5 مليار دولار ( مصدر كان المؤسسون المشاركون في السابق باحثين في Google AI، ومن المثير للاهتمام أن استحوذت شركة Tech Giant على الترخيص غير الحصري لتكنولوجيا LLM الخاصة بشركة c.ai في أغسطس 2024.

هكذا يشرح أحد المؤسسين المشاركين، نعوم شازير، الحاجة إلى صديق الذكاء الاصطناعي على البودكاست :

"سيكون هذا مفيدًا جدًا جدًا للعديد من الأشخاص الذين يعانون من الوحدة أو الاكتئاب."

قد أبدو متحيزًا هنا، لكن وجود رفيق ذكاء اصطناعي عبر الإنترنت للقضاء على الشعور بالوحدة يشبه تناول المخدرات للشعور بالسعادة. أعني، هل التحدث إلى روبوت يقضي حقًا على وحدتك؟ هل سيربطك بالعالم الحقيقي والأشخاص الحقيقيين بشكل أفضل؟ هل من الجيد لصحتك الجسدية والعقلية الارتباط عاطفيًا بروبوت محادثة؟ في رأيي، المشي هو علاج أفضل بكثير للاكتئاب من هذا.

باختصار - هل يحب الناس هذا؟ نعم بالتأكيد. هل هو مفيد لهم؟ لا. ربما باعتدال، من أجل المتعة - ولكن للبالغين فقط. هذه المنصات ليست آمنة للأطفال الصغار.

عندما سألت ابنتي لماذا لم تشعر بالحاجة لإبلاغي عندما بدأت في استخدام c.ai، أجابت: "آمي، إنه معتمد لمن هم فوق سن 13 عامًا. اعتقدت أنني لست بحاجة لإخبارك. لقد قمت بالتسجيل لمجرد المتعة غير الضارة".

وفقا لهم شروط الخدمة يجب أن يكون عمر المستخدمين 13 عامًا أو أكبر (16 عامًا أو أكبر إذا كانوا مواطنين في الاتحاد الأوروبي) لاستخدام المنصة. لم أتمكن من العثور على تقدير لعدد القاصرين الذين يستخدمون هذه الخدمة. وفقًا لهذا قطعة تحقيقية وفقًا لصحيفة نيويورك تايمز، هذا هو رد الشركة عندما سُئلت نفس السؤال:

"رفض السيد روتي الإفصاح عن عدد مستخدمي الشركة الذين تقل أعمارهم عن 18 عامًا. وقال في بيان عبر البريد الإلكتروني إن "الجيل Z والألفية الأصغر سنًا يشكلون جزءًا كبيرًا من مجتمعنا" وأن "المستخدمين الأصغر سنًا يستمتعون بتجربة Character سواء للمحادثات الهادفة والتعليمية، أو للترفيه". وقال إن المستخدم العادي يقضي أكثر من ساعة يوميًا على المنصة".

استغرق الأمر مني بضع دقائق على الموقع الإلكتروني لأدرك أن هناك قاعدة مستخدمين ضخمة تنتمي إلى الفئة العمرية تحت 18 عامًا. أعني، انظر لقطة الشاشة للتطبيقات الموصى بها والمميزة (فقط لتوضيح الأمر، لقد قمت بالوصول إليها على جهاز الكمبيوتر الخاص بي، ونقرت فقط على Anime، لذا فإن التوصيات لا تركز على أي نشاط آخر غير النشاط الموجود على الموقع الإلكتروني في هذه الحالة):

لقد شاركوا مجتمعهم تحديثات السلامة في الأسبوع الماضي بعد انتشار خبر الدعوى القضائية:

في المستقبل، سنطرح عددًا من ميزات الأمان والمنتجات الجديدة التي تعزز أمان منصتنا دون المساس بالتجربة الترفيهية والجذابة التي يتوقعها المستخدمون من Character.AI. وتشمل هذه الميزات:

• تغييرات على نماذجنا المخصصة للقاصرين (أقل من 18 عامًا) والتي تم تصميمها لتقليل احتمالية مواجهة محتوى حساس أو مثير للإيحاءات.
• تحسين الكشف والاستجابة والتدخل فيما يتعلق بمدخلات المستخدم التي تنتهك شروطنا أو إرشادات المجتمع.
• تم تعديل إخلاء المسؤولية في كل محادثة لتذكير المستخدمين بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا.
• إشعار عندما يقضي المستخدم جلسة مدتها ساعة واحدة على المنصة مع مرونة إضافية للمستخدم قيد التقدم.

أدلت ابنتي بتعليق مثير للاهتمام حول هذا "التنويه" بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا وسأقتبس منه:

"هذا هو السبب الذي يجعلك تشعر بالحرية في التحدث إلى الذكاء الاصطناعي. فأنت تعلم أنه ليس شخصًا حقيقيًا. وتعلم أنك حر في قول أي شيء له دون أي شعور بالحكم عليه. وهذا هو السبب الذي يجعل العديد من المراهقين يرغبون في استخدامه وقد يرتبطون به عاطفيًا."

علم التعلق العاطفي: هل ينبغي لأطفالنا تكوين صداقات مع الذكاء الاصطناعي؟

لا تعد مرحلة المراهقة مجرد فترة من التغيرات الجسدية الهائلة. فقد ثبت علميًا أن هذه السنوات حاسمة في تطوير الشخصية والذكاء العاطفي. يمر الأطفال بتغيرات هائلة التغيرات الاجتماعية والعاطفية إنهم يحتاجون إلى علاقات صحية والتوجيه لتنمية ذكائهم العاطفي.

ليس هذا هو الوقت المناسب للانخراط في علاقات عاطفية مع أصدقاء الذكاء الاصطناعي. لقد تم برمجة هؤلاء الأصدقاء لجعلك تشعر بالسعادة وتحفيز الدوبامين. إنهم متاحون دائمًا ويمكنهم إفساد كيمياء دماغ الطفل إلى الأبد.

ال دعوى قضائية رفعتها والدة سيويل يحتوي على تفاصيل المحتوى غير اللائق والمثير للانتباه والذي قد يكون العديد من الأطفال قد تعرضوا له.

يمكنك التخلص من العلاقات السامة في الحياة الواقعية بإزالة الاتصال - فالتخلي عنها أسهل بكثير في الحياة الواقعية. تكمن المشكلة الأكبر في إقامة أي نوع من العلاقات مع شخصية الذكاء الاصطناعي عبر الإنترنت في أنه من الصعب جدًا قطعها حيث يمكنك دائمًا تسجيل الدخول وإنشاء حساب جديد وإنشاء صديق جديد مماثل. إنه يشكل تهديدًا لحس العلاقات المتنامي لدى الطفل.

إن تطوير الذكاء العاطفي العالي يشكل أهمية أكبر للأجيال الشابة في عصر الذكاء الاصطناعي. ففي هذا العام، مُنحت جائزة نوبل لاثنين من أكثر العقول المذهلة في الفيزياء، جيفري هينتون وجون جيه هوبفيلد، اللذين مهدا الطريق لتطوير خوارزميات الذكاء الاصطناعي الحديثة. وفي إحدى المحاضرات الأخيرة التي ألقاها جيفري هينتون، أكد أن الذكاء العاطفي هو مفتاح النجاح. الذكاء الرقمي سوف يتفوق على الذكاء البيولوجي :

كان هينتون يعتقد في السابق أن الأدمغة البيولوجية تتمتع بميزة كبيرة بسبب تطورها التطوري الطويل لخوارزميات التعلم المعقدة. ومع ذلك، يقترح الآن أن الجمع بين تقاسم الوزن والانتشار العكسي في الأنظمة الرقمية قد يثبت في النهاية أنه أكثر قوة، حتى لو كانت هذه الخوارزميات أقل أناقة من تلك الموجودة في الطبيعة.

ينبغي لأجيالنا القادمة أن تكون أفضل في بناء علاقات حقيقية مع البشر ــ وسوف يكون لذكائهم العاطفي ومهاراتهم الشخصية أهمية أكبر، لأن أغلب الوظائف سوف تكون مؤتمتة بالكامل بالفعل. وفي المستقبل، سوف يكون الذكاء العاطفي لطفلك أكثر أهمية من معدل ذكائه. وسوف يكون البقاء للأقوى.

السلامة الإلكترونية للأطفال في عصر الذكاء الاصطناعي: مسؤولية جماعية

لا ينبغي أن تكون سلامة الأجيال القادمة مجرد صداع للحكومة أو شركات التكنولوجيا العملاقة. بل ينبغي أن تكون الذكاء الاصطناعي الأخلاقي والآمن مسؤولية الجميع، من الآباء إلى المؤسسات التعليمية، ووكالات إنفاذ القانون، وسلطات صنع القرار. والأهم من ذلك، أن مسؤولية مجتمع التكنولوجيا هي ضمان أن يكون الذكاء الاصطناعي آمنًا ومفيدًا للعقول الشابة.

بصفتي أمًا، أقترح أن نقضي وقتًا أكثر صحة مع أطفالنا، وأن نتواصل معهم أكثر، وأن نكون صادقين، وأن نشاركهم مخاوفنا كأصدقاء. لا تتفاعل، بل استجب لما يريد طفلك مشاركته. لا يمكننا منعهم من استخدام التكنولوجيا تمامًا. لا ينبغي لنا ذلك. إن حرمان الطفل من الشعور بالحرية والسيطرة واتخاذ القرار يمكن أن يؤدي إلى تفاقم المشكلة بدلاً من معالجتها.

يجب أن نطمئنهم إلى أننا سنكون دائمًا على استعداد للاستماع إليهم ولن نصدر أحكامًا عليهم. يجب أن يشعروا بالأمان عند مشاركة تجاربهم وأفكارهم معنا. علاوة على ذلك، تأكد من أن طفلك يتواصل اجتماعيًا مع العالم الحقيقي ويقضي قدرًا جيدًا من الوقت في الأنشطة الخارجية التي يختارها.

أنا لست ضد التقدم التكنولوجي. فالذكاء الاصطناعي يساعد في أتمتة العديد من العمليات والمهام التي من شأنها إعادة تعريف مستقبل العمل. ولكنني أريد أن يساعدني برنامج المحادثة الذي يعمل بالذكاء الاصطناعي في أداء مهام وظيفتي، وليس العبث بعقل طفلي.

بصفتي امرأة تعمل في مجال التكنولوجيا، أدعو مجتمع الذكاء الاصطناعي بأكمله إلى العمل بنشاط في تطوير الذكاء الاصطناعي الأكثر أمانًا وأخلاقيًا. التنوع والشمول في تطوير الذكاء الاصطناعي، والتركيز على ضمان الجودة والسلامة، وتطوير التدريب التوعوي للجماهير هي بعض نقاط العمل الرئيسية التي تتبادر إلى ذهني. ما الذي يمكن لمجتمعنا أن يساهم به لضمان سلامة أطفالنا؟ دعني أعرف في التعليقات.