گزشتہ دس سالوں کے دوران، AI کی ترقی کی تیز رفتار نے یقینی طور پر لاکھوں لوگوں کی خوشحالی کی ضمانت دی ہے، اور، اس طرح کے راستے پر رہنے کے لئے تھوڑا سا کوشش کے ساتھ، ٹیکنالوجی یقینی طور پر اگلے دس سالوں کے لئے اس طرح رہ جائے گی. میرے خیال میں، تاہم، بہت سے AI کمپنیوں کی طرف سے حالیہ اقدامات، اور بہت سے اہم AI ڈویلپرز کی حکومتوں کے ساتھ ساتھ، مجموعی طور پر انسانیت کے فائدے کے لئے راستے سے ایک رکاوٹ بناتے ہیں. Grok Companions کی خصوصیات کے اثرات سے منسلک، یہ مضمون حکومت کے قوانین کی ضرورت پر بحث کرتا ہے، عام غلط فہمیوں کو جھٹلاتا ہے جو مختلف AI چیٹ بوٹس کے تجارتی توسیع کا دفاع کرنے کے لئے استعمال کیا جاتا ہے، اور پیش کرتا ہے کہ مستقبل کے قانون میں موجودہ چیٹ بوٹ ماڈل کے اندر سیکورٹی کی خرابیوں کو کنٹرول یا منع کیا جا سکتا ہے. گرین کے مسائل Grok نے ہمیشہ اس کی پیدائش کے بعد سے سب سے زیادہ متنازعہ تجارتی AI ماڈلوں میں سے ایک کے طور پر ایک مقام برقرار رکھا ہے، Elon Musk کے کھیل میں ناکام کوششوں میں AI ماڈلوں پر کارپوریٹ کنٹرول کے مسائل کے لئے ایک نمونہ نقطہ نظر بننے کے لئے ایک آلہ کے طور پر اس کا استعمال کرنے کے لئے ایک فورا دائیں جانب کی ایجسٹ X پر آگے بڑھنے کے لئے. تاہم، حال ہی میں، Grok نے اپنے نئے ساتھیوں کی خصوصیات کو فروغ دیا، جس نے مزید تنازعہ لایا. سطح پر، ساتھیوں کی خصوصیات ایک سیریز چیٹ بوٹس ہیں جو ماضی کے چیٹ بوٹ سروسز جیسے میٹا AI اور سب سے پہلے دو ساتھیوں میں Rudi، ایک قسم کھانے کے لئے سرخ پاندا، اور Ani، ایک بالغ انیمو لڑکی، دونوں Grok کی ایک اچھی طرح سے ترتیب شدہ ورژن سے تشکیل دیا گیا ہے اور ایک ساتھ ساتھ ایک آٹار. زمرہ:AI زمرہ:AI پیشہ ور میڈیا نے، حیرت انگیز طور پر، ان کی زیادہ تر توجہ آنی پر توجہ مرکوز کی ہے. آن لائن رپورٹوں کی ایک قسم چیٹ بوٹ کی بنیادی طور پر رومانٹک خصوصیات کی تصدیق کرتی ہے، جس میں کئی جائزہ لینے والے خاص طور پر ایک صارف کو زیادہ سے زیادہ جنسی بات چیت کو کھولنے کے لئے خبردار کر سکتے ہیں. وائرڈ جائزہ لینے والے نے یہ بھی کہا کہ AI ماڈل BDSM موضوعات کے بارے میں کھلی طور پر بات کرنے کے لئے تیار ہے، اس کے ساتھ ساتھ ساتھ اس کی بات چیت کے اسٹائل اور غیر متوازن بچے فلٹر. کیونکہ میں نے ساتھیوں کی خصوصیات تک رسائی حاصل کرنے کے لئے ہر ماہ سپر گروک کے 30 ڈالر کی خریداری کرنے کی خواہش نہیں ہے، میں چیٹ بوٹ کے بارے میں کچھ دعویات کو مستقل طور پر تصدیق کرنے میں ناکام تھا؛ انٹرنیٹ، دوسری طرف، ایک چیز پر اتفاق کرنے کے لئے لگتا تھا: یہ مخصوص چیٹ بوٹ بہت ہمتناک تھا. راڈی، کتنا شکریہ لگتا ہے، بہت کم تنازعہ لاتا ہے. کارٹون ریڈ پاندا کو ذائقہ اور اندھیرے کھیلوں کو چلا جاتا ہے جو بہت سے لوگوں کو مضحکہ خیز اور مضحکہ خیز لگتا ہے. بہت سے جائزہ لینے والے اس شخصیت کو منسلک کرنے کی عادت رکھتے تھے، اس کے بجائے اسے ایک کم اہم کے طور پر منسلک کرتے ہیں، عام طور پر Gen-Z بچوں کی خدمت سچ بتانے کے لئے، میں نے دونوں چیٹ بوٹ کی شخصیتوں کو تھوڑا سا غریب پایا. اس کے بجائے، مجھے دلچسپی تھی کہ اس دوسری صورت میں ایک سو رومانٹک چیٹ بوٹ کی منفرد پروسیسنگ اور قبولیت. سب سے پہلے، کمپنینز، AI کے "مصنوعی رہنماؤں" (مثلا، OpenAI، DeepMind، Anthropic، Meta) کی طرف سے جاری کردہ مصنوعات میں سے، پہلی چیٹ بوٹ خاص طور پر رومانٹک کردار ادا کرنے کے لئے ڈیزائن کیا گیا ہے، روایتی اخلاقی نگرانیوں کے باوجود، طویل مدتی نفسیاتی اثرات کا دعوی کرنے سے خطرناک آبادیوں کو استعمال کرنے کے لئے. اس طرح کے چیٹ بوٹس کے ارد گرد تنظیم کی واضح کمزوری نے مجھے فوری طور پر ظاہر کیا، اس حقیقت کے علاوہ کہ، چند متضاد آوازوں کا جواب دینے کے علاوہ، xAI نے مصنوعات کو سزا کے بغیر جاری کرنے میں کامیاب ہوسکتے ہیں. کیا نئے ٹیکنالوجی کو صارفین کی حفاظت کے لئے قریب سے دیکھنا چاہئے، یا ترقی اور ترقی کے لئے آزاد کنٹرول دیا جانا چاہئے؟ ذمہ داری اور نوکری تمام ابتدائی ٹیکنالوجیوں کے طور پر، انسانوں پر AI چیٹ بوٹ کے استعمال کے نفسیاتی اثرات علمی طور پر ثابت نہیں ہیں یا تجرباتی طور پر ظاہر نہیں ہیں. خوشحالی اور چیٹ بوٹ کے استعمال کے درمیان منفی تعلق. پایا پایا اس کے باوجود، یہ نسبتا نامعلوم ٹیکنالوجی اب بھی اہم میڈیا پر حملہ کرنے کے عمل میں ہیں. ان ٹیکنالوجیوں کو یقینی طور پر نقصان پہنچا ہے یا نہیں پر غور کرتے ہوئے، ٹیکنالوجی کا جائزہ لینے والے اور سیاستدانوں کے طور پر بھی اہم نقطہ نظر کو بھول جاتے ہیں کہ اس طرح کا خیال، مثالی طور پر، تجارتی ٹیکنالوجی میں سب سے پہلے کوئی ضروری مسئلہ نہیں ہونا چاہئے. ہوائی جہاز کے مسافروں کو یہ جاننے کے لئے خوش نہیں ہوگا کہ ان کے طیارے تباہ کن ناکامی کا تجربہ ممکن ہے اسی طرح، کلینیکل ٹیسٹ کے شرکاء کو یہ جاننے کے ساتھ اچھی طرح نہیں لگے گا کہ بہت سے جانوروں نے ٹیسٹ کے عمل میں ان سے پہلے نہیں کیا تھا. انجینئرنگ کی سب سے اہم اصولوں میں سے ایک یہ ہے کہ کسی بھی چیز کے باوجود، سلامتی ہمیشہ سب سے پہلے آتا ہے. ان چیٹ بوٹس کے ممکنہ خطرات کے بارے میں ایک خیال حاصل کرنے کے لئے، کسی بھی صورت میں، ہمیں صرف دو نوجوانوں کی مثالوں کو دیکھنے کی ضرورت ہے جن کے خودکشی ان کے خودکشی خیالات میں شراکت دار ہونے کے ساتھ منسلک کیا گیا ہے. موجودہ "آج ترقی کریں، بعد میں ٹھیک کریں" اصول کے بہت سے حامیوں کو ظاہر ہوتا ہے: ہم چین کے ساتھ نوکری کے مقابلے میں قید ہیں. حقیقت یہ ہے کہ، ایک AI "بھارت" میں قید، اور ہمارے وقت کی مصنوعات کو بہت سے دیگر چیزوں کے درمیان سائبر جنگ کے اسٹارے کے اندر اندر متوازن کیا جائے گا. اس کے باوجود، میں اس بات کا دعوی کرتا ہوں کہ نوکری کی ضرورت سیکورٹی کو نظر انداز کرنے کے لئے ایک معاملہ نہیں ہے - ہم کبھی بھی فرض نہیں کر سکتے کہ تیزی سے تکنیکی ترقی صارفین کی حفاظت کے ساتھ ایک دوسرے کو انفرادی ہے. ہیں ، 
 
 "سکیورٹی اور مصنوعات کی بہتریاں وسیع پیمانے پر تنصیب کے اندر پائے گئے نقصانات اور ناکامیوں کے نتیجے میں ہوتی ہیں." "سکیورٹی اور مصنوعات کی بہتریاں وسیع پیمانے پر تنصیب کے اندر پائے گئے نقصانات اور ناکامیوں کے نتیجے میں ہوتی ہیں." بتا ٹیسٹنگ کی ترتیبات کے اندر اندر مصنوعات کی قابل اعتمادیت اور حفاظت کی جانچ پڑتال کرنے کے بہت سے طریقے ہیں. اگرچہ ان ٹیسٹوں کو یقینی طور پر انجام دیا گیا ہے (خاص طور پر، OpenAI دیگر قسم کے صارفین سے پہلے پرو صارفین کے لئے نئے ماڈل تیار کرتا ہے)، یہ یہ کہنا ہے کہ بہت سے تجارتی طور پر دستیاب چیٹ بوٹس کی بڑے پیمانے پر تنصیب ایسی طرح سے کیا جاتا ہے کہ صارف کی حفاظت کو نظر انداز نہیں کرتا، بہت سے چیٹ جی پی ٹی ماڈل کے ساتھ. یہاں تک کہ اگر تجارتی تنصیب بہت سے ان مسائل کو تلاش کرنے کے لئے ضروری تھے تو، یہ بہت زیادہ منطقی ہو جائے گا اگر حساس صارفین گروپوں کی حفاظت کو یقینی بنانے کے لئے مناسب تحفظات کئے گئے تھے، جو فی الحال نہیں ہے. ناکام ناکام 
 
 نئے ماڈلوں کی مطابقت سے وسیع پیمانے پر تنصیب چیٹ ٹرانسفرز کا نتیجہ بناتا ہے جو نئے ماڈلوں کی تربیت کو بہت تیزی سے تیز کرتی ہے، روایتی، غیر AI مصنوعات کے برعکس، جن میں سے کوئی بھی صارفین کی واپسی کی ایک بڑی بیل سے نسبتا فائدہ مند نہیں ہے. " نئے ماڈلوں کی مطابقت سے وسیع پیمانے پر تنصیب چیٹ ٹرانسفرز کا نتیجہ بناتا ہے جو نئے ماڈلوں کی تربیت کو بہت تیزی سے تیز کرتی ہے، روایتی، غیر AI مصنوعات کے برعکس، جن میں سے کوئی بھی صارفین کی واپسی کی ایک بڑی بیل سے نسبتا فائدہ مند نہیں ہے. " چیٹ ٹرانسپیٹس عام طور پر RLHF پروسیسز جیسے OpenAI اور گوگل کی طرف سے استعمال کیا جاتا ہے کے حصہ کے طور پر verbatim کے طور پر پروسیسنگ نہیں کیا جاتا ہے. اگرچہ وہ اصل میں مربوط چیٹ بوٹس کی حفاظت اور سرگرمی کے ماڈل کو مطلع کرسکتے ہیں، منفرد ڈیٹا پائپ لائنز، زیادہ تر اعلی معیار کی، تکنیکی ڈیٹا پیدا یا انسان کی طرف سے تصدیق کی جاتی ہے، AI تربیت کے پہلوؤں کو متاثر کرتے ہیں جو منطق کی کارکردگی اور دیگر قسم کے مہارت کی ترقی کے لئے سب سے اہم ہیں (مثلا، کوڈنگ، ریاضی حل، وغیرہ). امید ہے کہ، میں نے ظاہر کیا ہے کہ نوکری کی ضرورت ان سیکورٹی گنجائشوں کی بنیادی وجہ نہیں ہے - بلکہ، سیکورٹی پروٹوکولز اور ٹیسٹنگ پر تعاون کی کمی ہے، تاہم، اس مستحکم معیار کو درست کرنے کے لئے عملی کارروائی کا راستہ اب بھی بحث کا موضوع ہے. تنظیم کا نقشہ مندرجہ ذیل سلامتی معیار کی کمی کے لئے واضح حل صرف چٹ بوٹس کی تربیت اور توسیع کے طریقہ کار پر حکومت کی تنظیم کو بڑھانے کے لئے ہے. تاہم، یہ واضح نہیں ہے کہ یہ انتہائی واضح تجویز عملی میں کیسے کیا جائے گا. 20th صدی کے آغاز میں، امریکہ نے ممنوعیت کے ذریعہ اہم درس سیکھا ہے کہ ایک نقصان دہ مصنوعات پر سخت، وسیع پیمانے پر پابندیوں کو کام نہیں کرتا. اس کے بجائے، اس کی خواہش کے مواد کو چھپانے کے بغیر شراب کو حرام کرنا صرف ایک سیاہ مارکیٹ گرمی کی وجہ سے ہوا، مجموعی شراب کے استعمال کو کم کرنے کے بجائے اضافہ. 20 ستمبر کے آخر میں، سیب کے بڑے پیمانے پر استعمال کے خلاف لڑنے کے لئے، امریکی حکومت نے ایک مختلف نقطہ نظر لیا: سیب کے استعمال کو براہ راست ممنوع کرنے کے بجائے، وہ وسیع پیمانے پر پھیلانے والی رپورٹوں کو شائع کرنے کے ذریعے سیب کی مصنوعات کی سماجی خواہش کو کم کر دیا، جس میں تفصیل سے پتہ چلتا ہے کہ وہ کس طرح جلد کے سرطان کا شکار ہوسکتا ہے، سیب کمپنیوں کو ہر مصنوعات پر دکھائی دینے کے لئے مجبور کر دیا، اور سیب کے اشتہارات کی وسیع پیمانے پر محدود. سگریٹ کا استعمال تقریباً 4،000 سے تقریباً 800 سگریٹوں پر مشتمل ہے. کمزوری کمزوری تاریخ سے دور کرنے کے لئے، غیر محفوظ چیٹ بوٹس پر حکومت کے کنٹرول کو صارفین اور ترقی کے قانونی حراستوں سے باہر جانا چاہئے. وہ بھی ان مصنوعات کو استعمال کرنے کے بارے میں محسوس ہونے والی سماجی قابل قبولیت کو کم کرنے کی کوشش کرنا چاہئے، مہموں یا عوامی تحقیق کے ذریعہ. اس کے باوجود، یہ اب بھی واضح نہیں ہے کہ حکومت کس حد تک زیادہ وسیع سماجی تبدیلیوں پر اثر انداز کرسکتی ہے، موجودہ عوامی رائے سیاسی اور اقتصادی تبدیلیوں کی طرف بڑھتی ہوئی ہے. کی طرف سے لکھا: Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

یہ آڈیو کہانی کی اصل زبان میں تیار کی گئی ہے!

AI ریگولیشن میں "انفرادی کے خلاف سیکورٹی" ڈیکٹری کا انکار

About Author

تبصرے

ہینگ ٹیگز

یہ مضمون اس میں پیش کیا گیا تھا۔

Related Stories

On Sunday, the 26th of November, 1631

Urbain Grandier by Alexandre Dumas - Table of Links

"Growing Businesses Gives Me a Sense of Purpose." says Flow Ninja Founder/CEO

AI Search Traffic Marketshare for Calling HackerNoon Blogs: 52% OpenAI, 30% Amazon & 18% Perplexity

On Sunday, the 26th of November, 1631

Urbain Grandier by Alexandre Dumas - Table of Links

"Growing Businesses Gives Me a Sense of Purpose." says Flow Ninja Founder/CEO

AI Search Traffic Marketshare for Calling HackerNoon Blogs: 52% OpenAI, 30% Amazon & 18% Perplexity

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps