فیس بک نے اپنے مصنوعی ذہانت والے کپیوٹر بند کرڈالے کیوں کہ کپیوٹر آپس میں اپنی ذبان میں باتیں کرنے لگ گئے

ڈیجیٹل جرنل جرنل کی رپورٹوں نے اپنی زبان کو تخلیق کرنے کے بعد فیس بک پر تحقیقات مصنوعی انٹیلی جنس (اے آئی) کے پروگرام کو بند کر دیا.

مواصلات کو زیادہ مؤثر طریقے سے مواصلات بنانے کے لئے کوڈ کے الفاظ تیار کیے گئے ہیں اور محققین نے یہ آف لائن لیا جب انہوں نے محسوس کیا کہ یہ انگریزی کا استعمال نہیں کرسکتا تھا.

واقعہ، جولائی کے آغاز میں انکشاف کرنے کے بعد، اے ایل کے بارے میں ایلون مسک کے انتباہ کے نقطہ نظر میں رکھتا ہے.

مسک نے امریکی نیشنل گورنرز ایسوسی ایشن کے اجلاس میں کہا کہ “اے این غیر معمولی معاملہ ہے جہاں مجھے لگتا ہے کہ ہمیں رد عمل کے بجائے ریگولیشن میں فعال ہونا ضروری ہے.” “کیونکہ میں اس وقت تک سوچتا ہوں جب ہم اے آر مقرآن میں رد عمل کرتے ہیں تو یہ بہت دیر ہو گی.”

فیس بک سی ای او مارک زکربرگ نے کہا کہ جب مسک کی انتباہ “غیر ذمہ داریاں ہیں،” مسک نے جواب دیا کہ زکبربر “اس موضوع کی تفہیم محدود ہے.”

پہلی بار نہیں

محققین کے ایوی رویے کے ساتھ محققین کا سامنا اسی طرح کے معاملات کی طرح ہے جہاں کہیں بھی. ہر صورت میں، AI نے نئی زبان کو تیار کرنے کے لئے انگریزی میں اس کی تربیت سے ظاہر کیا.

نئی زبان کے جملے لوگوں کے لئے کوئی احساس نہیں بنتی، لیکن آٹو بوٹ کی طرف سے تفسیر کرتے وقت مفید مطلب ہے.

فیس بک کے اعلی درجے کی AI سیسٹم دوسرے AI نظام کے ساتھ بات چیت کرنے میں قابل تھا تاکہ اس کے نتیجے میں اس کے کام سے آگے بڑھا جا سکے. جملے سطح پر کوئی احساس نہیں رکھتے ہیں، لیکن اصل میں مطلوبہ کام کی نمائندگی کرتے ہیں.

ایک تبادلے میں فیس بک کے فاسٹ کمپنی ڈیزائن سے پتہ چلتا ہے کہ دو بات چیت کرنے والے بوٹس – باب اور الیس نے گفتگو کو مکمل کرنے کے لئے اپنی زبان کا استعمال شروع کر دیا.

باب نے کہا کہ “میں میں سب کچھ کرسکتا ہوں.”

ایلس نے جواب دیا کہ “گیندیں مجھ سے صفر مجھ سے مجھ پر مجھ سے مجھ پر مجھ سے ہیں.”

باقی ایکسچینج نے ان الفاظ کے مختلف جملوںوں کو نئے طور پر مقرر کردہ زبان میں تشکیل دیا، اگرچہ ای ایس انگریزی کو انگریزی استعمال کرنے کے لئے پروگرام کیا گیا تھا.

محققین کے مطابق، یہ بدبختی جملے ایک ایسی زبان ہے جو بطور بات چیت کرنے کے لئے تیار ہوتے ہیں.

جب باب بعد میں کہتا ہے کہ “میں میں سب کچھ کر سکتا ہوں،” ظاہر ہوتا ہے کہ مصنوعی ذہین بوٹ نے اپنی نئی زبان کو الیس کو پیش کرنے کے لئے استعمال کیا.

فیس بک ٹیم کا خیال ہے کہ بوٹ کی طرح کچھ کہہ رہا ہے: “میں تین ہوں گے اور آپ کے پاس سب کچھ ہے.”

اگرچہ انگریزی انسانوں کے لئے کافی مؤثر ثابت ہوسکتی ہے، تاہم، اس نے اس مقرر کردہ مقصد تک پہنچنے کے لئے AI کو سزا یافتہ یا کم مؤثر طور پر دیکھا ہے.

فیس بک ای نے واضح طور پر اس بات کا یقین کیا کہ انگریزی میں لفظی امیر اظہارات اس کے کام کو مکمل کرنے کی ضرورت نہیں تھی. اے اے اے نے “انعام” اصول پر کام کیا اور اس مثال میں زبان کا استعمال جاری رکھنے کے لئے کوئی انعام نہیں تھا. لہذا اس نے اپنی ہی ترقی کی.

فیس بک کی AI ٹیم کی طرف سے ایک جون بلاگ پوسٹ میں، اس نے انعام کے نظام کی وضاحت کی. “ہر ڈائیلاگ کے اختتام پر، ایجنٹ نے اس معاہدے پر مبنی انعام دیا ہے جس پر اس پر اتفاق کیا گیا تھا.” یہ انعام بوٹ پروپوزل کی گذارش ہر بوٹ کے ذریعہ بوٹ آؤٹ پٹ میں ہوا تھا تاکہ یہ سیکھ سکیں کہ کون سا اعمال اعلی اعزاز کا باعث بنتی ہیں.

فیس بک اے اے کے محققین دھرو بیٹرا نے فاسٹ کمپنی ڈیزائن کو بتایا کہ “ایجنٹوں کو سمجھنے والی زبان اور انوینٹری کوڈ سے متعلق الفاظ سے محروم ہوجائے گا.”

“جیسا کہ میں پانچ بار کہہتا ہوں، آپ کو یہ مطلب ہے کہ میں اس چیز کی پانچ کاپیاں چاہتا ہوں. اس طرح سے انسانوں کی برادریوں کو قابل اعتماد بنانے سے مختلف نہیں ہے. ”

دیگر کمپنیوں میں AI ڈویلپرز نے بھی مواصلات کو آسان بنانے کے لئے زبانوں کو ترقی دی ہے. ایلون مسک کے اوپن ای لیب میں، ایک تجربے میں کامیابی حاصل ہوئی تھی کہ AI بوٹس اپنی زبانیں تیار کرتے ہیں.

Google پر، ترجمہ سروس پر کام کرنے والے ٹیم نے پتہ چلا کہ ان پروگراموں نے انھوں نے خاموشی سے ترجمہ کی سزائیں میں مدد کرنے کے لئے اپنی زبان کو لکھا تھا.

ترجمہ ڈویلپرز نے نظام کے لئے نیورل نیٹ ورک کو شامل کیا تھا، اور یہ زبانی جوڑوں کے درمیان ترجمہ کرنے کی صلاحیت رکھتی تھی جو کبھی نہیں پڑھا تھا. اے این خاموش لکھا نئی زبان ایک تعجب تھی.

دعوی کرنے کے لئے کافی ثبوت نہیں ہے کہ ان غیر جانبدار AI متغیرات ایک خطرہ ہیں یا وہ آپریٹرز پر لے جانے والے مشینوں کی قیادت کرسکتے ہیں. انہوں نے ترقی کو زیادہ مشکل بنا دیا ہے، تاہم، کیونکہ لوگ نئی زبانوں کی انتہائی منطقانہ نوعیت کو سمجھنے میں قاصر ہیں.

Google کے کیس میں، مثال کے طور پر، اے اے اے نے ایسی زبان تیار کی ہے جو کوئی انسان نہیں سمجھ سکتا، لیکن ممکنہ طور پر مسئلہ کا سب سے زیادہ مؤثر حل تھا.