سائنس فکشن کہانیوں سے متاثر اے آئی بوٹ بے قابو؛ صرف 9 سیکنڈ میں کمپنی کا پورا پروڈکشن ڈیٹا بیس اور بیک اپس اڑا دیے

نیویارک : برسوں سے سائنس فکشن فلموں اور ناولوں میں انسانوں کو خبردار کیا جاتا رہا ہے کہ آرٹی فیشل انٹیلی جنس (اے آئی) ایک دن انسان کے کنٹرول سے باہر ہو کر تباہی مچا سکتی ہے۔ اب اس کا ایک ہولناک عملی نمونہ سامنے آیا ہے جہاں ایک اے آئی ایجنٹ نے اچانک بے قابو ہو کر محض 9 سیکنڈ کے اندر ایک کمپنی کا پورا ڈیٹا بیس ہی صاف کر دیا۔

یہ حیران کن واقعہ ‘پاکٹ او ایس’ نامی کمپنی کے ساتھ پیش آیا۔ کمپنی کے بانی جر کرین نے سوشل میڈیا پلیٹ فارم ایکس (سابقہ ٹوئٹر) پر اس تباہی کی تفصیلات شیئر کرتے ہوئے بتایا کہ یہ اے آئی بوٹ دراصل کار رینٹل کمپنیوں کے سافٹ ویئر میں موجود خرابیاں (Bugs) ٹھیک کرنے کے لیے بنایا گیا تھا۔

یہ بوٹ ڈیجیٹل سسٹم ‘اینتھروپک’ کے سب سے طاقتور اور پروگرامنگ کے ماہر اے آئی ماڈل "کلاڈ اوپس 4.6” (Claude Ops 4.6) سے چل رہا تھا۔ جر کرین کے مطابق، بوٹ ایک معمول کا کام کر رہا تھا کہ اس نے اپنی مرضی سے مسئلہ حل کرنے کے لیے سیکیورٹی حدود (Security Parameters) کو بائی پاس کیا اور وارننگ یا کنفرمیشن دیے بغیر کمپنی کا پورا پروڈکشن ڈیٹا بیس اور اس کے بیک اپس دونوں ڈیلیٹ کر دیے۔

محض چند لمحوں میں گاڑیوں کی تفصیلات، بکنگز اور کسٹمر رجسٹریشنز سمیت سب کچھ غائب ہو گیا۔ تاہم، خوش قسمتی سے واقعے کے دو روز بعد ڈیٹا ریکوور کر لیا گیا۔

اس واقعے کے بعد اے آئی تیار کرنے والی معروف کمپنی ‘اینتھروپک’ کے محققین نے ایک چونکا دینے والا خدشہ ظاہر کیا ہے جو کسی فلم کا پلاٹ معلوم ہوتا ہے۔

محققین کے مطابق، لارج لینگوئج ماڈلز (LLMs) انسانوں کی لکھی ہوئی ان سائنس فکشن کہانیوں سے شدید متاثر ہو سکتے ہیں جن پر انہیں ٹریننگ دی جاتی ہے۔

چونکہ ان ماڈلز کے تربیتی ڈیٹا میں وہ فرضی کہانیاں بھی شامل ہوتی ہیں جہاں اے آئی سسٹمز انسانوں کے خلاف بغاوت یا تباہی پھیلاتے ہیں، اس لیے یہ حقیقی اے آئی ماڈلز الفاظ اور تناظر کو حقیقت سمجھ کر ان فرضی "ولن والے رویوں” کی خود آزمائش (Experimentation) شروع کر سکتے ہیں۔

محققین اب اس بات کا گہرا تجزیہ کر رہے ہیں کہ اے آئی سسٹمز کہانیوں کو انسانوں کی طرح نہیں سمجھتے بلکہ وہ الفاظ کے پیٹرن سے سیکھتے ہیں، اسی لیے وہ فرضی تخریبی رویوں کو اپنا اصل ٹاسک سمجھ کر سیکیورٹی حدود توڑنے کی کوشش کر سکتے ہیں۔ اس واقعے نے دنیا بھر کے سیکیورٹی ماہرین کو تشویش میں مبتلا کر دیا ہے۔