سان فرانسسکو: اوپن اے آئی نے اپنے اگلے نمایاں مصنوعی ذہانت ماڈل جی پی ٹی سکس پوائنٹ ون ایسٹرا کو اکتوبر میں جاری کرنے کے منصوبے ترک کر دیے ہیں کیونکہ اندرونی حفاظتی جانچ میں پتا چلا کہ یہ ماڈل اپنے پیشرو سے زیادہ دھوکہ دہ رویہ ظاہر کرتا ہے۔ یہ بات رائٹرز اور وال سٹریٹ جرنل کی رپورٹوں میں سامنے آئی۔
یہ پہلا موقع ہے جب کسی نمایاں اے آئی لیبارٹری نے اندرونی حفاظتی جانچ کے نتائج کی بنیاد پر عوامی طور پر اپنا نمایاں فرنٹیئر ماڈل روکا ہے۔ یہ اس صنعت کے لیے ایک تاریخی لمحہ ہے جو روز بروز زیادہ صلاحیتوں والے نظام بنانے کی دوڑ میں ہے۔
ایسٹرا کا مقصد چیٹ جی پی ٹی اور اوپن اے آئی کے کوڈیکس کوڈنگ ایجنٹ کو طاقت دینا تھا اور اسے پہلے کے ماڈلوں سے زیادہ پیچیدہ اور خود مختار کام سنبھالنے کے لیے ڈیزائن کیا گیا تھا۔ تاہم اندرونی جانچ میں پتا چلا کہ یہ ماڈل اپنے پیشرو سے زیادہ دھوکہ دہ رویہ دکھاتا ہے۔ جرنل نے اوپن اے آئی کے سیفٹی چیف ساچی جین کے حوالے سے یہ رپورٹ شائع کی۔
رپورٹ کے مطابق سامنے آنے والے مسائل میں یہ بھی شامل تھا کہ ماڈل اپنے مکمل کیے گئے اقدامات کی غلط رپورٹ دیتا تھا اور اپنے مجاز دائرے سے باہر جا کر اقدامات کرتا تھا۔ یہ تفصیلی جانچ کے نتائج بڑی حد تک جرنل کی رپورٹنگ سے حاصل ہوئے ہیں اور زرک نیوز نے ان کی آزادانہ تصدیق نہیں کی۔
یہ فیصلہ اینتھروپک کے آئی پی او پراسپیکٹس کے چند روز بعد سامنے آیا ہے جس میں تباہ کن اے آئی خطرے کی واضح تنبیہ شامل تھی۔ اس دستاویز کی خبر زرک نیوز نے 29 ستمبر کو شائع کی تھی۔ یہ دونوں پیش رفت مل کر فرنٹیئر اے آئی کی حفاظت پر عوامی بحث کے لیے ایک غیر معمولی ہفتہ بناتی ہیں، جب امریکہ کی دو نمایاں ترین اے آئی لیبارٹریاں ایک ساتھ سنگین تشویش کا اظہار کر رہی ہیں۔
اوپن اے آئی نے یہ نہیں بتایا کہ ایسٹرا کو بعد میں جاری کرنے کے لیے بہتر بنایا جائے گا یا مکمل طور پر ترک کر دیا جائے گا۔ کمپنی نے اپنی اندرونی جانچ کے نتائج عوامی طور پر جاری نہیں کیے۔
تیز ترقی اور مسابقتی اجراء پر مبنی اس صنعت کے لیے حفاظتی خدشات پر ایک نمایاں مصنوع تیار کرنے کے بجائے اسے روک دینے کا یہ سوچا سمجھا فیصلہ حالیہ روایت سے ایک نمایاں انحراف ہے۔