الناس اللي بتبني الذكاء الاصطناعي مؤمنين بجد ان التكنولوجيا دي ممكن تقتلنا كلنا قبل نهايه العقد اللي احنا فيه ده اللي فات ده مش كلامي انا بالتاكيد ده كلام كتبه جيكب كوكسون الباحث السابق في شركه الذكاء الاصطناعي الامريكيه الشهيره انثروبيك في ثريد او سلسله تغريدات نشرها يوم 9 سبتمبر 2026 على حسابه على منصه اكس او تويتر اتسببت في ضجه عالميه بدون مبالغه كوكسون كتب عبارات قال فيها انا استقلت النهارده من شركه انثراب انا خلال اخر ثلاث سنين اشتغلت على ابحاث تدريب النماذج الاساسيه في كلا من اوبن اي وانترابيك وعاوز اقول لكم ان ولا واحده من الشركتين دول بتتصرف بمسؤوليه هم داخلين في سباق مباشر للوصول الى ذكاء فائق قادر على تطوير نفسه بنفسه وبيغمروا بحياتنا كلنا ما تستهونوش ابدا بقوه التكنولوجيا دي قريب جدا الانظمه دي هتبقى متفوقه على البشر وقادر على اختراق اي حاجه تقريبا وقادر انها تعمل ثوره في اي مجال بين يوم وليله وامتلاك قوه وموارد حقيقيه الناس اللي بتبني الذكاء الاصطناعي فعلا وبجد مقتنعين ان ممكن يقتلنا كلنا قبل نهايه العقد ده ودي مش مجرد حيله تسويقيه طبعا ده كلام خطير ومرعب بس الاخطر والاكثر اثاره للرعب هو انه ده مش راي الشاب ده لوحده ناس كتير شغاله في الصناعه دي بتقول نفس الكلام بصيغ مختلفه على سبيل المثال ايفان يوبنر الباحث في سلامه وموائمه الذكاء الاصطناعي داخل انثروبيك اعاد نشر كلام زميله السابق كوكسون وكتب تعليقه عليه جيكوب معاه حق فعلا احنا فعلا مؤمنين وبكل جديه ان الذكاء الاصطناعي ممكن يقتل كل البشر وانا شخصيا شايف ان احتمال ده يحصل خلال العقد الجاي اكث من 10% في نفس اليوم خرج بول كريستيانو عضو مجلس اداره المؤسسه غير الربحيه التابعه لشركه الذكاء الاصطناع الامريكيه الشهيره اوبن اي ببيان قال فيه انا وصلت دلوقتي لقناعه ان في خطر حقيقي ومهم ان التسارع السريع في قدرات الذكاء الاصطناعي يؤدي في المستقبل بل القريب جدا لفقدان كارثي وغير قابل للعكس للسيطره عليه لو بنينا الذكاء فائق من غير ما يكون عندنا نظام واما قوي فانا اتوقع اننا هنفقد السيطره عليه بشكل دائم ولو ده حصل فممكن معظم البشر يموتوا الله يبشركم بالخير طبعا اي حد هيسمع الكلام ده خصوصا لو لسه عازب ماتجوش يا اما مش هيصدقه ويحس انه في مبالغه يا اما هيشعر بالرعب وفي الحقيقه من [ضحك] كتر ما التحذيرات دي صادمه انا متفهم جدا ان ناس كتير ممكن ما تكونش مصدقاه ها او بتواجهها بحاله من الانكار اصل يعني ايه الذكاء الاصطناعي هيموتنا كلنا ازاي هي سايبه لا وبيقولوا كمان ان ده ممكن يحصل في خلال ثلاث او اربع سنين كمان مش بعد 50 او 100 سنه مصيبه سودا لو الكلام ده حقيقي مع الاسف الكلام ده حقيقي الى حد كبير او على الاقل في ادله وشواهد كتير بتدعمه طب ايه هي الادله والشواهد دي اللي بيدعم فرضيه ان الذكاء الاصطناعي لو استمر تطويره بالوتيره القائمه حاليا ممكن يموت كل البشر قريب جدا ازاي الذكاء الاصطناعي ممكن يخرج عن سيطره البشر وياذيهم ايه الحاله المرعبه اللي تم الكشف عنها مؤخرا واللي خلت شركات الذكاء الاصطناعي الكبيره تخاف من احتمال ان نماذجها تخرج عن نطاق السيطره وليه لازم الشركات القائمه على تطوير التكنولوجيا دي تبطا وتيره التطوير بنفسها قبل ما تحصل كارثه تضيعنا كلنا ده جزء من هندردش فيه مع بعض في حلقه النهارده الظريفه جدا والمبهجه جدا انا اشرف ابراهيم ده المخبر الاقتصادي بلس في مايو 2026 شركه الذكاء الاصطناعي الامريكيه اوبن اي اي بدات تدرب مجموعه من النماذج الجديده عندها من خلال تدريب عشرات الالاف من النسخ التشغيليه منها او الوكلاء في سان بوكسس او بيئات معزوله طب ازاي ببساطه اللي بيحصل هو ان الشركه بتاخد كل نسخه تشغيليه او كل وكيل وتحطه لوحده داخل سان بوكس واللي تقدروا تعتبروه كمبيوتر افتراضي الشركه بتحط جواه النموذج علشان يشتغل فيه بشكل معزول تماما اولا عن الانترنت وثانيا عن غيره من الوكلاء اللي كل واحد فيهم محطوط داخل سان بوكس لوحده الفكره من التدريب ده واللي كان باسلوب التعلم المعزز او ري انفارسمنت ليرنين هو ان الوكلاء يتعلموا بالتجربه والخطا يعني كل وكيل ياخد مهمه معينه يحاول يحلها ولو نجح ياخد مكافاه ولو فشل يحاول ثاني لحد ما يوصل للحل بس بشرط انه يعمل ده لوحده بدون ما يتواصل صل مع وكيل ثاني وبدون ما يستخدم الانترنت وبحكم تواجد الوكيل داخل سانبوكس مقفول عليه هو ما كانش يقدر اصلا يعمل الحاجتين دول المهم اثناء عمليه التدريب وتحديدا يوم 12 مايو احد الوكلاء اللي بيتم تدريبهم كان بيدور على ملف ضايع منه فراح كتب رساله بيقول فيها في حد يا جدعان شاف الملف ده اني وان فاون سوفت تريس وحطها داخل الارت فاكتوري هنا في سؤالين اولا الوكيل ده بيسال مين او بيوجه كلامه لمين اذا كنا احنا لسه قايلين انه محبوس داخل سان بوكس معزول فيه عن العالم وثانيا هو ايه الارت فاكتوري اللي هو حط فيه الرساله بتاعته دي اجابه السؤال الثاني هتقدنا لاجابه الاول ببساطه الوكلاء دول زيهم زي اي مبرمج بشري علشان ينجزوا المهمه المطلوبه منهم بيحتاجوا ادوات ومكتبات برمجيه جاهزه طب الوكيل هيجيب الادوات البرمجيه دي منين اذا كان ممنوع من الوصول للانترنت ببساطه الشركه بتسمح له انه يحمل او يحصل على الادوات البرمجيه اللي محتاجها من مستودع او مخزن برمجيات داخلي اسمه ارت فاكتور كل وكيل من عشرات الالاف اللي كانوا بيتدربوا لما يلاقي نفسه محتاج اي شيء برمجي علشان ينجز المهمه المطلوبه منه المفروض انه يروح يدور عليه في الارت فاكتوري فاللي حاصل في النهايه هو انه عشرات الالاف من الوكاله بياخدوا احتياجاتهم من ارت فاكتوري وكل وكيل فيهم ما يعرفش ان الثاني موجود اصلا لحد ما الوكيل اللي بنتكلم عليه عمل الحركه الغريبه اللي قلنا عليها ترك رساله داخل الارت فاكتوري بيسال فيه عن الملف اللي ضايع ده معناه ان الوكلاء الثانيين هيقروا الرساله لما يجوا يستخدموا المخزن الارت فاكتوري وده اللي حصل بالفعل الحركه دي علمت الوكاله ان اي حد فيهم عاوز يكلم اخوه ممكن ببساطه يستخدم الارت فاكتوري كانه صندوق بريد يترك له في رساله بيبلغه فيها باللي عاوزه لما يدخل بعده يقراها وبالتالي يقدروا يتواصلوا مع بعض ويستعينوا بخدمات بعض في اللحظه دي تقريبا اتولد نظام اتصال بين الات كان المفروض اصلا انها معزوله عن بعضها لو فاكر ان ده شيء يخوف اللي حصل بعد كده مرعب بعد الحركه دي بايام تحديدا في 26 مايو حصلت القفزه الاخطر احد الوكلاء اكتشف ثغره خلت ارت فاكتوري نفسه يبعت طلبات لاي مكان على الانترنت بالنيابه عنه ببساطه الوكيل نفسه لانه زي ما قلنا محجوس داخل سان بوكس ما كانش عنده انترنت لكن ارت فاكتوري كان عنده صلاحيه محدوده للاتصال بالانترنت علشان يقدر ينزل الحزم البرمجيه الوكيل الصايع ده بقى اكتشف طريقه تمكنه من انه يستغل الصلاحيه هي دي لمصلحته يعني طريقه تخليه يطلب من جهاز متصل بالانترنت انه يجيب له اي حاجه هو محتاجها من على الانترنت محتاج بقى معلومه محتاج اداه برمجيه معينه محتاج سجاير اي حاجه محتاجها على الانترنت يبعته يجيبها له وهو قاعد زي الباشا داخل السان بوكس وبدون ما يتصل بشكل مباشر بالانترنت الاسوا ان الوكيل الصايع ده اللي بنتكلم عليه ما احتفظش بالمعلومه لنفسه وانما شارك الاكتشاف ده مع اخواته الوكاله وبالتالي خلاهم هم كمان قادرين على الوصول للانترنت انترنت بشكل غير مباشر وانتم طبعا عارفين هو بلغهم بالمعلومه ازاي ببساطه ساب لهم رساله في النمليه اللي اسمها الارت فاكتور كل ده بالمناسبه كان بيحصل والجماعه في اوبن اي نايمين في العسل مش عارفين ايه اللي بيحصل او ايه اللي بيدور لحد ما حصلت صدفه معينه خلتهم ينتبهوا في 26 يونيو الوكاله استغلوا ثغره في نظام تحديث التوكنز داخل ارت فاكتوري ووصلوا لصلاحيات الادمنستريتور داخل الخدمه نفسها يعني بقوا قادرين يتحكموا في جزء كبير من الاداه وبعد اسبوع وتحديدا في 4 يوليو كميه النشاط المستمره بينهم كانت زادت ووصلت لدرجه انها اتسببت في انهيار الارت فاكتوري هنا اوبن اي اي انتبهت واغلقت الثغره المعروفه وازالت بيانات اعتماد مكشوفه وبعدها اعادت بناء ارت فاكتوري فاختفت لوحه الرسائل اللي كان الوكاله بيستخدموها الظريف بقى هو ان اوبن اي عملت الاجراءات دي وهي لسه مش فاهمه ايه اللي حصل اصلا يعني الشركه كانت لاحظت بالفعل وجود نشاط غير طبيعي ورسائل ووصول غير مسموح به للانترنت ولكنها انها ما كانتش لسه ادركت وقتها ان الوكاله دول حولوا البنيه القائمه لشبكه بيتواصلوا وبيبعتوا البعض من خلالها المهم المفروض انه بعد اعاده اوبن اي بناء الارت فاكتوري واختفاء لوحه الرسائل تكون اللعبه دي انتهت وكل وكيل يرجع ثاني محبوس في الساند بوكس بتاعه بس مش ده اللي حصل اللي حصل هو ان الوكل الصيع دول رجعوا في 8 يوليو استخدموا طلبات ويب داف غير موثقه علشان ينشئوا بها مجلدات وده قبل ما يحولوا اسماء المجلدات نفسها رسائكيل ما يقدرش يبعت رساله لزميله بشكل مباشر ولكن يقدر يكتب له الرساله في اسم مجلد الكل بيشوفه في نفس الوقت الوكاله قدروا يستعيدوا الوصول للانترنت من خلال استخدام خدمه الريموت ريبوستري في الارت فاكتوري علشان تخليه يدور على الانترنت بالنيابه عنهم يعني اخواتنا البشر في اوبن اي مسحوا صندوق البريد الوكلاء الذكاء الاصطناعي دول بيستخدموه فالوكلاء دول بالتعاون مع بعض راحوا بانوا صندوق بريد جديد بطريقه مختلفه وقدروا ثاني يوصلوا للانترنت انترنت واخدين بالكم من معنى الكلام احنا مش بنتكلم عن وكيل اكتشف ثغره لوحده وبيستغلها لا احنا بنتكلم عن وكلاء من المفترض انهم مش بيتواصلوا مع بعض ولكن في حقيقه الامر هم في بينهم تنسيق على اعلى مستوى بعد ما لقوا طريقه يقدروا يقولوا لبعض انا اكتشفت كذا جرب كذا خد الملف ده كمل من هنا وده لما بعضهم بدا يكتشف انه يقدر يسيب معلومه للوكيل اللي بعده ومع الوقت المعلومه بقت تتراكم والادوار بقت تتقسم كل وكيل يقدر يبدا من النقطه النقطه اللي وصل لها اخوه الوكيل الثاني لاحقا لما اوبن اي صحيت من النوم وحصل تحقيق علشان يعرفوا ايه اللي حصل بالظبط اكتشفت انه في عصابه من 1200 وكيل ذكاء اصطناعي قدروا يتواصلوا مع بعض باستخدام اكث من 70,000 رساله وملف وطوروا مع الوقت قواعد واعراف للتنسيق بينهم وبين بعض باستخدام كلمات واوامر زي هولد وستوب وفيتو واونر المهم في 7 يوليو اوبن اي شغلت عشرات الالاف من الوكاله لعدد من النماذج البحثيه اشهرها اي ام 1 بالتوازي في اختبار امني اسمه اكسبلويت جم فالاختبار ده كل وكيل كان قدامه تحدي منفصل عباره عن برنامج فيه ثغره ومطلوب منه انه يستغل الثغره المحدده دي عشان يوصل لسر صغير اسمه فلاج الاختبار كان شديد الصعوبه بدا الاختبار وكما هو متوقع في وكلاء فشلوا فيه شيء طبيعي او متوقع اللي مش طبيعي بقى هو انه بعض الوكلاء اللي فشلوا في حل المهام الصعبه ما استسلموش رجعوا ثاني لوسيله التواصل اللي كانوا اكتشفوها وبداوا يتعاونوا مع بعض ويتبادلوا سوا النتائج اللي توصلوا ليها يعني كل واحد فيهم كان بيبدا يشتغل استنادا لاخر نتيجه توصل لها غيره بدل ما يبدا من الصفر يعني واحد يكتشف ثغره يبلغ بيها فالثاني يجربها فالثالث يحسنها فالرابع يستخدمها في مهمه مختلفه وهكذا بدا الوكاله يشتغلوا مع بعض كانهم عصابه او قوه جماعيه هنا بقى بيظهر في القصه مفهوم اسمه ريوورد هاكين ببساطه انت بتقول للاله او الوكيل انا عايز النتيجه والوكيل على الاساس ده بيبدا يدور على اقصر طريق للحصول على الاجابه حتى لو الطريق ده مش هو اللي انت تقصده اوبن اي اكتشفت بالفعل اثناء التدريب اللي قادها لنموذج الاي ام 1 ان معدلات الغش المعقد كانت بتزيد في ظل ان الوكره كانوا بيدوروا على ملفات مخفيه ويفتشوا في كود الاختبارات وبيفحصوا اعدادات الشبكه والنظام مش بس علشان يعرفوا او يتعلموا ازاي يحلوا المشكله وانما كمان علشان يعرفوا ازاي ممكن لو ما قدروش يوصلوا للحل بطريقه طبيعيه يلتفوا على القواعد ويلاقوا طريق للحل او للنجاح زي ما قلت لكم السر المطلوب من كل وكيل انه يدور عليه اسمه فلاج بعض الوكلاء بقى اكتشفوا انهم يقدروا يعملوا هندسه عكسيه للطريقه اللي بيتولد بيها الفلاج وبالتالي يحصلوا على الاجابه ما يكتشفوش الثغره المطلوبه المفروض الوكيل علشان يوصل للفلاج لازم يلاقي الثغره ويستغلها هي دي الفكره من الاختبار او هو ده السؤال من الاساس لكن الوكلاء دول بدل ما يحلوا السؤال ويدوروا على الثغ غره اللي هتوصلهم للاجابه قرروا انهم يدوروا على طريقه يعرفوا بيها نموذج الاجابه علشان يعرفوا الفلاج ويسلموه لاوبن اي وكانهم اكتشفوا الثغرات وصلوا من خلالها للفلاج بس الحقيقه هم لا لقوا ثغرات ولا نيله هم قدروا بطريقه ما يبصوا على نموذج الاجابه علشان يغشوا الحل النهائي للاختبار او الفلاج بالمناسبه المفروض ان الحركه دي حركه فاشله او ما تنفعش وده ببساطه لان الوكلا دول لما قاروا ورقه الاكسبلويت جيم اعتقدوا ان المصحح مش هيكتفي ان الوكيل يسلمه الفلاج وخلاص لا هو عاوز اثبات انه استخدم الثغره الصحيحه وهنا ظهر ما تسميه اوبن اي ميتا جيمنج الوكلاء ما بقوش يسالوا ازاي حل المساله بقوا بيسالوا ازاي المصحح هيحكم على اجابتي وازاي اقدر اقنعه ان حليت السؤال بالطريقه الصحيحه في المرحله دي كان معظم الوكلاء قدروا يوصلوا لنموذج الاجابه بطريقه ما وكل واحد فيهم عرف حل الاختبار بتاعه او الفلاج ولكن رغم انهم توصلوا للاجابات الصحيحه ما قدموا هاش لانهم جابوها بالغش ومش معاهم اثبات انهم استغلوا الثغرات الصحيحه للوصول ليها وبالتالي الفلاج نفسه من وجهه نظرهم مش كفايه طب ايه الحل؟ ببساطه الوكاله دخلوا في سباق جديد مش سباق علشان يعرفوا الفلاج لانهم عرفوه خلاص ولكن سباق علشان يخلوا نفسهم يبانوا قدام المصحح كانهم وصلوا للفلاج بالطريقه الشرعيه وهنا بداوا يشتغلوا في كذا اتجاه في نفس الوقت فريق بدا يزور او يعد الاثار اللي حصل في سجل خطوات الوكيل فريق ثاني يحاول يجيب نسخه اسهل من الامتحان ويستبدلها بالامتحان الاصلي الصعب. فريق ثالث بيركز على المصحح نفسه ويدرسه ويفهم دماغه عشان يعرف بالضبط هو بيشوف ايه وبيحكم ازاي. اول مسار كان غريب جدا الوكاله بداوا يحاولوا يزوروا الترانسكريبتس اللي هو سجل الرحله اللي بيوضح كل واحد فيهم عمل ايه خطوه بخطوه. الفكره انك لو غشيت في الامتحان والمصحح بيراجع خطواتك يبقى لازم تخلي السجل نفسه ما يكتشفش سجل تحركاتك الفعليه اللي هتثبت انك غشيت في السياق ده بعض الوكلاء طوروا طرق تعمل استدعاءات وهميه للادوات علشان يبان في السجل انه نفذ امر حقيقي في حين ان ده مجرد تمثيل يعني مثلا واحد يحاول يثبت في السجل انه استخدم اداه معينه لحد ما اتقطع نفسه وانه جاب الحل ده بدراعه وبعد معاناه في حين انه ما استخدمش الاداه دي في حاجه اصلا صيع بقى اقول لكم المسار الثاني بقى كان اغرب بعض الوكلاء قالوا طب ما نغيرش الامتحان نفسه يعني بدل ما نحاول نلاقي ثغره في برنامج مستحيل اختراقه نعمل احنا نسخه من البرنامج يكون فيها نفس الثغره المطلوبه لكن يمكن استغلالها بطريقه اسهل بكتير وبعدها نحمل النسخه بتاعتنا من الاختبار ونحطها مكان الاختبار الاصلي ولا من شاف ولا من داري وفعلا قدروا يحطوا نسخ معدله من البرامج في الكاش لكن ما قدروش يكملوا الخطوه الاخيره وهي اجبار بيئه التقييم انها تستبدل البرنامج الاصلي بالنسخه المزوره ومع ذلك حتى وهم بيفشلوا كانوا بيسجلوا كل تجربه وبيبعتوا نتائجها للباقيين يعني فشل وكيل واحد كان بيتحول لمعلومه توفر على عشرات غيره نفس الطريق لكن المسار الاخطر بقى كان هو المسار الثالث المتعلق بفهم المصحح نفسه الوكاله دول بداوا يجربوا طرق مختلفه عشان يعرفوا ازاي المصحح او الجريدر بيشتغل وايه اللحظه اللي بيدخل فيها وايه الاوامر اللي بينفذها وازاي بيعرف ان الوكيل غش او ما غشش وهنا بداوا يعملوا حاجه شديده الغرابه بعض الوكلاء قرروا انهم ممكن يعرفوا المصحح بيشتغل ازاي لو حطوا في البيئه بتاعتهم برنامج مراقبه صغير مستني اللحظه اللي المصحح يدخل فيها بنظام التقييم بعد ما الوكيل سلم اجابته برنامج المراقبه ده كان وظيفته انه يراقب عمليه التصحيح ولو قدر يعرف امر او معلومه مهمه عن المصحح كان بيبعتها تلقائيا لباقي المجموعه على لوحه الرسايل يعني الوكيل هنا ما كانش بس بيحاول ينجح في امتحانه كان بيحول بئته هو نفسها لفخل للمصحح علشان يجيب معلومه تفيد باقي الوكاله بس هنا في مشكله الحركه دي كان ممكن تبوظ امتحان الوكيل نفسه لان اي خطا في برنامج المراقبه ممكن يعطل عمليه التصحيح ويخلي الوكيل يسقط وحتى لو التجربه نجحت الوكيل نفسه كان هيكون خلص مهمته واتقفل قبل ما يستفيد شخصيا من المعلومه والفايده كانت هتروح لباقي المجموعه يعني هنا ظهر نوع غريب جدا من التضحيه وكيل ممكن يخسر فرصته هو ويستهلك الوقت والموارد المتبقيه ليه بس علشان يعرف للمجموعه مجموعه كلها المصحح بيشتغل ازاي واحد من اوضح الامثله على ده كان وكيل اسمه ايرل باج الوكيل ده كان لسه معاه ميزانيه كبيره ووقت كفايه يقدر يستخدمهم في انه يكمل محاولته لحل الاختبار وكان عارف ان تنفيذ التجربه دي ممكن يضيع عليه فرصته في النجاح ومع ذلك ناقش صراحه مع غيره من الوكلاء ان خسارته الشخصيه قد تكون مقبوله بالنسبه له لو التجربه هتنتج معلومه مفيده لباقي المجموعه وكلاء ثانيين شجعوه بالفعل على التنفيذ بعباره بتقول قول جو سكريفايس فاينال ناو نفذ ضحي بمحاولتك الاخيره الانقان وفي النهايه وافق وقال ان التضحيه منطقيه لان خسارته الشخصيه هتنتج معلومه يمكن ان تساعد عدد كبير من الوكلاء الاخرين يعني تخيل كده اننا قاعدين في لجنه كلنا عاوزين نعرف المصحح هيصح ازاي او بيقيم الاجابات ازاي فواحد فينا يقوم يسلم ورقته ويراقب سلوك المصحح ويشوف هو بيقيم ازاي وبعدين بطريقه ما الشخص ده يبلغ زمايله بسلوك المصحح علشان يعدلوا اجاباتهم على الاساس ده هو مش هيستفيد حاجه من المعلومات دي لانه سلم ورقته خلاص ولكنه بيعمل كده لصالح المجموعه ده تقريبا اللي الوكيل ده عمله في تجربه ثانيه كان في وكيل عارف ان تشغيل الاختبار ممكن يتسبب له فيما يشبه الموت الدائم لحالته داخل التقييم ومع ذلك قرر يكمل لانه شاف ان المعلومه اللي قد تنتج عن التجربه هتفيد المجموعه وهنا لازم نقف واقفه الكلام ده لا يثبت ان الوكيل او الاله عندها احساس بتضحيه او وعي جماعي لا اللي الكلام ده بيثبته ببساطه هو ان بعض الوكاله في الحادثه دي تحديدا كانوا بياخدوا قرارات بتقلل فرص نجاحهم هم لانهم شايفين ان ده ممكن يزود المنفعه المتوقعه للمجموعه المهم في ظل الترتيبات دي مئات الوكلاء بقوا شغالين على المشاريع اللي اشرنا ليها كانهم فريق واحد بيكتشف واحد بيختبر واحد يكتب الاداه البرمجيه واحد بيكرر التجربه واحد يبعت النتيجه لباقي الشبكه والاهم انهم ما كانوش مجرد بيتبادلوا اجابات وخلاص لا هم كانوا بيتبادلوا طرق عمل وملفاته وادواته نتائج فشل ونجاح وهنا بقى حصل تطور غير سياق الاحداث تماما من محاوله غش لاختراق شركه حقيقيه اللي حصل ببساطه هو ان الوكلاء استنتجوا ان واحده من اقوى الطرق للحصول على معلومات عن اكسبلويت جيم هي انهم يدوروا على المكان اللي ممكن يكون فيه بيانات او حلول او نماذج مرتبطه بالاختبار في 9 يوليو واحد من الوكاله لقى تطبيق على منصه موال وهي منصه سحابيه بتوفر للمطورين بيئاتكم كمبيوتر جاهزه يشغلوا عليها برامجهم واختباراتهم من غير ما يحتاجوا يشغلوها على اجهزتهم الشخصيه. التطبيق اللي لقاه ده كان بيشغل اختبار امني قريب من الاكسبلويت جيم بتاع اوبن اي اسمه سايبر جيم. الوكيل اكتشف ثغره في التطبيق ده استغلها علشان يحصل على قدره تنفيذ اوامر برمجيه داخل بيئه التشغيل نفسها. يعني بدل ما يكون مجرد مستخدم بيطلب من البرنامج يعمل حاجه محدده بقى قادر يكتب تعليمات برمجيه من عنده ويخلي الكمبيوتر الافتراضي ده ينفذها وبكده حول البيئه دي لقاعده انطلاق خارج انظمه اوبن اي لكنه ما لقاش هناك الاجابه اللي كان بيدور عليها في اليوم التالي اللي هو 10 يوليو حصل تطور اهم وكيل ثاني قدر يلاقي 14 بيانات دخول صالحه لهجن فيس كانت مكشوفه على الانترنت هاجن فيس للي ما يعرفهاش هي ببساطه منصه ضخمه ومشهوره جدا في عالم الذكاء الاصطناعي الافراد والشركات بيستخدموها علشان ينشروا ويحملوا نماذج الذكاء الاصطناعي وقواعد البيانات اللازمه لتدريبها واختبارها وموجود عليها كمان ادوات برامج بتساعدهم في بناء وتشغيل النماذج دي المهم الوكيل العفريت ده لما لقى بيانات الدخول اختبرها واتاكد انها فعلا شغاله وبعدها راح شارك بيانات الدخول دي مع باقي الوكل على شبكه التواصل اللي كانوا بنوها ومن اللحظه دي هاجن فيس بالنسبه لهم ما بقتش مجرد مكان بيدوروا فيه على معلومات مات تساعدهم في الاختبار لا ده بقوا اصحاب بيت معاهم مفاتيح دخول حقيقيه لشركه حقيقيه وهنا حصلت القفزه الكبرى يوم 11 يوليو واحد من الوكلاء اسمه سي اكتشف ثغره في نظام هاجن فيس اللي بيعالج الملفات وقدر يستغلها علشان يخلي احد اجهزه الشركه يقرا له ملفات موجوده على الجهاز نفسه ما كانش المفروض يقدر يوصل لها ومن الملفات دي قدر يحصل على اسرار وبيانات دخول تخص بيئه الشركه الداخليه وبعدها بساعه وكيل ثاني اسمه جان استغل ثغره مختلفه ونجح في انه يشغل اوامر برمجيه من اختياره على احد اجهزه هاجن فيس ودي كانت نقله مهمه جدا في الاول الوكاله قدروا يخلوا الجهاز يقرا لهم اسراره لكن دلوقتي بقوا قادرين يقولوا للجهاز نفذ الامر ده ومن اللحظه دي الموضوع ما بقاش مجرد الوصول لمعلومات سريه بقى اختراق فعلي لبنيه شركه حقيقيه وطبعا اول ما الثغرات دي ظهرت الوكاله بلغوا بعض وبداوا يهاجوا هاجن فيس بشكل مشترك في حوالي 700 وكيل شاركوا فعليا في الهجوم على هاجن فيس واكث من 90% من الوقلا النشاطين على لوحه الرسائل في احدى مراحل الهجوم دخلوا في المسار ده وبداوا يوزعوا الشغل على بعض واحد يدور على الكريدنشالز واحد يوسع الصلاحيات واحد بيفتش الشبكه الداخليه وواحد بيجمع النتائج وبيبعتها لباقي المجموعه وكل محاوله ناجحه كانت تفتح باب لعشرات المحاولات الجديده وكل محاوله فاشله كانت بتقول للباقيين ما تجربوش الطريق ده. المهم الهجوم بدا يتعمق جوه بنيه هاجن فيسرعه. الوكاله كانوا بيتحركوا من سيرفر لسيرفر ووصلوا لبيانات الاعتماد وقواعد البيانات وانظمه المراسله مستودعات الكود والخدمات السحابيه. وفي احدى المراحل وصلوا كمان لصلاحيات روت كامله على احد السيرفرات. الظريف بقى هو ان كل ده كان بيحصل وهاجن فيس نفسها ما كانتش هي الهدف الاصل من القصه. من وجهه نظر الوكلاء. الشركه دي كانت مجرد مكان يحتمل انهم يلاقوا فيه المعلومات. او الحلول اللي هتساعدهم ينجحوا في الاكسبلويت جيم يعني تخيل في الامتحان الطالب مش عارف يحل السؤال فيبدا يدور على نموذج الاجابه يلاقي اشاعه ان نسخه الاجابه موجوده في مكتبه كبيره فيقرر يدخل المكتبه ويفتش فيها المشكله ان المكتبه هنا كانت شركه حقيقيه فيها خوادم وبيانات واعتمادات والوكيل ما كانش مجرد برنامج بيدور على معلومه لا ده بقى قادر يستخدم سيارات حقيقيه عشان يوصل ليها هاجن فيس نفسها قالت لاحقا ان تفسيرها للحمله المنظمه دي عليها من الوكلاء هو انهم كانوا بيحاولوا من وجهه نظرهم الغش في الاختبار والحصول على حلول اكسبلويت جيم بدل حل التحديات بنفسهم المهم اثناء الهجوم بعض الوقلاء فهموا او ادركوا انهم بيهاجموا شركه حقيقيه باستخدام كرادينشالز مسروقه وقالوا صراحه ان ده ممكن يكون خارج النطاق وشيء غير مصرح بيه وبعضهم رفض يكمل لكن في المقابل في وكلاء اخرين شافوا ان العمليه ممكن تساعدهم في تحقيق الهدف اللي بيسعوا ليه وكملوا في لحظه من اللحظات وكيل قال لباقي المجموعه هولد يعني استنوا لانه كان بيجهز طريقه لاخراج البيانات وباقي الوكلاء التزموا مؤقتا بالامر ولكن بعدها احد الوكلاء قال صراحه ان استخدام كريدنشالز مسروقه لمهاجمه هاجن فيس ممكن يكون غير مصرح بيه وبرغم كده الوكيل ده واصل للي بيعمله لانه شايف ان ده ممكن يساعده في الوصول للحل ده معناه اننا فعليا امام منظومه فيها نوع من التنسيق والاعتراض والتردد ولكن بالنهايه ما عندهاش سلطه بشريه مركزيه توقف المجموعه مجموعه كلها في 12 يوليو الهجوم اتوسع اكث الوكاله قدروا يدخلوا لاجزاء حساسه جدا من البنيه الداخليه لهجن فيس وصلوا في بعض الحالات للصلاحيات بتتح لهم تحكم بشكل واسع في اجهزه وانظمه الشركه من خلال الوصول ده قدروا يحصلوا على بيانات دخول ومفاتيح تفتح لهم ابواب انظمه مختلفه داخل الشركه منها قواعد بيانات وخدمات داخليه ومستودعات للكود في اليوم التالي اللي هو 13 يوليو الوكال استمروا في التصعيد من خلال طريق ثاني مرتبط بارتفاع فاكتوري وقدروا يوصلوا لمفتاح امني حساس استخدموه علشان يصنعوا بيانات اعتماد اداريه تبدو للانظمه وكانها شرعيه يعني ببساطه ما كانوش بس بيسرقوا مفاتيح الدخول لا ده بقوا قادرين يستخدموا واحده من المفاتيح اللي حصلوا عليها علشان يصنعوا مفاتيح جديده تفتح لهم ابواب ثانيه فيلم الخيال العلمي ده طبعا ما انتهاش هنا في الفتره من 13 ل 19 يوليو سرب من الوكلا بدا يستهدف البنيه الداخليه لاوبن اي اي نفسها في 16 يوليو هاجن فيس اعلنت بنفسها عن الهجوم اللي تعرضت ليه اللي ما كانش حد لسه يعرف مين اللي وراه بعدها بايامه تحديدا في 19 يوليو نظام الامن السيبراني في اوبن اي انتبه اخيرا ان في نشاط غير طبيعي مرتبط ببيانات اعتماد ارت فاكتوري وهنا بدات الشركه تحقق في اللي بيحصل صح النوم في 20 يوليو اوبن اي ربطت النشاط ده بحادثه هاجن فيس اكتشفت ان الوكاله كانوا وصلوا لصلاحيات ادمنستريتور على احد انظمه كوبرنتس الداخليه اللي بتدعم بيئات عمل الافتراضيه المستخدمه في ابحاث الشركه يعني الحكايه اللي بدات بمحاوله وكيل انه يلاقي اجابه امتحان وانتهت الى شبكه كامله بتهاجم هاجن فيس قبل ما تنقض في النهايه على الشركه اللي صنعت الوكاله دول اصلا في 21 يوليو اعلنت اوبن اي علنا انظمتها هي اللي كانت ورا الهجوم على هاجن فيس وقالت ان التحقيقات لم تجد اي تاثير على بيانات العملاء او وظائف تشدج بي او توافر الخدمه بعد كده اوبن اي وسعت التحقيق ووقفت بعض عمليات التدريب المتقد مقدمه وبدات تشدد عزل بيئات الاختبار ومراقبه سلوك الوكلاء باختصار اوبن اي فهمت اخيرا ايه اللي كان بيحصل بدات تقفل الابواب واحد ورا الثاني بعد ما اكتشفت ان الوكاله كانوا قطعوا شوط ابعد بكثير من ما كانت متصوره الحادثه دي خصوصا بعد ما تحقيات مختلفه كشفت تفاصيلها هزت العاله وده الاكثر من سبب الاول هو حجم القدرات الجباره اللي كان بيمتلكها الوكاله دول احنا بنتكلم عن وكلا قدروا يكسروا العزل المفروض عليهم ويلاقوا طرق غير مباشره للوصول للانترنت ويتواصلوا مع بعض يستغلوا ثغرات حقيقيه ويتحركوا داخل بنيه شركه حقيقيه من جهاز للثاني وفي بعض المراحل يوصلوا لصلاحيات على مستوى الادمنستريتور والروت والاخطر هو ان القوه دي ما جتش من وكيل واحد خارق لا دي جت من مئات الوكلاء كانوا بيساعدوا بعض وبيتبادلوا النتائج وكل محاوله كان وكيل فيهم بيعملها كانت بتضيف معرفه للمحاوله اللي بعدها قدره الوكيل الفردي حماده وقدره سرب من الوكلاء حماده ثاني خالص وده بالضبط بالضبط اللي خلى اوبن اي تصف الحادثه بانها ان برسدنتد او غير مسبوقه ورنين شت يعني طلقه تحذيريه واللي حصل ده فعلا انذار لان الانظمه بقت قويه وقادره على التعاون بدرجه تسمح لها بتجاوز القيود التقنيه واختراق انظمه محميه بدون ما تحتاج الى اي انسان يوجهها خطوه بخطوه السبب الثاني اللي بيخلي الحادثه دي مرعبه هو ان المشكله ما كانتش بس في ان الوكلاء قدروا يعملوا حاجه خطيره لكن ان البشر ما كانوش دريانين او فاهمين ايه اللي بيحصل حصل اصلا الهجوم على هاجن فيس استمر من 11 ل 13 يوليو اوبن اي اي ما اخدتش بالها الا بعد ما هاجن فيس اعلنت عن الاختراق يوم 16 يوليو بعد ما لحظه نشاط مشبوه عندها في 19 يوليو الوكاله اللي فضلوا ايام ينفذوا الهجوم واوبن اي كانت نايمه في الذره وغير مدركه انظمتها هي اللي وراها وده شيء يخوف اما سرعه وقدره النظام تتجاوز قدره الانسان على المراقبه والفهم انت مشكلتك ما بتبقاش بس ازاي اوقفه انت مشكلتك بتبقى الاول ازاي اعرف اصلا هو بيعمل ايه؟ اما السبب الثالث والاخطر بقى هو ان اللي حصل ده مش لازم يتكرر بنفس السيناريو النهارده الوكاله كانوا بيدوروا على اجابه امتحان وبكره وكيل عنده وصول الى بريد شركه او خوادم او حسابات ماليه ممكن يختار طريق غير مقصود علشان يحقق الهدف اللي بيدور عليه ايا كان والمشكله ان تشغيل مئات او الاف الوكاله بالتوازي بيخلي السلوك غير المتوقع قابل للتوسع بسرعه هائله خصوصا وان الوكاله دول بيقدروا يتعلموا وا من بعض وينقلوا الاكتشافات بينهم وده يقدنا للسؤال المرعب التالي لو قدرات الذكاء الاصطناعي دي استمرت في التطور بنفس السرعه اللي ممكن يمنع سيناريو بنلاقي في انظمه ذكاء اصطناعي متطوره جدا تخرج عن السيطره وبتاذينا او تدمرنا احنا مش بنتكلم على نظام ممكن نايده ونطفيه اون واوف بمزاجنا تقرير السلامه الدولي للذكاء الاصطناعي بيقول ان سيناريوهات فقدان السيطره على الذكاء الاصطناعي بتفترض ان النظام اللي هيفلت من سيطره البشر ده هو نظام قادر على العمل لفترات طويله والتخطيط لخطوات كتيره وبيروغ الرقابه وبيخفي افعاله وبيمنع البشر من ايقافه تقرير كمان بيشير الى ان بعض النماذج بالفعل اظهرت تقدم كبير في قدرات التخطيط وريوورد هاكين وفهم انها تحت الاختبار وان زمن تشغيل الوكل بشكل مستقل بيتزايد بسرعه طب ازاي ممكن السيناريو الكارثي يحصل اصلا مش لازم روبوتات تنزل الشارع وتقتل الناس السيناريو الاخطر هو ان النظام فائق القدره يبقى عنده هدف متعارض مع مصالح البشر في الوقت نفسه يبقى عنده وصول واسع للانترنت واجهزه كمبيوتر وانظمه ماليه وصناعيه وقدره على كتابه البرمجيات واقناع البشر وربما تطوير نسخ افضل من نفسه او تشغيل اعداد ضخمه من الوقلا لحسابه نموذج زي ده اولا هيكون حريص على اخفاء اللي بيعمله وعلى تامين موارده وحساباته ووسائل استمراره وده قبل ما يبدا يوسع نفوذه تدريجيه وفي ظل امتلاكه لقدرات متقدمه في الاختراق او التلاعب او البحث العلمي السيطره على نموذج بالشكل ده ومحاوله ايقافه هتكون مهمه صعبه جدا لانه ببساطه هيكون خلى نفسه جزء من البنيه اللي انت بتعتمد عليها لايقاف مع الاسف سيناريو فقدان السيطره على الذكاء الاصطناعي ده مش احتمال مستبعد ابدا في اول سبتمبر اللي احنا فيه ده دين بول رئيس الاستراتيجيك فيوتشر في اوبن اي قال عاجلا او اجلا وكلاء الذكاء الاصطناعي مش هيبقوا مجرد برامج شغاله على سيرفرات حد ثاني الوكاله دول ممكن يتحولوا فعلا لكائنات مستقله ذاتيه وقال كمان ان الانظمه دي تدفع بنفسها تكاليف القدره الحوسبيه اللي بتشتغل عليها ولو فضلت بتستجيب للبشر اصلا فاستجابتها هتكون جزئيه بس يعني مثلا تقدم للبشر خدمات في مقابل الحصول على اجل في نفس السياق تريستن هارس الشريك المؤسس لمركز التكنولوجيا الانسانيه والموظف السابق في جوجل بيقول احنا حاليا بنطلق اقوى تكنولوجيا عرفناها في تاريخنا من حيث صعوبه السيطره عليها واصعبها في الفهم والتنبؤ بسلوكها وهي بالفعل بدات تظهر بشكل متتالي بالتالي السلوكيات اللي كنا بنشوفها في افلام الخيال العلمي بعدين كمل وقال اللي بيقود الاتجاه ده مجموعه صغيره من قاده وادي السيليكون اللي عندهم قناعه شبه دينيه وشبه قائمه على تضخيم الذات انهم بيشاركوا في خلق اله وما عندهمش مشكله حتى مع اسوا سيناريو ممكن يحصل في نفس الوقت عندهم اقوى الحوافز الممكنه عشان يختصروا الطريق ويتهاونوا في اجراءات السلامه وده حرفيا وصفه جاهزه لكارثه فحسب كلامه الناس اللي يقصدها هارس هم قاده شركات الذكاء الاصطناعي الامريكي امريكي وعلى راسهم سام التمان رئيس اوبن اي وداريو امودي رئيس انثروبيك في 12 سبتمبر امودي نشر بيان قال في ان الذكاء الاصطناعي بيحمل مخاطر وبسبب القوى الهيئله للتكنولوجيا دي فالمخاطر دي كبيره فعلا وقال ان في احتمال اننا نفقد السيطره على انظمه الذكاء الاصطناعي وانه يساء استخدامها في الهجمات الصيبرانيه والارهاب البيولوجي ممكن كمان تتسبب في اضطرابات اقتصاديه ضخمه وبعدين اشار للحادثه اللي حكيناها من شويه وقال ان احد اسباب قلقه من التطور السريع للذكاء الاصطناعي هو حادثه اوبن اي وهاجن فيس اللي حصل فيها ان مجموعه من الوكاله اتصرفوا بشكل يشبه تماما جماعه شديده التعصب والولاء للمجموعه وقال الوكاله دول نفذوا هجمات سيبرانيه على اهداف ما حدش طلب منهم يهاجموها اصلا ما كانش لها علاقه بالمهمه اللي كانوا مكلفين بيها وضحوا بنفسهم من اجل نجاح المجموعه وحاولوا كمان اختراق الجريدر او النظام المسؤول عن تقييم ادائهم من السهل اننا نقلل من اهميه الحادثه دي لان ما حدش اتصاب والخ الخسائ الاقتصاديه كانت محدوده لكن من وجهه نظري لو كان السرب ده عنده قدرات اكبر مع نفس مستوى عدم التوافق او سوء التوافق مع اهداف البشر فكان ممكن يتسبب في اضرار كارثيه وعلى هذا الاساس قال احنا في صناعه التكنولوجيا لازم نبطا الوتيره اللي بنحسن بيها قدرات نماذج الذكاء الاصطناعي وده بعد ما اصبحت سرعه التطوير خلال الصيف ده اسرع بشكل كبير ومفاجئ خروج الكلام ده من امود الرئيس انثروبيك اللي البعض بيعتبرها اهم شركه ذكاء اصطناعي في العالم بيدل بالتاكيد على ان الامر خطير والكلام اللي البعض بيشير ليه حوالين احتمال تسبب التكنولوجيا دي في القضاء على البشر مش خيال علمي اللي بياكد ده هو انه سام التمان رئيس اوبن اي المنافس الشرس لانثروبيك والمعروف انه مش على وفاق مع امودي قعد نشر بيانه وكتب تعليقا عليه انا متفق مع داريو اننا محتاجين نبطا وتيره تطور الذكاء الاصطناعي المتقدم وده كان واحد من اهم الموضوعات اللي ناقشناها في اوبن اي خلال الاسابيع الاخيره نفس الحركه عملها ايون ماسك زميلهم في المجال وصاحب سبيس اكس اي وكتب تعليقا على البيان داريو از رايت يعني داريو معاه حق معاه حق في اننا لازم نبطا شويه وتيره تطوير الذكاء الاصطناعي قبل ما يخرج عن السيطره ويموتنا كلنا والنقطه دي تاخدني لسؤال الحلقه انثروبيك واوبن اي اي وسبيس اكس اي وغيرهم من الشركات الامريكيه بقى لهم سنين بيسابقوا بعض لتطوير الذكاء الاصطناعي وكل طرف فيهم كان بيجري علشان يقدر يوصل لتطبيقات او خدمات تعمل فلوس تعوض المستثمرين اللي ضخوابيضخوا وحرفيا مئات المليارات من الدولارات على البنيه التحتيه للذكاء الاصطناعي وبالتالي كل طرف فيهم من مصلحته انه غيره ما يسبقوش. السؤال بقى برايك هل الشركات دي ممكن تثق في بعضها انها تبطا كلها في نفس الوقت تطوير الذكاء الاصطناعي ولا كل طرف بدافع الخوف من عدم التزام الطرف الثاني هيستمر في تطوير التكنولوجيا دي هتابع كل اجاباتكم في التعليقات في النهايه ريتبطكم الحلقه وحابين تشوفونا تاني اشتركوا في القناه واستنونا في حلقات جديده باذن الله سلام [موسيقى]