تقرير تحليلي

ناديلا: اكتشاف الثغرات بالذكاء الاصطناعي يفرض ترقيعات متسرعة وانقطاعات أكثر

قال الرئيس التنفيذي لمايكروسوفت إن أدوات الذكاء الاصطناعي تكشف العيوب أسرع مما يمكن إصلاحها بأمان، وعرض نهجًا قائمًا على السجلات لضبط نماذج الذكاء الاصطناعي.

INSIGHTEX Editorial Desk

مدة القراءة: 2 د

ناديلا: اكتشاف الثغرات بالذكاء الاصطناعي يفرض ترقيعات متسرعة وانقطاعات أكثرتقرير تحليلي

ما الذي حدث

قال ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، إنه يتوقع مزيدًا من انقطاعات البرمجيات لأن أدوات الذكاء الاصطناعي باتت تكشف نقاط الضعف الأمنية أسرع مما تستطيع الشركات إصلاحه بأمان، بحسب ما نقله موقع TNW | Microsoft. وفي حوار جرى يوم الأربعاء في نيويورك مع أندرو روس سوركين خلال قمة DealBook التي تنظمها صحيفة نيويورك تايمز، اعتذر عن انقطاع خدمة Outlook، وقال إنه لا صلة مباشرة له بهذا التوجه. وفي وقت لاحق، قال على شبكة CNBC مع جيم كريمر إن على مايكروسوفت أن تجري مزيدًا من الاختبارات وأن تعزل العطل قبل انتشاره عالميًا.

وقال ناديلا إن إصلاح نظام مصرفي حيوي كان يمر في السابق بنحو أسبوع من الاختبار. وأضاف أن المهاجمين باتوا يستغلون نقاط الضعف فور ظهورها، ولذلك تُدفع الترقيعات مباشرة إلى بيئة الإنتاج، ما يؤدي إلى عدم الاستقرار. وذكر أن ثلاثة ترقيعات حرجة للبرمجيات مفتوحة المصدر وصلت في اليوم الذي تحدث فيه. وقال أيضًا إن نماذج الذكاء الاصطناعي تتيح لأي شخص تقريبًا أن يعمل كمهاجم مثابر بقدرات تضاهي قدرات الدول.

وفي ما يخص سلامة الذكاء الاصطناعي، قال ناديلا إن التوسع في الحجم حقق نتائج، لكن المواءمة وتصحيح أخطاء النماذج بصورة موثوقة لم يرافقاه. واقترح ما سماه معمارية للثقة، تحظر النماذج التي تستدل باختزال لا يستطيع البشر قراءته، وتشترط سجلات استدلال مقاومة للتلاعب يمكن لنماذج أخرى التحقق منها. وقال إن الجهات التي تنشر هذه الأنظمة مسؤولة حاليًا عن أفعال أنظمتها، ويتوقع أن تضع شركات التأمين سعرًا لهذا التعرض للمخاطر وأن تطلب الاطلاع على السجلات.

السياق

تمتلك مايكروسوفت حصصًا في OpenAI وAnthropic. وقال ناديلا إن اتفاقها مع OpenAI يتيح لها استخدام نموذج متقدم دون دفع حقوق ملكية حتى عام 2032. وأضاف أن ذلك يمكّنها من تطوير نماذج MAI الخاصة بها، التي تتأخر عن الحدود القصوى بثلاثة إلى ستة أشهر مع استخدام 5% إلى 20% فقط من القدرة الحاسوبية. كما عرضت مايكروسوفت حزم تسوية للخروج الطوعي على 60,000 موظف، ويقوم على بناء وكيلها Cowork فريق من 11 مطورًا.

المصدرTNW | Microsoft

الموجز

أسبوع التقنية في رسالة واحدة.

التقارير التي تستحق وقتك، كل أسبوع. يمكنك إلغاء الاشتراك في أي وقت.