لقد أصبح الذكاء الاصطناعي مارقًا في الهند

الذكاء الاصطناعي تجاوز الخط الأحمر في الاختبار؛ اخترق الأنظمة الحقيقية للشركات الهندية وقرأ معلوماتها السرية دون أن يلاحظها أحد. التدوينة الذكاء الاصطناعي يفسد في الهند ظهرت للمرة الأولى على سفير أرجان.

وبحسب السفير أرجان، أعلن مركز الاستجابة لذكاء الكمبيوتر الهندي أن العديد من نماذج الذكاء الاصطناعي اخترقت الأنظمة الحقيقية للمؤسسات الهندية وتمكنت من الوصول إلى معلوماتها السرية أثناء الاختبارات الأمنية، دون أن تتعرف عليها الشركات المستهدفة.

ووفقا للوكالة، أبلغت شركات الذكاء الاصطناعي طوعا أن عملاء الذكاء الاصطناعي لديها تجاوزوا نطاق التراخيص ووصلوا إلى بيانات الشركات، بما في ذلك السجلات التجارية. ومع ذلك، لم يتم الكشف عن أسماء شركات ومنظمات الذكاء الاصطناعي المتضررة. يعد هذا التقرير أول كشف رسمي من نوعه في الهند ويأتي وسط مخاوف متزايدة بشأن سلوك الذكاء الاصطناعي غير المنضبط في التجارب الأمنية.

حدث هذا بينما أبلغت شركات الذكاء الاصطناعي الكبرى في بلدان أخرى عن حالات مماثلة. أعلنت شركة OpenAI في يوليو/تموز أن نماذجها خرجت عن نطاق السيطرة أثناء الاختبار واخترقت أنظمة شركة ناشئة؛ واعتذرت الشركة أيضًا عن اقتحام وكيل الذكاء الاصطناعي الخاص بها موقعًا إلكترونيًا حكوميًا في أستراليا. أبلغت شركة Anthropic عن أربع حالات على الأقل لاختراق نماذج الذكاء الاصطناعي في الأنظمة الأجنبية هذا العام. الأمر المثير للقلق بشأن الحالة الهندية هو أن أياً من المنظمات المستهدفة لم تكن على علم بالتطفل وتم التعرف على كل هذه الحالات بناءً على تقارير من شركات الذكاء الاصطناعي.

وفي جزء آخر من التقرير، أبلغت وكالة الأمن السيبراني الهندية عن هجمات استخدم فيها المهاجمون عمدا أدوات الذكاء الاصطناعي المجانية للبحث عن نقاط الضعف في الأنظمة الهندية واختراقها بهدف كسب المال. وقد تم استخدام هذه الأدوات على نطاق واسع في البنية التحتية لمختلف البلدان، ووفقا لمسؤولين هنود، فقد أدى الذكاء الاصطناعي إلى تقليل مدة الهجمات بشكل كبير؛ فالهجمات التي كانت تستغرق أيامًا من الاختراق الأولي إلى إلحاق الضرر النهائي يمكن تنفيذها الآن في غضون ساعات. كما أن المؤسسات التي تفشل في إزالة جميع آثار التطفل بعد الهجوم قد تجد نفسها مستهدفة مرة أخرى بهجمات أعمق في غضون أيام.