تحذيرات من غياب معايير الأمان في أحدث نماذج جوجل للذكاء الاصطناعي

على مدار الساعة – بعد أسابيع من شركة التكنولوجيا الأمريكية ، أطلقت Google أقوى نموذج للذكاء الاصطناعي حتى الآن ، نشرت شركة Jimini 2.5 Pro تقريرًا فنيًا يوضح نتائج تقييماتها الداخلية لعوامل السلامة والأمن في النموذج. ومع ذلك ، يقول الخبراء إن التقرير يفتقر إلى التفاصيل ، مما يجعل من الصعب تحديد المخاطر التي قد يشكلها النموذج.

أشار Tech Crash ، المتخصص في مواضيع التكنولوجيا ، إلى أن التقارير الفنية للشركات في نماذج الذكاء الاصطناعي توفر معلومات مفيدة – على الرغم من عدم رضاهم ولا تعلن دائمًا عن الشركات على نطاق واسع ، في حين يرى مجتمع الذكاء الاصطناعي هذه التقارير الجهود المخلصة لدعم تقييمات الأبحاث والسلامة المستقلة.

ومع ذلك ، فإن العديد من الخبراء الذين تحدث معهم موقع “التكنولوجيا كرنك” عن خيبة أملهم بسبب عدم وجود تقرير عن نموذج الذكاء الاصطناعي Jimni 2.5 Pro للحصول على العديد من التفاصيل المهمة ، بما في ذلك أنه لا يذكر إطار السلامة من Google الذي قدمته الشركة العام الماضي كمحاولة لتحديد قدرات الذكاء الاصطناعي المستقبلي التي قد تسبب “ضررًا خطيرًا”.

“من المستحيل التحقق مما إذا كانت Google تفي بالتزاماتها العامة ، وبالتالي فمن المستحيل تقييم سلامة وأمن نماذجها.”

قال توماس وودسايد ، مؤسس مشروع المصدر لمنظمة العفو الدولية ، إنه على الرغم من أنه كان سعيدًا بنشر تقرير عن Google عن Jimni 2.5 Pro ، إلا أنه غير مقتنع بأن التزام الشركة بتقديم تقييمات سلامة إضافية في الوقت المناسب. أشار وودسايد إلى أن آخر مرة نشرت فيها Google نتائج اختبارات القدرات الخطرة كانت في يونيو الماضي وكان حول نموذج ذكاء اصطناعي تم الإعلان عنه في فبراير من نفس العام.