"أنثروبيك" تطور نظاماً للتحقق من هوية نماذج الذكاء الاصطناعي وكشف انتحالها
تعمل شركة أنثروبيك على تطوير نظام مفتوح المصدر يتيح التحقق من نموذج الذكاء الاصطناعي الذي أنتج إجابة أو محتوى معيناً، وفقاً لما كشفت عنه الشركة في تدوينة نشرتها الثلاثاء.
ويحمل النظام اسم FlashProve، ويهدف إلى توفير ما يطلق عليه الباحثون "الاستدلال القابل للإثبات"، من خلال تقديم دليل تشفيري يمثل ضماناً رياضياً على أن مخرجات معينة صدرت بالفعل عن نموذج ذكاء اصطناعي محدد.
ويتيح ذلك للمستخدمين التأكد من أن الإجابة التي حصلوا عليها جاءت من النموذج الذي يعتقدون أنهم يستخدمونه بالفعل.
ويعمل النظام بطريقة تشبه التوقيعات الرقمية المشفرة المستخدمة في رسائل البريد الإلكتروني، والتي تتيح للمستلمين التأكد من أن الرسالة أُرسلت بالفعل من الجهة التي تدعي إرسالها.
من المفترض أن يوفر FlashProve حماية قوية ضد محاولات انتحال هوية النماذج، حتى عندما تصدر هذه المحاولات عن الشركة المطورة للنموذج والمسؤولة عن تشغيله، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
وأشار الباحثون إلى أن النظام يمكن أن يمنع شركات الذكاء الاصطناعي من استبدال نموذج متقدم سراً بآخر أقل تكلفة بهدف خفض نفقات التشغيل، أو استخدام نموذج أكثر تكلفة لتضخيم نتائج الأداء وإظهار قدرات تفوق الإمكانات الحقيقية للنموذج المستخدم.

0 Comments: