تصنع السم والترياق: شركة OpenAI تطور أداة لكشف الصور المولدة بالذكاء الاصطناعي |
أعلنت شركة OpenAI، المدعومة من شركة Microsoft، عن إطلاق أداة جديدة تهدف لتحديد الصور المولدة باستخدام تقنيات الذكاء الاصطناعي.
وفقًا للتقارير:
تمكنت هذه الأداة الجديدة من تحديد 98% من الصور المولدة عبر أداة DALL-E بدقة، لكنها واجهت صعوبة في تمييز الصور عند تعديلها.
تسعى الأداة إلى تحديد الصور المولدة عبر تقنيات مثل DALL-E 3، وخلال الاختبار الداخلي لنسخة مبكرة، تم تحديد 98% من الصور المولدة بدقة، وتحديد أقل من 0.5% من الصور العادية بالخطأ على أنها مولدة بواسطة الذكاء الاصطناعي.
ومع ذلك:
وجدت الشركة أن الصور المعدلة من DALL-E كانت صعبة التحديد، وأن الأداة كانت أقل نجاحاً في تمييز الصور المولدة عبر نماذج الذكاء الاصطناعي الأخرى مثل Midjourney.
تقوم OpenAI بإضافة علامات مائية للبيانات الوصفية للصور المولدة بواسطة تقنيات الذكاء الاصطناعي، في محاولة لتوافق مع معايير تحالف مصدر وموثوقية المحتوى C2PA، ولكن يعتبر البعض أن البيانات الوصفية غير كافية، خاصة مع إزالة منصات التواصل الاجتماعي الكبرى لها.
يقدم تحالف C2PA معيارًا تقنيًا لتحديد مصدر وموثوقية المحتوى الرقمي عبر وضع علامات مائية لتمييز المحتوى المولد عبر تقنيات الذكاء الاصطناعي عن الآخرين، وفي أبريل، أعلنت Meta عن نية تصنيف الوسائط المولدة باستخدام تقنيات الذكاء الاصطناعي بمعيار C2PA، وانضمت Google لهذه المبادرة.