بلومبرغ تضع «فلوكس» في سلسلة توريد الاعتداء على الأطفال.. ودراسة لبلاك فورست لابز نفسها تصنّف أحد نماذجها رابع أسوأ نموذج
يضع تحقيق بلومبرغ المنشور في 6 أكتوبر نماذج «فلوكس» في سلسلة توريد مواد الاعتداء الجنسي على الأطفال، فيما تُظهر دراسة شاركت «بلاك فورست لابز» في نشرها أن أحد نماذجها غير المطروحة يحتل المرتبة الرابعة الأسوأ بين سبعة نماذج من حيث الثغرات التي تتيح إنتاج صور الاعتداء. وفي اليوم نفسه، جاءت أسعار سحابة غوغل المحروسة والمسجِّلة للطلبات أدنى من السعر المعلن لـ«فلوكس 3».
Vincent Jiang · 3 min read
ملف المسؤولية يحمل توقيع بلاك فورست لابز نفسها
ذكر محققو جرائم الاعتداء الجنسي على الأطفال في الولايات المتحدة وأوروبا أن نماذج «فلوكس» (FLUX) الخاصة بشركة بلاك فورست لابز (Black Forest Labs) الألمانية من بين الأدوات ذات الأوزان المفتوحة التي تظهر في قضاياهم، إلى جانب ستيبل ديفيوجن و«كوين» التابع لـعلي بابا و«هونيوان» التابع لـتينسنت، وذلك في تحقيق نشرته بلومبرغ في 6 أكتوبر 1. غير أن التفصيلة الخفية في التحقيق تحمل توقيع الشركة نفسها: دراسة شاركت في نشرها مع شركة السلامة «سايندر» (Cinder) صنّفت أحد نماذجها في المرتبة الرابعة من حيث «المخالفة» بين سبعة نماذج صور مفتوحة المصدر خضعت لاختبار قابلية إنتاج صور الاعتداء، وقالت الشركة إن هذا النموذج اختُبر قبل طرحه ولم يُعلن للعموم 1.
ترصد السلطات الأوروبية اليوم أكثر من 500 نموذج ونسخة مشتقة منها من النماذج المفتوحة تُستخدم في الاعتداء على الأطفال، مقارنة بأقل من 12 نموذجًا قبل عامين، ويصف المسؤول السابق عن علوم البيانات في منظمة «ثورن» (Thorn) النماذج المفتوحة بأنها «الآلية الأساسية» لإنتاج مواد الاعتداء بالذكاء الاصطناعي 1. وقفزت البلاغات المرتبطة بالذكاء الاصطناعي إلى الخط الساخن الأمريكي من 4,700 بلاغ في 2023 إلى أكثر من 1.5 مليون بلاغ في 2025 1.
بلاغات الاعتداء المرتبطة بالذكاء الاصطناعي إلى الخط الساخن الأمريكي ترتفع من 4,700 إلى 1.5 مليون خلال عامين
Data
| بلاغات مرتبطة بالذكاء الاصطناعي | |
|---|---|
| 2023 | 4,700 |
| 2024 | 67,000 |
| 2025 | 1,500,000 |
قرص ضبط الأمان ميزة في الخدمة المستضافة
توفر واجهة البرمجة (API) المستضافة من بلاك فورست لابز إعدادًا باسم safety_tolerance يتراوح من 0، وهي الدرجة الأشد تشددًا، إلى 4، وقيمته الافتراضية 2 2. ويقول مسؤول السياسات في المختبر بن بروكس إن الشركة «ملتزمة بإثبات أن الذكاء البصري يمكن أن يكون مفتوحًا ومسؤولًا في آن واحد»، وإنه «لا توجد رصاصات سحرية» 1. أما النسخة التي ينزلها المستخدم فتصل من دون هذا العداد: الشركة وعدت بطرح أوزان «فلوكس 3» المفتوحة خلال أسابيع 3، والأمر النصي الذي يُشغَّل على حاسوب محمول خاص لا يمر بأي سجل ولا يصل إلى أي مشرف 1.
القانون ليس خط الدفاع الأخير. ففي 2 أكتوبر منعت محكمة الاستئناف الأمريكية للدائرة الثامنة ولايةَ مينيسوتا من إنفاذ قانونها ضد إكس إيه آي ريثما يُنظر في الاستئناف 4. ويحظر قانون الولاية أدوات إزالة الملابس (nudification)، وتصل عقوباته إلى 500 ألف دولار عن كل مخالفة. أما ستابيليتي إيه آي، الرائدة سابقًا في نماذج الصور المفتوحة، فهي مدعى عليها أصلًا في دعوى تزعم أنها بنت أعمالها على «الإمكانات المربحة للمحتوى الجنسي الصريح» 1.
غوغل تضرب فوق الجرح بخفض الأسعار
السعر المعلن لـ«فلوكس 3» للصور هو 0.048 دولار للصورة الواحدة عند دقة 1K، و0.100 دولار عند 2K، و0.607 دولار عند 4K 5، وينتهي عرض الإطلاق بنصف السعر في 8 أكتوبر عند الثامنة صباحًا بتوقيت المحيط الهادئ 3. وجاء رد غوغل في 6 أكتوبر 6: يولّد «نانو بانانا 2.1» الصور بسعر 0.0336 دولار للصورة عند 1K و0.113 دولار عند 4K في الفئة القياسية 7، أي خفض يوازي النصف تمامًا عند 1K و2K، يهبط مجددًا إلى النصف في المعالجة الدفعية 7، مع رفع سعر الإدخال إلى ثلاثة أمثاله ليبلغ 1.50 دولار لكل مليون توكن 7. وعند دقة 4K ارتفع عدد التوكنات للصورة الواحدة من 2,520 إلى 3,780 7، فيصبح ذلك الخفض ربعًا لا نصفًا.
سحابة غوغل المحروسة تطيح بالسعر المعلن لـ«فلوكس 3» عند كل مستويات الدقة
- «فلوكس 3» للصور، السعر المعلن
- عرض «فلوكس 3» حتى 8 أكتوبر
- «نانو بانانا 2.1»
Data
| «فلوكس 3» للصور، السعر المعلن | عرض «فلوكس 3» حتى 8 أكتوبر | «نانو بانانا 2.1» | |
|---|---|---|---|
| 1K | $0.05 | $0.02 | $0.03 |
| 2K | $0.1 | $0.05 | $0.05 |
| 4K | $0.61 | $0.3 | $0.11 |
من يدفع العلاوة السعرية للانفتاح؟
بلاك فورست لابز شركة خاصة، ومنتجها ثقة تُباع بالعداد. وتبيع ألفابت اليوم البديل المسجَّل والمحروس بأقل من السعر المعلن للمختبر المفتوح في كل فئة 57. أما إنفيديا، التي اتفقت في سبتمبر على الاستحواذ على منصة النماذج المفتوحة «هاغينغ فيس» (Hugging Face) بعد أن قارب عدد مستخدميها التضاعف هذا العام ليبلغ 13 مليونًا 1، فهي ترث المنظومة نفسها التي يصفها المحققون.
ثلاثة تواريخ تحسم المسألة: انتهاء العرض الترويجي في 8 أكتوبر 3، وإطلاق أوزان «فلوكس 3» والترخيص المرافق لها 3، ثم 29 أكتوبر، حين توقف غوغل العمل بنقطة النهاية (endpoint) القديمة لـ«نانو بانانا 2» 6 ويحل موعد مذكرة الاستئناف الخاصة بإكس إيه آي 4. كتبت هذه المنصة في 2 أكتوبر أن خندق بلاك فورست لابز القائم على دقة التحرير على وشك أن يُمنح مجانًا 8؛ غير أن ملف المسؤولية كان أسبق وصولًا.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
