تعرف على Black Forest Labs، الشركة الناشئة التي تعمل على تشغيل مولد الصور المعطل بالذكاء الاصطناعي الخاص بـ Elon Musk
أصدر Elon Musk’s Grok ميزة جديدة لإنشاء الصور باستخدام الذكاء الاصطناعي ليلة الثلاثاء، والتي، تمامًا مثل برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، لا تحتوي على سوى عدد قليل جدًا من الضمانات. وهذا يعني أنه يمكنك إنشاء صور مزيفة لدونالد ترامب وهو يدخن الماريجوانا في برنامج Joe Rogan، على سبيل المثال، وتحميلها مباشرة على منصة X. لكن شركة الذكاء الاصطناعي التابعة لإيلون موسك ليست هي التي تحرك الجنون؛ بل إن الشركة الناشئة الجديدة – Black Forest Labs – هي الجهة التي تقف وراء هذه الميزة المثيرة للجدل.
تم الكشف عن التعاون بين الاثنين يوم الثلاثاء، عندما أعلنت شركة xAI أنها تعمل مع Black Forest لتشغيل مولد الصور الخاص بـ Grok باستخدام نموذج FLUX.1. يبدو أن شركة Black Forest، وهي شركة ناشئة تعمل بالذكاء الاصطناعي في مجال الصور والفيديو والتي تم إطلاقها في الأول من أغسطس، تتعاطف مع رؤية Musk لـ Grok باعتبارها “روبوت دردشة مضاد للاستيقاظ”، بدون حواجز الحماية الصارمة الموجودة في Dall-E من OpenAI أو Imagen من Google. لقد امتلأ موقع التواصل الاجتماعي بالفعل بالصور الفاحشة من الميزة الجديدة.
يقع مقر Black Forest Labs في ألمانيا، وقد خرجت مؤخرًا من السرية بتمويل أولي بقيمة 31 مليون دولار، بقيادة أندريسن هورويتز، وفقًا لبيان صحفي. ومن بين المستثمرين البارزين الآخرين الرئيس التنفيذي لشركة Y Combinator Garry Tan والرئيس التنفيذي السابق لشركة Oculus Brendan Iribe. كان المؤسسون المشاركون للشركة الناشئة، روبن رومباخ، وباتريك إيسر، وأندرياس بلاتمان، باحثين سابقين ساعدوا في إنشاء نماذج Stable Diffusion الخاصة بـ Stability AI.
وفقًا للتحليل الاصطناعي، تتفوق نماذج FLUX.1 من Black Forest Lab على مولدات الصور ذات الذكاء الاصطناعي الخاصة بـ Midjourney وOpenAI من حيث الجودة، على الأقل حسب تصنيف المستخدمين في ساحة الصور الخاصة بهم.
تقول الشركة الناشئة إنها “تجعل نماذجنا متاحة لجمهور واسع”، من خلال نماذج توليد صور مفتوحة المصدر مدعمة بالذكاء الاصطناعي على Hugging Face وGitHub. وتقول الشركة إنها تخطط لإنشاء نموذج تحويل النص إلى فيديو قريبًا أيضًا.
لم تستجب شركة Black Forest Labs على الفور لطلب TechCrunch للتعليق.
وتقول الشركة في بيان إطلاقها إنها تهدف إلى “تعزيز الثقة في سلامة هذه النماذج”؛ ومع ذلك، قد يقول البعض إن تدفق الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي يوم الأربعاء X قد فعل العكس. العديد من الصور التي تمكن المستخدمون من إنشاؤها باستخدام أداة Grok وBlack Forest Labs، مثل Pikachu وهو يحمل بندقية هجومية، لم يكن من الممكن إعادة إنشائها باستخدام Google أو مولدات الصور الخاصة بـ OpenAI. من المؤكد أنه ليس هناك شك في أن الصور المحمية بحقوق الطبع والنشر قد تم استخدامها لتدريب العارضة.
هذا نوع من النقطة
من المحتمل أن يكون هذا النقص في الضمانات هو السبب الرئيسي وراء اختيار ” ماسك ” لهذا المتعاون. لقد أوضح ماسك أنه يعتقد أن الضمانات تجعل نماذج الذكاء الاصطناعي أقل أمانًا. قال ماسك في تغريدة من عام 2022: “إن خطر تدريب الذكاء الاصطناعي على الاستيقاظ – بمعنى آخر، الكذب – هو خطر مميت”.
نشر مدير مجلس إدارة Black Forest Labs، Anjney Midha، على X سلسلة من المقارنات بين الصور التي تم إنشاؤها في اليوم الأول من الإطلاق بواسطة Google Gemini وGrok’s Flux. يسلط الموضوع الضوء على مشكلات Google Gemini الموثقة جيدًا فيما يتعلق بإنشاء صور دقيقة تاريخيًا للأشخاص، وتحديدًا عن طريق إدخال التنوع العرقي في الصور بشكل غير لائق.
“أنا سعيد أن @ibab وفريق العمل أخذوا هذا الأمر على محمل الجد واتخذوا القرار الصحيح”، قال Midha في تغريدة، في إشارة إلى تجنب FLUX.1 الواضح لهذه المشكلة (وذكر حساب الباحث الرئيسي في xAI إيغور بابوشكين).
وبسبب هذا الخطأ، اعتذرت Google وأوقفت قدرة Gemini على إنشاء صور للأشخاص في شهر فبراير. اعتبارًا من اليوم، لا تزال الشركة لا تسمح لـ Gemini بإنشاء صور للأشخاص.
خرطوم من المعلومات المضللة
قد يتسبب هذا النقص العام في الضمانات في حدوث مشكلات لـ ” ماسك “. أثارت منصة X انتقادات عندما انتشرت الصور الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تمثل تايلور سويفت على المنصة. إلى جانب تلك الحادثة، يصدر Grok عناوين هلوسة تظهر للمستخدمين على X أسبوعيًا تقريبًا.
في الأسبوع الماضي فقط، حث خمسة وزراء خارجية X على التوقف عن نشر معلومات مضللة حول كامالا هاريس على X. وفي وقت سابق من هذا الشهر، أعاد Musk مشاركة مقطع فيديو يستخدم الذكاء الاصطناعي لاستنساخ صوت Harris، مما جعله يبدو كما لو أن نائب الرئيس اعترف بأنه ” تأجير التنوع.”
يبدو أن ” ماسك ” عازم على السماح لمعلومات مضللة مثل هذه بالانتشار في المنصة. من خلال السماح للمستخدمين بنشر صور Grok المدعومة بالذكاء الاصطناعي، والتي يبدو أنها تفتقر إلى أي علامات مائية، مباشرة على المنصة، فقد فتح بشكل أساسي خرطومًا من المعلومات الخاطئة الموجهة إلى موجز أخبار X للجميع.
اكتشاف المزيد من موقع خبرة التقني
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
