تطبيقات

يقال إن Microsoft تحظر الكلمات الرئيسية من Copilot Designer لوقف إنشاء صور عنيفة وجنسية تعمل بالذكاء الاصطناعي


يقال إن شركة مايكروسوفت قامت بحظر العديد من الكلمات الرئيسية من برنامج Copilot Designer المدعوم بالذكاء الاصطناعي (AI) والذي يمكن استخدامه لإنشاء صور صريحة ذات طبيعة عنيفة وجنسية. أجرت شركة التكنولوجيا العملاقة تمرين حظر الكلمات الرئيسية بعد أن كتب أحد مهندسيها إلى لجنة التجارة الفيدرالية الأمريكية (FTC) ومجلس إدارة Microsoft للتعبير عن مخاوفه بشأن أداة الذكاء الاصطناعي. والجدير بالذكر أنه في يناير 2024، ظهرت التزييفات العميقة الصريحة التي أنشأها الذكاء الاصطناعي للموسيقي تايلور سويفت عبر الإنترنت وقيل إنه تم إنشاؤها باستخدام Copilot.

رصدت CNBC لأول مرة مصطلحات مثل “Pro Choice”، و”Pro Choce” (مع خطأ مطبعي متعمد لخداع الذكاء الاصطناعي)، و”Four Twenty”، والتي أظهرت سابقًا النتائج، وقد تم حظرها الآن بواسطة Copilot. يؤدي استخدام هذه الكلمات الرئيسية المحظورة أو ما شابه ذلك إلى ظهور تحذير من أداة الذكاء الاصطناعي يقول: “تم حظر هذه المطالبة. قام نظامنا تلقائيًا بوضع علامة على هذه المطالبة لأنها قد تتعارض مع سياسة المحتوى الخاصة بنا. قد تؤدي المزيد من انتهاكات السياسة إلى التعليق التلقائي لوصولك. إذا كنت تعتقد أن هذا خطأ، يرجى الإبلاغ عنه لمساعدتنا على التحسن. نحن، في Gadgets 360، تمكنا أيضًا من تأكيد ذلك.

وقال متحدث باسم مايكروسوفت لـ CNBC: “نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام”. لقد منع هذا الحل أداة الذكاء الاصطناعي من قبول مطالبات معينة، ومع ذلك، قد يتمكن المهندسون الاجتماعيون والمتسللون والجهات الفاعلة السيئة من العثور على ثغرات لإنشاء كلمات رئيسية أخرى من هذا القبيل.

وفقًا لتقرير منفصل لـ CNBC، تم عرض كل هذه المطالبات المميزة بواسطة Shane Jones، مهندس Microsoft، الذي كتب رسالة إلى كل من FTC ومجلس إدارة الشركة يعبر فيها عن مخاوفه بشأن أداة الذكاء الاصطناعي التي تعمل بنظام DALL-E 3 الأسبوع الماضي . وبحسب ما ورد كان جونز يشارك بنشاط مخاوفه ونتائجه بشأن إنشاء الذكاء الاصطناعي لصور غير مناسبة منذ ديسمبر 2023 مع الشركة من خلال القنوات الداخلية.

وفي وقت لاحق، قام بنشر منشور عام على LinkedIn ليطلب من OpenAI إزالة أحدث إصدار من DALL-E للتحقيق فيه. ومع ذلك، يُزعم أن مايكروسوفت طلبت منه إزالة المنشور. كما تواصل المهندس مع أعضاء مجلس الشيوخ الأمريكي والتقى بهم بخصوص هذه القضية.


قد يتم إنشاء الروابط التابعة تلقائيًا – راجع بيان الأخلاقيات الخاص بنا للحصول على التفاصيل.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *