أعلنت شركة “أنثروبيك” الأمريكية، المطورة لنظام الذكاء الاصطناعي “كلود”، عن تعديل سياسة الاستخدام الخاصة بها، يتضمن منع المستخدمين من ممارسة سلوك مسيء أو قاسٍ بشكل متكرر وغير مبرر تجاه نماذجها، في خطوة تعيد النقاش حول حدود العلاقة بين الإنسان وأنظمة الذكاء الاصطناعي.
وأوضحت الشركة، في تحديث نشرته على موقعها الرسمي، أنها أضافت “حظراً على السلوك المسيء أو القاسي المستمر وغير الضروري تجاه نماذجنا”، مشيرة إلى أن هذا التعديل يهدف إلى تطبيقه في “حالات قصوى فقط”، حيث يُقدم المستخدمون بشكل متكرر على سلوك قاسٍ تجاه النماذج “دون غرض واضح”.
وبموجب السياسة الجديدة، التي ستدخل حيز التنفيذ في 12 نونبر المقبل، سيكون بوسع “كلود” إنهاء المحادثات مع المستخدمين الذين يقدمون على سلوك مسيء بشكل متكرر. وتعد هذه الآلية هي “الوسيلة الأساسية” لتنفيذ الحظر، وفق ما أوردته الشركة.
وكانت “أنثروبيك” قد أعلنت في غشت 2025 أنها ستسمح لـ”كلود” بإنهاء المحادثات مع المستخدمين “الضارين أو المسيئين باستمرار”، في إطار أبحاثها حول ما تسميه “رفاهية النموذج”.
ولم يقتصر التحديث الجديد على السلوك تجاه النماذج، إذ تضمن أيضاً حظراً على استخدام “كلود” في حملات التضليل، مثل تشغيل حسابات مزيفة أو إنتاج أخبار ملفقة، إلى جانب قواعد جديدة تمنع التدخل في الانتخابات.
كما وسعت الشركة حظرها على تطوير الأسلحة ليشمل البرمجيات والمكونات التي تجعل الأسلحة تعمل، فضلاً عن تسليح الطائرات بدون طيار والمركبات ذاتية التشغيل.
وفيما يتعلق بالمراقبة، شددت السياسة على أن “تتبع الأشخاص دون موافقتهم محظور”، سواء في الوقت الفعلي أو من خلال تحليل البيانات المجمعة سابقاً، كما يُمنع استخدام “كلود” لتحديد من يجب التحقيق معه أو اعتقاله أو توجيه الاتهام إليه.
وتجدر الإشارة إلى أن التحديث الجديد يستند إلى أنماط سوء الاستخدام التي رصدتها الشركة خلال السنة الماضية في عمليات التأثير وتطوير الأسلحة والمراقبة، وفق ما أورده تقرير الاستخبارات الخاص بالشركة.
