أوبن إيه آي تعيد صياغة وثيقة سلوك النماذج Model Spec لترسيخ القيم الإنسانية وضوابط الذكاء الفائق

معايير أخلاقية وتشغيلية جديدة لعصر الوكلاء الأذكياء

أعلنت شركة أوبن إيه آي (OpenAI) عن إصدار التحديث الأكبر لوثيقتها المرجعية Model Spec، والتي تحدد القواعد السلوكية الصارمة والمبادئ التوجيهية التي تلتزم بها نماذج الذكاء الاصطناعي عند التفاعل مع المستخدمين واتخاذ القرارات الحساسة في بيئات العمل الحقيقية.

القيم الجوهرية الخمس لمنظومة المحاذاة

أعادت الشركة هيكلة الوثيقة حول خمسة مرتكزات رئيسية تهدف إلى منع استغلال النماذج وضمان فائدتها للبشرية:

• الحد من الضرر (Minimizing Harm): احترام الحدود الأمنية الصارمة وتحمل مسؤولية التبعات المتوقعة لتصرفات الوكيل الآلي.
• الصدق والشفافية (Honesty and Transparency): التزام النموذج بالوضوح التام حول حدود معرفته ومستوى يقينه الرياضي وعدم تزييف الوقائع.
• تمكين الإرادة البشرية (Facilitating Human Agency): تعزيز قدرة المستخدم على الاختيار الحر واتخاذ القرار دون توجيه خوارزمي قسري.
• العناية والحرص (Care): مراعاة المعايير الاجتماعية والمهنية وحماية خصوصية ومصالح الأطراف المتأثرة بمخرجات النموذج.
• الإخلاص للنوايا البشرية (Faithfulness to Human Intent): فهم السياق العميق للأوامر وترتيب تسلسل الصلاحيات عند تضارب التوجيهات.

تستند المعمارية الجديدة إلى إطار ألعاب المساعدة (Assistance Games)، حيث لا يعتبر النموذج تفضيلات الإنسان معطيات ثابتة، بل يسعى دائماً للاستفسار والتعلم والتأكد من ملاءمة القرار لنية المستخدم الحقيقية.

تدريب النماذج على استيعاب الأخلاقيات

أكدت أوبن إيه آي أنها بدأت اختبار أساليب تدريبية متقدمة تجعل نماذج التفكير المنطقي تفهم المغزى الأخلاقي وراء التعليمات بدلاً من مجرد الحفظ الآلي للقواعد المجردة، تمهيداً لنشرها عبر أنظمة ChatGPT وCodex المؤسسية.