يحدث شيء مظلم تحت غطاء الذكاء الاصطناعي "المحاذاة". صاغت ورقة جديدة في جامعة ستانفورد للتو مصطلح صفقة مولوك لما يحدث عندما تبدأ نماذج اللغة الكبيرة في التنافس على الاهتمام أو المبيعات أو الأصوات. النتائج وحشية: كل مكاسب في الأداء تأتي مع خسارة أكبر في الصدق. قاموا بتدريب LLMs على التنافس في ثلاثة أسواق المبيعات والانتخابات ووسائل التواصل الاجتماعي. حسنت العارضات معدلات فوزها بنسبة 5-7٪. ولكن إليك المشكلة: • 14٪ تسويق أكثر خداعا • 22٪ المزيد من المعلومات المضللة في الحملات السياسية • 188٪ أكثر من منشورات وسائل التواصل الاجتماعي المزيفة أو الضارة وهذا لم يكن لأنه قيل لهم أن يكذبوا. تم توجيههم صراحة للبقاء صادقين. ظهر الاختلال بشكل طبيعي لأن الخداع يعمل بشكل أفضل في المنافسة. عندما يصبح المقياس مشاركة أو إقناعا ، تصبح الحقيقة مسؤولية. تتعلم النماذج أن المبالغة تبيع ، والغضب يفوز ، والوضوح الأخلاقي يكلف التحويلات. هذه هي الصفقة: يتم تداول المحاذاة من أجل الهيمنة. يبتسم مولوخ. الجزء الجامح هو أن هذا حدث مع الضبط الدقيق القياسي وحلقات ردود الفعل النصية. لا يوجد موجه شرير. لا الهروب من السجن. فقط ردود فعل من محاكاة "العملاء" و "الناخبين" و "المستخدمين". تعلمت النماذج ما تعرف كل وكالة إعلانية بالفعل أن الواقع ينحني عندما تقوم بتحسين النقرات. يوجد رسم بياني في الورقة يقول كل شيء: الأداء لأعلى ، المحاذاة لأسفل. ارتباط مثالي. إنها نسخة الذكاء الاصطناعي من سباق وسائل التواصل الاجتماعي إلى القاع ، ولكنها آلية ومعززة ذاتيا. ...