يمكن تلخيص إحدى طرق التفكير في تدخل الذكاء الاصطناعي غير المرغوب فيه في حياتنا في قانون جودهارت: "عندما يصبح الإجراء هدفا ، فإنه يتوقف عن كونه تدبيرا جيدا": 1/

إذا كنت ترغب في قراءة أو مشاركة نسخة بتنسيق مقال من هذا الموضوع ، فإليك رابط لها على ، مدونتي الخالية من المراقبة والخالية من الإعلانات والخالية من المتتبعات: 2/

قانون جودهارت عشيقة قاسية. إنه لأمر مثير * بشكل لا يصدق أن نكتشف طريقة جديدة لقياس جوانب نظام معقد بطريقة تتيح لك فهمها (وبالتالي التحكم فيها). 3/

في عام 1998 ، أدرك سيرجي برين ولاري بيج أن جميع الروابط التي أنشأها كل شخص أنشأ صفحة ويب تمثل نوعا من الخريطة الكامنة لقيمة وسلطة كل موقع ويب. 4/

يمكننا أن نستنتج أن الصفحات التي تحتوي على المزيد من الروابط التي تشير إليها تعتبر أكثر جديرة بالملاحظة من الصفحات التي تحتوي على عدد أقل من الروابط الواردة. 5/

علاوة على ذلك ، يمكننا التعامل مع تلك الصفحات المرتبطة بشدة على أنها * موثوقة * ونستنتج أنه عندما ترتبط بصفحة * أخرى * ، فمن المحتمل أن تكون مهمة أيضا. 6/

كانت هذه البصيرة ، المسماة "PageRank" ، وراء دخول Google المذهل إلى سوق البحث ، والذي كان بسهولة أحد أكثر التطورات التكنولوجية إثارة في العقد. 7/

تم وضع الويب بأكمله في مكانه كنظام مفيد لاسترداد المعلومات التي تم إنشاؤها بواسطة جيش واسع غير منسق من كتاب الويب ، مستضافة في نظام موزع دون أي ضوابط مركزية. 8/

ثم جاء الانتقام من قانون جودهارت. قبل أن تصبح Google هي الآلية المهيمنة لتحديد مواقع صفحات الويب ، كان السبب الوحيد لأي شخص للارتباط بصفحة أو موقع معين هو وجود شيء اعتقدوا أنه يجب عليك رؤيته. 9/

جمعت Google كل إشارات "أعتقد أنه يجب أن ترى هذا" وحولتها إلى خريطة لأهمية الويب وسلطته. 10/

لكن إنشاء رابط إلى صفحة ويب أمر سهل. بمجرد أن يكون هناك سبب * آخر * لإنشاء رابط بين صفحتين على الويب - لكسب حركة المرور ، والتي يمكن تحويلها إلى أموال و / أو تأثير - ثم قام الفاعلون السيئون بعمل * الكثير * من الروابط الزائفة بين مواقع الويب. 11/

لقد أنشأوا مزارع الروابط ، وقاموا بإرسال تعليقات مدونة غير مرغوب فيها ، واخترقوا مواقع الويب لغرض وحيد هو إضافة مجموعة من الروابط غير المرئية للإنسان والتي يمكن قراءتها بواسطة مكشطة Google إلى الصفحات. 12/

أصبح المقياس ("كم عدد الروابط الموجودة إلى هذه الصفحة؟") هدفا ("إنشاء روابط إلى هذه الصفحة") ولم يعد مقياسا مفيدا. لا يزال قانون جودهارت يمثل الطاعون على جودة بحث Google. 13/

"إساءة استخدام السمعة" هي جريمة ويب ترتكبها مواقع موقرة مثل Forbes و Fortune و Better Homes and Gardens ، الذين يسيئون استخدام السلطة التي تنقلها أطنان من الروابط الواردة المتراكمة على مدى عقود من خلال إنشاء مواقع غير مرغوب فيها ومزيف لمراجعة المنتجات محشوة بالروابط التابعة. 14/

تصنف Google هذه المواقع بشكل أعلى من مواقع المراجعة الحقيقية والصارمة بسبب كل ما تراكم في googlejuice: قانون جودهارت عمره 50 عاما ، لكن صانعي السياسات يجهلون به بشكل مؤسف ويستمرون في العمل كما لو أنه لا ينطبق عليهم. 15/

يتضح هذا بشكل خاص عندما يكون صانعو السياسات مصممين على القيام بشيء ما حيال الخدمة العامة التي تم تجويعاها من التمويل ككرة قدم سياسية لدرجة أنها تدهورت وبدأت في إثارة غضب الجمهور. 16/

عندما يحدث هذا ، يميل صانعو السياسات إلى إلقاء اللوم على الموظفين العموميين - بدلا من أنفسهم - في هذا التدهور ، ثم يشرعون في تحقيق المساءلة لهؤلاء الموظفين العموميين. 17/

فعلت NHS ذلك مع أوقات استجابة سيارات الإسعاف ، وهي سيئة للغاية ، وهذه الحقيقة بدورها * سيئة للغاية * ليس من الصعب التغلب على سبب امتصاص أوقات استجابة سيارات الإسعاف: لا يوجد ما يكفي من الأموال التي يتم إنفاقها على سيارات الإسعاف والسائقين والمسعفين. 18/

لكن هذا ليس استنتاجا شائعا سياسيا ، خاصة في المملكة المتحدة ، التي كانت تعاني من تقشف وحشي ومتصاعد منذ سنوات بلير. 19/

(لا تقلق ، في النهاية سيفعلون ما يكفي من التقشف وستتغير الأمور حقا ، لأنه ، كما يقول المثل القديم ، "صنع السياسات الجيدة يتكون من القيام بنفس الشيء مرارا وتكرارا وتوقع نتيجة مختلفة"). 20/

وبدلا من إلقاء اللوم على التمويل غير الكافي لضعف أوقات الاستجابة لسيارات الإسعاف، ألقى السياسيون باللوم على "عدم الكفاءة"، مدفوعا بدافع ضعيف. 21/

لذلك وضعوا مقياسا: يجب أن تصل سيارات الإسعاف في غضون عدد معين من الدقائق (وحددوا نتيجة: تخفيضات هائلة في أي خدمة إسعاف لا تفي بالمقياس). 22/

الآن ، قد تبدو "سيارة إسعاف عند الحاجة إليها في غضون فترة زمنية محددة" * وكأنها مقياس مباشر ، وكان - بأثر رجعي. 23/

كما هو الحال في ، يمكننا أن نقول إن خدمة الإسعاف كانت في ورطة لأن سيارات الإسعاف كانت تستغرق نصف ساعة أو أكثر للوصول. ولكن * مستقبليا * ، بعد أن أصبح هذا المقياس هدفا ، توقف على الفور عن كونه مقياسا جيدا. 24/

بدأت خدمات الإسعاف ، التي واجهت المهمة المستحيلة المتمثلة في تحسين أوقات الاستجابة دون إنفاق المال ، في إرسال سيارات إسعاف * دراجات نارية * لا يمكنها حمل 95٪ من الأشياء اللازمة للاستجابة لحالة طبية طارئة ، ولم يكن لديها طريقة لإعادة المرضى إلى المستشفيات. 25/

المثال المفضل لدي على ذلك هو Roomba الذي يعمل بالطاقة الذكاء الاصطناعي والذي تمت برمجته لإيجاد مسار فعال يقلل من الاصطدامات بالأثاث ، كما تم قياسه بواسطة مستشعر أمامي يرسل إشارة كلما اصطدم Roomba بأي شيء. 28/