نجحت شركة ياهو الأمريكية في تطوير نظام صناعي ذكي يكشف عن التعليقات المسيئة الحاملة لخطاب الكراهية أو للعنصرية،وذلك حسب الشركة من أجل وضع حد للكم الهائل من السب والشتم الذي يغزو شبكة الأنترنت.

وأشار مصممو هذا النظام أنه باستطاعته الكشف عن 90 في المائة من التعليقات التي تحوي تعليقات غير لائقة، باعتبار أن هذا النوع من التعليقات “يمكن أن يكون له تأثير عميق على تجربة المستخدم في العالم الافتراضي”.

النظام الجديد لشركة “ياهو” يحمل قائمة سوداء من الكلمات المسيئة والشتائم مما يسمح له بتطوير فعالية لمسحها في الحال.

ويذهب هذا النظام الجديد إلى أبعد من ذلك حيث أنه يلتقط التعليقات الطويلة والكلمات المستخدمة والتنقيط والروابط والكلمات المكتوبة بالبنط الكبير،كما يمكن لهذا النظام الذكي تبين “الاشخاص الجديرين بالثقة” من خلال تعابير الأدب والاحترام التي يستعملونها كما أنه بإمكانه تحديد من لديهم ميول عنيفة ويكتبون تعليقات بذئية.

ووفقا للشركة فإن هذا النظام الجديد يتجاوز عدة أنظمة أخرى مماثلة سبق للشركة أن أطلقتها كانت تكشف الشتائم بناء على كلمات مفتاحية لكنها فشلت حيث أن المهاجمين تمكنوا من تجنب استخدامها وابتكار مصطلحات جديدة.