كشف اللغة السامة في تيليجرام
يقوم هذا الفلو بمراقبة رسائل تيليجرام بشكل تلقائي واستخدام الذكاء الاصطناعي لاكتشاف اللغة السامة وخطاب الكراهية والرسائل المزعجة والمحتوى المسيء، بهدف الحفاظ على بيئة تواصل آمنة في المجموعات والقنوات والدردشات الخاصة.
كيف يعمل القالب؟
#### آلية العمل
##### 1. تشغيل الفلو عند وصول رسالة جديدة في Telegram سواء في مجموعة أو قناة أو محادثة خاصة يتم تشغيل الفلو تلقائيًا.
##### 2. تحليل المحتوى بالذكاء الاصطناعي يقوم نموذج الذكاء الاصطناعي بتحليل الرسالة ويشمل ذلك:
- اكتشاف اللغة السامة
- تصنيف خطاب الكراهية
- اكتشاف الرسائل المزعجة (Spam)
- تقييم مستوى الإساءة في النص
##### 3. تقييم الخطورة يتم إعطاء كل رسالة درجة خطورة لتحديد مدى تأثيرها وإمكانية اتخاذ إجراء ضدها.
##### 4. الإجراءات إذا تم تصنيف الرسالة كمحتوى ضار يتم إرسالها تلقائيًا إلى نظام مراجعة أو تصنيف (Annotation) لاتخاذ الإجراء المناسب.