بالتأكيد لن يتمكن العاملون في شركة فيسبوك من فحص جميع المنشورات التي يتم نشرها يوميا على الموقع، ولكن من الممكن أن يتم استخدام الذكاء الاصطناعي للقيام بهذه المهمة. وكشفت شركة فيسبوك بالفعل أنها تعمل على أداة ذكاء اصطناعي باسم Rosetta والتي تستخدم «تعلم الآلة» لكي تقوم بفحص النصوص الموجودة على الصور الفكهاية التي يتم نشرها على الموقع والمعروفة بكلمة «كوميكس» أو Memes بالإنجليزية، ليتم فحص النصوص لمعرفة ما إذا كانت بها أذى أو مخالفة أو لا، وهذا ينطبق على الفيديوهات أيضا بجانب الصور.
هذه التقنية ليست جديدة تماما ولكنها تستخدم للمرة الأولى على فيسبوك الذي يواجه تحديا كبيرا في التعرف على النصوص الموجودة على الصور المتنوعة بشكل ضخم عبر الموقع. ويبدو أن هذه الأداة تعمل بالفعل حاليا حيث تقوم بتحليل مليار صورة وفيديو يوميا للتعرف على النصوص التي بداخلهم سواء على فيسبوك أو إنستاجرام.
وحتى الآن لا نعرف ما ستفعله شركة فيسبوك بشكل مفصل بهذه التقنية ولكنها ‑بحسب ما يمكن أن توقعه- أول ما ستفكر به هو الاستفادة من النصوص التي يتم استخراجها في تصنيف الأشخاص من أجل الإعلانات وهو مصدر دخل فيسبوك الأساسي. وبحسب ما نشرته الشركة فهذه الميزة من الممكن استخدامها في البحث الخاص بفيسبوك لتأتي النتائج من الصور أيضا وهو أمر رائع بلا شك ونتمنى قدومه في أقرب وقت.
ولكن من الممكن أيضا أن تستغل فيسبوك هذه الميزة ببساطة للتعرف على أي منشور به صورة ‑وبما في ذلك الصور الهزلية- للتعرف على ما في داخل الصورة من أي شيء مخالف لقواعد فيسبوك كالحض على الكراهية والمحتوى الجنسي.
التأكيد إن عملت هذه الميزة لكي تقوم بـ«الكشف عن المحتوى الذي يحض على الكراهية بشكل تلقائي» كما قالت فيسبوك سيكون الأمر جيدا للغاية.
وتتنافس الشركات مؤخرا على استخدام الذكاء الاصطناعي وتعليم الآلة للكشف عن المحتوى المخالف عبر المنصات الكبرى. جوجل تقوم بذلك أيضا من أجل يوتيوب حيث تمتلك أكثر من أداة تعمل باستخدام الذكاء الاصطناعي للكشف عن المحتوى المخالف بشكل تلقائي وحذفه دون أي تدخل بشري.
