منصة ويب للتحقق من الأخبار قائمة على الأدلة ومدعومة بالذكاء الاصطناعي

تصلنا كل يوم عشرات الرسائل والعناوين و"الأخبار العاجلة" التي لا نعرف مصدرها. يلجأ العديد من الأشخاص إلى روبوتات الدردشة المدعمة بالذكاء الاصطناعي لقياس ذلك، ولكن عادةً ما تجيب روبوتات الدردشة بثقة تامة، حتى عندما لا يكون لديهم شهود؛ وأحيانًا يستشهدون بمصدر أو رابط غير موجود على الإطلاق. أي أن الأداة التي كان من المفترض أن تمنع المعلومات الكاذبة يمكن أن تصبح في حد ذاتها مصدرًا جديدًا للمعلومات الكاذبة.

Honest Lens إليكم إجابتنا لهذه المشكلة: منصة تقوم بتقسيم كل خبر إلى ادعاءات منفصلة وقابلة للقياس الكمي، وتزن كل ادعاء مقابل الأدلة، وتفتح فعليًا وتتحقق من كل رابط تستشهد به، وإذا لم يكن هناك دليل كافٍ، تقول "لا توجد أدلة كافية" بدلاً من مجرد التخمين بصدق. حتى أن المنصة قامت بقياس دقتها علنًا ونشرت جميع النتائج، بما في ذلك النتائج التي أخطأت فيها.

المشكلة: لماذا كانت هذه الأداة ضرورية؟

1. تدفق المعلومات وإعادة توجيه الرسائل

جزء كبير من الأخبار اليوم يصل إلى الناس ليس من وكالات الأنباء، بل من مجموعات وقنوات المراسلة: رسالة منقولة "من مصدر موثوق"، أو رقم منفصل عن سياقه، أو عنوان بعيد عن نص الخبر الرئيسي. معظم الناس ليس لديهم الوقت ولا الأدوات اللازمة للتجذير لكل منها.

2. لم يتم تصميم Chatbots للتحقق

تعد روبوتات الدردشة العامة أدوات مذهلة، ولكن بها بعض نقاط الضعف المتأصلة عندما يتعلق الأمر بالتحقق. إنهم يقدمون إجابة شاملة للنص بأكمله، ونادرًا ما يشيرون إلى المصادر التي قاموا بالتحقق منها بالفعل، وقد تكون الروابط التي يقومون بإنشائها معطلة أو زائفة، والأهم من ذلك، نادرًا ما يقولون "لا أعرف". لا يخبرك أي منهم بمدى دقتهم في التحقق.

3. مساحة الأدوات للناطقين بالفارسية والروسية

تم تصميم أدوات التحقق الأكثر جدية للجمهور الناطق باللغة الإنجليزية. يتعين على المستخدم الناطق باللغة الفارسية أو الروسية إما أن يعمل باستخدام أداة بلغة غير لغته، أو ليس لديه أي أداة على الإطلاق. غالبًا ما يتم تنفيذ الواجهات الفارسية بشكل نصف من اليمين إلى اليسار؛ يتم العبث بالنصوص، وتتغير الأرقام وتصبح تجربة المستخدم مزعجة.

4. أزمة الثقة

لا يثق الناس في أداة تقول فقط "صحيح" أو "خطأ"، وهم محقون في ذلك. تُبنى الثقة عندما تستطيع أن ترى بنفسك ما يستند إليه الحكم، وعندما لا تخفي الأداة حدودها. كان هدفنا هو بناء مثل هذه الأداة.

الفكرة: فلسفة "لا أعرف"

وكانت نقطة البداية للمشروع عبارة أصبحت فيما بعد شعارًا وبوصلة لجميع القرارات:

"التحقيق الذي لا يصدر حكما نهائيا، بل يظهر الأدلة؛ وعندما لا تكون لديه بيانات كافية، يقول بصراحة: لا أعرف".

حددت هذه الجملة في الممارسة العملية العديد من القرارات المهمة للمنتج. أولاً، بدلاً من الحصول على درجة من صفر إلى مائة أو نسبة مئوية من "الحقيقة" التي تبدو علمية ولكنها لا تفسر أي شيء في الواقع، يحصل كل ادعاء على واحد من أربعة استنتاجات واضحة، إلى جانب السبب والمصدر. ثانياً، إن "الأدلة غير الكافية" هي نتيجة كاملة ومشرفة، وليست فشلاً للنظام. وثالثًا، يجب أن تكون الأداة صادقة مع نفسها كما هي صادقة مع الأخبار؛ يعني قياس دقتها ونشرها.

الحل: ثلاثة أعمدة

تم بناء Honest Lens على ثلاث ركائز، كل منها يجيب على جزء من المشكلة.

العمود أ: ادعاءات المحرك والأدلة

يقوم المستخدم بإدخال أي شيء: عنوان رئيسي، أو رسالة إعادة توجيه، أو مقال كامل أو رابطه فقط. يقرأ النظام النص، ويستخرج منه ادعاءات قابلة للقياس، ويفحص كل ادعاء على حدة. تتضمن مخرجات كل مطالبة الاستنتاج والتفسير ومستوى الثقة والمصادر. يعد هذا التقسيم إلى ادعاءات أمرًا مهمًا، لأن القصة الإخبارية عادة ما تكون مزيجًا من الأجزاء الحقيقية ونصف الحقيقية والأجزاء الكاذبة، وستكون الإجابة الشاملة للنص بأكمله مضللة.

العمود ب: كاشف تشويه السرد

وفي بعض الأحيان لا يكون الخبر كذبا، بل يكون محرفا: فيكبر عدد، أو يحذف ظرف، أو تضاف إليه نغمة عاطفية. يضع Distortion Detector تقرير الوسائط بجوار مصدره الأصلي ويعرض بالضبط ما تم تغييره: الإثارة المضافة، والأشكال المتغيرة، والسياق المحذوف. هذه الأداة مفيدة للصحفيين والباحثين وأي قارئ حريص يريد رؤية الفجوة بين "ما قيل" و"ما تم نشره".

العمود ج: الفحص الذاتي المفتوح

هذا هو المكان الذي تفصل فيه Honest Lens نفسها عن الأدوات المماثلة. لقد اخترنا مجموعة من المطالبات الحقيقية من مجالات مختلفة، وقمنا بقياس كل واحدة منها من مصادر عامة، ثم قمنا بتشغيلها جميعًا من خلال المحرك الحقيقي. يتم نشر النتائج دون تلاعب، بما في ذلك جميع التناقضات. وترد أدناه تفاصيل هذا الاختبار.

تجربة المستخدم: من رسالة مشبوهة إلى تقرير قابل للمشاركة

أردنا أن تكون الأداة بسيطة مثل إعادة توجيه الرسالة. يتكون مسار المستخدم من ثلاث خطوات:

1. أدخله. عنوان أو رسالة إلى الأمام أو مقال كامل أو رابطه. لا حاجة للتسجيل.

2. شاهد المراجعة مباشرة. التحليل العميق يستغرق بعض الوقت. بدلاً من شاشة انتظار فارغة، يرى المستخدم على الفور ما يفعله النظام: تمت قراءة نص الأخبار، وتم البحث عن السياق من المصادر المرجعية، وتمت موازنة الادعاءات مع الأدلة، وتم فحص الروابط الفردية. أصبح وقت الانتظار جزءًا من التجربة ومصدرًا للثقة.

3. احصل على إجابات لكل مطالبة. ولكل ادعاء نتيجة وتفسير ومصادر خاصة به. يحتوي كل تقرير على رابط دائم يمكن إرساله إلى نفس المجموعة التي جاءت منها الأخبار.

هذا الرابط الثابت عبارة عن تفاصيل صغيرة ولكنها مهمة. تنتشر المعلومات الخاطئة في مجموعات ويجب أن يكون تصحيحها قادرًا على الانتشار في نفس المجموعات. وبدلاً من المناقشة، يقوم المستخدم بنشر رابط يوضح الأدلة.

روابط التحقق الحقيقي

من أكثر الأشياء التي نفخر بها هو أن Honest Lens لا تثق في أي روابط عمياء. يتم بالفعل فتح كل رابط مذكور في التقرير ومراجعته. ستتم إزالة الروابط المعطلة أو المزيفة وسيتم إخبار المستخدم بأنه قد تمت إزالتها. والنتيجة هي أن المستخدم لا يواجه أبدًا موردًا غير موجود؛ مشكلة شائعة في استجابات chatbot.

لماذا لا تسأل روبوت الدردشة فقط؟

تستخدم Honest Lens أيضًا نماذج الذكاء الاصطناعي. الفرق هو في كل ما بني حولهم. وقد قمنا بإدراج هذا الجدول في الصفحة الرئيسية للموقع ليتمكن المستخدم من رؤية قيمة الأداة في ثوان معدودة:

قد يستشهد برنامج الدردشة الآلي العام بمصدر أو رابط غير موجود. سيفتح كل رابط تم الاستشهاد به، ويزيل أي روابط معطلة، ويخبرك

لكن Honest Lens

حتى بدون وجود شاهد، عادة ما يجيب بثقة، وعندما لا يكون هناك شاهد، يقول "أدلة غير كافية".

فهو يعطي إجابة واحدة للنص بأكمله، ويقسم النص إلى مطالب ويقيس كل منها على حدة

نادرًا ما يُظهر المصادر التي قام بفحصها فعليًا، ولكنه يُظهر المصادر التي تم استخدامها والروابط التي تم التحقق منها.

ولا يعرف مدى دقتها في التحقق، فهي تنشر دقتها المقاسة بكل الاختلافات.

سيتم فقدان الإجابة في سجل الدردشة. يحتوي كل تقرير على رابط دائم يمكنك مشاركته

الفحص الذاتي: أن نكون صادقين مع أنفسنا

أسهل شيء هو كتابة "دقة 99%" على الموقع. العديد من المنتجات تفعل الشيء نفسه. لكن الأداة التي شعارها الصدق لا يمكنها أن تعطي رقماً مزيفاً عن نفسها. لذلك قمنا بتصميم اختبار حقيقي.

تم اختيار 36 ادعاءً واقعيًا من خمسة مجالات: الجغرافيا السياسية، والاقتصاد والأعمال، والعلوم والصحة، والوثائق التاريخية، والإثارة الإعلامية. وكانت المطالبات باللغات الثلاث: الفارسية والروسية والإنجليزية.

• بالنسبة لكل مطالبة، تم تحديد النتيجة المرجعية بناءً على المصادر العامة والموثقة ووضع رابط المصدر بجانبها.

• يتم تمرير كافة المطالبات من خلال المحرك الفعلي. لم تتم كتابة أو تعديل أي نتائج يدويًا.

• النتيجة: 75% التزام بالنتيجة المرجعية، 19% صادق "لا أعرف" و6% تناقض.

• يتم نشر جميع الحالات الـ 36، بما في ذلك أي تناقضات، على الموقع مع تقرير المحرك الكامل ورابط المصدر المرجعي ليتمكن أي شخص من مراجعته.

النقطة المهمة في هذه الأرقام هي حصة "لا أعرف" البالغة 19%. وفي هذه الحالات، وبدلاً من إصدار حكم خاطئ، أعلنت شركة موتور أنها لا تملك أدلة كافية. هذا هو بالضبط السلوك الذي صممناه. أما الخطأ الحقيقي، أي الحكم المخالف لنتيجة المرجع، فكان 6% فقط ولا يخفى. نحن نعتقد أن نشر الأخطاء هو الوثيقة الأكثر قيمة من صلاحية أداة التحقق.

التصميم المرئي والخبرة

هوية تلهم "الثقة".

بالنسبة لمنتج يدور حول الحقيقة، يجب أن يكون التصميم هادئًا وواضحًا وجديًا، وليس مبهرجًا. تعتمد الهوية المرئية لشركة Honest Lens على اللون الأزرق الكوبالت العميق والأبيض ونقطة لون "الإشارة"، والتي تظهر أيضًا في الشعار. قمنا بمراجعة العديد من اتجاهات التصميم المختلفة مع صاحب المشروع، وتم اختيار تصميم احترافي وصحفي، ويعمل بشكل جيد بجميع اللغات الثلاث. تم أيضًا تصميم الشعار والملصقات وصور المعاينة الخاصة بالشبكات الاجتماعية بنفس اللغة المرئية.

ثلاث لغات، دون أي تنازلات

لم يكن دعم اللغة الفارسية ترجمة بسيطة بالنسبة لنا. تم إنشاء الواجهة بأكملها من الألف إلى الياء باستخدام منطق من اليمين إلى اليسار، بحيث يتم تعيين كل شيء بشكل صحيح عند تبديل اللغات وتخطيطات الصفحة واتجاه الأيقونة والمسافات والجداول. يتم عرض الأرقام في كل لغة بتنسيق نفس اللغة وتم اختيار الخطوط بشكل منفصل لسهولة القراءة باللغة الفارسية والروسية واللاتينية. فكل لغة لها عنوانها المنفصل، على سبيل المثال honestlens.ir/fa و Honestlens.ir/ru، حتى يتمكن المستخدم ومحرك البحث من رؤية كل إصدار بشكل مستقل.

الصفحة الرئيسية التي تشرح "السبب".

لاحظنا في الإصدارات الأولى أن شعار المنتج لم يكن واضحًا بدرجة كافية للمستخدم الجديد. لقد قمنا بإعادة تصميم الصفحة الرئيسية للإجابة على الأسئلة التي تدور في ذهن المستخدم بالترتيب: ما هو، وكيف يعمل، وما هي النتائج التي يحققها، وكيف يختلف عن chatbot، وما هي الموارد التي يعتمد عليها. يظهر على الصفحة شريط تمرير للمصادر التي يستشهد بها المحرك بالفعل في تقاريره. لقد تعمدنا عدم استخدام شعارات الوسائط لأننا لم نرغب في الإشارة ضمنًا إلى تأييد غير موجود. وأخيرًا، يجيب قسم الأسئلة الشائعة على المخاوف الشائعة: هل هو مجاني؟ هل يمكن أن يكون خطأ؟ ماذا يحدث للنص الذي أدخله؟

للجميع وعلى أي جهاز

يتلقى معظم المستخدمين الأخبار على هواتفهم، لذلك كان التصميم يتمحور حول الهاتف المحمول منذ البداية. تم أيضًا أخذ تباين الألوان وحجم الأزرار والتنقل عبر لوحة المفاتيح في الاعتبار من أجل إمكانية الوصول.

الهندسة خلف الكواليس

يوجد جزء كبير من جودة المنتج في أماكن لا يراها المستخدم أبدًا. بعض الأمثلة على القرارات الفنية التي جعلت Honest Lens موثوقة:

نماذج متعددة للذكاء الاصطناعي، دون الاعتماد على نموذج واحد

Honest Lens ليست تابعة لمزود الذكاء الاصطناعي. تعمل عدة نماذج من مقدمي خدمات مختلفين خلف النظام. إذا تأخرت استجابة النموذج الأول، يتم تفعيل النموذج الثاني بالتوازي ويتم استخدام الاستجابة الصحيحة الأولى. في حالة عدم توفر إحدى الخدمات، ينتقل النظام إلى الخدمة التالية دون انقطاع. كانت هذه البنية مهمة بشكل خاص للمستخدمين الذين يعيشون في البلدان المحظورة وقد يتم تقييد بعض الخدمات عليهم.

السرعة مع الذاكرة الذكية والأمان والتوافر

تتم مراجعة الأخبار المتكررة عادة من قبل العشرات من الأشخاص. يتم تخزين نتيجة كل تحليل لبعض الوقت بحيث إذا تم إدخال نفس النص مرة أخرى، يتم عرض التقرير على الفور، دون انتظار ودون إعادة تقدير التكاليف.

الأمن من اليوم الأول

يمكن للأداة التي تفتح الروابط المطلوبة للمستخدمين أن تكون وسيلة اختراق إذا لم يتم تصميمها بشكل صحيح. لقد قمنا بتنفيذ عدة طبقات من الحماية:

• منع إساءة استخدام الروابط للوصول إلى الشبكات والخوادم الداخلية. يتم فحص كل رابط قبل فتحه، وعند كل إعادة توجيه.

• الحد من عدد الطلبات لكل مستخدم، حتى لا تصبح الأداة ضحية للروبوتات والاستهلاك العشوائي.

• رؤوس أمنية صارمة في المتصفح لمنع هجمات الويب الشائعة.

• الاحتفاظ بجميع المفاتيح والمعلومات الحساسة على جانب الخادم فقط، وإجراء تدقيق شامل للمشروع للتأكد من عدم وجود معلومات حساسة في الكود العام.

الوصول إلى قاعدة البيانات فقط من خلال المسارات الخاضعة للتحكم في الخادم.

• التحقق من تبعيات البرامج، التي لم تكن بها نقاط ضعف معروفة في المراجعة الأخيرة.

متاح، حيث يكون المستخدمون

الجمهور الرئيسي لهذه المنصة موجود في إيران وروسيا. الأماكن التي تكون فيها بعض البنى التحتية المشتركة للإنترنت بطيئة أو محدودة. لقد اخترنا البنية التحتية للنشر بحيث تم فتح الموقع دون أي مشاكل في اختبار الوصول من موسكو وسانت بطرسبرغ وطهران وشيراز.

الرؤية: تحسين محركات البحث وتحسين محركات استجابة الذكاء الاصطناعي

الأداة الجيدة لا تساعد أحداً إذا لم يكن من الممكن رؤيتها. اليوم، لا يقوم الأشخاص بالبحث على Google فحسب؛ كما يطلبون مساعدين في مجال الذكاء الاصطناعي. لهذا السبب تم تحسين Honest Lens لكل من محركات البحث (SEO) والذكاء الاصطناعي (GEO):

محتوى جاهز للروبوتات: تم إنشاء الصفحة الرئيسية وكاشف الانتحال والاختبار الذاتي مسبقًا باللغات الثلاث، بحيث يمكن لروبوتات Google والذكاء الاصطناعي رؤية المحتوى بالكامل دون تشغيل التعليمات البرمجية.

مدونة متخصصة: 20 مقالة تعليمية حول الثقافة الإعلامية والتحقق من المعلومات الخاطئة والتعرف عليها، باللغات الثلاث؛ إجمالي 60 صفحة من المحتوى الأصلي.

البيانات المنظمة: معلومات حول مؤسستك وموقعك على الويب وتطبيقك ومقالاتك والأسئلة الشائعة بلغة قياسية تفهمها محركات البحث.

• ربط اللغات: تشير كل صفحة إلى إصدارات أخرى من لغتها ليتمكن مستخدم كل دولة من رؤية إصدار لغته في النتائج.

• معاينة جميلة في برامج المراسلة: عند إرسال رابط الموقع في تيليجرام أو واتساب أو شبكات التواصل الاجتماعي، سيتم عرض العنوان والوصف والصورة الخاصة بنفس الصفحة وبنفس اللغة.

• دليل الذكاء الاصطناعي الخاص: ملف قياسي يشرح لمساعدي الذكاء الاصطناعي ماهية هذا الموقع والصفحات المهمة.

المبادئ التي اتبعناها في البناء

بالنسبة للأداة التي تدور حول الحقيقة، فإن طريقة صنعها لا تقل أهمية عن المنتج نفسه. لقد اتبعنا بعض المبادئ من البداية إلى النهاية:

• لا توجد بيانات وهمية. لم يتم تزوير أي إحصائيات أو تعليقات مستخدمين أو شارات. كل رقم على الموقع يأتي من الأداء الفعلي.

• لا توجد مطالبات تأييد غير موثقة. ولم نستخدم شعارات وسائل الإعلام أو المؤسسات التي لم تتعاون مع المشروع.

• الشفافية بشأن القيود. في الأسئلة الشائعة، كتبنا صراحة أن الأداة يمكن أن تخطئ وأنه يجب على المستخدم قراءة الشرح والمراجع، وليس النتيجة فقط.

احترام الخصوصية. لا يوجد تسجيل ولا تعقب الإعلانات. يتم أيضًا إخبار المستخدم بوضوح أنه سيتم حفظ النص الذي يُدخله لإنشاء رابط مشترك.

الإنجازات في لمحة

ماذا تعلمنا من هذا المشروع

النزاهة هي سمة المنتج، وليست مجرد قيمة. الأماكن حيث Honest Lens يقول "لا أعرف" أو ينشر أخطائه، فهي ليست نقاط ضعف في المنتج؛ هم السبب الرئيسي للثقة بهم. وفي سوق مليئة بالادعاءات المبالغ فيها، فإن الاعتراف بحدود المرء هو ميزة تنافسية.

الذكاء الاصطناعي ليس مجرد منتج. نماذج اللغة متاحة للجميع. القيمة الحقيقية تكمن في الطبقات المبنية حولها: تقسيم النص إلى مطالبات، والتحقق فعليًا من الروابط، وإظهار العملية مباشرة، وقياس الدقة، وتصميم تجربة تثق بالمستخدم.

يمكن تحويل وقت الانتظار إلى خبرة. التحليل العميق يستغرق وقتا. وبدلًا من إخفاءها هذه المرة، حولناها إلى نافذة لرؤية عمل النظام؛ زادت هذه الشفافية من ثقة المستخدم.

تم تصميم التعددية اللغوية الحقيقية منذ اليوم الأول. دائمًا ما تكون إضافة اللغة الفارسية إلى منتج مخصص للغة الإنجليزية غير مكتملة. نظرًا لأن Honest Lens تم تصميمه بثلاث لغات منذ البداية، فإن جميع الإصدارات الثلاثة تتمتع بنفس التجربة الكاملة.

ملخص

تُظهر Honest Lens أنه من الممكن بناء أدوات باستخدام الذكاء الاصطناعي تقلل من الارتباك بدلاً من أن تزيده؛ بشرط مراعاة الصدق والشفافية والجودة في كل طبقة من طبقات المنتج، بدءًا من فلسفة "لا أعرف" وحتى فحص كل رابط، ومن التصميم المثالي من اليمين إلى اليسار إلى الأمان والظهور في محركات البحث. لقد قمنا بتصميم وتنفيذ هذا المشروع بأنفسنا، من الفكرة إلى النشر بكل تفاصيله.

يمكنك تجربتها الآن: إعادة توجيه الرسالة أو عنوان الأخبار honestlens.ir أدخل وانظر ما وراء ذلك.

هل لديك فكرة تريد تحويلها إلى منتج موثوق؟ نحن في netanic.ir نحن معك من الفكرة إلى النشر.