Plataforma web de verificación de noticias basada en evidencia impulsada por inteligencia artificial

Cada día recibimos decenas de mensajes, titulares y "noticias de última hora" que no sabemos de dónde proceden. Mucha gente recurre a los chatbots con IA para medir esto, pero los chatbots suelen responder con total confianza, incluso cuando no tienen testigos; Y a veces citan una fuente o un enlace que no existe en absoluto. Es decir, la herramienta que se suponía debía prevenir la información falsa puede convertirse en sí misma en una nueva fuente de información falsa.

Honest Lens Aquí está nuestra respuesta a este problema: una plataforma que desglosa cada noticia en afirmaciones separadas y cuantificables, compara cada afirmación con la evidencia, abre y verifica cada enlace que cita y, si no hay suficiente evidencia, dice "no hay suficiente evidencia" en lugar de simplemente adivinar honestamente. La plataforma incluso midió públicamente su propia precisión y publicó todos los resultados, incluidos los que se equivocaron.

Problema: ¿Por qué era necesaria una herramienta así?

1. Inundación de información y reenvío de mensajes.

Gran parte de las noticias llegan hoy a la gente no desde agencias de noticias, sino desde grupos y canales de mensajería: un mensaje citado "de una fuente fiable", un número separado de su contexto, o un titular alejado del texto principal de la noticia. La mayoría de la gente no tiene ni el tiempo ni las herramientas para apoyar a cada uno de ellos.

2. Los chatbots no están diseñados para verificación

Los chatbots públicos son herramientas increíbles, pero tienen algunas debilidades inherentes en lo que respecta a la verificación. Dan una respuesta general para todo el texto, rara vez indican qué fuentes han consultado realmente, los enlaces que crean pueden estar rotos o ser falsos y, lo más importante, rara vez dicen "No lo sé". Ninguno de ellos le dice qué tan precisos son en la verificación.

3. Espacio de herramientas para hablantes de persa y ruso

Las herramientas de verificación más serias están diseñadas para una audiencia de habla inglesa. Un usuario de habla persa o rusa tiene que trabajar con una herramienta en un idioma distinto al suyo o no tiene ninguna herramienta. Las interfaces persas a menudo se han implementado a medias de derecha a izquierda; Los textos se confunden, los números se desplazan y la experiencia del usuario se vuelve molesta.

4. Crisis de confianza

La gente no confía en una herramienta que simplemente dice "correcto" o "incorrecto", y con razón. La confianza se construye cuando puedes ver por ti mismo en qué se basa el veredicto y cuando la herramienta no oculta sus limitaciones. Nuestro objetivo era construir una herramienta de este tipo.

Idea: La filosofía del "no sé"

El punto de partida del proyecto fue una frase que luego se convirtió en lema y brújula de todas las decisiones:

"La verificación que no da un veredicto final, pero muestra las pruebas; y cuando no tiene datos suficientes, honestamente dice: no lo sé".

Esta frase en la práctica determinó varias decisiones importantes del producto. Primero, en lugar de una puntuación de cero a cien o un porcentaje de "verdad" que parece científico pero que en realidad no explica nada, cada afirmación obtiene una de cuatro conclusiones claras, junto con una razón y una fuente. En segundo lugar, la "evidencia insuficiente" es una conclusión completa y honorable, no una falla del sistema. Y en tercer lugar, la herramienta debería ser tan honesta sobre sí misma como sobre las noticias; Significa medir su exactitud y publicarla.

Solución: tres columnas

Honest Lens se basa en tres pilares, cada uno de los cuales responde a una parte del problema.

Columna A: Reclamaciones y pruebas del motor

El usuario ingresa cualquier cosa: un título, un mensaje reenviado, un artículo completo o solo su enlace. El sistema lee el texto, extrae afirmaciones mensurables y examina cada afirmación individualmente. El resultado de cada afirmación incluye la conclusión, la explicación, el nivel de confianza y las fuentes. Esta división en afirmaciones es importante, porque una noticia suele ser una mezcla de partes verdaderas, verdaderas a medias y falsas, y una respuesta general para todo el texto sería engañosa.

Columna B: Detector de distorsión narrativa

A veces la noticia no es mentira, sino que se distorsiona: se aumenta un número, se elimina un adverbio o se le añade un tono emotivo. Distortion Detector coloca un informe de los medios junto a su fuente original y muestra exactamente lo que ha cambiado: emoción adicional, cifras alteradas y contexto omitido. Esta herramienta es útil para periodistas, investigadores y cualquier lector atento que quiera ver la brecha entre "lo que se dijo" y "lo que se publicó".

Columna C: Autoexamen abierto

Aquí es donde Honest Lens realmente se diferencia de herramientas similares. Seleccionamos un conjunto de reclamos reales de diferentes dominios, comparamos cada uno de ellos a partir de fuentes públicas y luego los ejecutamos todos en el motor real. Los resultados se publican sin manipulación, incluidas todas las discrepancias. Los detalles de esta prueba se dan a continuación.

Experiencia del usuario: del mensaje sospechoso al informe que se puede compartir

Queríamos que la herramienta fuera tan simple como reenviar un mensaje. La ruta del usuario tiene tres pasos:

1. Ingrese. Un titular, un mensaje reenviado, un artículo completo o su enlace. No es necesario registrarse.

2. Mira la reseña en vivo. El análisis profundo lleva algo de tiempo. En lugar de una pantalla de espera en blanco, el usuario ve inmediatamente lo que está haciendo el sistema: se ha leído el texto de la noticia, se ha buscado el contexto en fuentes de referencia, se han comparado las afirmaciones con la evidencia y se han comprobado los enlaces individuales. El tiempo de espera pasó a ser parte de la experiencia y fuente de confianza.

3. Obtenga respuestas para cada reclamo. Cada afirmación tiene su propio resultado, explicación y fuentes. Cada informe tiene un enlace permanente que se puede enviar al mismo grupo del que procede la noticia.

Este enlace permanente es un detalle pequeño pero importante. La desinformación se difunde en grupos y su corrección debería poder difundirse en los mismos grupos. En lugar de una discusión, el usuario publica un enlace que muestra la evidencia.

Enlaces de verificación reales

Una de las cosas de las que estamos más orgullosos es que Honest Lens no confía en ningún enlace ciego. Cada enlace citado en el informe se abre y revisa. Los enlaces rotos o falsos se eliminarán y se le informará al usuario que han sido eliminados. El resultado es que el usuario nunca encuentra un recurso que no existe; Un problema común con las respuestas del chatbot.

¿Por qué no preguntarle a un chatbot?

Honest Lens también utiliza modelos de inteligencia artificial. La diferencia está en todo lo que se construye a su alrededor. Hemos incluido esta tabla en la página principal del sitio para que el usuario pueda ver el valor de la herramienta en unos segundos:

Un chatbot genérico puede citar una fuente o un enlace que no existe. Abrirá cada enlace citado, eliminará los enlaces rotos y le informará

pero Honest Lens

Incluso sin un testigo, suele responder con confianza, cuando no hay ningún testigo, dice "pruebas insuficientes".

Da una respuesta para todo el texto, divide el texto en afirmaciones y mide cada una por separado.

Rara vez muestra qué fuentes ha verificado realmente, muestra qué fuentes se utilizaron y qué enlaces se verificaron.

No se sabe qué tan preciso es en la verificación, publica su precisión medida con todas las diferencias.

La respuesta se perderá en el historial de chat. Cada informe tiene un enlace permanente que puedes compartir.

Autoexamen: ser honestos con nosotros mismos

Lo más fácil era escribir "99% de precisión" en el sitio. Muchos productos hacen lo mismo. Pero una herramienta cuyo lema es la honestidad no puede dar cifras falsas sobre sí misma. Entonces diseñamos una prueba real.

Se seleccionaron 36 afirmaciones fácticas de cinco áreas: geopolítica, economía y negocios, ciencia y salud, documentos históricos y sensacionalismo mediático. Las reclamaciones estaban en los tres idiomas: persa, ruso e inglés.

• Para cada afirmación, el resultado de referencia se determinó basándose en fuentes públicas y citables y el enlace de la fuente se colocó al lado.

• Todos los reclamos pasan a través del motor real. Ningún resultado se escribió ni modificó manualmente.

• Resultado: 75% de cumplimiento con el resultado de referencia, 19% de "no sé" honesto y 6% de discrepancia.

• Los 36 casos, incluidas las discrepancias, se publican en el sitio con un informe completo del motor y un enlace a la fuente de referencia para que cualquiera pueda revisarlo.

El punto importante de estas cifras es el 19% de "no sé". En estos casos, en lugar de emitir un veredicto erróneo, Motor ha declarado que no dispone de pruebas suficientes. Este es exactamente el comportamiento que diseñamos. El error real, es decir, una sentencia contraria al resultado de la referencia, fue sólo del 6% y no se oculta. Creemos que la publicación de errores es el documento más valioso de la validez de una herramienta de verificación.

Diseño visual y experiencia.

Una identidad que inspira "confianza".

Para un producto acerca de la verdad, el diseño debe ser tranquilo, claro y serio, no llamativo. La identidad visual de Honest Lens se basa en un azul cobalto intenso, blanco y un punto de color "señal", que también se ve en el logotipo. Revisamos varias direcciones de diseño diferentes con el propietario del proyecto y se eligió un diseño que es a la vez profesional y periodístico y que funciona bien en los tres idiomas. También se diseñaron en el mismo lenguaje visual el banner, cartel e imágenes previas de las redes sociales.

Tres idiomas, sin concesiones

Apoyar el idioma persa no fue una simple traducción para nosotros. Toda la interfaz se creó desde cero con lógica de derecha a izquierda, de modo que cuando cambia de idioma, los diseños de página, la orientación de los iconos, el espaciado y las tablas se asignan correctamente. Los números en cada idioma se muestran en el formato del mismo idioma y las fuentes se seleccionaron por separado para legibilidad en farsi, ruso y latín. Cada idioma tiene su propia dirección separada, por ejemplo honestlens.ir/fa y honestlens.ir/ru, Para que el usuario y el buscador puedan ver cada versión de forma independiente.

La página de inicio que explica el "por qué".

En las primeras versiones, notamos que el eslogan del producto no era lo suficientemente claro para el nuevo usuario. Rediseñamos la página de inicio para responder las preguntas en la mente del usuario en orden: qué es, cómo funciona, qué resultados ofrece, en qué se diferencia de un chatbot y de qué recursos depende. En la página aparece una barra de desplazamiento de las fuentes que el motor realmente cita en sus informes. Intencionalmente no utilizamos logotipos de medios porque no queríamos implicar un respaldo que no existe. Finalmente, la sección de preguntas frecuentes responde a inquietudes comunes: ¿Es gratis? ¿Podría estar mal? ¿Qué pasa con el texto que ingreso?

Para todos, en cualquier dispositivo

La mayoría de los usuarios reciben noticias en sus teléfonos, por lo que el diseño se centró en los dispositivos móviles desde el principio. También se consideraron para la accesibilidad el contraste de colores, el tamaño de los botones y la navegación con el teclado.

Ingeniería detrás de escena

Gran parte de la calidad de un producto está en lugares que el usuario nunca ve. Algunos ejemplos de decisiones técnicas que han hecho confiable a Honest Lens:

Múltiples modelos de IA, sin dependencia de uno

Honest Lens no está afiliado a ningún proveedor de inteligencia artificial. Detrás del sistema trabajan varios modelos de diferentes proveedores. Si la respuesta del primer modelo llega tarde, el segundo modelo se activa en paralelo y se utiliza la primera respuesta válida. Si uno de los servicios no está disponible, el sistema pasa al siguiente sin interrupción. Esta arquitectura fue especialmente importante para los usuarios que viven en países embargados y algunos servicios pueden estar restringidos para ellos.

Velocidad con memoria inteligente, seguridad y disponibilidad

Las noticias frecuentes suelen ser revisadas por decenas de personas. El resultado de cada análisis se almacena durante un tiempo, de modo que si se vuelve a introducir el mismo texto, el informe se muestra inmediatamente, sin esperas y sin recalcular.

Seguridad desde el primer día

Una herramienta que abre los enlaces deseados por los usuarios puede ser una vía de penetración si no se diseña adecuadamente. Hemos implementado varias capas de protección:

• Prevenir el mal uso de enlaces para acceder a redes y servidores internos. Cada enlace se verifica antes de abrirlo y en cada redirección.

• Limitar el número de solicitudes de cada usuario, para que la herramienta no sea víctima de bots y consumo indiscriminado.

• Encabezados de seguridad estrictos en el navegador para evitar ataques web comunes.

• Mantener todas las claves y la información confidencial sólo en el lado del servidor y auditar minuciosamente el proyecto para garantizar que no haya información confidencial en el código público.

Acceso a la base de datos únicamente desde las rutas controladas del servidor.

• Verificar dependencias de software, que no tenían vulnerabilidades conocidas en la última auditoría.

Disponible, donde están los usuarios

Las principales audiencias de esta plataforma se encuentran en Irán y Rusia; Lugares donde algunas infraestructuras comunes de Internet son lentas o limitadas. Elegimos la infraestructura editorial de tal manera que en la prueba de acceso desde Moscú, San Petersburgo, Teherán y Shiraz el sitio se abrió sin problemas.

Visibilidad: SEO y optimización para motores de respuesta de IA

Una buena herramienta no ayuda a nadie si no se puede ver. Hoy en día, la gente no sólo busca en Google; También piden asistentes de inteligencia artificial. Por eso Honest Lens está optimizado tanto para motores de búsqueda (SEO) como para inteligencia artificial (GEO):

Contenido listo para bots: la página de inicio, el detector de plagio y la autoprueba están prediseñados en los tres idiomas, por lo que los bots y la IA de Google pueden ver todo el contenido sin ejecutar código.

Blog especializado: 20 artículos educativos sobre alfabetización mediática, verificación y reconocimiento de información falsa, en los tres idiomas; Un total de 60 páginas de contenido original.

Datos estructurados: información sobre su organización, sitio web, aplicación, artículos y preguntas frecuentes en un lenguaje estándar que los motores de búsqueda comprendan.

• Vincular idiomas: Cada página hace referencia a otras versiones de su idioma para que el usuario de cada país pueda ver la versión de su idioma en los resultados.

• Hermosa vista previa en Messenger: cuando el enlace del sitio se envía en Telegram, WhatsApp o redes sociales, se mostrará el título, descripción e imagen específicos de la misma página y en el mismo idioma.

• Guía especial de AI: un archivo estándar que explica a los asistentes de AI qué es este sitio y qué páginas son importantes.

Los principios que seguimos en la construcción.

Para una herramienta que tiene que ver con la verdad, la forma en que se fabrica es tan importante como el producto en sí. Seguimos algunos principios de principio a fin:

• Sin datos falsos. No se falsificaron estadísticas, reseñas de usuarios ni insignias. Cada número en el sitio proviene del desempeño real.

• No hay afirmaciones de respaldo sin fundamento. No utilizamos logotipos de medios o instituciones que no cooperaron con el proyecto.

• Transparencia sobre las limitaciones. En las preguntas frecuentes, hemos escrito explícitamente que la herramienta puede cometer errores y que el usuario debe leer la explicación y las referencias, no solo el resultado.

Respeto a la privacidad. Sin registro ni rastreadores de anuncios. También se le dice claramente al usuario que el texto que ingresa se guardará para crear un enlace compartido.

Logros de un vistazo

Lo que aprendimos de este proyecto

La integridad es un atributo del producto, no sólo un valor. lugares donde Honest Lens Dice "no sé" o publica sus errores, no son debilidades del producto; Son el principal motivo para confiar en ellos. En un mercado lleno de afirmaciones exageradas, admitir las propias limitaciones es una ventaja competitiva.

La inteligencia artificial no es sólo un producto. Los modelos de lenguaje están disponibles para todos. El valor real está en las capas que se construyen a su alrededor: dividir el texto en afirmaciones, verificar enlaces, mostrar el proceso en vivo, medir la precisión y diseñar una experiencia que confíe en el usuario.

El tiempo de espera se puede convertir en experiencia. El análisis profundo lleva tiempo. Esta vez, en lugar de ocultarlo, lo convertimos en una ventana para ver cómo funciona el sistema; Esta transparencia aumentó la confianza del usuario.

El verdadero multilingüismo se diseña desde el primer día. Agregar farsi a un producto hecho para inglés siempre resulta incompleto. Dado que Honest Lens fue diseñado trilingüe desde el principio, las tres versiones ofrecen la misma y completa experiencia.

resumen

Honest Lens muestra que es posible crear herramientas con inteligencia artificial que reduzcan la confusión en lugar de aumentarla; Siempre que se observe honestidad, transparencia y calidad en cada capa del producto, desde la filosofía del "no sé" hasta la comprobación de todos y cada uno de los enlaces, desde el perfecto diseño derecha-izquierda hasta la seguridad y visibilidad en los buscadores. Este proyecto lo diseñamos e implementamos nosotros mismos, desde la idea hasta la publicación, con todos sus detalles.

Puedes probarlo ahora mismo: un mensaje reenviado o un titular de noticia honestlens.ir Entra y mira lo que hay detrás.

¿Tiene una idea que necesita convertirse en un producto confiable? estamos en netanic.ir Estamos contigo desde la idea hasta la publicación.