Веб-платформа для проверки новостей на основе фактических данных, работающая на базе искусственного интеллекта

Каждый день мы получаем десятки сообщений, заголовков и «последних новостей», откуда они взялись, и мы не знаем. Многие люди обращаются к чат-ботам с искусственным интеллектом, чтобы измерить это, но чат-боты обычно отвечают с полной уверенностью, даже если у них нет свидетелей; А иногда они ссылаются на источник или ссылку, которых вообще не существует. То есть инструмент, который должен был предотвращать ложную информацию, сам может стать новым источником ложной информации.

Honest Lens Вот наш ответ на эту проблему: платформа, которая разбивает каждую новость на отдельные, поддающиеся количественной оценке утверждения, сопоставляет каждое утверждение с доказательствами, фактически открывает и проверяет каждую цитируемую ссылку, а если доказательств недостаточно, говорит «недостаточно доказательств» вместо того, чтобы просто честно гадать. Платформа даже публично измерила свою точность и опубликовала все результаты, включая те, которые были ошибочными.

Проблема: зачем нужен был такой инструмент?

1. Поток информации и пересылка сообщений

Большая часть новостей сегодня доходит до людей не из информационных агентств, а из мессенджеров и каналов: сообщение, цитируемое «из достоверного источника», номер, вырванный из контекста, или заголовок, далекий от основного текста новости. У большинства людей нет ни времени, ни инструментов, чтобы болеть за каждую из них.

2. Чат-боты не предназначены для проверки.

Публичные чат-боты — замечательные инструменты, но у них есть несколько недостатков, когда дело доходит до проверки. Они дают однозначный ответ на весь текст, редко указывают, какие именно источники они действительно проверяли, ссылки, которые они делают, могут быть битыми или фиктивными, и самое главное, они редко говорят «я не знаю». Никто из них не скажет вам, насколько точны они при проверке.

3. Пространство для инструментов для говорящих на персидском и русском языках.

Большинство серьезных инструментов проверки рассчитаны на англоязычную аудиторию. Персидско- или русскоязычный пользователь либо вынужден работать с инструментом на языке, отличном от его собственного, либо вообще не имеет инструмента. Персидские интерфейсы часто наполовину реализуют направление справа налево; Тексты путаются, цифры смещаются, а пользовательский опыт становится раздражающим.

4. Кризис доверия

Люди не доверяют инструменту, который просто говорит «правильно» или «неправильно», и это правильно. Доверие возникает, когда вы сами видите, на чем основан вердикт, и когда инструмент не скрывает своих ограничений. Нашей целью было создать такой инструмент.

Идея: философия «Я не знаю»

Отправной точкой проекта стала фраза, которая впоследствии стала лозунгом и компасом всех решений:

"Проверка, которая не выносит окончательный вердикт, но показывает доказательства; а когда ему не хватает данных, он честно говорит: не знаю".

Это предложение на практике определило несколько важных решений продукта. Во-первых, вместо оценки от нуля до ста или процента «истины», которая выглядит научной, но на самом деле ничего не объясняет, каждое утверждение получает один из четырех четких выводов, а также причину и источник. Во-вторых, «недостаток доказательств» — это полный и достойный вывод, а не провал системы. И в-третьих, инструмент должен быть так же честен о себе, как и о новостях; Это значит измерить его точность и опубликовать.

Решение: три столбца

«Честная линза» построена на трёх столпах, каждый из которых отвечает на часть проблемы.

Столбец A: Претензии и доказательства по двигателю.

Пользователь вводит что угодно: заголовок, пересылку, всю статью или только ее ссылку. Система читает текст, извлекает из него измеримые претензии и анализирует каждую претензию индивидуально. Выходные данные для каждого утверждения включают вывод, объяснение, уровень достоверности и источники. Такое разделение на утверждения важно, поскольку новость обычно представляет собой смесь правдивых, полуправдивых и ложных частей, и общий ответ на весь текст может ввести в заблуждение.

Столбец B: Детектор искажения повествования

Иногда новость не является ложью, а искажается: увеличивается число, удаляется наречие или к нему добавляется эмоциональный тон. Distortion Detector помещает сообщение СМИ рядом с его первоначальным источником и показывает, что именно изменилось: добавлено волнение, изменены цифры и опущен контекст. Этот инструмент будет полезен журналистам, исследователям и любому внимательному читателю, который хочет увидеть разрыв между «то, что было сказано» и «то, что было опубликовано».

Столбец C: Открытое самообследование

Именно здесь Honest Lens действительно отличается от аналогичных инструментов. Мы выбрали набор реальных заявок из разных доменов, протестировали каждую из общедоступных источников, а затем прогнали их через реальный движок. Результаты публикуются без манипуляций, включая все неточности. Подробности этого теста приведены ниже.

Пользовательский опыт: от подозрительного сообщения к отчету, которым можно поделиться

Мы хотели, чтобы этот инструмент был таким же простым, как пересылка сообщения. Путь пользователя состоит из трех шагов:

1. Введите его. Заголовок, переадресация, вся статья или ее ссылка. Нет необходимости регистрироваться.

2. Посмотреть обзор в прямом эфире. Глубокий анализ занимает некоторое время. Вместо пустого экрана ожидания пользователь сразу видит, что делает система: текст новости прочитан, контекст найден в справочных источниках, утверждения сопоставлены с доказательствами, проверены отдельные ссылки. Время ожидания стало частью опыта и источником доверия.

3. Получите ответы на все претензии. Каждое утверждение имеет свой результат, объяснение и источники. Каждый отчет имеет постоянную ссылку, которую можно отправить той же группе, из которой пришла новость.

Эта постоянная ссылка — небольшая, но важная деталь. Дезинформация распространяется группами, и ее исправление должно иметь возможность распространяться в одних и тех же группах. Вместо обсуждения пользователь публикует ссылку, показывающую доказательства.

Реальные проверочные ссылки

Одна из вещей, которой мы больше всего гордимся, это то, что Honest Lens не доверяет никаким слепым ссылкам. Каждая ссылка, указанная в отчете, фактически открывается и просматривается. Неработающие или поддельные ссылки будут удалены, и пользователю сообщат, что они были удалены. В результате пользователь никогда не сталкивается с несуществующим ресурсом; Распространенная проблема с ответами чат-ботов.

Почему бы просто не спросить чат-бота?

Honest Lens также использует модели искусственного интеллекта. Разница во всем, что построено вокруг них. Мы включили эту таблицу на главную страницу сайта, чтобы пользователь мог увидеть ценность инструмента за несколько секунд:

Общий чат-бот может ссылаться на несуществующий источник или ссылку. Он откроет каждую цитируемую ссылку, удалит все неработающие ссылки и сообщит вам

но Honest Lens

Даже без свидетеля обычно отвечает уверенно, когда свидетеля нет, говорит «недостаточно доказательств».

Он дает один ответ на весь текст, делит текст на претензии и измеряет каждую отдельно.

Он редко показывает, какие источники на самом деле проверены, но показывает, какие источники использовались и какие ссылки были проверены.

Неизвестно, насколько он точен при проверке, публикует свою измеренную точность со всеми отличиями.

Ответ потеряется в истории чата. Каждый отчет имеет постоянную ссылку, которой вы можете поделиться.

Самоанализ: быть честным по отношению к себе

Проще всего было написать на сайте «точность 99%. Многие продукты делают то же самое. Но инструмент, лозунгом которого является честность, не может выдать о себе фальшивую цифру. Поэтому мы разработали настоящий тест.

36 фактических утверждений были отобраны из пяти областей: геополитика, экономика и бизнес, наука и здравоохранение, исторические документы и сенсации в СМИ. Претензии были на всех трёх языках: персидском, русском и английском.

• Для каждого утверждения ссылочный результат определялся на основе общедоступных и цитируемых источников, а рядом с ним размещалась ссылка на источник.

• Все претензии проходят через реальный движок. Никакие результаты не записывались и не изменялись вручную.

• Результат: 75% соответствие эталонному результату, 19% честное «не знаю» и 6% расхождение.

• Все 36 случаев, включая любые несоответствия, публикуются на сайте с полным отчетом о двигателе и ссылкой на справочный источник, доступной для просмотра всем желающим.

Важным моментом в этих цифрах является доля «Я не знаю» в 19%. В этих случаях вместо неправильного приговора «Мотор» заявлял, что у него недостаточно доказательств. Это именно то поведение, которое мы разработали. Реальная ошибка, то есть решение, противоречащее результату справки, составила всего 6%, и это не скрывается. Мы считаем, что публикация ошибок является наиболее ценным документом достоверности инструмента проверки.

Визуальный дизайн и опыт

Личность, которая внушает «доверие».

Для продукта об истине дизайн должен быть спокойным, ясным и серьезным, а не кричащим. Визуальная идентичность Honest Lens основана на насыщенном синем кобальте, белом цвете и точке «сигнального» цвета, которая также присутствует в логотипе. Мы рассмотрели с владельцем проекта несколько различных направлений дизайна, и был выбран дизайн, одновременно профессиональный и журналистский, хорошо работающий на всех трех языках. Баннер, постер и превью-изображения социальных сетей также были выполнены на том же визуальном языке.

Три языка без компромиссов

Поддержка персидского языка не была для нас простым переводом. Весь интерфейс был построен с нуля с логикой письма справа налево, поэтому при переключении языков, макетов страниц, ориентации значков, интервалов и таблиц все отображается правильно. Цифры на каждом языке отображаются в формате одного и того же языка, а шрифты подбирались отдельно для удобства чтения на фарси, русском и латинице. Каждый язык имеет свой отдельный адрес, например honestlens.ir/fa и честный Lens.ir/ru, Чтобы пользователь и поисковая система могли видеть каждую версию независимо.

Домашняя страница, объясняющая «почему».

В ранних версиях мы заметили, что слоган продукта был недостаточно понятен новому пользователю. Мы изменили дизайн домашней страницы, чтобы по порядку отвечать на вопросы пользователя: что это такое, как это работает, какие результаты дает, чем он отличается от чат-бота и на какие ресурсы он опирается. На странице появляется полоса прокрутки источников, которые движок фактически цитирует в своих отчетах. Мы намеренно не использовали логотипы СМИ, потому что не хотели подразумевать несуществующую поддержку. Наконец, раздел часто задаваемых вопросов отвечает на распространенные вопросы: бесплатно ли это? Может ли это быть неправильно? Что происходит с текстом, который я ввожу?

Для всех, на любом устройстве

Большинство пользователей получают новости на свои телефоны, поэтому дизайн с самого начала был ориентирован на мобильные устройства. Контрастность цветов, размер кнопок и навигация с помощью клавиатуры также учитывались для обеспечения доступности.

Инженерное дело за кулисами

Большая часть качества продукта находится в местах, которые пользователь никогда не видит. Некоторые примеры технических решений, которые сделали Honest Lens надежным:

Несколько моделей ИИ, без зависимости от одной

Honest Lens не связан с поставщиком искусственного интеллекта. За системой работают несколько моделей от разных поставщиков. Если ответ первой модели задерживается, параллельно активируется вторая модель и используется первый действительный ответ. Если одна из услуг недоступна, система без перерыва переходит к следующей. Эта архитектура была особенно важна для пользователей, которые живут в странах, на которые распространяется эмбарго, и для них некоторые услуги могут быть ограничены.

Скорость с умной памятью, безопасность и доступность

Частые новости обычно просматривают десятки людей. Результат каждого анализа сохраняется некоторое время, поэтому при повторном вводе того же текста отчет отображается сразу, без ожидания и без перерасчета.

Безопасность с первого дня

Инструмент, открывающий нужные пользователям ссылки, может стать способом проникновения, если он не спроектирован должным образом. Мы реализовали несколько уровней защиты:

• Предотвратить неправомерное использование ссылок для доступа к внутренним сетям и серверам. Каждая ссылка проверяется перед открытием и при каждом перенаправлении.

• Ограничение количества запросов для каждого пользователя, чтобы инструмент не стал жертвой ботов и неразборчивого потребления.

• Строгие заголовки безопасности в браузере для предотвращения распространенных веб-атак.

• Хранение всех ключей и конфиденциальной информации только на стороне сервера и тщательный аудит проекта, чтобы гарантировать отсутствие конфиденциальной информации в общедоступном коде.

Доступ к базе данных только с контролируемых путей сервера.

• Проверьте наличие зависимостей программного обеспечения, в котором не было известных уязвимостей при последнем аудите.

Доступно там, где находятся пользователи

Основная аудитория этой платформы находится в Иране и России; Места, где некоторые распространенные интернет-инфраструктуры работают медленно или ограничены. Издательскую инфраструктуру мы выбрали таким образом, чтобы при проверке доступа из Москвы, Санкт-Петербурга, Тегерана и Шираза сайт открывался без проблем.

Видимость: SEO и оптимизация для систем реагирования ИИ.

Хороший инструмент никому не поможет, если его не видно. Сегодня люди не просто ищут в Google; Они также просят помощников по искусственному интеллекту. Вот почему Honest Lens оптимизирован как для поисковых систем (SEO), так и для искусственного интеллекта (GEO):

Контент, готовый для ботов. Домашняя страница, детектор плагиата и средства самопроверки предварительно созданы на всех трех языках, поэтому боты Google и искусственный интеллект могут видеть весь контент без запуска кода.

Специализированный блог: 20 образовательных статей о медиаграмотности, проверке и распознавании ложной информации на всех трех языках; Всего 60 страниц оригинального контента.

Структурированные данные: информация о вашей организации, веб-сайте, приложении, статьях и часто задаваемых вопросах на стандартном языке, понятном поисковым системам.

• Связывание языков: каждая страница ссылается на другие версии своего языка, чтобы пользователь каждой страны мог видеть версию своего языка в результатах.

• Красивый предварительный просмотр в мессенджерах: при отправке ссылки на сайт в Telegram, WhatsApp или социальных сетях будет отображаться заголовок, описание и изображение, характерные для одной и той же страницы и на том же языке.

• Специальное руководство для искусственного интеллекта: стандартный файл, объясняющий помощникам искусственного интеллекта, что представляет собой этот сайт и какие страницы важны.

Принципы, которых мы придерживались при строительстве

Для инструмента, основанного на истине, то, как он сделан, так же важно, как и сам продукт. Мы следовали нескольким принципам от начала до конца:

• Никаких фейковых данных. Никакая статистика, отзывы пользователей или значки не были поддельными. Все цифры на сайте основаны на реальных результатах.

• Никаких необоснованных претензий. Мы не использовали логотипы СМИ или учреждений, которые не сотрудничали с проектом.

• Прозрачность ограничений. В FAQ мы прямо написали, что инструмент может допускать ошибки и что пользователю следует читать объяснения и ссылки, а не только результат.

Уважение конфиденциальности. Никакой регистрации и никаких рекламных трекеров. Пользователю также четко сообщается, что введенный им текст будет сохранен для создания общей ссылки.

Достижения с первого взгляда

Что мы узнали из этого проекта

Целостность — это атрибут продукта, а не просто ценность. места, где Honest Lens Он говорит «не знаю» или публикует свои ошибки, они не являются недостатками продукта; Они являются основной причиной доверять им. На рынке, полном преувеличенных претензий, признание собственных ограничений является конкурентным преимуществом.

Искусственный интеллект — это не просто продукт. Языковые модели доступны каждому. Настоящая ценность заключается в слоях, которые построены вокруг них: разбиение текста на утверждения, фактическая проверка ссылок, демонстрация процесса в реальном времени, измерение точности и создание интерфейса, вызывающего доверие пользователя.

Время ожидания можно превратить в опыт. Глубокий анализ требует времени. На этот раз вместо того, чтобы прятаться, мы превратили его в окно, позволяющее увидеть работу системы; Эта прозрачность повысила доверие пользователей.

Настоящее многоязычие задумано с первого дня. Добавление фарси в продукт, созданный для английского языка, всегда является неполным. Поскольку Honest Lens с самого начала был разработан на трех языках, все три версии имеют одинаковый и полный интерфейс.

резюме

«Честная линза» показывает, что можно создавать инструменты с искусственным интеллектом, которые уменьшают, а не усугубляют путаницу; При условии, что честность, прозрачность и качество соблюдаются на каждом уровне продукта, от философии «не знаю» до проверки каждой ссылки, от идеального право-левого дизайна до безопасности и видимости в поисковых системах. Мы сами разработали и реализовали этот проект, от идеи до публикации, со всеми деталями.

Вы можете попробовать это прямо сейчас: переслать сообщение или заголовок новости. honestlens.ir Войдите и посмотрите, что за этим стоит.

У вас есть идея, которую необходимо превратить в надежный продукт? Мы находимся в netanic.ir Мы с вами от идеи до публикации.