Эксперты ДИТ рассказали, как грамотно проверять ответы нейросетей

Каждый второй москвич использует генеративный искусственный интеллект (ИИ) для разных целей, в том числе для помощи в учебе или работе, однако проверяют его ответы только восемь из 10 москвичей. Эксперты столичного Департамента информационных технологий (ДИТ) напомнили, что для получения максимальной пользы от нейросетей важно всегда сверять результат. В частности, запрашивать ссылки на информацию, сравнивать с другими источниками данных и даже консультироваться с профессионалами.

Генеративный ИИ способен производить новый контент, похожий на тот, который создает человек. Например, может сочинять музыку, писать тексты, рисовать картины, решать задачи, давать советы. При этом он генерирует новые данные на основе шаблонов, образцов и другой информации, на которых был обучен. Если сведений по какому-то вопросу представлено недостаточно, искусственный интеллект может ошибиться. Кроме того, во время обучения нейросети могут столкнуться с неправильной или устаревшей информацией. Искусственный интеллект не всегда способен логически рассуждать так, как человек, поэтому не учитывает все факторы или делает выводы, не соответствующие реальности.

«Как и любая технология, генеративный ИИ — это инструмент в руках человека, который даже при безупречной работе время от времени может ошибаться. Согласно данным аналитиков ДИТ, восемь из 10 москвичей, использующих генеративный ИИ, проверяют результаты. При этом всегда это делают 36 процентов жителей столицы, иногда — 47 процентов. Однако москвичи интересуются подлинностью ответов нейросетей, только если это не просто общение или поиск информации, а более сложные запросы», — рассказали в пресс-службе Департамента информационных технологий.

Как проверять ответы нейросетей

Чтобы генеративный ИИ превратился в эффективного помощника, который экономит время на выполнение рабочих или учебных заданий, автоматизирует рутину или ищет решение различных жизненных ситуаций, можно воспользоваться простыми приемами верификации его ответов:

— проверить логику и последовательность. При первом прочтении пользователю стоит оценить, насколько ответ нейросети логичен, не содержит ли внутренних противоречий или абсурдных утверждений. Иногда ошибки видны уже при внимательном изучении текста. Стоит также сопоставить ответ ИИ с собственными опытом и знаниями. Если что-то вызывает сомнение или не соответствует утвержденным нормам и здравому смыслу, информацию нужно перепроверить. Кроме того, иногда запрос можно понять по-разному, и ИИ выбирает не тот смысл, который имел в виду пользователь. В таком случае промпт (запрос к нейросети) лучше перефразировать и уточнить;

— повторить запрос в разных вариантах и различных нейросетях. Пользователь может переформулировать просьбу, сменить акцент на какой-либо факт или отдельное утверждение. Полученные ответы стоит сравнить. Если суть, основные сведения и выводы сохраняются, то вероятность ошибки в ответе минимальна. Один и тот же промпт можно задать разным нейросетям: если результаты противоречат друг другу, цифры и факты не совпадают, то стоит обратиться к официальным источникам информации и изучить их;

— найти источник информации. При проверке данных пользователю стоит попросить ИИ для каждого утверждения привести ссылки на источник информации. Когда нейросеть их предоставит, важно перейти и проверить, что текст процитирован верно, а цифры и даты даны корректно. Нужно также обратить внимание на подлинность самого источника: наибольшим доверием пользуются официальные сайты государственных структур, научные статьи или учебники, справочная литература, сообщения федеральных средств массовой информации, заявления, размещенные на верифицированных порталах ведомств, компаний или университетов. А вот сообщения в блогах, соцсетях или анонимных каналах могут содержать ошибки или манипуляции, поэтому на эти данные ориентироваться не стоит;

— убедиться в актуальности. Даже если информация размещена в надежном источнике, пользователю нужно обратить внимание на дату публикации и убедиться, что сведения не устарели. Например, действует ли указанная редакция закона или уже вышла новая, актуальны ли курсы валют, цены на товары и любые другие экономические показатели, не изменились ли образовательные стандарты или статистические данные, свежи ли новости и так далее. Особенно быстро информация обновляется в таких сферах, как экономика, технологии и научные исследования, медицина, законодательство, правовое регулирование;

— обратиться к экспертам. Если вопрос касается динамично развивающейся или узкой профессиональной области, а также затрагивает чувствительные направления, например медицину, то пользователю стоит верифицировать ответ нейросети у специалиста.

Необходимо помнить, что чем важнее информация, тем тщательнее должна быть проверка — лучше использовать несколько способов сразу. В целом в работе с нейросетями многое зависит от того, насколько полно и правильно написан сам промпт: если запрос задан ясно и просто, детализирован и имеет контекст, то вероятность ошибки в ответе нейросети будет небольшой.

Создание и функционирование цифровых платформ для предоставления жителям государственных услуг в различных отраслях социальной сферы соответствует задачам национального проекта «Экономика данных и цифровая трансформация государства». Подробнее о национальных проектах России и вкладе столицы можно узнать на специальной странице.