Проект «Перезвони сам»: какую информацию нельзя доверять нейросетям
Генеративный искусственный интеллект становится все более удобным инструментом, который упрощает решение многих профессиональных и бытовых задач. Например, он помогает написать текст письма или документа, составить резюме, разработать план путешествия, подготовить смету ремонта и многое другое. Однако стоит помнить, что публичные нейросети — это общедоступный инструмент. Загружать в них информацию следует с осторожностью. Эксперты проекта «Перезвони сам» рассказали о том, какие правила необходимо соблюдать при использовании искусственного интеллекта, чтобы не допустить утечки важной информации и личных сведений.
«Нейросети не гарантируют конфиденциальности. Они собирают, анализируют, запоминают данные, а затем обрабатывают информацию для различных целей. Например, для дообучения моделей, составления профиля пользователя, подбора персональных рекомендаций. При этом все собираемые системой сведения хранятся на сторонних серверах. Это создает риск их кражи и использования в мошеннических целях. Поэтому не стоит делиться с нейросетями личными, финансовыми, медицинскими и корпоративными данными, а также любой приватной информацией. Каждый раз, прежде чем доверить что-либо генеративным чат-ботам, задавайте себе вопрос: готовы ли вы к тому, что эти сведения станут известны всему интернету», — рассказала Валентина Шилина, руководитель проекта «Перезвони сам» столичного Департамента информационных технологий.
Безопасно общаться с нейросетями помогут несложные рекомендации экспертов проекта «Перезвони сам». Так, при составлении промпта — запроса к искусственному интеллекту — не стоит указывать в нем сведения, позволяющие идентифицировать личность: фамилию, имя и отчество, адрес, паспортные данные, ИНН, контакты и так далее. Особенно внимательно нужно относиться к биометрической информации: отпечаткам пальцев, сканам лица, записи голоса. Эти данные, в отличие от паролей, нельзя заменить. Таким образом, промпт к нейросетям должен быть полностью обезличен — все персональные сведения из него необходимо удалить.
Те же правила — для финансовой информации. В запросах на финансовый план, инвестиционные рекомендации или поиск скидок не передавайте нейросети свои платежные данные: номера карт, реквизиты счетов, детали транзакций, ПИН- и CVV-коды. Не загружайте также изображения карт, счетов и других финансовых документов.
Не стоит отправлять нейросетям и медицинские данные: рентгеновские снимки, выписки из медкарты, рецепты, планы лечения. Кроме риска утечки конфиденциальной информации, здесь есть и другая опасность: искусственный интеллект может ошибочно интерпретировать эти данные, что способно повлиять на лечение, диагноз или даже социальный статус. Необходимо помнить: нейросети не заменяют врача, их ответы — лишь справочная информация, а не руководство к действию.
Чтобы обезопасить свои данные при работе с искусственным интеллектом, эксперты проекта «Перезвони сам» рекомендуют установить на личный компьютер локальную нейросеть. Она функционирует без интернета и обрабатывает запросы прямо на устройстве пользователя. Таким образом, информация не уходит на сторонние серверы, что исключает риск утечки и несанкционированного доступа.
Кроме того, в публичные нейросети нельзя загружать корпоративную информацию: бизнес-планы, базы клиентов, проекты бюджетов, стратегии развития, логистические схемы, условия контрактов. Такие данные являются интеллектуальной собственностью или коммерческой тайной компании. Попадая в нейросеть, они могут быть использованы для дообучения модели, и впоследствии любой пользователь способен получить фрагменты этих документов. Это может обернуться кражей данных и юридическими последствиями. Те же требования предъявляются к информации, попадающей под соглашение о неразглашении. Документ подписывается при приеме на работу, и с этого момента сотрудник несет ответственность за сохранность конфиденциальных данных компании.
Для обработки корпоративной информации эксперты проекта «Перезвони сам» советуют использовать внутренние ИИ-инструменты, которые действуют в защищенном контуре и исключают риск попадания коммерческих сведений в открытый доступ.
Информационный онлайн-проект «Перезвони сам» создан в 2022 году Правительством Москвы совместно с Главным управлением Министерства внутренних дел Российской Федерации по городу Москве. Он помогает жителям столицы уберечь себя и близких от телефонного и интернет-мошенничества. На сайте проекта размещена информация о ближайших очных и онлайн-мероприятиях, а также доступны памятки и рекомендации экспертов, записи уже прошедших вебинаров и другие полезные материалы. Для удобства пользователей записи лекций можно смотреть на сайте проекта, а также на его странице в социальной сети «ВКонтакте» и на Rutube-канале.
Поддержка разработок и внедрение технологий искусственного интеллекта соответствуют задачам национального проекта «Экономика данных и цифровая трансформация государства». Подробнее о национальных проектах России и вкладе столицы можно узнать на специальной странице.