Большие языковые модели собирают всю информацию, которую мы им передаём, и откровенность с чат-ботами может дорого обернуться. Нет таких данных, которые не могли бы выйти за пределы диалога с ChatGPT, DeepSeek, Gemini или другой нейросетью.
Простому пользователю достаточно не забывать о цифровой гигиене, а вот у корпораций есть риск потерять очень чувствительную информацию, рассказали эксперты «Секрету фирмы».
Почему нейросети вызвали тревогу о безопасности данных В феврале 2025 года в Южной Корее заблокировали чат-бот DeepSeek. Агентство по защите персональных данных заявило, что китайская нейросеть передавала данные пользователей и их запросы третьим сторонам без разрешения.
В конце апреля чат-бот разблокировали, а DeepSeek указал, что теперь персональные данные обрабатываются в соответствии с законодательством Кореи.
Однако сама история заставила многих задуматься. Звоночек далеко не первый: в 2023 году компания OpenAI сообщала об утечке данных пользователей ChatGPT — некоторые пользователи могли видеть чужие сообщения, имена, фамилии, электронную почту и платёжные данные подписчиков сервиса.
В том же году специалисты нескольких университетов Европы и США провели исследование уязвимостей чат-бота ChatGPT.
В диалоге ИИ буквально заставили выдать имена, фамилии, номера телефонов, биткоин-адреса, даты дней рождения и даже откровенный контент случайных людей. Это заставляет задумываться о том, насколько вообще безопасным оказывается общение с чат-ботами, которым пользователи, кажется, стали доверять слишком много тайн.
Eduardo Parra/Associated Press/East News Как чат-боты собирают вашу информацию Создатели чат-ботов могут использовать данные пользователей для обучения новых версий своих моделей, отметил руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов.
Обычно информация о том, какие сведения разработчики собирают, как их хранят и обрабатывают, указывается в пользовательском соглашении.
И, конечно, многие принимают его, не читая. Например, в пользовательском соглашении ChatGPT указано, что компания может использовать контент пользователя «для улучшения сервиса».
По умолчанию так и происходит, но OpenAI даёт клиенту право отказаться от этого.
Правда, предупреждает, что «в некоторых случаях это может ограничить возможности» ChatGPT по решению конкретных задач. Все сервисы, которые позволяют нам общаться с большими языковыми моделями, отправляют всю полученную информацию на свои серверы: DeepSeek — на китайские, ChatGPT — на серверы Open AI, и так далее.
Допускаю, что буквально каждая буква, которую вы написали — возможно, даже до того, как нажали на кнопку «отправить», — может оказаться в облаке компании-разработчика чат-бота.
При этом нет таких данных, которые гарантированно не выйдут за пределы чата. Роман Душкин главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ Даже если компании утверждают, что данные анонимизируются, это не всегда исключает риски, согласился директор по инновациям финтех разработчика и интегратора Fork-Tech Владислав Лаптев.
Думаю, ИИ хранит все или почти все загружаемые в него неповторяющиеся данные.
Чем больше у него будет база — тем более релевантные ответы он будет давать.
Например, на первых порах Алиса от «Яндекса» невежливо отвечала пользователям, потому что она как раз дообучалась. Пользователи, которые грубили Алисе, реакциями помогали закрепить ей аналогичный стиль общения и тем самым повлияли на её манеру общения.
Денис Кучеров директор проектов Minerva Result компании Minervasoft Гендиректор АНО «Национальный центр компетенций по информационным системам управления холдингом» (НЦК ИСУ) Кирилл Семион уверен, что утечка чувствительной информации, переданной чат-боту, «100% произойдет».
Но вы, скорее всего, никогда не узнаете, как её используют.
Он заявил, что «с точки зрения сохранения конфиденциальности безопасных моделей просто нет». EAST NEWS Как информация может утечь из чат-бота Владислав Тушканов заметил, что утечки данных могут случиться из-за кибератак, ошибок при проектировании сервиса, в случае компрометации аккаунтов клиентов ИИ-сервисов.
Ещё одной потенциальной причиной утечек данных могут оказаться «сервисы-прослойки».
К ним относятся, например, «неофициальные» Telegram-боты. Ими часто пользуются, если разработчик нейросети ограничил возможность подключения к ней в каком-либо регионе. Или если нужен более удобный интерфейс — часто так обеспечивается доступ сразу к нескольким закрытым моделям через один сервис.
Владислав Тушканов руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» По словам эксперта, не все такие «сервисы-прослойки» предоставляют информацию о политике конфиденциальности.
В «Лаборатории Касперского», например, видели сайт, который давал возможность воспользоваться ChatGPT, но там же была страница, где переписки людей с чат-ботом публиковались в открытом доступе.
Утечка возможна и без взломов и различных мошеннических механизмов. Владислав Лаптев указал, что разговоры с чат-ботом могут просматривать, в частности, рецензенты — сотрудники компаний, отвечающие за модерацию и дообучение моделей.
Они имеют доступ к фрагментам переписок. Кроме того, отметил эксперт, если данные используются в обучении, они могут попасть в «память» модели и при определенных условиях оказаться в ответе другому пользователю — как это и произошло, судя по всему, при исследовании уязвимостей ChatGPT, о котором говорилось выше.
Риски для пользователей от общения с чат-ботом Эксперт Олег Рогов заметил, что пользователи могут случайно раскрыть при общении с чат-ботом паспортные, платёжные данные, конфиденциальную переписку, логины, пароли, медицинские или юридические документы.
Их передавать чат-боту не рекомендуется.
Некоторые малоизвестные ИИ-продукты сохраняют и используют данные для обучения, не соблюдая стандарты 152-ФЗ «О персональных данных» или AI Act — регламента ЕС об искусственном интеллекте.
Такие сервисы могут использовать данные в собственных целях — например, для коммерческого анализа.
Важно внимательно читать правила использования конкретного продукта. Олег Рогов к. ф.-м. н., руководитель лаборатории безопасного искусственного интеллекта SAIL AIRI и МТУСИ Часто пользователи полагают, что общаются с нейтральным ассистентом, но на самом деле оставляют цифровой след.
Владислав Лаптев подчеркнул, что этой информацией в случае её появления в открытом доступе могут воспользоваться напрямую — например, чтобы украсть аккаунт от каких-либо сервисов.
А ещё злоумышленники с помощью взломанных чат-ботов могут выстроить цифровой профиль человека, узнав его интересы, страхи, политические взгляды.
И никто не знает, кто и когда получит к этому доступ. В идеале к чат-ботам стоит относиться как к незнакомцам в интернете и не разглашать в диалогах с ними данные о себе и близких, которыми вы не готовы были бы делиться с незнакомым человеком.
Владислав Тушканов Однако для частных пользователей уровень угроз минимален, уверен эксперт Алексей Карпунин. В этом случае речь идёт скорее об элементе общей цифровой гигиены в отношении использования чувствительной информации в Сети.
IMAGO/Piero Nigro/Global Look Press Какие риски несёт бизнес Эксперты подчеркивают, что когда речь идёт о корпорациях, использование чат-ботов может представлять собой серьёзный риск.
Данные, безопасность которых стоит на кону, могут обернуться финансовыми и репутационными потерями, попав не в те руки. Возможна утечка ноу-хау, бизнес-моделей, внутренних процессов, данных клиентов.
Если сотрудник случайно загрузит в чат персональные данные клиента, это может обернуться нарушением закона и даже уголовной ответственностью.
Поэтому серьёзные компании создают собственную защищённую инфраструктуру, адаптируют открытые модели ИИ под внутренние стандарты и создают безопасную корпоративную среду для их использования. Алексей Карпунин директор по информационным технологиям финансовой группы БКС, основатель академии ИТ-менеджмента IPWK Владислав Тушканов подчеркнул, что к ИИ-системам, которые используются в критичных сценариях, должны предъявляться высокие с точки зрения надёжности и безопасности требования.
Это: повышение цифровой грамотности персонала; обеспечение безопасности ML-инфраструктуры защита от LLM-специфичных атак и т.
д. Эксперт Минцифры Валерий Сидоренко заметил, что загружать чувствительную информацию в чат-боты, созданные зарубежными компаниями с не локализованными в России серверами, обычно просто запрещено внутренними правилами компаний.
Тем более если речь идёт о данных, составляющих государственную или служебную тайну, закрытую корпоративную информацию.
Все большие корпорации, для которых актуальна работа с ИИ, стремятся разработать свои внутренние модели и запрещают сотрудникам использовать чат-боты других корпораций.
Здесь речь идёт о банальном риске «слива» с серверов конкурентов. Службы безопасности во всех корпорациях ведут невидимую борьбу, и, вне всяких сомнений, есть риск доступа конкурентов к чувствительным данным.
Валерий Сидоренко генеральный директор digital-агентства «Интериум», руководитель рабочей группы по выработке подхода к регулированию дипфейков Общественного совета при Минцифры Один из примеров небезопасного использования — загрузка в бот данных корпоративной отчётности до её официального выхода с просьбой сформировать из этого PDF.
Представьте себе ситуацию, при которой ваш конкурент знает, что вы консультируетесь по маркетинговым вопросам с глобальной моделью.
Допустим, он задаст этой модели вопрос о том, какие перспективные направления бизнеса рассматривает ваша компания.
Вы уверены, что ответ не будет основан на сделанных вами запросах? Кирилл Семион Tomasz Kawka/East News Как защитить данные при работе с чат-ботами Владислав Лаптев подчеркнул, что нет универсального способа защиты, но есть набор простых правил, которые сильно снижают риски.
Отключите обучение на ваших данных в настройках, если такая опция есть, или используйте временные чаты, которые не сохраняются.
Не передавайте чат-боту чувствительную информацию о себе и не обсуждайте с ним важную информацию. Деперсонализируйте данные перед загрузкой: меняйте имена, адреса, даты.
Используйте официальные приложения и сервисы нейросетей. Под видом конкретных чат-ботов могут скрываться фишинговые программы. Пользуйтесь надёжными паролями и двухфакторной аутентификацией для аккаунтов в чат-ботах.
Всегда задавайте себе вопрос: «Что случится, если этот текст прочитает посторонний человек?». Если последствия неприятные, это не должно быть в чате с ИИ.
Разворачивайте работу чат-ботов в периметре компании для работы с чувствительной информацией: на своих серверах, желательно отключённых от интернета. Такие модели, как Qwen, DeepSeek, отечественные GigaChat, можно развернуть и на собственных серверах, подчеркнул доцент Школы управления Сколково Пётр Паршаков.
Эксперт Валерий Сидоренко призвал чаще пользоваться российскими решениями, особенно для выполнения внутрикорпоративных задач или работы с данными, — GigaChat, YandexGPT.
Он признаёт, что пока они отстают в техническом плане, но разработчиков российских сетей хотя бы можно будет привлечь к ответственности за утечку данных — в отличие от западных аналогов.
Законодательство ужесточается: с 30 мая 2025 года вступает в силу закон № 420-ФЗ, который вводит «оборотные» штрафы за утечку персональных данных, которые будут зависеть от дохода компании за определенный период.
Если «Яндекс» или «Сбер» получат оборотные штрафы, для них это будут огромные финансовые потери — поэтому внимание ИТ-гигантов к безопасности неизбежно возрастёт.
Валерий Сидоренко.
Рубрика: Бизнес. Читать весь текст на secretmag.ru.
Милонов: хулиганов в масках Человека-паука нужно дегероизировать В российских городах всё больше школьников устраивают флешмобы в масках Человека-паука и провоцируют критику в Сети. Сперва шутки подростков были без...
Живы. Дома: российские бойцы вернулись из украинского плена На родину сегодня ночью вернулись наши бойцы, освобожденные из украинского плена. Самолет с российскими солдатами несколько часов назад приземлился в...
Пьянство, пистолет и балет: как танцор Мариинки терроризирует пивной магазин Исключительно петербургский скандал, связанный с танцовщиком Мариинского театра Давидом Залеевым. В его истории, похоже, есть все: балет, алкоголь, н...
Политический деятель и меценат Игорь Пушкарев Игорь Пушкарев – это имя, которое знакомо каждому, кто следит за политической и деловой жизнью России. Этот выдающийся политик, предприниматель, канд...
Председатель ВЭБ.рф Игорь Шувалов Функционал ВЭБ.РФ регламентируется федеральным законом «О государственной корпорации развития ВЭБ.РФ» и подчинён задаче поддержки экономического разв...
Газонокосилки в Москве в Садтех24 - Уход за участком без усилий
Красивый, ухоженный газон — это не только эстетика, но и отражение заботы владельца о своём участке. И ключевую роль в этом играет качественная т...
ВШ-РемСтройСнаб — надежный партнер в мире металлопроката
Современные строительные и производственные компании сталкиваются с высоким спросом на качественные материалы, быструю логистику и гибкое партнер...
Настоящий монстр пикапов Dodge RAM TRX Dodge RAM TRX – настоящий монстр среди пикапов c самой продвинутой подвеской. В ней установлены амортизаторы Bilstein Black Hawk e2, разработанные дл...
Почему владельцам автомобилей и велосипедов следует перейти на светодиодные индикаторы Безопасность на дорогах напрямую связана с качеством световых сигналов, подаваемых участниками движения. Светодиодные указатели поворота и габаритные...
Valve официально прекратила поддержку CS:GO Компания Valve объявила о прекращении поддержки легендарной игры Counter-Strike: Global Offensive с 1 января 2024 года.С начала нового года компания ...
CS2: борьба за 200 тыс. долларов. Кто победит? В данной статье вы увидите обзор финалистов Elisa Masters Espoо 2023, а также общую информацию по турниру! Турнир Elisa Masters Espoo 2023 – это круп...
Крипта зависла на высоте Влияние на рынок:2Картина рынкаКриптовалютный рынок теряет около 1%, планируя вниз после взлёта во второй половине апреля и плато в самом конце месяц...
Выживет сильнейший: ОПЕК+ подтвердил полный разворот в стратегии Влияние на рынок:3На этой неделе нефть открылась снижением на 4%, после того как ОПЕК+ объявила о намерении увеличить добычу на 411 тыс. баррелей в с...
«Блочные войны» в Колхозном переулке Смоленска: кто прав в «восстании» автовладельцев Бетонные блоки перегораживают проезд в Колхозном переулке в районе домов №№19 и 19а. Smolnarod попытался разобраться в истории соседских «войн&#...
Свидетели по делу экс-главы Гагаринского района Романа Журавлева меняют показания Сразу два ключевых свидетеля, которые на этапе следствия изобличали бывшего главу района, на судебном заседании «забыли» о том, как он оказывал на ни...
Ядерная энергетика и природный газ предлагают быстрый путь к электроснабжению центров обработки данных Объединение небольших модульных реакторов с генераторами природного газа может обеспечить надежное электроснабжение центров обработки данных всего за...
Представлен ювелирный iPhone 16 Pro Max «Взятие Берлина» в честь 80-й годовщины Победы Caviar представил уникальный смартфон в честь 80-й годовщины Победы в Великой Отечественной войне — iPhone «Взятие Берлина». Дизайн телефон...
Настоящий монстр пикапов Dodge RAM TRX Dodge RAM TRX – настоящий монстр среди пикапов c самой продвинутой подвеской. В ней установлены амортизаторы Bilstein Black Hawk e2, разработанные дл...
Почему владельцам автомобилей и велосипедов следует перейти на светодиодные индикаторы Безопасность на дорогах напрямую связана с качеством световых сигналов, подаваемых участниками движения. Светодиодные указатели поворота и габаритные...
Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...
Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...
Valve официально прекратила поддержку CS:GO Компания Valve объявила о прекращении поддержки легендарной игры Counter-Strike: Global Offensive с 1 января 2024 года.С начала нового года компания ...
CS2: борьба за 200 тыс. долларов. Кто победит? В данной статье вы увидите обзор финалистов Elisa Masters Espoо 2023, а также общую информацию по турниру! Турнир Elisa Masters Espoo 2023 – это круп...
Новинка класса Honda Accord проезжает 1600 км с расходом менее 4 л на 100 км и стоит $17 400 (1,4 млн рублей). Представлен седан Geely Galaxy Starshine 8 Компания Geely представила гибридный седан Galaxy Starshine 8, который предложен в семи комплектациях по цене от 17 400 до 22 900 долларов. Автомобил...
Новинка класса Honda Accord проезжает 1600 км с расходом менее 4 л на 100 км и стоит $17 400 (1,4 млн рублей). Представлен седан Geely Galaxy Starshine 8 Компания Geely представила гибридный седан Galaxy Starshine 8, который предложен в семи комплектациях по цене от 17 400 до 22 900 долларов. Автомобил...
"Никто не забыт. Ничто не забыто". Алсу, Татьяна Навка, Алла Пугачёва, Ксения Собчак и другие звёзды поздравили россиян с Днём Победы В России сегодня отмечается 80-й День Победы в Великой Отечественной войне. По такому случаю многие звёзды, включая Светлану Бондарчук, Алину Загитов...
"Видимся редко, но воспитаны они неплохо". Игорь Петренко рассказал, как складывается его общение с детьми от Екатерины Климовой 47-летний Игорь Петренко дал интервью журналу "7 дней" и рассказал, как складывается его общение с детьми от Екатерины Климовой — у пары двое общих с...
Алонсо уходит из «Байера» в «Реал», победы Медведева и Мирры Андреевой в Риме, Вендел пропустит остаток сезона, «Бавария» договорилась с Виртцем и другие новости 1. Алонсо объявил об уходе из «Байера» по окончании сезона. Тренер согласовал 3-летний контракт с «Реалом», «Мадрид» заплатит «Байеру» 12+ млн евро з...
ЧМ по хоккею 2025. Дания проиграла США, Швеция забила 5 голов Словакии, Чехия обыграла Швейцарию, Финляндия победила Австрию Чехия обыграла Швейцарию (5:4 ОТ), Финляндия победила Австрию (2:1), Швеция одержала победу в матче со Словакией (5:0), Дания проиграла США (0:5). Сб...
Жители Брянска продолжают страдать от огромных очередей в больницах Очередной пример деградации социальной сферы нашего региона вновь попал в медиа сферу. Сообщество «Подслушано Брянск» опубликовало пост следующего со...
Богомаз сообщил о возможной гибели посевов в Брянской области По прошедшей стремительную деградацию экономике региона может быть нанесен серьезный удар из — за похолодания в этом апреле. Дело в том, что из...
Чемпионат Италии. «Лацио» принимает «Ювентус», «Интер» и «Наполи» проведут матчи в воскресенье В пятницу «Милан» победил «Болонью» (3:1). В субботу «Ювентус» сыграет в гостях с «Лацио». В воскресенье «Интер» встретится на выезде с «Торино», «На...
Календарь Кубка мира по биатлону сезона-2025/26: первый этап стартует в Эстерсунде в ноябре Кубок мира по биатлону-2025/26 Календарь соревнований 1-й этап Эстерсунд, Швеция 29 ноября – 7 декабря 29 ноября – эстафеты, мужчины и женщины 30 ноя...
Компания Roborock анонсировала в России новинку 2025 года — Roborock F25 Компания Roborock объявила о запуске в России новой линейки пылесосов с функцией влажной и сухой уборки — серии F25. Благодаря мощным и интеллектуаль...
Гаджеты недели 5 мая 2025 года Предлагаем вашему вниманию: Volonaut Airbike — полеты в стиле «Звездных войн»; самобалансирующийся моноцикл Джеймса Брутона; проводны...
Лукьянов: Москва сделала элегантный ход в ответ на ультиматум Европы и Киева Президент России Владимир Путин сделал «элегантный ход» в ответ на «ультиматум» Украины и Европы, заявил политолог Федор Лукьянов, комментируя предло...
Путин указал на саботирование Киевом инициатив по прекращению огня Россия не раз выступала с инициативами по прекращению огня, но Киев их саботировал, как произошло и с объявленным на День Победы перемирием, заявил п...
Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...
В каком возрасте можно определить нарушение прикуса Нарушение прикуса — это достаточно распространенная проблема, которая может возникать по различным причинам и оказывать серьезное влияние как на здор...
«Севилья» о штурме фанатами клубной базы: «Осуждаем вандализм. Отвратительные действия от банды радикалов. Обратимся в полицию» Ранее стало известно, что фанаты «Севильи» штурмовали клубную базу, желали смерти президенту, метали яйца в автобус с командой после поражения от «Се...
Медиалига подарит свыше 2 млн рублей всем шести живым ветеранам ВОВ из Красногорска. Деньги выручат на аукционе ретро-форм – 4-й тур команды выступают в ретро-формах. Это инициатива лиги или команд? – Ретро-формы – наша инициатива, чтобы аудитория соприкоснулась с Днем По...
В сети появились рендеры Sony Xperia 1 V Мы надеемся, что Xperia 1 V уже не за горами. По-прежнему существует определенная вероятность того, что телефон появится на выставке MWC в Барселоне ...
Samsung показала Galaxy S23 и S23+ с обновленным дизайном Вслед за Galaxy S23 Ultra сегодня показали и обновление базовых моделей Galaxy S. И хотя Samsung улучшила основные аппаратные и программные функции, ...
Дзюба об ассисте с «Ахматом»: «Для меня два сегодня. Если вратарь отбивает и тут же добивание – голевая считается во всем мире» В воскресенье «Акрон» дома обыграл грозненцев (3:2) в матче 28‑го тура Мир РПЛ. Дзюба отметился результативной передачей на 49-й минуте игры и был пр...
Чемпионат Испании. «Барселона» против «Реала», «Атлетик» сыграет с «Алавесом», «Эспаньол» уступил «Леганесу» В пятницу «Лас-Пальмас» проиграл «Райо Вальекано» (0:1). В субботу «Жирона» на своем поле уступила «Вильярреалу» (0:1), «Атлетико» благодаря покеру А...
История консолей PlayStation — от 32-битной PS1 до актуальной PS5 История PlayStation неразрывно связано с эволюцией игровой индустрии и технологий. В этом материале расскажем обо всех стационарных консолях под этим...
Tecno анонсировала HiOS 15 с новым интерфейсом и функциями ИИ Компания Tecno анонсировала HiOS 15 — следующее крупное обновление фирменной оболочки на базе ОС Android. Прошивка предлагает редизайн пользовательск...
Lolzteam Market — Точка входа в цифровой мир с гарантией и автоматикой
Аккаунт стал полноценным товаром: доступ к любимым играм, сервисам, мессенджерам и платформам нередко требует не только времени, но и вложений. И...
Слив фото через форум Lolzteam
Вопрос приватности становится все более острым. Один из самых обсуждаемых и тревожных трендов — слив личных фотографий через даркнет-форумы, таки...