IT-департамент ХМАО назвал нейросети угрозой безопасности региона

В Ханты-Мансийском автономном округе (ХМАО) прогнозируется увеличение числа кибератак с использованием технологий искусственного интеллекта (ИИ). Особую опасность представляют нейросети ChatGPT и Gemini. Жители региона активно используют эти системы для решения рабочих задач, что создает риск утечки конфиденциальной информации. Такие выводы содержатся в отчете, подготовленном для документа согласия Совета законодателей Тюменской области, ХМАО и Ямало-Ненецкого автономного округа (ЯНАО). По данным департамента информационных технологий округа, злоумышленники все чаще прибегают к помощи ИИ-ботов. Эти «помощники» незаметно записывают конфиденциальные разговоры, которые ведутся на служебных совещаниях через мобильные устройства, а затем передают полученные данные третьим лицам. Кроме того, мошеннические боты могут собирать информацию из внутренних систем и электронной почты, формируя большие массивы данных. Это может привести к перегрузке информационной инфраструктуры региона, сообщает NEFT. Особое беспокойство вызывают нейросети, такие как ChatGPT и Gemini. В ходе взаимодействия с ними пользователи раскрывают конфиденциальную информацию, которая сохраняется в журналах моделей. Еще одна угроза связана с автономными атакующими ИИ-агентами, такими как WormGPT и FraudGPT. Эти системы действуют как «кибернаемники»: самостоятельно создают вредоносное программное обеспечение, сканируют сети и усиливают атаки практически без участия человека. В отчете также подчеркивается опасность использования ИИ для социальной инженерии. Нейросети способны создавать убедительные дипфейки, подделывая голос и видео. Это может привести к утечке информации. Злоумышленники, используя поддельные данные, могут обойти системы защиты и управлять инфраструктурой, вплоть до изменения или блокировки информации. Документ также отмечает, что кадровый вопрос остается слабым звеном в области информационной безопасности. В муниципальных и бюджетных учреждениях не хватает квалифицированных специалистов, а их зарплаты не соответствуют объему выполняемой работы и уровню ответственности. Тем не менее, принятые меры позволяют сдерживать текущие угрозы.