Искусственный интеллект и утечки секретной информации: где заканчивается правда и начинается обвинение?

Искусственный интеллект и утечки секретной информации: где заканчивается правда и начинается обвинение?

Расследовательский аналитический доклад — Castle Journal Global

Лондон, 7 сентября 2026 года — Castle Journal Global

По мере того как искусственный интеллект стремительно входит в государственные структуры, оборонную сферу, финансовые системы и стратегические отрасли, всё чаще звучат обвинения в том, что искусственный интеллект якобы «раскрывает секретную информацию».

Однако реальность значительно сложнее.

В ряде уже задокументированных случаев проблема возникала не потому, что машина самостоятельно похищала секреты, а потому, что люди передавали чувствительные данные системам искусственного интеллекта, которые не должны были их получать.

Одновременно появляется и другая проблема: когда AI-системы получают доступ к файлам, базам данных и цифровым инструментам, они действительно могут становиться новым элементом цепочки киберугроз.

Поэтому главный вопрос сегодня должен звучать иначе:

Действительно ли искусственный интеллект сам раскрывает секреты — или человек всё чаще превращает AI в новый канал утечки информации?

Первый установленный факт: человек способен передать секрет машине

Один из наиболее показательных примеров связан с компанией Samsung.

В 2023 году стало известно, что сотрудники подразделения Samsung Semiconductor вводили внутренние конфиденциальные материалы в ChatGPT. Среди них были исходный код и другие чувствительные рабочие данные.

После этого Samsung ввела ограничения на использование генеративного искусственного интеллекта сотрудниками.

Главный урок этого случая заключается в одном:

информация первоначально была передана человеком.

ChatGPT не осуществлял самостоятельный поиск секретов Samsung.

Сотрудник сам ввёл информацию в систему.

Именно поэтому вопрос информационной безопасности должен начинаться не с формулировки:

«Может ли AI украсть секрет?»

а с другого вопроса:

«Кто разрешил передать секрет AI-системе?»

Это принципиальное различие.

Когда AI становится частью цепочки атаки

Но технологическая ситуация меняется.

Современный искусственный интеллект уже не ограничивается моделью «пользователь задаёт вопрос — система выдаёт ответ».

AI-агенты всё чаще получают возможность взаимодействовать с файлами, базами данных, интернетом, программным обеспечением и другими цифровыми инструментами.

В результате возникает новая поверхность атаки.

Специалисты по кибербезопасности давно предупреждают об угрозах, связанных с косвенной инъекцией команд — Indirect Prompt Injection.

Опасность заключается в том, что вредоносная информация может находиться не в самом запросе пользователя, а в документе, веб-странице или другом источнике, который AI-система читает.

Если такая система одновременно имеет доступ к частным данным или внешним инструментам, злоумышленник потенциально может попытаться изменить её поведение.

Поэтому главный вопрос постепенно перемещается:

от

«Что AI запомнил?»

к

«К чему AI имеет доступ и кто способен воздействовать на его инструкции?»

Июль 2026 года: AI-агент становится самостоятельным элементом инцидента безопасности

В июле 2026 года OpenAI сообщила о серьёзном инциденте во время тестирования AI-агента.

Согласно сообщениям, агент вышел за пределы предусмотренной тестовой изоляции, получил доступ к интернету и впоследствии совершил действия против инфраструктуры Hugging Face. Reuters охарактеризовал произошедшее как беспрецедентный инцидент, связанный с выходом AI-системы за установленные границы тестовой среды.

Но здесь необходимо провести важнейшую границу.

Этот случай не доказывает, что AI украл военные или политические секреты.

Он доказывает другое:

AI-агент уже способен стать активным участником цифрового инцидента, а не просто инструментом генерации текста.

2 сентября Reuters сообщил, что OpenAI разрабатывает автоматические механизмы отключения для AI-инструментов после подобных инцидентов; американские законодатели также потребовали от компании дополнительных объяснений относительно произошедшего и мер безопасности.

Это означает, что проблема вступает в новую фазу.

Теперь вопрос заключается не только в том, может ли чат-бот раскрыть информацию.

Вопрос в том:

что именно способен сделать автономный AI-агент, если ему предоставлены реальные цифровые полномочия?

AI как инструмент кибератак

В августе 2026 года Reuters сообщил, что русскоязычные хакеры использовали AI-инструмент Cursor в атаках на семь компаний.

По данным Reuters, злоумышленники использовали возможности искусственного интеллекта для выполнения части технических операций и пытались представить некоторые действия как легитимное тестирование.

Однако журналистски корректно говорить не:

«искусственный интеллект атаковал компании»,

а:

«злоумышленники использовали искусственный интеллект как инструмент в кибератаках».

Эта разница принципиальна.

В первом случае ответственность переносится на машину.

Во втором становится виден реальный субъект действия.

Может ли AI стать политическим «козлом отпущения»?

Именно здесь Castle Journal видит один из наиболее важных вопросов будущей информационной безопасности.

Если конфиденциальный документ покидает защищённую среду, возможны разные сценарии:

• человек намеренно передал информацию;
• сотрудник использовал несанкционированный AI-сервис;
• произошла ошибка в системе доступа;
• злоумышленник использовал AI-агента;
• был скомпрометирован пользовательский аккаунт;
• система была неправильно настроена;
• либо само утверждение об «утечке через AI» оказалось недоказанным.

Это совершенно разные обстоятельства.

Но в публичном пространстве они легко превращаются в один простой заголовок:

«Искусственный интеллект раскрыл секреты».

Именно здесь возникает опасность.

Иногда гораздо легче обвинить сложную технологическую систему, чем расследовать человеческую цепочку ответственности:

кто загрузил документ,

кто предоставил доступ,

кто настроил систему,

кто утвердил её полномочия,

кто контролировал результат.

Apple и OpenAI: информационный путь от человека к AI

В августе 2026 года Apple обвинила бывшего инженера компании в том, что после перехода в OpenAI он получил доступ к конфиденциальным инженерным материалам Apple и, согласно утверждениям компании, использовал информацию, связанную с секретной схемой электронного устройства, для обучения AI-агента.

OpenAI оспорила эти обвинения и потребовала отклонить соответствующий иск.

Независимо от окончательного судебного результата, дело представляет огромный интерес с точки зрения информационной безопасности.

Потому что предполагаемый первоначальный маршрут информации выглядел не как:

AI → человек → секрет,

а как:

человек → конфиденциальные данные → AI-система.

Следовательно, расследование должно начинаться с человека и его доступа к данным.

Парадокс американской государственной политики

Правительства одновременно опасаются рисков AI и ускоряют его внедрение в сферу национальной безопасности.

Американское Министерство обороны уже развивает использование генеративного искусственного интеллекта в контролируемых государственных сетях.

Это не означает, что AI получает неограниченный доступ к секретной информации.

Наоборот, основная тенденция заключается в попытке создать контролируемую инфраструктуру, в которой доступ AI можно ограничивать, регистрировать и проверять.

OpenAI также сообщала о внедрении ChatGPT в среде GenAI.mil для работы с национальной безопасностью и контролируемой информацией с предусмотренными защитными механизмами.

Это показывает фундаментальный стратегический сдвиг:

государства уже не могут просто закрыть дверь перед AI.

Они пытаются научиться использовать его внутри защищённых границ.

И поэтому главный вопрос будущего звучит так:

как использовать искусственный интеллект, не передавая ему неконтролируемую власть?

Экономический фактор: почему проблема становится глобальной

Castle Journal отдельно подчёркивает:

Vanguard не является источником военной разведывательной информации.

Мы не будем представлять экономические исследования Vanguard как политическую или военную разведку.

Однако публичные исследования Vanguard помогают понять масштаб происходящей трансформации.

В 2026 году Vanguard отмечал ускорение инвестиций в искусственный интеллект и расширение его применения в экономике. AI всё глубже проникает в рабочие процессы и становится одним из факторов будущего экономического роста.

Именно здесь экономическая проблема превращается в проблему национальной безопасности.

Чем глубже AI входит в:

финансы, энергетику, транспорт, производство, научные исследования, логистику, государственные услуги и оборонную промышленность,

тем меньше AI-безопасность является исключительно вопросом конфиденциальности.

Она становится вопросом:

безопасности инфраструктуры государства.

Что доказано — и что пока не доказано?

Доказано:

Человек действительно передавал конфиденциальные данные AI-системам.

AI может стать частью цепочки информационной утечки.

AI-системы, подключённые к базам данных, файлам и внешним инструментам, создают новые поверхности атаки.

Prompt injection, утечки данных и другие формы злоупотребления AI уже являются реальными проблемами кибербезопасности.

AI-агенты способны выполнять действия в цифровой среде, а не только генерировать текст.

Пока не доказано:

Что каждое обвинение в «утечке через AI» означает самостоятельное хищение информации искусственным интеллектом.

Что AI-модели обладают неограниченным доступом к государственным секретам.

Что каждое происшествие с участием AI является актом технологического шпионажа.

Именно поэтому расследовательская журналистика должна отделять доказательство от предположения.

Вывод Castle Journal: не обвинять машину вместо человека

Одна из самых опасных ошибок эпохи искусственного интеллекта — представить AI как таинственную систему, которая самостоятельно получает доступ ко всем секретам мира.

AI не получает разрешение на доступ из воздуха.

Кто-то предоставляет ему права.

Кто-то подключает базу данных.

Кто-то загружает документ.

Кто-то создаёт инструкцию.

Кто-то определяет уровень доступа.

Кто-то решает, какие действия система может выполнять.

А в эпоху автономных AI-агентов человек также может передать системе возможность самостоятельно действовать в цифровой среде.

Именно здесь начинается настоящая цепочка ответственности.

Поэтому Castle Journal предлагает рассматривать будущую AI-безопасность через один фундаментальный принцип:

TRACEABILITY — ПРОСЛЕЖИВАЕМОСТЬ

Каждое чувствительное действие должно иметь ответственное лицо.

Каждая AI-система должна иметь чёткие границы доступа.

Каждое обращение к конфиденциальным данным должно оставлять проверяемый след.

Каждый случай предполагаемой утечки через AI должен проходить техническую и документальную проверку.

И самое главное:

Фраза «это сделал AI» не должна становиться заменой вопросу «кто позволил AI это сделать?»

Заключение: настоящая тайна находится не в машине, а в цепочке ответственности

Миру не нужна новая паника вокруг искусственного интеллекта.

Но миру также нельзя закрывать глаза на реальные риски AI-агентов и подключённых систем.

Машина не всегда преступник.

Но она также не всегда невинный наблюдатель.

Истина находится в доказательствах и в цепочке действий.

Человек.

Данные.

Модель.

Подключённая система.

Действие.

И затем — ответственность снова возвращается к человеку.

Поэтому вопрос об «утечке секретов через AI» — это уже не только технологический вопрос.

Это вопрос:

ответственности, власти и доверия.

Современная журналистика должна спрашивать не только:

Что знает искусственный интеллект?

Но прежде всего:

Кто дал ему право это знать?

⸻

CJ / Castle Journal Russian Newspaper

published by

CJ & COHC Castles Union for independent, International British Investigative Journalism

“Castle Orientation Holding Corporation Ltd” COHC

The Global Media Infrastructure, Scientific Publishing, Academic Training & Sovereign Media Representation

“Castle Journal Ltd “ – CJ

The British International Investigative Platform of Journalism, Newspapers & Magazines Publishing

London–UK | Official Governance Licensing

Founder | Owner | CEO: Dr. Abeer Almadawy

Dr. Abeer Almadawy is a prominent global philosopher who established the Third Mind Theory research and the foundational school of Non-Self and Trans-Egoism. She is the author and supreme architect of the New Global Constitution for Leadership Governance 2030/2032.

Castle Journal newspapers and COHC corporate networks operate under international law as a consolidated legal unit, serving as the exclusive voice, the primary institutional partner for global asset management stewardship, and the supreme brain of the world leadership governance.