Информационные вопросы об ИИ и бизнесе

Ваши данные в опасности: как ИИ находит слабые места в системе безопасности

Мир цифровой безопасности стоит на пороге нового кризиса. После десятилетий борьбы с фишингом, слабыми паролями и утечками данных индустрия нашла решение в виде паролей (passkeys) — криптографического механизма, который обещает более высокий уровень защиты при меньшем количестве проблем. Apple, Google и Microsoft дружно внедряют эту технологию, банки и ритейл уже перешли на неё.

Но есть проблема: система построена для людей, а не для искусственного интеллекта. И вот здесь начинаются настоящие сложности.
Зачем нужны пароли
Пароли заменяют классические пароли криптографической парой:

  • Открытый ключ хранится на сервере;
  • Закрытый ключ остаётся на устройстве пользователя, защищённый биометрией.

Такой механизм исключает фишинг и значительно упрощает жизнь пользователям. Но модель предполагает, что у каждого «пользователя» есть устройство.
Где появляется ИИ
И-агенты не могут использовать Face ID, отпечаток пальца или iCloud. Для выполнения рабочих процессов им нужны учётные данные — и компании часто передают им доступ людей. Это превращается в огромный риск:

  • агент получает человеческие привилегии,
  • может создавать субагентов и передавать им данные,
  • в случае компрометации последствия будут катастрофическими.
Повторение старых ошибок
История кибербезопасности уже знает примеры, когда «хорошие практики» оборачивались угрозой. Ротация паролей и многофакторная аутентификация поначалу вызывали сопротивление, но со временем стали стандартом. Теперь похожая ситуация возникает с паролями: они решают одни риски, но открывают новые.
Почему это опасно для бизнеса
Компании сталкиваются с тремя ключевыми угрозами:
  1. Операционный риск — сбои и ошибки из-за некорректного использования учётных данных.
  2. Проблемы с комплаенсом — невозможно отследить, кто именно выполнял действие: человек или агент.
  3. Безопасность — один взломанный агент = полный доступ к данным учётной записи.
Как исправить ситуацию
Чтобы пароли не стали новым источником уязвимостей, нужны принципиально новые подходы:
  • Идентификаторы для ИИ-агентов — отдельные криптографические ключи, не связанные с человеческими.
  • Авторизация по намерениям — доступ не к учётной записи, а к конкретной задаче.
  • Жёсткое управление — контроль обмена данными и строгий аудит действий агентов.
Пароли стали долгожданным шагом вперёд в безопасности, но в мире, где всё больше задач выполняют ИИ, они могут превратиться в ахиллесову пяту. Если индустрия не изменит подход к идентификации, компании рискуют столкнуться с катастрофами в машинных масштабах. Очень важно использовать проверенные сервисы, такие как Komanda.ai: у нас все данные шифруются, хранятся только на российских серверах и каждый день создаются резервные копии. Информация каждого пользователя надежно изолируется, никто посторонний не получит к ней доступа. Плюс сервис строго соблюдает законы о персональных данных — все по-честному и прозрачно.
Источник: AI Forbes
Преимущества ИИ для компании