«Компании не боятся ИИ, они боятся потери контроля. Генеративный ИИ, особенно на основе публичных моделей, создает непрозрачные каналы утечки корпоративной информации, которую нельзя отследить обычными DLP. Проблема не в том, чтобы запретить использование — его уже не остановить. Проблема в том, чтобы встроить его в корпоративную среду так, чтобы компания оставалась владельцем своих данных и … Читать далее
Мы привыкли, что цифровая безопасность, это про пароли, шифрование и вирусы. Между тем, один из самых древних способов идентификации человека, подпись, оказалась невероятно уязвимой для атаки. ИИ научился смотреть на один-единственный образец, например, на фото паспорта в мессенджере, и генерировать бесконечное количество идеальных, неуловимых человеческому глазу копий. Эта технология уже доступна, и она кардинально меняет … Читать далее
«Подпись, это не уникальный почерк, а паттерн, который можно разложить на векторы. ИИ делает это лучше человека, потому что видит не образ, а математику движения. Одна фотография паспорта, это уже достаточный датасет.» От уникального жеста к набору параметров Человек воспринимает подпись как цельный визуальный образ или как мышечную память руки. Для нейросети, обученной на генерации … Читать далее
То, что ты не управляешь промптом — он управляет тобой. Или, что ещё хуже, тем, кто попросит модель сделать что-то от твоего имени. Prompt injection, это не баг в ИИ, это фундаментальная проблема доверия к любому приложению, которое встраивает языковые модели. Это не про ломку бота, а про получение контроля над бизнес-логикой, которая этому боту … Читать далее
Cursor AI собрал $2.3 млрд инвестиций, оценён в $29 млрд, выручка перешагнула $1 млрд в год. Бесплатный тариф устроен так, что активный разработчик выбивает его лимиты за один рабочий день. Это не недоработка, это осознанная бизнес-модель. В статье разбираем всё честно: что дают бесплатно, как работают ограничения под капотом, что придумало сообщество для обхода, куда … Читать далее
«Рукописная подпись давно перестала быть надежной защитой, но мы всё ещё слепо доверяем её в критичных сделках. Прорыв в области генеративно-состязательных сетей позволяет создать твою идентичную подпись, имея всего одно её изображение из паспорта, а для ИИ, который тренировался на миллионах чужих росчерков, это дело нескольких минут. Наша система безопасности зиждется на артефакте прошлого, а … Читать далее
“Машинный перевод для международного сотрудничества по безопасности, это не только перевод. Это вопрос доверия к алгоритмам, который решается чёткой постановкой задачи, правильным выбором модели и жёстким протоколом проверки.” Зачем безопасникам глубокое понимание машинного перевода Когда речь идёт о совместном расследовании инцидента с зарубежными партнёрами, переписка по почте или в мессенджере, это первый барьер. Формулировки в … Читать далее