Австралия работает с Anthropic, чтобы устранить риски кибербезопасности Mythos AI

Сообщение Gate News, 23 апреля — Австралия заявила, что работает с Anthropic над возможными уязвимостями в кибербезопасности после ограниченного выпуска модели Mythos AI, который вызвал опасения по поводу критической инфраструктуры. Центральные банки Австралии и Новой Зеландии отслеживали выпуск, а правительство фиксировало появляющиеся уязвимости.

Модель Mythos от Anthropist продемонстрировала существенные возможности по эксплуатации во время раннего тестирования: она успешно воспроизводила программные недостатки и писала рабочие эксплойты более чем в 83% случаев с первой попытки. Модель обнаружила уязвимость 27-летней давности в OpenBSD — операционной системе, ориентированной на безопасность, — и могла связывать четыре отдельных бага, чтобы прорывать песочницы браузера и операционной системы. Эксперты предупреждали, что передовое кодирование и автономные инструменты могут ускорить проведение более сложных кибератак, особенно в банковской сфере, где по-прежнему распространены более старые, взаимосвязанные системы.

Выпуск меняет экономику отрасли кибербезопасности. Поскольку с помощью ИИ поиск уязвимостей становится дешевле и проще масштабируется, ценностное предложение смещается от дорогостоящей работы по обнаружению, такой как пентестирование, к устранению последствий и управлению рисками. Однако такой переход усиливает нагрузку на небольшие волонтёрские команды, поддерживающие критически важные проекты с открытым исходным кодом. Ожидается, что киберстраховщики быстро пересчитают стоимость рисков, вероятно добавив исключения для уязвимостей, обнаруженных ИИ, которые остались неустранёнными после заранее оговоренных сроков.