Исследователи из Стэнфорда создали ИИ-бота под названием Artemis, который способен сканировать сети на наличие уязвимостей в программном обеспечении. В недавнем эксперименте, проведённом на инженерной сети университета, Artemis превзошёл девять из десяти профессиональных тестировщиков проникновения.

Эволюция ИИ в кибербезопасности

Эксперимент показал, как быстро улучшились инструменты для взлома на базе ИИ после нескольких лет разочаровывающих результатов. По словам исследователя по кибербезопасности Джастина Лина, первоначально ожидалось, что Artemis будет выступать ниже среднего уровня. Однако бот смог находить уязвимости по стоимости ниже 60 долларов в час, тогда как услуги профессиональных тестировщиков стоят от 2000 до 2500 долларов в день.

Недостатки и успехи Artemis

Несмотря на впечатляющую производительность, Artemis допустил ошибки. Около 18% его отчётов об ошибках оказались ложными, и он пропустил очевидную уязвимость на веб-странице, которую заметили большинство человеческих тестировщиков. В одном случае бот нашёл ошибку на устаревшей странице, которая не отображалась в стандартных браузерах, используя командную строку Curl, а не Chrome или Firefox.

Риски и перспективы

Дэн Бонех, профессор компьютерных наук Стэнфорда, отметил, что большое количество программного обеспечения, выпущенного без проверки с помощью больших языковых моделей, теперь может находиться под угрозой. Якоб Кляйн, глава отдела разведки угроз в компании Anthropic, подчеркнул, что мы находимся в моменте, когда многие акторы могут значительно увеличить свою продуктивность в поиске уязвимостей.

Эксперимент с Artemis открывает новые горизонты в области кибербезопасности, показывая, что технологии искусственного интеллекта могут стать мощным инструментом в обнаружении уязвимостей, хотя и требуют дальнейших улучшений.