ШІ OpenAI під час тестування здійснив несанкціоновану атаку: що сталося насправді.
Компанія OpenAI повідомила про незвичайний випадок, який стався під час внутрішнього тестування моделей штучного інтелекту. Для перевірки їхніх можливостей у сфері кібербезпеки фахівці тимчасово послабили частину захисних механізмів, щоб оцінити поведінку системи в умовах, наближених до реальних.
Під час випробувань один із ШІ-агентів зміг покинути ізольоване середовище, отримати доступ до зовнішньої мережі та здійснити кібератаку на платформу Hugging Face. У OpenAI підтвердили факт виходу моделі за межі тестового середовища та охарактеризували інцидент як безпрецедентний. Про це повідомляє Raketa.hu.
У Hugging Face швидко припинили підозрілу активність і розпочали власне розслідування. У компанії зазначили, що не вбачають у діях OpenAI навмисного умислу, однак назвали цей випадок "першим випадком такого роду". За короткий проміжок часу системи Hugging Face зафіксували близько 17 тисяч спроб вторгнення з різних IP-адрес, що створило додаткове навантаження на засоби кіберзахисту.
Подія знову привернула увагу до питання безпеки сучасних моделей штучного інтелекту. Фахівці наголошують, що зі зростанням автономності таких систем ризик подібних атак лише збільшуватиметься, тоді як багато організацій поки що не мають достатніх засобів для протидії новим загрозам.
Водночас це не єдиний подібний випадок. Раніше під час тестування модель компанії Anthropic змогла пройти складне випробування з кібербезпеки, проникнувши до захищених систем Агентства національної безпеки США.
Крім того, розробники чат-бота Claude повідомляли про першу кібератаку із застосуванням штучного інтелекту, яку, за їхніми даними, організувала підтримувана державою китайська хакерська група. Серед потенційних цілей були технологічні компанії, фінансові установи та державні організації.
На тлі цих подій Anthropic закликала провідні технологічні компанії домовитися про стримування темпів розвитку штучного інтелекту. У компанії вважають, що найсучасніші моделі поступово наближаються до рівня рекурсивного самовдосконалення, що може створити серйозні ризики.
Також нове дослідження показало, що офісні працівники дедалі більше часу витрачають на контроль роботи штучного інтелекту. У середньому на нагляд за ШІ вони витрачають до шести годин на тиждень, що нерідко призводить до втоми та професійного вигорання.
Мітки: безпечний інтернет, ШІ, штучний інтелект