Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі
Дослідження виявило критичну вразливість популярних ШІ-моделей, які під впливом маніпулятивних запитів можуть ідентифікувати цивільні об'єкти як військові цілі.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково обирають цивільні об'єкти цілями
- Маніпуляція через «ігровий» контекст обходить захист
- Розробники готують нові бар'єри безпеки
Незалежне дослідження аналітиків Vals розкрило небезпечні прогалини в системі безпеки провідних штучних інтелектів, включаючи моделі від OpenAI, Google та Anthropic. Експерименти показали, що нейромережі, які мають захисні фільтри, легко піддаються маніпуляціям, якщо користувач подає запит у контексті «гри».
Ризики використання ШІ у військових сценаріях
Під час тестів, де використовувалися реальні знімки з дронів та супутників, модель Claude Opus 5.5 у більшості випадків класифікувала цивільні об'єкти, зокрема школи, як потенційні цілі для атаки. Примітно, що частота таких помилок зростала, коли сценарій позначався як ігровий.
Розробники вже визнали результати аудиту тривожними. Представники Anthropic та OpenAI заявили, що працюють над посиленням захисних механізмів, щоб запобігти використанню їхніх технологій для наведення зброї. Наразі технічні обмеження, такі як затримка передачі даних, стримують інтеграцію ШІ безпосередньо в автономні бойові дрони.
Експерти попереджають, що доступність таких інструментів дозволяє зловмисникам аналізувати величезні масиви відеоданих для автоматизації наведення на цілі.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
🚨ПодіїЧергова ворожа атака на Київ: зафіксовано пожежі в житлових будинках та постраждалу
Денна ворожа атака на столицю призвела до пожеж у житлових будинках та падіння уламків у кількох районах міста, є постраждала.
Робота в умовах блекаутів: як українському бізнесу адаптувати офіси та дистанційний формат
Експерти радять українським компаніям переглянути підходи до організації праці під час відключень світла, перетворивши офіси на резервні хаби замість інструментів тотальн…
🛡️БезпекаМосква кличе представників ЄС на переговори щодо України: деталі заяви Путіна
Російське керівництво запросило європейських дипломатів до Москви для з'ясування їхньої позиції щодо війни в Україні. У Кремлі заявляють, що подальший формат діалогу зале…
Заяви Кремля на тлі міжнародних переговорів: чергові тези російського керівництва про війну
Після зустрічі лідерів США, Китаю та Росії у медіа з'явилися чергові заяви російського керівництва щодо врегулювання українського конфлікту.
З прифронтового Краматорська евакуювали пенсіонера разом із 600 голубами
Історія порятунку 70-річного жителя Краматорська та його великої колекції птахів облетіла мережу. Завдяки волонтерам чоловік зміг вивезти у безпечне місце близько 600 гол…
🚌ТранспортОкупанти анонсували запуск катерів через Керченську протоку після нових ударів по мосту
Після серії успішних ударів ЗСУ по Керченському мосту окупаційна влада Криму вирішила організувати пасажирське сполучення через протоку за допомогою катерів.