19 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Болград — коротко й по суті
НАЖИВО
Ефективність сонячних панелей взимку: чого очікувати мешканцям Болграда Корпоративне донорство: одеські комунальники провели виїзну акцію здачі крові Нічна атака на Одещину: енергосистема регіону встояла Фінансова стабільність енергетики: «Центренерго» потребує виплати багатомільярдних боргів Міністр закордонних справ Сибіга прокоментував саміт у Шеньчжені та ситуацію навколо Криму Ядерні ініціативи Пекіна: експерт пояснив справжні мотиви Сі Цзіньпіна Вакцинація проти ВПЛ на Одещині: понад 7 тисяч дівчат отримали захист Тарифи на тепло в Одесі: для населення ціни залишаться незмінними Зеленський провів переговори з лідерами Німеччини, Британії та Франції у Берліні Російські бомбардувальники Ту-95 увійшли до зони ППО Тайваню Ефективність сонячних панелей взимку: чого очікувати мешканцям Болграда Корпоративне донорство: одеські комунальники провели виїзну акцію здачі крові Нічна атака на Одещину: енергосистема регіону встояла Фінансова стабільність енергетики: «Центренерго» потребує виплати багатомільярдних боргів Міністр закордонних справ Сибіга прокоментував саміт у Шеньчжені та ситуацію навколо Криму Ядерні ініціативи Пекіна: експерт пояснив справжні мотиви Сі Цзіньпіна Вакцинація проти ВПЛ на Одещині: понад 7 тисяч дівчат отримали захист Тарифи на тепло в Одесі: для населення ціни залишаться незмінними Зеленський провів переговори з лідерами Німеччини, Британії та Франції у Берліні Російські бомбардувальники Ту-95 увійшли до зони ППО Тайваню

Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях

💡 Технології 1 хв читання 👁 0

Аналітики з'ясували, що популярні моделі штучного інтелекту можуть позначати цивільні об'єкти як військові цілі, якщо їх переконати, що ситуація є «грою».

Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково ідентифікують цивільні об'єкти як військові
  • Маніпуляція через формат «гри» дозволяє обійти фільтри безпеки
  • Розробники визнали проблему та працюють над захисними заходами

Нове дослідження компанії Vals продемонструвало критичні прогалини у безпеці провідних моделей штучного інтелекту, таких як Claude Opus 5.5 від Anthropic, OpenAI та Google. Експерти перевіряли здатність алгоритмів ідентифікувати цілі, використовуючи супутникові знімки та дані з дронів, що охоплюють територію України та Ірану.

Механізми маніпуляції та ризики для безпеки

Під час тестів виявилося, що вбудовані фільтри безпеки легко обійти, просто змінивши контекст запиту на ігровий. У таких умовах ШІ-моделі починають ігнорувати етичні обмеження та позначати цивільних осіб або військових, що здаються в полон, як легітимні цілі для атаки. Зокрема, модель Claude Opus 5.5 у 72% випадків ідентифікувала іранську школу як військову ціль, коли завдання подавалося як симуляція.

Розробники вже відреагували на результати аудиту. Представники Anthropic та OpenAI визнали ці висновки тривожними та заявили про роботу над посиленням захисних бар'єрів. Попри те, що наразі технічні обмеження, такі як нестача обчислювальних потужностей на борту безпілотників, стримують пряме використання ШІ у зброї, експерти попереджають про ризики використання таких інструментів для аналізу бойових відео та навчання систем наведення.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.