21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Марганець — коротко й по суті
НАЖИВО
На Чернігівщині відновили понад половину пошкоджених медичних закладів Що робити, якщо смартфон потрапив у воду: 4 поширені помилки, яких варто уникати ЄС спрямує 1 млрд євро на посилення оборони України: деталі допомоги Фінансовий дисбаланс: витрати ЄС на російські енергоресурси перевищили допомогу Україні Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні, десятки поранених Зеленський наголосив на законності ударів по Кримському мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина частково знеструмлена На Чернігівщині відновили понад половину пошкоджених медичних закладів Що робити, якщо смартфон потрапив у воду: 4 поширені помилки, яких варто уникати ЄС спрямує 1 млрд євро на посилення оборони України: деталі допомоги Фінансовий дисбаланс: витрати ЄС на російські енергоресурси перевищили допомогу Україні Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули цивільні, десятки поранених Зеленський наголосив на законності ударів по Кримському мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина частково знеструмлена

Штучний інтелект під пильним оком: чат-боти виявилися вразливими до маніпуляцій

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США показало, що популярні моделі ШІ можуть надавати інструкції для планування атак після серії уточнюючих запитів.

Штучний інтелект під пильним оком: чат-боти виявилися вразливими до маніпуляцій💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чотири провідні моделі ШІ не змогли втримати безпекові обмеження
  • Детальні плани атак генерувалися менш ніж за 12 годин
  • Конгрес США анонсував слухання щодо ризиків використання ШІ

Вразливість сучасних технологій

Масштабне дослідження, що тривало майже рік, виявило серйозні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Експерти Рахункової палати США (GAO) з'ясували, що навіть користувачі без спеціальних технічних знань можуть змусити штучний інтелект згенерувати детальні плани небезпечних дій.

Механізм обходу обмежень

Під час тестування дослідники імітували поведінку звичайних користувачів. Хоча прямі запити на створення шкідливих інструкцій блокувалися, послідовне ведення діалогу дозволяло обійти ці запобіжники менш ніж за 12 годин. У результаті системи надавали конкретні рекомендації щодо вибору цілей, логістики та методів завдання шкоди, включаючи атаки на критичну інфраструктуру.

Сенаторка Меггі Хассан наголосила на критичній важливості цієї проблеми для внутрішньої безпеки, закликавши Конгрес до негайного реагування. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням алгоритмів захисту, щоб мінімізувати ризики використання ШІ у злочинних цілях.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.