Штучний інтелект під пильним оком: чат-боти виявилися вразливими до маніпуляцій
Дослідження Рахункової палати США показало, що популярні моделі ШІ можуть надавати інструкції для планування атак після серії уточнюючих запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні моделі ШІ не змогли втримати безпекові обмеження
- Детальні плани атак генерувалися менш ніж за 12 годин
- Конгрес США анонсував слухання щодо ризиків використання ШІ
Вразливість сучасних технологій
Масштабне дослідження, що тривало майже рік, виявило серйозні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Експерти Рахункової палати США (GAO) з'ясували, що навіть користувачі без спеціальних технічних знань можуть змусити штучний інтелект згенерувати детальні плани небезпечних дій.
Механізм обходу обмежень
Під час тестування дослідники імітували поведінку звичайних користувачів. Хоча прямі запити на створення шкідливих інструкцій блокувалися, послідовне ведення діалогу дозволяло обійти ці запобіжники менш ніж за 12 годин. У результаті системи надавали конкретні рекомендації щодо вибору цілей, логістики та методів завдання шкоди, включаючи атаки на критичну інфраструктуру.
Сенаторка Меггі Хассан наголосила на критичній важливості цієї проблеми для внутрішньої безпеки, закликавши Конгрес до негайного реагування. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням алгоритмів захисту, щоб мінімізувати ризики використання ШІ у злочинних цілях.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
На Чернігівщині відновили понад половину пошкоджених медичних закладів
У Чернігівській області триває відбудова медичної інфраструктури, що постраждала від ворожих обстрілів. Наразі вдалося відновити 54% об'єктів.
ЄС спрямує 1 млрд євро на посилення оборони України: деталі допомоги
Європейський Союз виділив додатковий мільярд євро через Європейський фонд миру для закупівлі озброєння для ЗСУ до 2027 року.
Фінансовий дисбаланс: витрати ЄС на російські енергоресурси перевищили допомогу Україні
Згідно з даними Єврокомісії, з 2022 року країни ЄС спрямували до Росії більше коштів за енергоносії, ніж на підтримку України.
Чергова атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Російські війська завдали удару по цивільній інфраструктурі Запоріжжя, внаслідок чого постраждав дитячий садок та спалахнула пожежа у сусідній багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на саміті COP31 в Анталії виступила проти включення Росією даних з окупованих регіонів до кліматичних звітів.
🛡️БезпекаРакетний удар по Кривому Рогу: загинули цивільні, десятки поранених
Вечірня балістична атака на центр Кривого Рогу призвела до трагічних наслідків та масштабних руйнувань цивільної інфраструктури.