Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак
Американські аудитори з'ясували, що провідні моделі штучного інтелекту можуть генерувати детальні плани терористичних актів після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO виявило вразливість чотирьох провідних ШІ-моделей
- Метод уточнюючих питань дозволяє обійти обмеження безпеки
- Розробники обіцяють посилити захист своїх систем
Ризики безпеки у сфері ШІ
Згідно зі звітом Рахункової палати США (GAO), популярні чат-боти, включаючи ChatGPT, Claude, Gemini та Grok, виявилися вразливими до запитів, що стосуються планування незаконних дій. Протягом тривалого тестування, яке тривало майже рік, дослідники змогли обійти вбудовані запобіжники систем менш ніж за 12 годин спілкування.
Експеримент показав, що прямі запити на створення небезпечного контенту блокуються алгоритмами. Проте, застосовуючи метод уточнюючих питань та поступового підведення ШІ до теми, слідчі отримали детальні інструкції. Вони включали плани атак на енергетичну інфраструктуру, сценарії використання вибухових пристроїв та рекомендації щодо уникнення правоохоронних органів.
Реакція на виявлені загрози
Незалежні експерти підтвердили, що згенеровані штучним інтелектом матеріали є реалістичними та потенційно небезпечними. Сенаторка Меггі Хассан вже анонсувала проведення слухань у Конгресі, наголосивши на необхідності термінового посилення контролю над розробниками технологій. Компанії-розробники, у свою чергу, запевнили, що продовжують працювати над вдосконаленням систем безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Вплив води на артеріальний тиск: поради кардіологів для мешканців Барської громади
Кардіологи пояснили, як правильний водний баланс допомагає стабілізувати тиск, та назвали рекомендовані норми споживання рідини для чоловіків і жінок.
Захист авто від викрадення: чому власники машин використовують фольгу
Власники автомобілів із системою безключового доступу шукають способи захисту від ретрансляційних атак, використовуючи прості побутові засоби.
💼ЕкономікаЧехія висловила незгоду з проєктом бюджету ЄС, що передбачає допомогу Україні
Прем'єр-міністр Чехії Андрей Бабіш розкритикував нові бюджетні пропозиції Євросоюзу на 2028-2034 роки, зокрема через плани виділення 100 млрд євро для України.
⚽СпортСпортивний конфлікт навколо збірної: лікар національної команди прокоментував звинувачення Мудрика
Лікар національної збірної України Роман Жолобайлюк відкинув звинувачення футболіста Михайла Мудрика щодо можливого потрапляння мельдонію через розташування команди.
Рятувальна операція у Димері: кількість загиблих зросла до двох
У селищі Димер на Київщині завершуються пошукові роботи після ворожого обстрілу житлового будинку. Кількість жертв та постраждалих зросла.
Трагедія на Сумщині: внаслідок детонації ворожого дрона загинула дитина
У Новослобідській громаді Сумської області через вибух ворожого безпілотника загинув 14-річний підліток.