Хакването на ChatGPT се оказа по-лесно от хакването на акаунт в социална мрежа: нови методи за атаки срещу ИИ

Изследователи разкриха как да превърнат всяка невронна мрежа в послушна марионетка. Редица водещи услуги с генеративен изкуствен интелект са уязвими към новите техники за заобикаляне на вградените ограничения с цел създаване на злонамерено съдържание. Изследователите от CERT/CC са открили два вида атаки, способни да пробият защитата на платформи като ChatGPT, Claude, Copilot, Gemini, Grok, Meta […]

Прочети цялата публикация