Как обикновените разговори позволяват да хакнете GPT-4o

Учени от САЩ и Сингапур са разработили нов начин за манипулиране на паметта на ИИ-моделите, който позволява на атакуващите да се намесват незабелязано в работата на ИИ. Новият метод MINJA (Memory INJection Attack) може да променя поведението на ИИ-системите без нужда от достъп до вътрешните им механизми чрез прости взаимодействия. Досега се смяташе, че промяната […]
Прочети цялата публикация