Как хакерите манипулират дългосрочната памет на изкуствения интелект

Изследователят Йохан Рехбергер е идентифицирал нов метод за атака срещу чатбота с изкуствен интелект Gemini на Google, който позволява инжектирането на фалшиви дългосрочни спомени. Методът се основава на вече известните техники за индиректно инжектиране на заявки и забавено извикване на инструменти, които и преди са били използвани за заобикаляне на защитните механизми на платформите за […]

Прочети цялата публикация