Странно: AI чатботовете се оказаха уязвими към ASCII графики
Американски учени откриха нов начин за хакване на чатботове, базирани на изкуствен интелект. Те се оказаха беззащитни срещу ASCII графиките. Големите езикови модели, включително усъвършенстваният GPT-4, влагат толкова много усилия в обработката на тези изображения, че „забравят“ да следват правилата, които ги инструктират да блокират невалидните отговори. Като например тези за изработване и продажба на […]
Прочети цялата публикация