Kaldata | 16.03.2024 16:30:24 | 50

Странно: AI чатботовете се оказаха уязвими към ASCII графики


Американски учени откриха нов начин за хакване на чатботове, базирани на изкуствен интелект. Те се оказаха беззащитни срещу ASCII графиките. Големите езикови модели, включително усъвършенстваният GPT-4, влагат толкова много усилия в обработката на тези изображения, че „забравят“ да следват правилата, които ги инструктират да блокират невалидните отговори. Като например тези за изработване и продажба на […]

Прочети цялата публикация