Обикновените уравнения „заслепяват“ ChatGPT. Филтрите за изкуствен интелект се оказаха безпомощни пред математиката

Защо е възможно да се заобиколи дори най-трудният „безопасен режим“ в невронните мрежи и какво общо имат криптографията и пъзелите с това. Криптографите показаха, че филтрите за сигурност в големите езикови модели като ChatGPT не могат да бъдат напълно надеждни. Дори най-усъвършенстваните системи са уязвими за заобикаляне, ако за сигурността се изразходват по-малко изчислителни ресурси, […]

Прочети цялата публикация