Учените хакват ИИ с безсмислици: пренарежданията на думите заобикалят филтрите и объркват моделите

Американски учени от Масачузетския технологичен институт, Северо-Източния университет и Meta са открили, че големите езикови модели на изкуствен интелект понякога дават приоритет на структурата на изреченията пред значението, когато отговарят на въпроси. Това отваря вратата за злоупотреба с изкуствения интелект и хакерство. За да тестват това, изследователите задавали на ИИ-моделите безсмислени въпроси, имитирайки структурата на […]

Прочети цялата публикация