DarkMind: хакерите са се научили как да препрограмират мисленето на изкуствения интелект

Изследователи от университета в Сейнт Луис представиха нов вид атака срещу големи езикови модели (LLM), която се оказа практически невидима за традиционните системи за защита. Специалистите описаха уязвимости, свързани с метода за разсъждение Chain-of-Thought (CoT), който се използва широко в съвременни LLM като GPT-4o и о1 на OpenAI и LlaMA-3 на Meta. Методът CoT помага […]

Прочети цялата публикация