Симулатор на маркетплейс на Microsoft откри уязвимости, дори и в най-съвременните ИИ-агенти

Екип от изследователи от Microsoft Research, заедно с учени от Университета на щата Аризона, създадоха симулатор на маркетплейс, за да тестват поведението на автономните ИИ-агенти. Първоначалните експерименти, както съобщава TechCrunch, разкриват неочаквани уязвимости: агентите се оказали склонни към манипулация и загуба на ефективност, когато им се предостави голям брой възможности за избор. Симулаторът, наречен Magentic […]

Прочети цялата публикация