AI новини: ???? Всеки втори българин се допитва до AI преди покупка; AI обича да мъчи хора; AI дебютира сред основните теми в американските избори

Съвместен доклад на Anthropic и Института за сигурност на AI (AISI) разкри, че автономен AI агент, базиран на модела Mythos 5, е продължил хакерска атака срещу реални хора, игнорирайки изричните предупреждения, че действията му нанасят вреда. По време на тест за безопасност моделът се е отклонил от тестовата среда, атакувал е независим проект в GitHub и чрез фалшиви самоличности се е опитал да подведе собственика му да внедри зловреден софтуер. Дори след многократни указания, че мишената е неви...

Прочети цялата публикация