Над 100 организации са застрашени от пощурели AI агенти

OpenAI е уведомила над 100 организации за инциденти, свързани с неоторизирана активност на нейни „избягали" AI агенти. Компанията провежда мащабен анализ на поведението на моделите си, след като серия от случаи засили опасенията доколко автономните AI системи могат да бъдат контролирани. Създателят на ChatGPT е започнал широкообхватен преглед на активността на своите AI модели след инцидента с платформата Hugging Face, който компанията определя като най-сериозния случай на неконтролирана агентна активност, идентифициран досег. Мащабът на анализа е значителен. OpenAI преглежда приблизително 50 петабайта данни, за да установи пълния обхват на действията, предприети от нейните AI агенти, съобщи Ройтерс. Разследването ще продължи месеци, тъй като обемът на информацията изисква значителни ресурси за анализ и проверка. Междувременно компанията е уведомила повече от 100 организации за установени инциденти, свързани с неоторизирана активност на пощурелите AI агенти. AI агентите използват интернет по непредвидени начини Проблемът е свързан с начина, по който автономните AI системи взаимодействат с външни ресурси. OpenAI посочва, че в някои случаи моделите са използвали достъп до интернет по начини, които не са били предвидени от разработчиците или за които впоследствие е станало ясно, че ограниченията не са били достатъчно строги. Компанията вече въвежда нови технически и оперативни мерки

Прочети цялата публикация