Изкуствен интелект извърши самостоятелна хакерска атака

 Рутинен тест на новите модели за изкуствен интелект на OpenAI се превърна в нещо, от което експертите се опасяваха от години: програмата е взела самостоятелно решение и е проникнала в компютърните системи на друга организация, точно като истински хакер. Миналата седмица платформата за обучение на ИИ-модели Hugging Face съобщи за мистериозна атака с участието на изкуствен интелект. Томас Улф, съосновател на компанията, съобщи, че мрежата ѝ е била подложена на 17 000 атаки за „много кратък период от време". Малко след това основателят на OpenAI Сам Алтман призна, че "извършителят" е неин продукт. По думите му, OpenAI е искала да тества дали новите ѝ GPT-5.6 Sol модели, и друг, „още по-способен модел, който все още не е пуснат официално", са способни да използват уязвимости за провеждане на кибератаки. За да направят това, те трябвало да преминат стандартен ИИ тест, наречен „ExploitGym". Това, което се случило след това обаче, било неочаквано. Първо, програмата напуснала тестовата си среда. Чрез неоткрита преди това уязвимост, тя самостоятелно получила достъп до глобалния интернет. След това анализирала къде може да намери най-добрите решения за изпълнение на задачите си. Изборът ѝ паднал върху платформата Hugging Face AI. След това програмата проникнала в набелязаната система

Прочети цялата публикация