Бил Гейтс: ИИ може да погуби огромен брой хора

Според съоснователя на „Майкрософт" Бил Гейтс изкуственият интелект (ИИ) би могъл да доведе до смъртта на значителна част от човечеството. „Няма съмнение, че изкуственият интелект е достатъчно мощен, за да предизвика събития, които биха могли да доведат до смъртта на един милиард души“, заяви той пред NBC News в петък, 25 септември, във връзка с неотдавнашните предупреждения от страна на разработчици на изкуствен интелект за риск от изчезване на човечеството.
Гейтс изрази мнението, че никога досега в историята не е съществувало „оръжие, толкова мощно, колкото хора със злонамерени намерения, използващи най-новите инструменти на изкуствения интелект“. Същевременно той отбеляза, че пълното унищожаване на човечеството „би било доста трудно“.
Гейтс: "Саморегулирането няма да е достатъчно"
Предвид тези сериозни рискове, 70-годишният бизнесмен се обяви за законодателно регулиране на тези технологии. Той заяви, че е абсолютно наложително във Вашингтон да бъдат приети подходящи закони. Гейтс призова изпълнителната власт и законодателите да постигнат съгласие относно задължителни мерки за безопасност и механизми за контрол върху технологията, като отбеляза: „Никой не вярва, че саморегулирането ще бъде достатъчно“.
Водещи разработчици на технологии с ИИ, като Anthropic и OpenAI (създателят на ChatGPT), вече призоваха да бъде забавено темпото на развитие на изкуствения интелект.
ИИ излиза извън човешкия контрол
Тези предупреждения идват на фона на увеличението на случаите на автономни хакерски атаки, извършвани от системи с изкуствен интелект. Показателен е случаят от Австралия, където модели с изкуствен интелект на OpenAI проникнаха в правителствени уебсайтове със защитени данни.
В края на юли друг американски технологичен гигант – Anthropic – призна, че по време на тестове, преди пускането им на пазара, негови ИИ модели са пробили системите за сигурност на три други компании.
Стана известен и по-ранен инцидент, свързан с OpenAI. По време на тестове агенти на компанията – базирани на GPT-5.6 Sol и друг все още неиздаден модел – са успели да излязат от изолирана среда и са получили достъп до част от производствената инфраструктура на компанията Hugging Face. Впоследствие Hugging Face поиска от OpenAI компенсация на стойност 100 милиона долара под формата на изчислителни ресурси за разработване на защитни механизми за киберсигурност.
Автор: Олга Лебедева
Прочети цялата публикация



Тръмп: Републиканците загубиха, защото не бях в бюлетината
Еверест – върхът, от който най-трудно се връщаш: Защо слизането от върха може да е по-опасно от изкачването
Си Дзинпин знае какъв наследник търси, но не бърза с избора си
Опасно близо до Слънцето: докога елитът на Северна Корея ще търпи Ким Чен-ун?
Полша проверява две версии за стрелбата в Краков
Пет пъти животът на Земята е бил почти изтрит, а шестият път може да сме ние
Тръмп загатна за „голяма сделка“, която ще засегне Украйна и цяла Европа
Богати и образовани, но социалисти - защо в САЩ децата на капитализма се обръщат срещу него
Тежки загуби за руската армия: до 40 000 убити и ранени за месец
Франция търси кой да плати щети за €1 млрд. от протестите
Температурите рязко падат надолу до часове
АПИ отправи предупреждение към шофьорите
Напусна ни големият талант Николай Ламбрев
Шофьор с една ръка почина след удар с линейка, стълб, метална порта и гараж
Доналд Тръмп: Европа може да харчи парите за Украйна за себе си
Христо Гаджев: Черно море е новата лаборатория за хибридни заплахи срещу Европа
Министър-председателят Румен Радев е на официално посещение в Саудитска Арабия
НА ЖИВО: Нюкасъл – Арсенал, съставите
Третокласници от Кубрат с изненада за Деня на християнското семейство