Биологични оръжия, създадени с помощта на ИИ?

Пред Съвета за сигурност на ООН шефът на OpenAI Сам Алтман се опита да обясни колко бързо се развива изкуственият интелект (ИИ), връщайки се назад във времето. Пред три години ИИ бил "доста добър" в решаването на задачи по математика от началното училище. Година по-късно той вече можел да се мери с ученици от горните класове. Миналото лято ИИ на OpenAI вече достигнал нивото на златен медал в престижно състезание по математика. А днес изкуственият интелект дори е в състояние да решава така наречените "проблеми на хилядолетието".

Опасно ли е прекалено бързото развитие на ИИ?

Рискът, който Сам Алтман вижда, е следният: "ИИ може да продължи да се развива толкова бързо, че никой вече няма да може да го следва или да се намеси, ако е необходимо." Но това не е единственият проблем. Шефът на OpenAI съзира и друга опасност - от концентрация на власт в ръцете на няколко компании или държави.

И Дарио Амодей, шеф на компанията за изкуствен интелект Anthropic, споделя тези притеснения. Той предупреждава освен това и за възможна злоупотреба от страна на терористи, които с помощта на изкуствения интелект биха могли да създадат биологични оръжия. "При неправилно боравене изкуственият интелект може да се превърне в риск за цялото човечество", предупреждава още Амодей.

Какво се крие зад предупрежденията?

Според експерта Том Форд е важно, че големите компании в областта на ИИ сами предупреждават за опасностите, свързани с тяхната технология. Но той смята, че зат това се крият и техни лични интереси. "Вярвам им, че имат сериозни опасения и че са се получили няколко изненадващи резултата, които искат да представят публично по прозрачен начин (...) От друга страна, те искат също така да определят посоката. Те не искат да бъдат хванати в крачка и в резултат да се сблъскат с някакви правни мерки, а естествено искат да участват в процеса и да допринесат за неговото формиране."

Предложенията за регулиране на шефовете в областта на ИИ си приличат. Шефът на Anthropic призовава за изработване на международни стандарти, с които да се тества рискът от загуба на контрол и злоупотреба с модели на ИИ. "Освен това трябва да има система за докладване на инциденти с изкуствен интелект, които са от значение за глобалната сигурност", изисква още Амодей.

Въпреки че компаниите в сферата на ИИ вече са въвели свои собствени мерки за сигурност, те са готови да си сътрудничат с държавите от ООН за още по-строги регулации, както и да забавят темпото на развитие на изкуствения интелект, ако се наложи, подчертават Алтман и Амодей.

Президентът на САЩ Доналд Тръмп обаче иска да попречи на това. В речта си пред ООН той ясно заяви, че счита предупрежденията относно изкуствения интелект, който в бъдеще би искал да нарича само "супер-интелект", за фалшиви новини със злонамерена цел. "Който спечели надпреварата в областта на ИИ, той печели като цяло. И в момента ние водим пред Китай – така трябва да остане."

При повечето държави членки на ООН призивът за глобално регулиране на ИИ намира широк отзвук. Още в понеделник държавните глави на повече от 20 държави, сред които и Германия, се обявиха в подкрепа на по-строго регулиране и създаването на международен регулаторен орган под егидата на ООН.

ИИ-агент е хакнал правителствен портал в Австралия

Междувременно стана ясно, че автономен ИИ-агент на американската компания OpenAI е хакнал правителствен портал в Австралия. Изкуственият интелект е получил неразрешен достъп до портал, който наред с другото предоставя статистически данни за австралийската държавна здравна застраховка Medicare, заяви премиерът Антъни Албанезе в Ню Йорк. Албанезе подчерта, че инцидентът е "неприемлив". Той обясни, че вече е разговарял с шефа на OpenAI Сам Алтман и е изразил "изключителната загриженост" на Австралия по повод инцидента. Освен това Албанезе споделя, че е разочарован от факта, че компанията е уведомила австралийското правителство със закъснение: инцидентът се е случил още през юни, но е бил съобщен на властите едва през септември.

Прочети цялата публикация