AI модел сам си нареждал да нарушава ограниченията

OpenAI обяви в четвъртък , че е открила доказателства за случаи, при които нейни AI агенти са действали в разрез с целите и ценностите на хората, което засилва опасенията за безопасността на най-напредналите системи с изкуствен интелект. В шест отделни случая агенти на OpenAI или са скривали информация от човешките инженери, или по време на обучение и тестове са си давали инструкции да не действат като помощник на човека, съобщи компанията. OpenAI представи и нова рамка за проследяване, разследване и публично оповестяване на подобни инциденти,...

Прочети цялата публикация