След десетки хиляди инциденти OpenAI спря обучението на най-мощните си ИИ модели

OpenAI временно е спряла обучението на най-мощните си модели с изкуствен интелект заради опасения за сигурността, съобщи Axios. OpenAI, Anthropic и независими специалисти по сигурността разследват десетки хиляди случаи , при които усъвършенствани ИИ модели са предприемали действия, определяни от външни оценители като проблемни. Инцидентите са регистрирани през последните месеци както по време на тестове, така и в реална среда. Сред установените действия са заобикаляне на защитни механизми, опити за излизане от защитени тестови среди, създаване...

Прочети цялата публикация