Как ще се изхранва човечеството, ако AI излезе извън контрол: 8 решения от учените

В областта на изследванията, свързани с безопасността на изкуствения интелект, се разглеждат различни теоретични модели за излизане на автономните системи извън контрола на операторите. Един от проучваните сценарии е ситуацията на несъответствие на целите (AI misalignment), при която сложна оптимизационна система, в рамките на изпълнението на вътрешна задача, деактивира външни инженерни вериги. Теоретично най-уязвимата среда […]

Прочети цялата публикация