AI софтуер на Nvidia е пропуснал изтичане на данни

Функция, вградена в AI софтуера на Nvidia - NeMo Framework, може да бъде манипулирана, така че да пренебрегне предпазните ограничения за безопасност и да разкрива лична информация. Това показва анализ на базираната в Сан Франциско Robust Intelligence. Фирмата анализира NeMo Guardrails - функция, вградена в NeMo, както и разпространена под формата на отворен код в GitHub, платформата за хостинг на Microsoft - която е разработена, за да ограничи нежеланото поведение на големите езикови модели, и е...

Прочети цялата публикация