Стрес тест за ChatGPT: кой и как учи AI да различава доброто от злото

За първи път OpenAI разкри подробно как проверява своите езикови модели за политическа коректност. Компанията публикува две проучвания, в които описва процеса на т. нар. „red-teaming” – стрес тест на изкуствения интелект от червен екип. Подходът е заимстван от областта на киберсигурността. OpenAI за първи път използва тази техника през 2022 г., когато разработва DALL-E […]

Прочети цялата публикация