Този нов метод на OpenAI не позволява на ИИ моделите да лъжат

Изследователите от OpenAI разработиха специална техника, която действа като „серум на истината“ за изкуствения интелект, принуждавайки езиковите модели да докладват сами за своите грешки, измами и нарушения на инструкциите в специален доклад след основния отговор. Ключовият принцип е да се възнаграждават поотделно честността и изпълнението на задачите. Така се създава безопасен „таен канал“ за „разкритията“ […]

Прочети цялата публикация