RLHF

Reinforcement learning from human feedback (RLHF) is een post-trainingmethode die een model stuurt met voorkeursdata van mensen (of van andere modellen).

Beoordelaars vergelijken outputs; een beloningsmodel of directe preferentiemethode werkt het beleid bij. Het vormt behulpzaamheid en onschadelijkheid meer dan ruwe kennis.