Alignement

L'alignement est l'effort pour faire en sorte que les systèmes d'IA se comportent selon des objectifs et des contraintes humaines — y compris la sécurité, l'honnêteté et les politiques.

Les techniques incluent l'entraînement par préférences, les constitutions, les évaluations, le monitoring et les contrôles d'accès. L'alignement est un programme de recherche et d'ingénierie, pas un badge qu'un produit peut terminer.