Lernen
Zielausrichtung
Erklärung von Zielausrichtung in klarer Sprache, mit verwandten Katalogseiten.
Definition
Alignment ist die Anstrengung, KI-Systeme gemäß menschlichen Zielen und Constraints verhalten zu lassen — einschließlich Sicherheit, Ehrlichkeit und Richtlinien.
So funktioniert es
Techniken umfassen Präferenztraining, Konstitutionen, Evals, Monitoring und Zugriffskontrollen. Alignment ist ein Forschungs- und Engineering-Programm, kein Abzeichen, das ein Produkt abschließen kann.