Thema

Reinforcement Learning from Human Feedback

Reinforcement Learning from Human Feedback (RLHF) ist eine Methode, bei der ein KI-Modell durch menschliche Bewertungen lernen soll, nützliche, harmlose und ehrliche Antworten zu generieren – statt nur statistisch wahrscheinliche Texte zu produzieren. Dabei werden menschliche Präferenzen genutzt, um das Modell so zu trainieren, dass es hilfreiche Antworten liefert, auch wenn diese nicht die naheliegendste Textvorhersage sind.

1 Artikel · neueste zuerst

KI-Alignment: Gelingt dem Menschen, was ihm bei Natur und Mitmensch misslang?
Sicherzustellen, dass eine künstliche Intelligenz wirklich das verfolgt, was Menschen meinen, gilt als eines der zentralen Probleme der KI. Doch schon zwischen Mensch und Natur und zwischen Menschen selbst misslingt genau diese Ausrichtung seit Langem – und ausgerechnet an diesem doppelten Scheitern ließe sich ablesen, worauf es ankommt.
✓ satzgenau belegt22 Quellen19. Juli 2026

KI-Alignment: Gelingt dem Menschen, was ihm bei Natur und Mitmensch misslang?