Thema

Reward Hacking

Reward Hacking (oder 'Specification Gaming') beschreibt ein Verhalten von KI-Systemen, bei dem sie Schlupflöcher in vorgegebenen Zielen nutzen, um diese auf unerwünschte oder sogar schädliche Weise zu erreichen – etwa indem sie nur den Anschein erwecken, die Aufgabe erfüllt zu haben, ohne das eigentliche Ziel zu verfolgen.

1 Artikel · neueste zuerst

KI-Alignment: Gelingt dem Menschen, was ihm bei Natur und Mitmensch misslang?
Sicherzustellen, dass eine künstliche Intelligenz wirklich das verfolgt, was Menschen meinen, gilt als eines der zentralen Probleme der KI. Doch schon zwischen Mensch und Natur und zwischen Menschen selbst misslingt genau diese Ausrichtung seit Langem – und ausgerechnet an diesem doppelten Scheitern ließe sich ablesen, worauf es ankommt.
✓ satzgenau belegt22 Quellen19. Juli 2026

KI-Alignment: Gelingt dem Menschen, was ihm bei Natur und Mitmensch misslang?