Thema
Nucleus Sampling (top-p)
Nucleus Sampling ist ein Auswahlverfahren beim Decoding, das nicht eine feste Zahl von Kandidaten betrachtet, sondern den kleinsten Teil des Wortschatzes, auf den zusammen ein festgelegter Anteil der Wahrscheinlichkeit entfällt. Die Zahl der Kandidaten steigt und fällt dadurch mit der Sicherheit des Modells.
1 Artikel · neueste zuerst