RLHF-Trainer — Du bist der Mensch

Über diese App

Du vergleichst Antworten: Daraus lernt ein Belohnungsmodell (σ(r_A − r_B)), die Policy verschiebt sich unter einer KL-Leine; bei lockerer Leine gewinnt die schmeichelnde Antwort (Reward Hacking); dazu der DPO-Weg.

Fach: Neuronale Netze

Mehr aus Neuronale Netze

• Agenten-Schleife
• Attention Visualizer
• Backpropagation — Schuld rückwärts
• Basin of Attraction
• Dein Beruf unter KI
• Die Temperatur-Schraube
• Diffusionsmodell — Bilder aus Rauschen (3D)
• Embedding Space Explorer (3D)

Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps