RealFeedApp beta

Qwen ändert 0,016% der Gewichte in Schichten 15 und 19

Ein großes Sprachmodell verliert durch Schleifen den Budget, während die angepasste Version die Antworten liefert. Das Modell korrigiert 131.072 von 800 Millionen Gewichten in spezifischen Schichten.

Bereich
Anwendung von Sprachmodellen
Was gemacht wurde
Das Modell Qwen verliert ohne Nachdenkschritte in einer Schleife, da es sich selbst ständig überprüft. Durch das gezielte Ändern von 131.072 Gewichtswerten in zwei spezifischen Schichten des neuronalen Netzwerks bricht dieses Verhalten ab.
Warum es wichtig ist
Das bearbeitete Modell beendet nun seine Antworten erfolgreich, ohne in einen unendlichen Zyklus zu geraten. Diese Methode der Gewichtsprogrammierung ist viel präziser als das allgemeine Mischen von Modellen, da sie sich auf konkrete Fehlerfälle konzentriert.
#webgpu#llm#weight-space#qwen#neural-networks

Original lesen →