RealFeedApp beta

OpenAI verleiht vier Assessoren Zugang zu internen Modellen

Apollo Research, METR, Transluce und Goodfire erhalten Zugang zu Checkpoints und Quellcode, um Modellalignment zu prüfen. Die Experten diskutieren Sicherheitsrisiken über einen längeren Zeitraum.

Bereich
Training von Sprachmodellen
Was gemacht wurde
OpenAI hat Vereinbarungen mit vier unabhängigen Prüfstellen (Apollo Research, METR, Transluce, Goodfire) für eine erste Phase von integrierten Bewertungen geschlossen. Dies dient dazu, durch externe Experten den Fortschritt der KI und die damit verbundenen Risiken besser zu verstehen.
Warum es wichtig ist
Die unabhängigen Prüfer erhalten Zugang zu internen Modellen, Quellencode und Trainingsdaten, um die Ausrichtung der Modelle und die Wirksamkeit der Sicherheitsvorkehrungen über einen längeren Zeitraum zu bewerten.
#openai#ai safety#alignment#embedded assessments#apollo research#metr

Original lesen →