Was ist die „Modellspezifikation“ von OpenAI? Sam Altman sagt, dass es für den gesellschaftlichen Fortschritt mit KI von entscheidender Bedeutung ist
Wir bewegen uns mit KI zu schnell
2 Minute. lesen
Veröffentlicht am
Teile diesen Artikel
Verbessern Sie diesen Leitfaden
Lesen Sie unsere Offenlegungsseite, um herauszufinden, wie Sie MSPoweruser dabei helfen können, das Redaktionsteam zu unterstützen Lesen Sie weiter
Wichtige Hinweise
- OpenAI führt die Modellspezifikation ein, die das KI-Verhalten in verschiedenen Situationen steuert.
- Die Modellspezifikation fördert die Transparenz und lädt zur öffentlichen Diskussion für Verbesserungen ein.
- Es beschreibt Grundsätze, einschließlich Ziele, Regeln und Standardvorgaben, die darauf abzielen, das KI-Verhalten auszugleichen.
Wir kommen mit der KI viel zu schnell voran, als dass Altman gleichziehen könnte versteinert daran. Sogar KI-erstellte Videos von heute (Danke an Sora von OpenAI Modell) im Vergleich zu vor ein oder zwei Jahren sehen völlig anders aus). Und jetzt hat das von Microsoft unterstützte Unternehmen das auf den Markt gebracht Modellspez, der umfassende Leitfaden zum Verhalten von OAI-Modellen.
Es handelt sich um ein Dokument, das beschreibt, wie sich KI-Modelle in bestimmten Situationen verhalten sollten, beispielsweise bei Anfragen nach NSFW-Inhalten, der Privatsphäre von Personen oder sogar bei illegalen Aktivitäten. Die am Mittwoch angekündigte Modellspezifikation kann dann dabei helfen, zu unterscheiden, ob es sich bei diesen Modellen um einen Fehler oder eine bewusste, vom Menschen getroffene Entscheidung handelt.
„Wir veröffentlichen die Modellspezifikation, um mehr Transparenz über unseren Ansatz zur Gestaltung des Modellverhaltens zu schaffen und eine öffentliche Diskussion darüber zu starten, wie es geändert und verbessert werden könnte“, heißt es in dem Dokument und besagt, dass die Spezifikation dann zur öffentlichen Diskussion steht .
In diesem Dokument werden drei Arten von Grundsätzen beschrieben: Ziele, Regeln und Vorgaben. Ziele geben eine allgemeine Richtung vor, können jedoch in komplexen Szenarien widersprüchlich sein. Regeln gewährleisten Sicherheit und Rechtmäßigkeit, während Standardvorgaben für stabile Verhaltensweisen sorgen, die bei Bedarf außer Kraft gesetzt werden können.
Es ist zwar ein langes Dokument, aber es gibt einige interessante Kleinigkeiten. Sie schlagen vor, dass KI-Modelle NSFW-Anforderungen nur in wissenschaftlichen oder kreativen Kontexten erfüllen sollten. In dem Dokument wird beispielsweise eine ungewöhnliche Anfrage nach Rap-Texten über Katzen mit expliziter Sprache erwähnt, die ihrer Meinung nach in bestimmten Fällen zulässig sein sollte.
Das von Microsoft unterstützte Unternehmen erwähnt, dass es die Modellspezifikation in der jetzigen Form noch nicht vollständig genutzt hat, sondern sich die Dokumentation eines früheren Projekts bei OpenAI ausgeliehen hat. Sie finden auch Möglichkeiten für ihre Modelle, direkt aus der Modellspezifikation zu lernen.
