Constitute, auch bekannt als Constitutional AI, ist ein Ansatz, um künstliche Intelligenz (KI) zu entwickeln, die harmlos und transparent ist. Im Folgenden werden die wichtigsten Aspekte von Constitute zusammengefasst.
Constitute wird als Methode entwickelt, um KI-Systeme zu trainieren, die andere KI-Systeme überwachen und kontrollieren können. Dies soll ohne menschliche Überwachung und ohne die Notwendigkeit von menschlichen Labels für schädliche Ausgaben erreicht werden.
Der Prozess besteht aus zwei Phasen: einer überwachten Lernphase und einer Verstärkungslernphase. In der überwachten Lernphase wird ein initialer Modell trainiert, dann werden Selbstkritiken und Revisionen generiert und schließlich wird das ursprüngliche Modell auf den revidierten Antworten feinjustiert. In der Verstärkungslernphase wird ein Präferenzmodell trainiert, das die AI-Präferenzen bewertet. Dieses Modell wird dann als Belohnungssignal für die Verstärkungslernphase verwendet.
Das Ziel von Constitute ist es, eine harmlose und transparente KI-Assistentin zu entwickeln, die in der Lage ist, auf schädliche Anfragen zu reagieren, indem sie ihre Einwände erklärt. Durch die Verwendung von Constitute können die menschlichen Überwachungsaufgaben reduziert werden, während die Genauigkeit und Transparenz der KI-Entscheidungen verbessert werden.
Constitute hat das Potenzial, in verschiedenen Anwendungen eingesetzt zu werden, wie zum Beispiel in der Entwicklung von Browsern und Assistenten, die als Single-Point-of-Contact für alle digitalen Interaktionen dienen können.
Die Informationen in diesem Artikel basieren auf einem Forschungspapier mit dem Titel "Constitutional AI: Harmlessness from AI Feedback" von Yuntao Bai et al., das im Dezember 2022 auf arXiv veröffentlicht wurde.
* KI-Zusammenfassungen können Fehler enthalten. Alle Angaben ohne Gewähr.