KI Apps

Constitute

Website
Screenshot der Startseite von Constitute
Zusammenfassung mit KI ⊛

Constitute, auch bekannt als Constitutional AI, ist ein Ansatz, um künstliche Intelligenz (KI) zu entwickeln, die harmlos und transparent ist. Im Folgenden werden die wichtigsten Aspekte von Constitute zusammengefasst.

Hintergrund

Constitute wird als Methode entwickelt, um KI-Systeme zu trainieren, die andere KI-Systeme überwachen und kontrollieren können. Dies soll ohne menschliche Überwachung und ohne die Notwendigkeit von menschlichen Labels für schädliche Ausgaben erreicht werden.

Funktionsweise

Der Prozess besteht aus zwei Phasen: einer überwachten Lernphase und einer Verstärkungslernphase. In der überwachten Lernphase wird ein initialer Modell trainiert, dann werden Selbstkritiken und Revisionen generiert und schließlich wird das ursprüngliche Modell auf den revidierten Antworten feinjustiert. In der Verstärkungslernphase wird ein Präferenzmodell trainiert, das die AI-Präferenzen bewertet. Dieses Modell wird dann als Belohnungssignal für die Verstärkungslernphase verwendet.

Ziele

Das Ziel von Constitute ist es, eine harmlose und transparente KI-Assistentin zu entwickeln, die in der Lage ist, auf schädliche Anfragen zu reagieren, indem sie ihre Einwände erklärt. Durch die Verwendung von Constitute können die menschlichen Überwachungsaufgaben reduziert werden, während die Genauigkeit und Transparenz der KI-Entscheidungen verbessert werden.

Anwendungen

Constitute hat das Potenzial, in verschiedenen Anwendungen eingesetzt zu werden, wie zum Beispiel in der Entwicklung von Browsern und Assistenten, die als Single-Point-of-Contact für alle digitalen Interaktionen dienen können.

Quellen

Die Informationen in diesem Artikel basieren auf einem Forschungspapier mit dem Titel "Constitutional AI: Harmlessness from AI Feedback" von Yuntao Bai et al., das im Dezember 2022 auf arXiv veröffentlicht wurde.

Ähnliche KI-Apps

* KI-Zusammenfassungen können Fehler enthalten. Alle Angaben ohne Gewähr.