Constitutional AI – metoda trenowania AI w oparciu o zestaw zasad (konstytucję).

Metoda trenowania sztucznej inteligencji oparta na zestawie zasad, zwanych konstytucją, stanowi innowacyjne podejście do kształtowania zachowań modeli AI. Zamiast jedynie korzystać z danych treningowych lub tradycyjnych funkcji celu, proces ten wprowadza formalny zbiór wytycznych, które mają na celu zapewnienie, że generowane odpowiedzi oraz działania systemu będą zgodne z określonymi normami etycznymi, prawnymi oraz społecznymi. Konstytucja pełni rolę nadrzędnego regulatora, pomagając uniknąć niepożądanych treści, stronniczości czy niewłaściwych zachowań.

W praktyce podejście to polega na iteracyjnym dostosowywaniu modelu na podstawie sprawdzania jego odpowiedzi względem ustalonych zasad. Weryfikacja i korekta odbywają się często za pomocą mechanizmów oceny, które oceniają zgodność generowanych treści z konstytucją, co wpływa na dalszy proces treningu. Dzięki temu sztuczna inteligencja nie tylko uczy się na podstawie danych, ale również przestrzega wytycznych, które wspierają bezpieczne, odpowiedzialne i transparentne wykorzystanie technologii. Metoda ta staje się szczególnie istotna w kontekście modelowania systemów o dużej autonomii i znaczeniu społecznym.