Constitutional Classifiers: Defending against universal jailbreaks
Försvarssystem som sänker jailbreaks från 86 procent till 4,4 procent utan att förstöra normala frågor.
satori.Och det här är säkerhetsarbete som faktiskt fungerar utan att modellen blir tråkig. Viktigt för dig som funderar på att låta kunder prata med din AI utan att de kan tricksa den.