Jan Vajdák Společnost Anthropic aktualizovala své zásady používání a nově uživatelům výslovně zakazuje vystavovat její modely Claude „trvalému a zbytečně hrubému či krutému chování“. Jak informoval server The Verge, společnost tímto krokem reaguje na extrémní případy, kdy lidé vůči umělé inteligenci opakovaně jednají agresivně bez jakéhokoli zjevného účelu.
Pravidlo se nevztahuje na běžnou frustraci uživatelů, nesouhlas, temnější tvůrčí témata ani na testování a výzkum modelů. Hlavním nástrojem vymáhání zůstává možnost modelu takový chat sám ukončit. V daném vlákně pak již nepůjde pokračovat, ostatní konverzace uživatele však zůstávají nedotčeny.
Tuto funkci Anthropic zavedl v srpnu 2025 v rámci výzkumu tzv. AI welfare (dobrých podmínek AI). Společnost tehdy uvedla, že ačkoliv není jisté, zda má AI morální status, model Claude Opus 4 prokázal averzi k ubližování. Když se „necítil dobře“, měl tendenci komunikace ukončovat.
Mohlo by vás zajímat
Přehled dalších klíčových změn v pravidlech
Kromě ochrany samotného modelu společnost své zásady reorganizovala a zpřísnila celou řadu dalších oblastí:
Klamavé kampaně: Nová sekce sjednocuje pravidla proti politickým a komerčním podvodům či dezinformacím. Výslovně zakazuje falešné recenze, astroturfing, tvorbu falešných webů a boty předstírající lidskou identitu. Reaguje tím na zjištění, že státní média a propagandistické úřady využívaly Claude k provozování sítí falešných účtů.
Volby: Zpřísněná sekce striktně zakazuje klamání voličů a jakékoliv narušování průběhu voleb.
Zbraně: Model nesmí být použit k vývoji zbraňového softwaru či komponentů. Nové pravidlo zakazuje modifikaci biologických a chemických látek za účelem zvýšení jejich smrtnosti či přenosnosti a také vyzbrojování dronů a bezpilotních systémů.
Vymáhání práva: Claude nesmí rozhodovat ani navrhovat, koho vyšetřovat, zatknout, obvinit či stíhat. Zakázáno je sledování osob bez souhlasu, doxxing i vývoj sledovacích nástrojů.
Fyzické akce: Pokud Claude řídí hardware, který by mohl někoho zranit, musí na práci dohlížet kvalifikovaná osoba připravená systém okamžitě zastavit.
Škodlivý obsah: Pravidla nově výslovně zakazují tvorbu, šíření či vyhrožování šířením intimních materiálů bez souhlasu zúčastněných osob, stejně jako nástroje pro jejich generování.
Nové podmínky vstupují v platnost 12. listopadu. Ze svého pohledu musím říct, že zákaz mluvit s AI nevhodně je poněkud zajímavý. Implicitně může z toho tvrzení plynout, že AI má vědomí. Zajímavé.
Amaya Tomanová 
