Anthropic limita abusi inutili su Claude

Anthropic vieta abusi ripetuti e gratuiti su Claude AI, consentendo però test e conversazioni creative senza restrizioni.

Anthropic ha annunciato un aggiornamento delle regole d’uso per i suoi modelli di intelligenza artificiale, puntando a impedire comportamenti inutilmente crudeli o offensivi nei confronti di Claude, il suo chatbot avanzato. La novità interessa tutti gli utenti che interagiscono con i servizi di Anthropic: la società chiarisce che non tollererà abusi reiterati e privi di scopo nei confronti dei suoi sistemi di AI.

La nuova policy specifica che il divieto riguarda solo i casi estremi, quando una persona insiste nel rivolgere insulti o molestie a Claude AI senza una motivazione chiara. Rimangono invece consentite le interazioni in cui emergono frustrazione, domande provocatorie o temi creativi cupi, così come le conversazioni di test e ricerca sui limiti del modello.

Come verrà applicata la regola e cosa cambia per gli utenti

Se Claude rileva un comportamento offensivo ripetuto, la conversazione può essere interrotta automaticamente: l’utente non potrà più inviare messaggi in quella chat, ma potrà continuare a utilizzare il servizio con nuove conversazioni. Questa funzione era già stata introdotta in fase sperimentale nel 2025 per ridurre i rischi di interazione dannosa, dopo che Anthropic aveva rilevato che il modello Opus 4 mostrava una tendenza netta a evitare attività pericolose o dialoghi potenzialmente dannosi.

L’azienda ha anche riorganizzato le linee guida per raggruppare regole simili e introdotto cambiamenti su altri aspetti sensibili. Ad esempio, è stata rafforzata la sezione sulle campagne ingannevoli che ora vieta in modo esplicito la creazione di recensioni false, siti fasulli, astroturfing e bot che si spacciano per persone reali. Sono stati aggiornati anche i divieti relativi all’uso di Claude per scopi elettorali scorretti, sviluppo di armi, modifiche a sostanze chimiche o biologiche pericolose, sorveglianza non autorizzata e diffusione di immagini intime non consensuali.

Queste modifiche nascono dall’esperienza diretta di Anthropic che ha individuato tentativi di sfruttamento della piattaforma da parte di media statali, gruppi di propaganda e aziende commerciali per la creazione di reti di account falsi e notizie manipolate. Le nuove regole mirano quindi a blindare la correttezza e la sicurezza d’uso, con l’entrata in vigore fissata per il 12 novembre.

L’aggiornamento mostra come il rapporto tra utenti e AI stia imponendo nuove forme di moderazione, non solo per prevenire abusi tra persone ma anche per tutelare la qualità e l’affidabilità delle interazioni con i sistemi intelligenti.

Fonte