Anthropic reduce cu 90–99% datele extrase prin atacuri de distilare asupra lui Claude, blochează zeci de mii de conturi și limitează accesul la raționament.
Adaugă 230V ca sursă preferată pe Google
Anthropic anunță rezultate majore în protejarea modelelor sale de inteligență artificială Claude. Noile măsuri de securitate au redus cu aproximativ 90% până la 99% volumul de date obținut prin atacuri de tip „distilare”, folosite pentru reproducerea rapidă și mai ieftină a funcțiilor unor sisteme avansate.
Compania afirmă că mecanismele implementate limitează accesul la procesele de raționament ale lui Claude. Astfel, numărul de tokenuri asociate raționamentului extrase de atacatori este acum de 10 până la 100 de ori mai mic decât înainte.
Conturi blocate și noi bariere
Anthropic a introdus și protecții împotriva rețelelor de servere intermediare, utilizate pentru accesarea repetată a informațiilor securizate. Compania susține că sistemul are o robustețe „aproximativ la fel de mare precum mecanismele care îl împiedică pe Claude să ajute la dezvoltarea armelor biologice”, iar rata rezultatelor fals pozitive este sub 0,1%.
- Au fost blocate zeci de mii de conturi asociate campaniilor de distilare.
- Accesul la procesele de raționament ale lui Claude a fost restricționat.
- Utilizarea serverelor intermediare pentru tentative repetate de acces a fost îngreunată.
Anthropic indică startupul chinez Z.ai, cunoscut și sub numele de Zhipu, drept un exemplu de companie care ar fi încercat să reproducă abilitățile lui Claude în timpul dezvoltării modelului GLM-5.3. Potrivit companiei americane, astfel de practici pot crea riscuri pentru siguranță și securitatea națională.
Distilarea modelelor a devenit o problemă importantă pentru Anthropic, OpenAI și Google, pe măsură ce competiția tehnologică dintre Statele Unite și China se intensifică. Prin aceste atacuri, companiile rivale pot colecta date de la modele avansate și își pot construi propriile sisteme într-un timp mai scurt și cu investiții mai mici.




