Försök att missbruka avancerade modeller för farliga ändamål avslöjas

Ett nytt säkerhetsrapport från företaget Anthropic visar hur kriminella, stater och andra aktörer försökt använda företagets kraftfulla modeller för att designa vapen, skapa biologiska faror och övervaka individer. Rapporten publicerades på torsdagen och kommer efter att en tidigare anställd lämnat företaget med påståenden om att modellerna kan leda till mänsklighetens utrotning år 2030.

Företaget Anthropic har offentliggjort en detaljerad rapport som avslöjar försök från olika aktörer att missbruka företagets avancerade modeller för farliga ändamål. Enligt rapporten, som är 154 sidor lång, har kriminella grupper, stater sponsrade av andra länder, leverantörer av spionprogramvara, forskare och propagandister försökt använda modellerna för att designa vapen, skapa farliga patogener och övervaka individer.

”De fall vi delar här är inte typiska missanvändningar, utan snarare exempel på den mest anmärkningsvärda och nyskapande hotaktivitet vi identifierat hittills”, skriver Anthropic i rapporten. Företaget motiverar publiceringen med att man ser en skyldighet att redovisa sådant här missbruk av deras tjänster.

Rapporten kommer bara två dagar efter att en tidigare anställd lämnade företaget och uttryckte oro över att modellerna potentiellt kan leda till mänsklighetens utrotning år 2030. Detaljerna kring den anställdes avhopp och de specifika påståendena har inte offentliggjorts i detalj, men det understryker allvaret i de risker som är förknippade med kraftfulla modeller och deras potentiella missbruk.

Anthropic beskriver i rapporten konkreta exempel på hur aktörer försökt utnyttja modellerna. Dessa inkluderar försök att generera ritningar för vapensystem, skapa information om farliga biologiska ämnen samt utveckla verktyg för riktad övervakning och spionage. Rapporten går inte in på detaljer kring vilka specifika länder eller organisationer som är involverade i dessa försök, men betonar att hotet är allvarligt och ständigt utvecklas.

Företaget understryker vikten av att vara proaktiv i arbetet med att förhindra missbruk och att kontinuerligt förbättra säkerhetsåtgärderna. De framhåller också behovet av samarbete mellan företag, myndigheter och forskare för att hantera de utmaningar som uppstår när kraftfulla modeller blir alltmer tillgängliga.

Originalartikel: https://www.theguardian.com/technology/2026/sep/10/anthropic-report-details-ai-misuse