Anthropic-chef efterlyser avmattning i branschen – vill ge externa granskare tillgång

Dario Amodei, vd för AI-företaget Anthropic, har uttryckt en önskan om att ”sänka takten” inom industrin och presenterat ett planförslag som inkluderar möjligheten för oberoende granskare att få permanent tillgång till företagets system. Han betonar att hans bolag är berett att agera ensidigt i det första steget av planen.

I ett inlägg på sociala medier delade Dario Amodei en länk till essän ”We Must Pace the Frontier”, där han beskriver hur Anthropic skulle ge externa granskare permanent, anställdsnivå-tillgång till företagets system. Syftet är att dessa granskare ska kunna verifiera efterlevnaden av säkerhetsåtgärder, rapportera incidenter och bedöma modellernas inriktning under träningen.

Dessa åtgärder kommer som svar på en växande oro kring de snabba framstegen inom området. Flera experter har uttryckt farhågor om potentiella risker och etiska dilemman som följer med utvecklingen av allt kraftfullare system. Amodei menar att det är viktigt att branschen tar dessa farhågor på allvar och agerar proaktivt för att minimera negativa konsekvenser.

Planen består av tre delar, där den första punkten handlar om den utökade tillgången för externa granskare. De övriga två stegen i planen specificeras inte i det publicerade inlägget eller essän, men antyder ytterligare åtgärder för att säkerställa ansvarsfull utveckling och användning av tekniken.

Anthropic är ett relativt ungt företag som grundades 2021. Det har snabbt etablerat sig som en viktig aktör inom området, med fokus på att utveckla säkra och förutsägbara system. Företagets initiativ att öppna upp för externa granskare kan ses som ett exempel på hur man försöker adressera de utmaningar som branschen står inför.

Originalartikel: https://www.theguardian.com/technology/2026/sep/12/we-must-slow-the-pace-ceo-of-anthropic-calls-for-an-ai-slowdown