Anthropic-chef presenterar plan för att ”tempot” inom utvecklingen

Efter en varning om potentiella faror från en forskare inom företaget har Dario Amodei, vd för Anthropic, lagt fram ett förslag om hur utvecklingen ska ske. Planen inkluderar oberoende säkerhetsutvärderare och samarbete mellan företag i demokratiska länder, men har även mötts av kritik.

En vecka efter att en forskare inom Anthropic uttryckte allvarliga farhågor om potentiella risker med utvecklingen har Dario Amodei, bolagets vd, presenterat ett förslag på hur framstegen ska hanteras. Förslaget syftar till att ”tempot” i utvecklingen och bygger på två huvudsakliga punkter: oberoende säkerhetsutvärderingar och samordning mellan företag verksamma inom området i länder som betraktas som demokratier.

Dario Amodeis plan har redan fått visst stöd från branschen, men även mötts av kritik. Bland annat har Jensen Huang, vd för Nvidia, uttryckt invändningar mot förslaget. Det är ännu oklart hur omfattande samarbetet mellan företag kommer att bli och vilka specifika säkerhetsåtgärder som kommer att implementeras.

Den initiala varningen från Anthropic-forskaren skakade om branschen och intensifierade debatten kring de potentiella riskerna med snabb utveckling. Dario Amodeis förslag är ett försök att adressera dessa farhågor och skapa en mer ansvarsfull väg framåt, men det återstår att se hur väl det kommer att tas emot och implementeras i praktiken. Diskussionen kring säkerhet och utvecklingstakt fortsätter att vara central inom området.

Originalartikel: https://techcrunch.com/video/dario-amodei-and-other-ai-leaders-want-to-pace-the-frontier-buthow/