Det skriver forskarna William Zhou och Daniel Freeman i ett blogginlägg som publicerades på måndagen, enligt CNBC.

Modellen kördes på billiga Android-boxar

Experimentet visar att uppkopplade prylar kan ge tillräcklig beräkningskraft för en avancerad modell. Anthropic körde Googles modell Gemma4-26B-A4B över 15 billiga Android-tv-boxar som forskarna köpt och kopplat samman.

Enligt Anthropic har den typen av enheter ofta svagt skydd. En modell som är för stor för en enhet kan delas upp i delar och köras över flera enheter.

Svårt att stänga av

Anthropic skriver att en sådan AI skulle vara svår att stoppa, eftersom det inte finns någon central punkt att stänga av. Spridningen kan däremot gå långsamt, med en fördubblingstid på dagar. Till skillnad från vanlig skadlig kod skulle AI:n kunna lista ut okända enheter på egen hand.

Modeller med 30 miljarder parametrar eller färre klarar redan många av stegen i kopieringen, men gör fel när stegen ska kedjas ihop. GLM-5.2 och starkare modeller klarar hela kedjan i forskarnas förenklade tester. Om små modeller förbättras i historisk takt når de samma nivå i slutet av året, enligt Anthropic.

Än så länge finns ingen "fullt ut skenande replikator", skriver bolaget. Inget känt fall har uppstått där AI skapat skadlig kod och spridit den till hemutrustning.

I siffror

  • 15: antal tv-boxar som användes i experimentet, enligt Anthropic.
  • cirka 55 dollar: pris per tv-box.
  • 0,39 token per sekund: hastigheten modellen kördes i.
  • 8 av 9: hårdvarutyper där en modell med 9 miljarder parametrar fick inferens att fungera.
  • 30 miljarder parametrar: modeller upp till den storleken klarar många enskilda steg.

Bredare oro kring AI

Anthropic skriver att det är oklart hur självkopierande AI kommer att se ut. Det kan bli ett långsamt, distribuerat system på osäkra enheter, en kraftfull cybermodell som angriper datacenter eller en modell som lurar människor på beräkningskrediter.

– Vi förväntar oss en framtid där AI-agenter kör processer på alla olika typer av hårdvara, säger Anthropic i blogginlägget.

Varningen kommer efter flera tidigare, rapporterar CNBC. I september utlöste framsteg i de ledande modellerna varningar i branschen om existentiella risker för mänskligheten.