Brev till OpenAI fick larmklockorna att ringa: ”Hot”
Publicerad 2023-11-25
Ett brev till OpenAI:s styrelse fick alla larmklockor att ringa och var delvis orsaken till att vd:n Sam Altman fick sparken, enligt nyhetsbyrån Reuters.
I brevet varnade företagets forskare för att det nya AI-systemet Q* kunde hota mänskligheten.
Förra fredagen fick techföretaget OpenAI:s vd Sam Altman sparken. Efter fyra dagars kaos, där nästan alla anställda – 700 personer – hotade med att lämna företaget, återinsattes Altman som vd i tisdags. Samtidigt sparkades styrelsen.
Redan tidigt framgick att Altman kickats eftersom han underskattade riskerna med AI. Styrelsen ville gå långsammare fram med utvecklingen, skrev tidningarna The New York Times och Washington Post med hänvisning till källor.
Nu har ytterligare information framkommit som förstärker den bilden.
Enligt nyhetsbyrån Reuters källor skickade oroliga forskare inom företaget ett brev till styrelsen om ett kraftfullt nytt AI-system ”som de uppgav kunde hota mänskligheten”.
Brevet, i kombination med styrelsens åsikt att Altman var alltför inriktad på att tjäna pengar utan att ta hänsyn till riskerna, ledde till att han kickades.
Det nya AI-systemet kallas Q* (vilket uttalas ”Q-Star”) och är enligt uppgift ett genombrott i OpenAI:s sökande efter AGI, artificiell generell intelligens. AGI innebär att AI kan utföra varje intelligenskrävande uppgift som en människa kan klara.
Det existerar inte i dag.
”Flyttat fram upptäckandets front”
AI-systemet Q* sägs kunna lösa matematiska problem.
– Det skulle ge AI ett helt nytt knippe av analytiska färdigheter, säger Andrew Rogoyski på University of Sussex till tidningen The Guardian.
En källa säger till nyhetssajten The Information att AI-systemet Q* skulle kunna tillåta OpenAI att utveckla mycket kraftigare AI-verktyg, samtidigt som företaget inte har lämpliga säkerhetsnät på plats.
En dag innan Sam Altman fick sparken sade han inför höga ekonomiska företrädare inom stillahavsorganisationen APEC att OpenAI nyligen hade gjort ett framsteg som ”viker tillbaka okunskapens slöja och flyttar fram upptäckandets front”.
Tidningen The Information spekulerar i att uttalandet egentligen handlade om det nya AI-systemet Q*.