Vad händer?
Det finns en djup och genuin övertygelse bland Silicon Valleys aktörer med ”The Magnificent Seven” i spetsen (Nvidia, Alphabet, Apple, Microsoft, Amazon, Meta och Tesla) att reglering är förlorad tid, att varje etisk kontrollstation är ett konkurrenstapp och att den nation som tvekar är den nation som förlorar (i kampen mellan USA och Kina). Och det finns en konkret bakgrund till rädslan, för Kina satsar massivt. Landets AI-strategi är statsstyrd, snabbfotad och utan demokratiska bromssystem.
Den förhärskande strategin i Silicon Valley är ”move fast and break things”, vilket leder till häpnadsväckande genombrott, men även häpnadsväckande omdömeslöshet, som de sexualiserade deepfake-bilder av verkliga människor som Elon Musks AI-chatbot Grok ägnade sig åt.
Det finns åtminstone tre risknivåer med en okontrollerad AI-utveckling:
– Den omedelbara skadan, där Grok är ett bra exempel, som drabbar verkliga människor i synnerhet kvinnor och barn (eftersom de omdömeslösa tech-nördarna nästan uteslutande är män).
– Den systemiska risken när AI integreras i beslutsfattande utan tillräcklig mänsklig kontroll. Felaktiga bedömningar i sjukvård, rättsväsende, kreditbedömning och rekrytering kan förstärka befintliga orättvisor i systemen och göra dem svårare att ifrågasätta eftersom de döljs bakom algoritmers skenbart objektiva ytor.
– Den existentiella risken, som AI-säkerhetsforskare vid bolag som Anthropic arbetar intensivt med, handlar om vad som händer om och när AI-system överträffar mänsklig förmåga inom allt bredare domäner, utan att de värderingar och mål som styr dem är tillräckligt definierade eller kontrollerbara.
En ansvarsfull AI-utveckling skulle innebära att dessa risknivåer tas på lika stort allvar som den tekniska prestandan.
Redaktionens kommentar:
Mot teknikoptimisternas ”ingen tid att förspilla” reser sig en växande koalition av röster som hävdar att det tvärtom måste finnas tid att tänka efter. Den mest oväntade av dessa röster tillhör Vatikanen.
Påve Leo XIV har gjort AI till sitt programmatiska huvudämne. I en nyligen publicerad encyklika Magnifica humanitas (Den stora Mänskligheten), skriver han att AI är ”en av de största utmaningarna mänskligheten står inför i dag”, jämförbar med industrialismens genombrott på 1800-talet. Men han varnar för att tekniken inte är neutral. Den ”antar formen av dem som tänker ut den, finansierar den, reglerar den och använder den.” Påven fördömer den ”maktkultur” som driver AI-utvecklingen och understryker att oåterkalleliga, dödliga beslut aldrig får anförtros AI-system. Vatikanen har även bildat världens första centrala kyrkliga AI-kommission.
En annan, föga oväntad aktör, är vars AI-förordning, den första heltäckande AI-lagstiftningen i världen, antogs av parlamentet i mars 2024 och gradvist har trätt i kraft. Den kategoriserar AI-system efter risknivå – från minimal till oacceptabel – och ålägger de med hög risk obligatoriska tredjepartsgranskning, transparenskrav och tillsynsmekanismer.
Frågan som ständigt ställs är om EU riskerar att ”bli kvar på perrongen” medan USA och Kina kör i väg. Men det finns en motberättelse som ser reglering som innovationshöjande marknadssignal. Precis som EU:s klimatreglering skapade en marknad för grön teknik, kan tydliga AI-regler skapa en marknad för tillförlitlig AI och det är en marknad som längre fram kan visa sig vara den med störst betalningsvilja, inte minst i den offentliga sektorn och bland företag som inte vill bli nästa skandalrubrik
