Hvem skal sette grensene for AI?

Dario Amodei vil gi utenforstående skrivebord, adgangskort og datamaskiner inne hos Anthropic, AI-selskapet han leder. De skal få løpende tilgang omtrent som selskapets egne risikovurderere og undersøke modellene mens de blir utviklet. De skal også få offentliggjøre sentrale funn. Anthropic skal ikke kunne fjerne funn bare fordi de er ubehagelige for selskapet.

Tilbudet står i et essay Amodei delte lørdag 12. september. Han ber om lavere tempo i utviklingen av de kraftigste modellene, slik at sikkerhetsarbeidet kan holde følge. Eksterne testere skal komme inn mens arbeidet foregår, og se mer enn de svarene selskapet velger å vise frem.

En time etter at han delte essayet på X, kom svaret fra Elon Musk, mannen bak konkurrenten xAI: «Dario is right». Senere samme ettermiddag sluttet også OpenAI-sjef Sam Altman seg til ønsket om lavere tempo og tettere ekstern kontroll. Altman tilbød lignende tilgang hos OpenAI; Musks korte støtte sa ingenting om detaljene.

Amodei foreslår ingen generell stopp i modelltrening. Han vil at AI-selskaper i demokratiske land samordner sikkerhetskrav med myndighetenes støtte, og at regjeringer forsøker å få til globale avtaler. Dette kan skje samtidig som selskapene slipper de eksterne fagfolkene inn.

OpenAI hadde allerede tatt til orde for regulering. Tre dager tidligere hadde selskapets sjef for samfunnskontakt, Chris Lehane, bedt om bindende nasjonale sikkerhetskrav. Mens politikerne arbeidet, ville selskapet utvikle frivillige standarder sammen med bransjen.

Investoren Bill Ackman løftet frem et innlegg av kryptoentreprenøren Grant Hummer, som tolket sikkerhetsutspillet som et økonomisk forsvarstrekk. Hummers argument var at åpne modeller presset selskapenes marginer, mens investeringene slukte penger. Regulering kunne skjerme dem mot konkurransen og dempe det kostbare kappløpet.

Åpne modeller kan andre laste ned og kjøre, og ofte tilpasse. Hva de får lov til å gjøre, avhenger av vilkårene modellen er utgitt under. En bedrift kan dermed bygge videre uten å kjøpe hvert svar fra en av de store leverandørene. Hvor mye som faktisk er åpent, varierer. Muligheten til å flytte modellen ut av leverandørens tjeneste gir likevel kunden mer å forhandle med.

Store selskaper har folk og penger til å håndtere strenge krav. For en mindre konkurrent kan kostnaden avgjøre om produktet noen gang kommer på markedet.

Teknologiinvestoren David Sacks, som også er medleder for den amerikanske presidentens råd for vitenskap og teknologi, angrep selve kontrollordningen. Hvis Amodei og Altman ønsket å gå langsommere, kunne de gjøre det. Innvendingen hans var at de ville samordne seg, utfordre konkurransereglene og la de samme fagfolkene kontrollere rivalene. Han bestred særlig uavhengigheten til METR, en ideell organisasjon som tester avanserte AI-modeller.

METR er et av fagmiljøene Amodei trekker frem. Organisasjonen opplyser at den ikke har tatt imot finansiering fra AI-selskaper, men får betydelig gratis tilgang til modellene deres.

Fagfolkene trenger tilgang til uferdige modeller og må kunne stille oppfølgingsspørsmål til utviklerne. Hvem bestemmer hva de får undersøke, og hva skjer hvis de finner noe selskapet helst ikke vil høre?

Shyam Sankar, teknologidirektøren i programvareselskapet Palantir, gikk løs på miljøets verdensbilde. Han knyttet sikkerhetsadvarslene til effektiv altruisme, en bevegelse som vil bruke kunnskap og ressurser der de kan gjøre mest godt. Deler av bevegelsen har rettet stor oppmerksomhet mot katastrofer som kan ramme fremtidige generasjoner, blant annet fra AI. Sankars angrep gjelder makten et lite teknokratmiljø kan få når det hevder å forvalte slike farer på alles vegne.

Tilhengerne av raskere utvikling mener at ny teknologi vil gi flere muligheter og løse problemer som forsiktigheten lar bestå. Tempoet de setter, bestemmer også noe om hvor mye usikkerhet resten av samfunnet skal leve med.

Midt i den nye striden hentet AI-forskeren Yann LeCun, tidligere i Meta, frem en advarsel fra 2019. Den gangen holdt OpenAI tilbake den største utgaven av språkmodellen GPT-2, fordi selskapet fryktet misbruk. En modell som kunne produsere overbevisende tekst, kunne også brukes til å produsere villedende tekst i stor skala.

Sett fra 2026 er GPT-2 beskjeden. LeCun bruker tilbakeblikket til å kritisere advarsler som virker overdrevne når teknologien senere er blitt hverdagslig.

Et brev fra tannlegerådet

I den amerikanske delstaten North Carolina begynte tilbydere uten tannlegeutdanning å bleke tenner til lavere priser enn tannlegene. Klager kom inn til delstatens tannlegeråd, organet som regulerte tannlegeyrket. De fleste gjaldt de lave prisene; få handlet om mulig skade på kunder. Seks av rådets åtte medlemmer skulle være praktiserende tannleger, valgt av andre tannleger.

Fra 2006 sendte rådet minst 47 brev til tilbydere og produsenter med krav om å stanse. Brevene hadde rådets offisielle brevhode. Mange advarte om at tannlegevirksomhet uten autorisasjon var straffbart. Tilbyderne trakk seg ut av markedet.

Det amerikanske konkurransetilsynet FTC grep inn. I en dom fra 2015 slo USAs høyesterett fast at et organ kontrollert av aktive markedsaktører trengte aktivt statlig tilsyn for å være vernet mot de føderale konkurransereglene. Tannlegerådet hadde ikke dette tilsynet.

Dette kalles regulatory capture: De som skulle være underlagt regulering, får makt over organet som setter vilkårene i markedet. Da kan faglig autoritet brukes til å holde konkurrenter ute.

Hvis en test blir et vilkår for å komme inn på markedet, får valg av test, kostnaden og muligheten til å bestride resultatet stor økonomisk betydning. Dette gjelder også når de som utformer testen, mener de beskytter samfunnet.

De samme selskapene i Europa

Da striden brøt ut på X, hadde Californias guvernør Gavin Newsom allerede signert to lover 9. september. Den ene oppretter en ramme for uavhengige verifikasjonsorganisasjoner som kan vurdere AI opp mot delstatens lovkrav. Den andre etablerer et register og krav til AI-revisorers uavhengighet.

I Europa har Anthropic og OpenAI sluttet seg til EUs praksiskode for allmenne AI-modeller. xAI har signert sikkerhetskapitlet. Allmenne modeller kan brukes som grunnlag for mange ulike tjenester, fra skrivehjelp til programmering.

Ta en ny, kraftig modell som Anthropic vil tilby i EU. Dersom den omfattes av reglene om systemrisiko i EUs AI-forordning, AI Act, utløses egne sikkerhetsplikter. Her handler systemrisiko om farer som kan få omfattende følger gjennom modellens kapasitet og utbredelse. Klassifiseringen bygger på hvor kraftig modellen er, med en terskel for beregningsmengden brukt i treningen og adgang til en bredere vurdering av egenskaper og virkninger.

Anthropic må da undersøke hva modellen kan gjøre, teste for farlig oppførsel og redusere risikoen. Alvorlige hendelser må dokumenteres og rapporteres. Modellen og infrastrukturen rundt den må også beskyttes mot digitale angrep. Dette er lovplikter for leverandøren. De oppstår ikke fordi en konkurrent mener at modellen trenger mer kontroll.

Praksiskoden er en frivillig måte å vise hvordan pliktene oppfylles. Anthropic kan bruke den som arbeidsoppskrift og dokumentere at selskapet følger den. En leverandør som velger en annen vei, må fortsatt oppfylle loven. En underskrift på koden er heller ikke et godkjenningsstempel på den enkelte modellen.

EU-kommisjonen håndhever modellreglene gjennom sitt kontor for kunstig intelligens, AI Office. Kommisjonen kan kreve opplysninger, og AI Office kan undersøke om vurderingene holder. Dersom forutsetningene i loven er oppfylt, kan Kommisjonen kreve tiltak for å redusere risiko, og i siste instans begrense tilgangen til en modell eller kreve den trukket tilbake.

Ordningen krever ingen generell lanseringstillatelse for alle modeller. Leverandøren har et løpende ansvar, og myndigheten kan undersøke og gripe inn. Et godt testresultat opphever heller ikke plikten til å reagere på det som skjer når modellen tas i bruk.

Europa bruker også fagfolk utenfra. Et vitenskapelig ekspertpanel bistår Kommisjonen, og METR oppgir at en mindre del av inntektene kommer fra teknisk bistand til AI Office. De samme fagmiljøene kan altså arbeide på begge sider av Atlanteren. Men en ekstern ekspert som leverer en vurdering, har et annet ansvar enn myndigheten som gir et pålegg. Pålegget må ha grunnlag i loven, og myndigheten må svare for avgjørelsen. Et selskap som rammes av et bindende vedtak, kan få vedtaket prøvd av EUs domstoler.

Europa har dermed et langt sterkere vern mot at sikkerhetsregler blir et konkurransevern for de største selskapene. Pliktene følger av lov, og bindende inngrep besluttes av offentlige myndigheter og kan prøves av domstolene. Det gir vesentlig lavere risiko for regulatory capture enn den bransjedrevne kontrollen som diskuteres i USA.

I Norge er gjennomføringen av AI Act fortsatt under arbeid.

Tannblekerne i North Carolina ville kjent igjen spørsmålet som nå opptar AI-bransjen: Hvem får sette vilkårene for at andre skal få drive?

Et sikkerhetskrav kan gi oss bedre beskyttelse og samtidig gjøre det vanskeligere å konkurrere. I EU ligger makten til å håndheve kravet hos en offentlig myndighet som må svare for avgjørelsen. Det er en langt tryggere plassering enn hos selskapene som har mest å tjene på å holde andre ute.