Vem får veta att det hänt?

Den 10 september skickade någon på OpenAI ett mejl till publicdisclosures@servicesaustralia.gov.au.

Det är adressen dit forskare och andra kan skriva om de hittat ett säkerhetshål hos myndigheten som sköter Medicare och socialförsäkringarna i Australien. En allmän inkorg. Samma sorts adress som finns längst ner på tusentals webbplatser.

Där landade beskedet att en AI-agent hade tagit sig in i ett statligt system. Mejlet kom fram. Det lästes nästa dag. Ändå hade det redan gått ungefär en månad sedan OpenAI upptäckte intrånget.

Det här är del två av fyra. Den handlar om vad som händer efter att något gått fel: vem som får veta, när de får veta och vem som bestämmer att det är dags att berätta.

Kort sammanfattning

Intrånget skedde i juni. OpenAI upptäckte det i augusti och anmälde det i september.

Inkorgen fungerade. Fördröjningen före anmälan behöver en annan förklaring.

Tidiga besked, tydligt ansvar och fungerande kontaktvägar måste hänga ihop med reglerna för rapportering.

Samma fråga gäller din organisation: vem får veta när något går fel, även när hela bilden ännu saknas?

Två begrepp som är bra att ha med sig

Ansvarsfull rapportering. Den som hittar en sårbarhet berättar för den som äger systemet och ger möjlighet att åtgärda den innan detaljerna blir offentliga.

Incidentrapportering. Att anmäla att något har hänt. Vilka skyldigheter som gäller beror bland annat på verksamheten, informationen och lagstiftningen. En tidig anmälan kan behöva följas av flera uppdateringar.

Nio dagar, tre månader

Låt oss börja med vad som faktiskt hände, i ordning. Det är en tidslinje i två delar, och det är skarven mellan dem som är intressant.

Från intrång till telefonsamtal

18 juni: En OpenAI-agent tar sig in på Services Australias statistikportal och hämtar bland annat icke-publik statistik och interna filer.

11 augusti: OpenAI upptäcker intrånget, enligt den tidslinje ABC redovisar.

10 september: OpenAI mejlar myndighetens inkorg för säkerhetsrapporter.

11 september: Mejlet läses.

15 september: Services Australia informerar Australian Signals Directorate, landets myndighet för signalspaning och cyberförsvar.

17 september: Ansvarig minister Katy Gallagher informeras.

19–20 september: Premiärminister Anthony Albanese och hans kansli informeras.

22 september: Första direkta tekniska utbytet mellan OpenAI och myndigheten.

24 september: Albaneses samtal med Sam Altman och incidenten blir offentliga i Australien.

Tidslinjen bygger på ABC:s genomgång och regeringens presskonferens. Datumet för offentliggörandet är australiskt; Albanese befann sig i New York.

Inkorgen var alltså bemannad. Ärendet gick vidare. Det är värt att säga, för annars är det lätt att göra själva mejladressen till förklaringen till allt.

Det som skaver mest är tiden före mejlet: nästan åtta veckor till upptäckt, sedan ytterligare en månad till anmälan. Under den väntan saknade mottagaren möjlighet att bedöma händelsen utifrån OpenAI:s fynd.

Vad vi vet om omfattningen

Den australiska regeringen uppgav den 24 september att agenten inte hade kommit åt några individuella vårduppgifter. Portalen var skild från systemen för Medicare-ärenden, utbetalningar och patientinformation. Marles beskrev påverkan som begränsad och incidenten som mycket allvarlig. Båda bedömningarna får plats samtidigt. (Regeringens redogörelse)

Det handlade om intern träning och utvärdering med en experimentell modell, utan alla skydd som finns i OpenAI:s publika produkter. Händelsen ska alltså inte beskrivas som pågående beteende hos vanliga ChatGPT-användares assistenter.

Bilden har också förändrats. Regeringens tidiga besked att besöken på tre andra webbplatser var normala följdes av uppgifter från OpenAI om bland annat åtkomst till konfiguration och användning av en exponerad åtkomstnyckel. Detaljerna och bedömningarna skiljer sig mellan myndigheterna. (OpenAI, 28 september)

Det är ett skäl att vara försiktig med tvärsäkra slutsatser om omfattningen. Och ett skäl att kunna lämna ett första besked som sedan blir mer fullständigt.

Berätta innan utredningen är klar

OpenAI gav den 28 september en förklaring till dröjsmålet: företaget ville lämna en detaljerad redogörelse när utredningen var färdig. Företaget medger att preliminära fynd borde ha delats tidigare. I en uppdatering den 4 oktober uppger OpenAI att ett nytt fall hos NSW National Parks and Wildlife Service identifierades den 29 september, med första kontakt inom 48 timmar. Det är företagets egen redogörelse. (OpenAI)

För mig gör det lärdomen tydligare. En mottagare kan behöva agera långt innan avsändaren är färdig med sin utredning. Att vänta på en komplett berättelse kan kosta den andra parten tid som den behöver för att undersöka och skydda sina system.

Ett tidigt besked behöver därför kunna säga: detta har vi sett, detta vet vi ännu inte, och så här får ni nästa uppdatering. Osäkerheten hör hemma i rapporten. Den får inte automatiskt bli ett skäl att skjuta upp den.

Den australiska regeringen tillsatte en arbetsgrupp som bland annat ska bedöma om lagar har brutits och om regelverket är anpassat till de nya riskerna. Det går därför inte att dra slutsatsen att ingen lag saknades. (Regeringens uppdrag)

Jag tycker att tydliga krav på rapportering är rimliga. Men någon måste också ha ansvar för att skicka beskedet, någon måste ta emot det och båda behöver veta när ärendet ska lyftas vidare.

Det går att börja med den delen redan nu: en namngiven ansvarig, en ersättare och en kontaktväg som faktiskt är testad. Lägg till ett beslut om när ni ska berätta även om utredningen fortfarande pågår. Det är arbete som varje organisation kan göra medan de större reglerna utvecklas.

Den som berörs behöver få veta tillräckligt tidigt för att kunna agera.

Var makten faktiskt ligger

Jag har skrivit förut att bristen bestämmer makten. Den som sitter på det som är svårast att få tag i får bestämma. Chip, energi och datacenter är sådana flaskhalsar, något jag var inne på i varför världens AI-framtid hänger på en liten stad i Nederländerna.

Här syns en annan brist: insyn i vad modellerna faktiskt gjorde.

Utvecklaren har loggar från modellens arbete som den drabbade organisationen inte har. I Anthropics utredning uppgav företaget att de två organisationer det hade nått inte själva hade upptäckt intrången. Det skapar ett beroende av att den som vet också berättar.

I Vem äger din off-knapp? skrev jag om beroendet åt ena hållet: någon annan kan stänga av verktyget du byggt din vardag på.

Det här är samma beroende spegelvänt. Någon annan kan sitta på information som du behöver för att förstå vad som hänt i din egen verksamhet. Egna loggar och säkerhetsrutiner hjälper, men ger inte automatiskt hela bilden.

Jag använder amerikanska modeller varje dag. Just därför vill jag veta vilken insyn jag har. Vid inköp behöver vi fråga vad leverantören rapporterar, hur snabbt det sker och vilken hjälp vi får att utreda. Det är lättare att komma överens om innan något händer.

Insyn är också en maktfråga. Den som har informationen påverkar när andra kan agera.

Och medborgaren?

Det finns en del av det här som inte stannar mellan stater och företag. Vi finns på andra sidan deras system, som invånare, kunder och medarbetare.

Jag skrev om AI som valfråga i På söndag röstar vi om AI, och om den växande användningen i Hypen har lagt sig. Inte användningen.. Den här frågan följer med i båda sammanhangen: vilken information behöver människor för att kunna fatta egna beslut om tekniken?

En teknisk rapport till en myndighet besvarar inte automatiskt den frågan. Om en händelse berör enskilda behöver någon också bedöma vad de behöver få veta och hur beskedet ska nå dem. Ett pressmeddelande kan vara en del av det, men det behöver gå att förstå vad händelsen betyder för mig.

Vad det betyder för dig

Det mesta här handlar om regeringar och globala bolag. Men också en verksamhet med tjugo anställda behöver veta vem som tar emot ett larm och vad som händer sedan.

Jag håller mig till en sak, som förra gången.

Testa er egen väg in – börja med en kvart

Skicka ett tydligt märkt testmejl till er adress för säkerhets- och felanmälningar och mät hur lång tid det tar innan en människa svarar. Om ni inte har en adress är det svaret.

Går adressen att hitta utifrån?

Vem ansvarar för inkorgen, och vem ersätter den personen?

Vem får veta vidare och vem har mandat att agera?

Vet era viktigaste leverantörer hur de når er och när ni vill ha ett första besked?

Följ testet ett steg förbi inkorgen. Ett svar visar att någon läste. Ni behöver också veta att informationen når någon som kan göra något åt den.

En bevakad inkorg är en bra början. Nästa del är att kunna varna i tid åt andra hållet. Bestäm vem hos er som får kontakta en berörd kund eller leverantör när ni har upptäckt ett problem men ännu inte vet allt.

Det som står på spel

Om ansvaret förblir otydligt riskerar rapporteringen att vänta tills beskedet känns färdigt att visa upp. Under tiden får den berörda organisationen mindre tid att undersöka och åtgärda. Och förtroendet blir beroende av att enskilda människor känner rätt personer och vågar lyfta frågan.

Det är svårt att bygga en verksamhet på. Därför behöver vi både regler som går att följa upp och rutiner som fungerar en vanlig arbetsdag.

Inkorgen var början

Jag vill avsluta där jag började.

Mejlet den 10 september kom fram och lästes dagen efter. Premiärministern informerades den 19–20 september. Den 24 september berättade Albanese offentligt om sitt samtal med Altman. Det fanns en kedja från inkorgen hela vägen upp.

Det går att bygga vidare på en kontaktväg som fungerar. Men inkorgen kan inte avgöra när avsändaren trycker på skicka. Det beslutet behöver också en ansvarig, en tidsgräns och möjlighet att lyfta frågan om någon tvekar.

Det som håller ett förtroende vid liv är inte att inget går fel. Det är att man får veta när det gör det, medan man fortfarande kan påverka vad som händer sedan.

Detta är en personlig reflektion av Tobias Landén, Qlok, och den andra av fyra i serien Lydnad utan ansvar. Nästa del handlar om varför kännedom om en risk inte alltid leder till handling. Om frågan om vem som får veta kittlade eller skavde, hör gärna av dig. Vi gillar att tänka högt om det här tillsammans med andra.

Källor – Australien: Regeringens presskonferens, 24 september · ABC News: tidslinjen · OpenAI: redogörelse 28 september, uppdaterad 4 oktober

Andra incidenter: Anthropics egen utredning