Hur låter man AI-agenter skriva kod utan att riskera personuppgifter?
AI-agenter kan skriva det mesta av koden i en kodbas som hanterar personuppgifter, om tre saker är på plats: agenterna arbetar aldrig mot produktionsdata, säkerhetskraven (radnivåsäkerhet, behörighetsmodell, förbjudna mönster) står i agenternas instruktioner och backas upp av automatiska kontroller, och varje ändring granskas automatiskt så att säkerhets- och databasfel fångas innan en människa godkänner den. Det som oftast går fel är inte modellen, utan att ingen har skrivit ner vad den inte får göra. Här är kontrollerna vi sätter upp, och vad ni bör kräva av den som bygger åt er.
Kontrollerna
Ingen produktionsdata inom agenternas räckhåll
Agenterna arbetar mot syntetisk eller verkligt anonymiserad stagingdata; maskerad eller pseudonymiserad data räknas fortfarande som personuppgifter. Inloggningsuppgifter till produktion stannar i ert valv och når aldrig miljön där agenterna körs.
Säkerhetskraven i agenternas regler
Radnivåsäkerhet, behörighetsmodell och förbjudna mönster står i regelfilen som agenterna arbetar efter, och automatiska kontroller backar upp dem, så att kravet finns i instruktionerna och i CI och inte bara i någons huvud.
Granskningsagenter innan en människa tittar
I varje pull request letar granskningsagenter efter säkerhets-, databas- och prestandafel. Det som hittas stoppar mergen tills det är åtgärdat.
Människor mergar schemaändringar
Agenter kan skriva och testa en migrering, men en människa granskar och mergar den, med en plan för att backa.
Promptar och loggar utan personuppgifter
Personuppgifter hålls utanför promptar och agentloggar, och AI-leverantören omfattas av ett personuppgiftsbiträdesavtal.
Det här bör ni fråga den som bygger åt er
Fem frågor som skiljer en kontrollerad uppsättning från en demo.
Var körs agenterna, och vad kommer de åt?
Svaret ska peka ut miljön och utesluta produktionsdata och inloggningsuppgifter till produktion.
Vilka regler följer agenterna, och var står de?
Be att få se regelfilen. Står inte säkerhetskraven där känner agenterna inte till dem.
Hur granskas varje pull request innan en människa tittar på den?
Leta efter automatisk granskning av säkerhets- och databasändringar, inte bara tester som går igenom.
Vem mergar migreringar och ändringar i behörigheter?
Svaret ska vara en namngiven person, inte en agent.
Vad händer med promptar och loggar?
De ska vara fria från personuppgifter, och AI-leverantören ska omfattas av ett personuppgiftsbiträdesavtal.
Så kan ett fynd se ut
Säg att en agent lägger till en ny tabell för en funktion och glömmer radnivåsäkerheten. Granskningsagenten flaggar den saknade policyn i pull requesten, agenten lägger till den, och en kontroll i CI bekräftar att alla tabeller har radnivåsäkerhet påslagen innan något kan mergas. Ingen behöver upptäcka det för hand.
Frågor
- Är det säkert att låta AI skriva kod i en kodbas med personuppgifter?
- Det kan det vara, om agenterna aldrig rör produktionsdata, säkerhetsreglerna är nedskrivna och kontrolleras i granskningen, och en människa godkänner varje merge. Risken ligger mer i saknade skyddsräcken än i själva modellen.
- Ser AI-leverantören våra kunders personuppgifter?
- Bara om de skickas dit. Vi sätter upp agenterna så att de arbetar med kod och syntetisk data, håller personuppgifter utanför promptar och loggar, och kontrollerar att AI-leverantören omfattas av ett personuppgiftsbiträdesavtal.
- Vad är radnivåsäkerhet, och varför spelar den roll för AI-skriven kod?
- Radnivåsäkerhet (RLS) låter databasen själv avgöra vilka rader varje användare får läsa eller ändra. Den spelar roll eftersom en agent som skriver en ny fråga eller tabell lätt hoppar över en behörighetskontroll; med radnivåsäkerhet på plats säger databasen ändå nej. Men en ny tabell saknar den tills någon slår på den, och anslutningar med admin- eller service role-behörighet går förbi den, så båda behöver kontrolleras i CI.
- Behöver vi en konsekvensbedömning för AI-assisterad utveckling?
- Behandlas inga personuppgifter i själva utvecklingsarbetet uppstår inte frågan om konsekvensbedömning för det. AI-funktioner i er produkt som behandlar personuppgifter kan behöva en; vår checklista listar kriterierna. Bedömningen gör ni som personuppgiftsansvarig, med råd från ert dataskyddsombud om ni har ett.
Vill ni ha det här på plats i er kodbas?
Börja med ett kostnadsfritt introsamtal på 30 minuter. Vi tittar på era repon och säger ärligt var ni bör börja.
Boka introsamtal