Mer än 100 000 personer har tecknat sig i Telge Bostäders bostadskö i Södertälje. Men även den första av dessa 100 000 är inte garanterad en vinst i fighten om boende. Den som vill visa intresse för en lägenhet måste nämligen först bli ”startklar”, som Telge Bostäder uttrycker det. Det innebär att bolaget har kontrollerat inkomst, hushållets storlek och betalningsförmåga och räknat ut hur hög hyra den sökande har råd med.
I dag sköts arbetet manuellt av uthyrnings-enheten. Anställningsintyg och lönespecifikationer granskas, dokumentens äkthet bedöms, offentliga register kollas och till sist räknas en bokalkyl fram.
Med AI skulle samma kontroller kunna göras på en bråkdel av tiden. Men bör en maskin verkligen få vara med och avgöra vem som får en lägenhet?
Diskussionen om AI:s risker har tagit ny fart under hösten sedan Anthropics vd Dario Amodei varnat för att AI-agenter som får verka utan tillräcklig tillsyn kan få oväntade konsekvenser. En oro som flera säkerhetsforskare delar medan andra tycker att larmen är överdrivna. Det är samma grundfråga i mindre skala som Telge Bostäder nu testar i sin egen uthyrningsprocess, hur mycket får en agent göra på egen hand innan det krävs mänsklig kontroll.
På Telge Bostäder finns nämligen redan en AI-agent som klarar jobbet, åtminstone rent tekniskt. Peter Gustafsson, chef för IT och digitalisering på Telge Bostäder, har tillsammans med kollegor under nästan ett års tid arbetat med att ta fram tekniken. Agenten läser pdf:er, skärmdumpar och papper som fotograferats med mobilen, kontrollerar äktheten och slår i offentliga register. Ut kommer en maxhyra. Landar den på till exempel 8 000 kronor i månaden är den sökande startklar för lägenheter upp till den nivån i sex månader.
Peter Gustafsson är dock tydlig med att agenten inte ska få sista ordet.
– Den tar inga beslut, utan samlar ihop information, gör en liten kalkyl och presenterar resultatet för medarbetarna. Baserat på det fattar vår medarbetare beslut. Det blir ingen direkt kontakt mellan AI-agenten och kunden, säger Peter Gustafsson.
Än så länge är lösningen inte i drift. Innan dess vill bolaget veta att den håller. Därför har Telge Bostäder sökt sig till Integritetsskyddsmyndighetens (IMY) innovationssandlåda. Där ger myndigheten under cirka sex månader kostnadsfri vägledning i dataskyddsfrågor.

Cecilia Margenberg, jurist på IMY:s innovationshubb, är en av dem som ska vägleda bolaget. Tillsammans ska de gå igenom hur lösningen kan användas utan att människors integritet tar skada.
Cecilia Margenberg ser tre typer av risker när AI sammanställer uppgifter om bostadssökande. Tekniken kan göra fel, läsa ett intyg fel eller dra en felaktig slutsats. Den kan också få se mer än den behöver. Ett lönebesked eller ett beslut från Försäkringskassan kan innehålla betydligt fler personuppgifter än vad som krävs för att räkna ut vad någon har råd med, och när dokumentet laddas upp kan systemet indirekt få tillgång till dem.
Den tredje risken gäller det mesta av AI. Att de som använder systemet med tiden börjar lita för mycket på det.
– Därför blir det väldigt viktigt att den mänskliga kontrollen hela tiden finns, inte bara på papperet, utan att den får verkligt genomslag i praktiken, säger Cecilia Margenberg.
Hon lyfter också risken att AI:n ger ett missvisande eller diskriminerande underlag. För att sådana fel ska upptäckas måste handläggaren kunna granska både resultatet och vad bedömningen bygger på.
– Det behöver finnas goda möjligheter för en handläggare att upptäcka och korrigera sådana fel, säger hon.
Ett AI-system i sig kan -aldrig vara ansvarigt. Det är alltid
verksamheten som använder AI som är personuppgifts-ansvarig.
Det är den kontrollen Telge Bostäder försöker bygga in. Agenten ska inte bara leverera ett belopp. Den ska också redovisa hur den har resonerat i ett underlag som uthyraren går igenom innan beskedet lämnas. Uthyraren kan dock strunta i förslaget och göra en egen bedömning.
Om lösningen tas i drift ska bolaget dessutom följa upp med stickprover, för att se om medarbetarna med tiden slutar ifrågasätta agenten.
För Peter Gustafsson står mycket på spel i båda riktningarna. En felaktig kalkyl kan göra att någon missar sin chans till en bostad, eller att någon får en lägenhet som hen inte har råd med.
– Vi har ett ansvar att se till att människor inte tar en bostad som de sen inte kommer ha råd med. Både vi och hyresgästen förlorar på det, säger Peter Gustafsson.
Tycker den sökande att beskedet är fel är det en människa som svarar, inte en AI-agent.
– Tycker hyresgästen att något ser jättekonstigt ut och undrar ”varför är jag bara startklar för en sån här låg hyra?”, då kan vi ha en dialog kring det. Vår uthyrare går då in och tittar en extra gång manuellt på vilka grunder beslutet är fattat, säger Peter Gustafsson.
Blir något ändå fel, varnar Cecilia Margenberg för att det inte går att skylla på maskinen.
– Ett AI-system i sig kan aldrig vara ansvarigt. Det är alltid verksamheten som använder AI som är personuppgiftsansvarig, säger hon.
Det finns inget självändamål med AI. Är nedsidan
större än uppsidan, då är det ingenting att ha.
Vinsten Telge Bostäder hoppas få ut av agenten är tid. Uthyrarna ska lägga mindre tid på pappersexercis och mer på att matcha sökande mot lediga lägenheter och själva vara med på visningar.
Men något facit finns inte. IMY har inte haft något liknande projekt i sandlådan, och Peter Gustafsson känner inte till något annat bostads-bolag som gjort samma sak. Visar det sig att riskerna väger tyngre är han beredd att låta bli.
– Det finns inget självändamål med AI. Är nedsidan större än uppsidan, då är det ingenting att ha.


