När algoritmen bestämmer vem som får hyra lägenheten

När bostadsbristen är stor och antalet sökande vida överstiger antalet lediga hyresrätter blir det allt viktigare för fastighetsägare att kunna välja hyresgäster snabbt och effektivt. Digitala system och algoritmer används därför i högre grad för att sortera ansökningar, bedöma ekonomiska förutsättningar och identifiera vilka personer som anses passa för en viss bostad. Tekniken kan förenkla administrationen och minska det manuella arbetet, men väcker samtidigt frågor om transparens, rättvisa och diskriminering. Vad händer när ett automatiserat system får inflytande över vem som får ett kontrakt och vem som sorteras bort? Och vem bär egentligen ansvaret när algoritmens beslut får stora konsekvenser för den enskilde?

Så används algoritmer vid urval av hyresgäster

När en hyresvärd får in hundratals ansökningar till samma lägenhet kan det vara svårt att hantera alla uppgifter manuellt. Därför används digitala system som kan sortera och analysera information om de sökande. Algoritmen kan exempelvis väga in inkomst, anställningsform, betalningshistorik och tidigare boendeuppgifter. Syftet är ofta att effektivisera processen och säkerställa att den som får kontraktet uppfyller hyresvärdens ekonomiska krav. Samtidigt innebär automatiseringen att delar av bedömningen flyttas från en mänsklig handläggare till ett tekniskt system. Det förändrar också förutsättningarna för den som söker bostad och vill förstå hur beslutet fattas.

Från ansökan till automatiserat urval

Ett algoritmbaserat system kan arbeta med betydligt fler uppgifter än vad en enskild handläggare rimligen hinner gå igenom manuellt. När en ansökan registreras kan systemet kontrollera uppgifter mot olika databaser och därefter ge den sökande en viss bedömning. Exakt hur processen ser ut varierar mellan hyresvärdar och tekniska lösningar. I vissa fall används automatiseringen främst för att kontrollera grundläggande krav, medan andra system kan användas för att rangordna kandidater. Det innebär att algoritmen inte alltid fattar det slutliga beslutet, men ändå kan påverka vilka personer som går vidare i processen.

Vilka uppgifter som används är därför centralt. En algoritm kan exempelvis programmeras för att kontrollera om inkomsten når upp till en viss nivå i förhållande till hyran. Den kan även väga in om inkomsten kommer från en tillsvidareanställning, visstidsanställning eller egen verksamhet. Andra kriterier kan handla om betalningsanmärkningar, skulder eller tidigare hyresförhållanden. För den sökande kan dessa faktorer framstå som objektiva, eftersom de presenteras som siffror och kategorier. Men även ett system som arbetar med till synes neutrala uppgifter bygger på regler som människor har bestämt och valt att använda.

Effektivitet kontra mänsklig bedömning

Ett viktigt argument för algoritmiskt urval är effektiviteten. Om en hyresvärd snabbt behöver hantera ett stort antal ansökningar kan automatiserade kontroller spara både tid och resurser. Systemet kan dessutom tillämpa samma förutbestämda kriterier på många ansökningar, vilket kan minska risken för att olika handläggare gör olika bedömningar. Det kan uppfattas som mer konsekvent och förutsägbart. Problemet uppstår när reglerna i systemet inte tar hänsyn till omständigheter som är svåra att omvandla till siffror. En mänsklig handläggare kan exempelvis ställa kompletterande frågor, medan ett automatiserat system kan avfärda ansökan direkt.

• Inkomst kan användas för att bedöma betalningsförmåga.

• Anställningsform kan påverka hur stabil inkomsten bedöms vara.

• Betalningshistorik kan användas som ekonomisk riskindikator.

• Tidigare hyresförhållanden kan ingå i bedömningen.

• Förutbestämda kriterier kan styra vilka sökande som går vidare.

För den bostadssökande är det inte alltid tydligt vilka kriterier som faktiskt har påverkat utfallet. En person kan få avslag trots att inkomsten verkar tillräcklig, utan att förstå vilken uppgift som gjorde att ansökan sorterades bort. Det skapar en informationsasymmetri mellan hyresvärden och den sökande. Hyresvärden kan känna till systemets kriterier, viktningar och tröskelvärden, medan den sökande endast ser resultatet. När algoritmen får en central roll i bostadsuthyrningen blir därför frågan om insyn lika viktig som frågan om teknisk effektivitet.

När automatiserade beslut riskerar att sortera bort människor

Algoritmer förknippas ofta med objektivitet eftersom de arbetar utifrån regler, data och beräkningar. Men ett automatiserat beslut är aldrig helt frikopplat från de antaganden som byggts in i systemet. Om vissa egenskaper ges större betydelse än andra kan det påverka vilka grupper som oftare bedöms som attraktiva hyresgäster. Det behöver inte innebära att systemet uttryckligen använder exempelvis kön eller ålder. Även andra uppgifter kan få betydelse för resultatet och i praktiken påverka olika grupper på olika sätt. Därför räcker det inte att konstatera att en algoritm behandlar alla ansökningar enligt samma tekniska process.

När neutrala uppgifter får ojämna konsekvenser

Ett tydligt exempel är kravet på en viss typ av inkomst. En person med tillsvidareanställning kan framstå som ekonomiskt stabil i ett automatiserat system, medan en person som arbetar som frilansare eller driver eget företag kan bedömas som mer osäker. Samma sak kan gälla personer med oregelbundna inkomster, kortare anställningar eller flera arbetsgivare. Algoritmen behöver inte vara programmerad för att missgynna någon viss grupp för att resultatet ändå ska bli ojämnt. Det räcker att de kriterier som används systematiskt passar vissa ekonomiska och sociala situationer bättre än andra.

Det är också viktigt att skilja mellan diskriminering som uppstår genom medvetna regler och diskriminering som uppstår genom data eller statistiska samband. Om ett system tränas eller utvecklas med historiska uppgifter kan tidigare mönster påverka hur framtida ansökningar bedöms. Ett system kan därmed reproducera gamla beteenden även om ingen uttryckligen har programmerat in en sådan avsikt. Ju mer automatiserad processen är, desto svårare kan det dessutom vara för en enskild handläggare att upptäcka att vissa grupper konsekvent sorteras bort. Det kräver därför återkommande granskning av både kriterier, data och faktiska utfall.

Rätten att förstå varför man nekas

För den som nekas en lägenhet kan det vara stor skillnad mellan ett begripligt beslut och ett resultat som bara presenteras av ett digitalt system. Om hyresvärden kan förklara vilka krav som inte uppfylldes blir beslutet lättare att förstå och eventuellt korrigera. Om svaret däremot bara är att ansökan inte klarade systemets bedömning blir det svårt att veta om uppgifterna varit felaktiga eller om kriterierna varit orimliga. Transparens handlar därför inte nödvändigtvis om att den sökande måste få tillgång till hela den tekniska modellen. Det handlar framför allt om att kunna förstå grunderna för beslutet.

När algoritmer används i bostadsuthyrning blir frågan om mänsklig kontroll särskilt betydelsefull. Ett automatiserat system bör inte ses som en ofelbar domare, utan som ett verktyg vars resultat behöver kunna ifrågasättas. Om en sökande exempelvis anser att uppgifter om inkomsten är felaktiga måste det finnas möjlighet att få dem rättade. Det behöver också finnas en väg till mänsklig kontakt när ett automatiserat beslut får stor betydelse. Annars riskerar effektiviseringen att skapa en process där den som hamnar utanför systemets kriterier har mycket begränsade möjligheter att få sin situation prövad.

Transparens och ansvar när tekniken väljer hyresgäst

När en algoritm påverkar vem som får möjlighet att teckna ett hyresavtal uppstår en viktig fråga om ansvar. Ett tekniskt system kan genomföra beräkningar och rangordna ansökningar, men det är fortfarande människor och organisationer som har valt vilka uppgifter som ska användas och vilka regler som ska gälla. Därför kan ansvaret inte försvinna bara för att beslutet har automatiserats. Hyresvärden behöver kunna förstå hur systemet fungerar på en tillräcklig nivå för att upptäcka fel, kontrollera resultaten och ingripa när något blir fel. Teknisk komplexitet får inte bli ett sätt att undvika ansvar.

Vem ansvarar för algoritmens beslut?

Ansvarsfrågan blir särskilt komplicerad när en hyresvärd använder ett externt system som har utvecklats av ett teknikföretag. Hyresvärden kanske inte själv har programmerat algoritmen och kan därför sakna full insyn i hur den fungerar. Samtidigt är det hyresvärden som använder resultatet när bostäder fördelas. Ett företag som levererar tekniken kan ha ansvar för systemets konstruktion och funktion, medan hyresvärden ansvarar för hur verktyget används i praktiken. Därför behöver rollerna vara tydliga redan innan ett automatiserat urval införs. Det bör också vara möjligt att kontrollera om systemet faktiskt fungerar enligt de krav som ställts.

Transparens är en annan central fråga. För den bostadssökande kan det vara relevant att veta om en människa har bedömt ansökan eller om den har sorterats genom ett automatiserat system. Det kan också vara viktigt att förstå vilka huvudsakliga faktorer som påverkat resultatet. Fullständig teknisk insyn är inte alltid nödvändig för att skapa begriplighet. Däremot behöver informationen vara tillräcklig för att den sökande ska kunna upptäcka uppenbara fel och förstå vilka krav som gäller. Ett system som fungerar som en svart låda riskerar annars att skapa misstro, även när besluten i grunden är korrekta.

Kontroll måste byggas in i processen

För att minska riskerna behöver automatiserade urval kunna granskas över tid. Det räcker inte att testa algoritmen när den installeras och sedan låta den arbeta utan uppföljning. Hyresvärden behöver undersöka vilka resultat systemet faktiskt ger och om vissa grupper återkommande får sämre möjligheter att gå vidare. Även förändringar i arbetsmarknaden eller bostadsmarknaden kan göra att kriterier som tidigare verkade rimliga får andra konsekvenser. Regelbunden kontroll kan därför vara avgörande för att upptäcka problem innan de blir en permanent del av uthyrningsprocessen.

Det behöver också finnas möjlighet till mänsklig omprövning. Ett automatiserat beslut kan bygga på korrekta uppgifter men ändå bli missvisande eftersom en persons situation inte passar in i de kategorier som systemet använder. Om en sökande kan lämna ytterligare information bör det finnas en tydlig process för hur den hanteras. På så sätt kan tekniken användas för att effektivisera administrationen utan att den mänskliga bedömningen försvinner helt. Balansen mellan automatisering och kontroll blir därmed avgörande när algoritmer får större inflytande över vem som får tillgång till en hyresrätt.