Fördomssystem

Infontology har en intressant notis om att Amazon patenterat en metod för att dra slutsatser om sina kunder utifrån köpbeteende, närmare bestämt om gåvor och vilka slutsatser man kan dra om kundernas släkt- och vänkrets. I patentansökan framgår klart att dessa slutsatser kommer att vara åtminstone delvis fördomsbaserade – om någon får dockkläder dras slutsatsen att det är en flicka, likaså om pastellfärger väljs.

Men fördomarna går djupare än så, de utgör själva metodens kärna.

Statistik är ett verktyg för att dra slutsatser om en grupp. När den tas utanför sitt område och används för att dra slutsatser om en individ så hamnar den precis på definitinen av vad en “fördom” är – att tro saker om en människa utfrån vilken grupp hon tillhör.

Vi har ganska bra varningssignaler om detta när vi hör det från en människa – om någon säger “ett barn som får dockkläder till present är en flicka” eller “han är invandrare och invandrare brukar vara tjuvar” ringer fördomsklockan. Men när det förkläs till statistisk sanning och datoriseras har det lättare att slippa förbi.

Det är irriterande nog för den pojke som någon gång i sin barndom tyckte om att leka med dockor, och som sedan får valsa runt i systemen långt upp i tonåren med slutsatsen “flicka” klistrad på sig och får reklamerbjudanden utifrån denna etikett.

Det är skrämmande och farligt när dessa fördomssystem används för att dra slutsatser om vem som är terrorist, baserat på folkgrupp och vilka böcker man lånat på biblioteket.