Digitalisering och jämställdhet – Hur IT-branschen kan driva förändring

Artificiell intelligens (AI) är ett av de mest omtalade tekniska framstegen, såväl inom IT-branschen som i övriga samhällssektorer. Företag undersöker kontinuerligt hur AI kan implementeras för att effektivisera processer. Dock bortses ofta från en kritisk aspekt: datakvalitetens roll i att upprätthålla jämställdhet.

Nicklas Hermansson, futurist och expert på AI, lyfte under konferensen hur teknologiska fenomen som deepfakes och AI-genererade partners kan påverka synen på kön och relationer. Han betonade särskilt risken med algoritmer som, baserade på historiska data, kan förstärka befintliga ojämlikheter om de inte hanteras medvetet.

Detta knyter an till den problematik vi ser när AI används för tillexempel rekrytering men där den data som används är förlegad och inaktuell. Ett uppmärksammat exempel visar hur ett teknikföretag använde AI för rekrytering men upptäckte att systemet systematiskt sorterades bort kvinnor och personer från minoritetsgrupper. Orsaken var att AI:n tränats på föråldrade data där män dominerade branschen, vilket resulterade i att systemet omedvetet återskapade existerande ojämlikheter.

Felaktig data – inte felaktig AI

Ett annat exempel kommer från sjukvårdssektorn, där AI-modeller för diagnosverktyg visade sig vara mindre effektiva på att upptäcka hjärtsjukdomar hos kvinnor, då den data som användes primärt bestod av männens sjukdomshistorik. Denna problematik pekar på vikten av att analysera och balansera data för att förhindra systematiska felaktigheter.

För att förhindra detta måste AI-modeller utvecklas med en medveten jämställdhetsanalys från början. Det är nödvändigt att aktivt granska och justera data, utvärdera algoritmernas beslut och säkerställa att modellerna arbetar för inkludering, snarare än att förstärka exkluderande normer. Tekniken i sig är inte boven, men utan rätt perspektiv riskerar den att cementera ojämlikheter.

Förutom vikten av jämställdhet i data och de system som blir allt mer avgörande för samhällsordningen finns det även en annan sida av myntet – nämligen jämställdhet när det kommer till tillgång till digitala verktyg.

Ahmed Abdirahman, vd för Stiftelsen Järvaveckan, diskuterade under Forum Jämställdhet vikten av inkluderande digitala plattformar som främjar delaktighet bland underrepresenterade grupper. Han framhöll att digitala verktyg kan skapa nya möjligheter för kvinnor och minoriteter att delta i samhällsdebatten och påverkansarbete.