Webshop
KERESÉS AZ ELLE CIKKEI KÖZÖTT

Írd be a keresett kifejezést (Min. 3 karakter)

#AI

Miért szexisták az algoritmusok?

2021. szeptember 25.

5 perc olvasás

ELLE

mesterséges intelligencia nők és férfiak közti egyenlőség technológia nők és férfiak nemi alapú előítélet algoritmus
Miért szexisták az algoritmusok?

A mindennapi életünket irányító algoritmusok túlnyomó többségét férfiakkal tesztelték. Milyen következményekkel jár ez a felhasználókra nézve? Ezzel foglalkozó szakértőt kérdeztünk.


A világot gyakran férfiak alakítják férfiaknak számára, egyre inkább hátrányos helyzetbe hozva ezzel az ellenkező nemű társaikat. Ez volt a helyzet a 19. században az ipari forradalommal, amely a nők nélkül zajlott, és sokáig távol tartotta őket ettől a területtől. A mesterséges intelligencia fejlődésével ez a probléma újra előtérbe került: a mindennapi életünk számos aspektusát irányító algoritmusok elfogultak, ahogyan azt Aude Bernheim és Flora Vincent kutatók is feltárják erről szóló könyvükben. Az arcfelismeréstől kezdve az autók légzsákrendszeréig mindent férfi modellek szerint számoltak ki, ami közvetlen hatással van a nők mindennapi életére. Az Elle újságírója Aude Bernheimmel, az Institut Pasteur doktorandusz hallgatójával beszélgetett.

Elle: Szerinted az algoritmusok szexisták?

Aude Bernheim: Igen! Másképp kezelik a „férfi” és a „női” információkat. A legszembetűnőbb példa erre is a fordítószoftverek, például a Google Translate működése: amikor az angol nyelvről a „nővér” szót valamilyen gendersemleges nyelvre fordítjuk, a rendszer automatikusan „ápolónő”-nek fordítja a szót, míg az „orvos” általában „doktor marad”. Az algoritmusok ilyen módon reprodukálják a társadalmunkban meglévő megkülönböztetéseket.

Elle: Minek köszönhető ez?

A.B.: Egy algoritmus kidolgozásának több szakasza van, és mindegyikhez előítéletek kötődhetnek. Amikor algoritmust építünk, azzal kezdjük, hogy felteszünk magunknak egy kérdést és kitűzünk egy célt. Például azt akarjuk, hogy az algoritmus képes legyen felismerni egy bizonyos számú átirat közül a legérdekesebbeket, hogy kiválassza a legjobb jelölteket az egyetemre. Ezért meg kell határoznunk, hogy a „legjobb” kifejezéssel milyen fajta diákot keresünk: az összes jegy átlagát nézzük, vagy a legjobb javulási lehetőséget? Egy meglehetősen általános jellegű vágy matematikai lefordításának ez a módja torzítást eredményezhet, mivel a kiválasztási módtól függően nem pontosan ugyanolyan típusú profilokat fogunk kiválasztani.

Ezután a második lépés az algoritmus betanítása. Adunk neki egy szöveghalmazt, hogy megtanítsuk felismerni, mire van szükségünk. Sok esetben ez az adatbázis nagyon elfogult lesz. A Google Translate szükségszerűen a „nővért” „ápolónőnek”, az „orvost” „doktornak” fogja fordítani, mert a neki tanulásra adott szövegekben az esetek túlnyomó többségében az „orvos” férfi nemű.

Végül az utolsó probléma: sok kódot újra felhasználnak egyik algoritmusból a másikba, még akkor is, ha azok elfogultak. Amint kijavítjuk ezeket az elfogultságokat, dominóhatást fogunk tapasztalni, és az azonos kódokat használó algoritmusok kevésbé lesznek elfogultak.

Elle: Hogyan lehet ezt orvosolni?

A.B.: Emberi és technikai megoldások keverékére van szükség. Az adatbázisok egyenlővé tétele technikai jellegű. Az emberi megoldás alatt azt értem, hogy az embereket is ki kell képezni az algoritmikus torzításainak felismerésére: ki kell képezni az algoritmusokat kódoló fejlesztőket, de a felhasználókat is. Ha egy munkaerő-felvételért felelős személy nézi át az önéletrajzokat, ő biztosan kapott már képzést a nemek közötti egyenlőtlenségekről és a felvételi torzításokról. Ha viszont egy algoritmust használ, és teljesen megbízik benne, akkor nem lesz elég éber. Míg ha jól kiképzik az adatok elemzésére, akkor képes lesz korrigálni ezeket az algoritmikus torzításokat.

Elle: Ezek az előítéletek összefüggésben állnak azzal a ténnyel, hogy az algoritmusokat készítő emberek túlnyomó többsége férfi?

A.B.: Az intuíció azt mondaná, hogy igen. Hogy miért? Amikor egy új terméket tesztelünk, akkor azt a körülöttünk lévő embereken teszteljük. Ha én készítek egy arcfelismerő alkalmazást, először magamon tesztelem, és ha nem működik, akkor megértem, hogy baj van. Most képzeljük el, hogy egy csapatban csak 20 és 50 év közötti fehér férfiak vannak. Akkor óhatatlanul fennáll a veszély, hogy az algoritmus kifejezetten erre a populációra vonatkozóan működik majd. Az ezeket az elfogultságokat bejelentők közül sokan olyan személyek, akik nem feleltek meg ezeknek az algoritmus-kritériumoknak, és technológiai zsákutcában találták magukat. A mesterséges intelligenciával kapcsolatban is vannak olyan munkák, amelyek azt mutatják, hogy ha a csapatok vegyesek, hajlamosak leszünk jobban figyelembe venni a nemi dimenziót.

Elle: Miért van kevesebb nő a mesterséges intelligencia területén?

A.B.: A tudományos területeken akad probléma a sokszínűséggel. Nagyon nemi alapú társadalom vagyunk, ami azt az elképzelést támogatja, hogy egyes munkakörök női, mások pedig férfi munkakörök. Ez különösen igaz az informatikára, ahol a fikciókban sok kulturális sztereotípia kapcsolódik a stréber figurájához, ami még inkább felerősíti ezeket az egyenlőtlenségeket. De facto az informatikát választó nők igen nagy kisebbségben vannak. Ez kulturális problémát okoz az iskolákban és a vállalkozásokban, és sok nőt kiszorít ezekről a területekről. Szerencsére vannak intézmények, amelyek elmozdítják a határokat, és évről évre több nőt vesznek fel. Most már csak azt kell megnéznünk, hogy a vállalati kultúra is fejlődik-e, és segít-e megtartani azokat a nőket, akik végre az informatika területére merészkednek!

Forrás: Elle

A ROVAT LEGNÉPSZERŰBB CIKKEI

Szerinted ki a legokosabb a képen látható 4 ember közül? Érdekes dologról árulkodik
1

Szerinted ki a legokosabb a képen látható 4 ember közül? Érdekes dologról árulkodik

2022.09.06. 1 perc olvasás

Szerinted ki a legokosabb a képen látható 4 ember közül? Érdekes dologról árulkodik

Csak egy született zseni találja meg a hibát a képen 7 másodperc alatt
2

Csak egy született zseni találja meg a hibát a képen 7 másodperc alatt

2023.04.13. 1 perc olvasás

Csak egy született zseni találja meg a hibát a képen 7 másodperc alatt

Kitalálod, melyik nő a kisfiú édesanyja? Sokat elárul rólad, rájössz-e a válaszra
3

Kitalálod, melyik nő a kisfiú édesanyja? Sokat elárul rólad, rájössz-e a válaszra

2023.01.25. 2 perc olvasás

Kitalálod, melyik nő a kisfiú édesanyja? Sokat elárul rólad, rájössz-e a válaszra

Hány kutyát látsz a képen? Elárulja, hány éves vagy szellemileg
4

Hány kutyát látsz a képen? Elárulja, hány éves vagy szellemileg

2023.04.15. 2 perc olvasás

Hány kutyát látsz a képen? Elárulja, hány éves vagy szellemileg

Egy zseni vagy, ha 13 másodperc alatt megtalálod a macskát a képen
5

Egy zseni vagy, ha 13 másodperc alatt megtalálod a macskát a képen

2022.08.10. 1 perc olvasás

Egy zseni vagy, ha 13 másodperc alatt megtalálod a macskát a képen

Ha 5 másodperc alatt kiszúrod a disznót a nyuszik között, igazán különleges vagy
6

Ha 5 másodperc alatt kiszúrod a disznót a nyuszik között, igazán különleges vagy

2022.09.26. 1 perc olvasás

Ha 5 másodperc alatt kiszúrod a disznót a nyuszik között, igazán különleges vagy

Hihetetlenül magas az IQ-d, ha észreveszed a második állatot a képen
7

Hihetetlenül magas az IQ-d, ha észreveszed a második állatot a képen

2022.07.29. 1 perc olvasás

Hihetetlenül magas az IQ-d, ha észreveszed a második állatot a képen

Melyik arcot látod vidámabbnak? A válaszod rengeteget elárul a személyiségedről
8

Melyik arcot látod vidámabbnak? A válaszod rengeteget elárul a személyiségedről

2023.01.24. 2 perc olvasás

Melyik arcot látod vidámabbnak? A válaszod rengeteget elárul a személyiségedről

ezek is érdekelhetnek

Így fog kinézni György herceg és Lajos herceg felnőttként

Így fog kinézni György herceg és Lajos herceg felnőttként

2023.10.09. 2 perc olvasás

Royal Family

Így nézne ki Jennifer Lopez és Ben Affleck közös gyereke a mesterséges intelligencia szerint

Így nézne ki Jennifer Lopez és Ben Affleck közös gyereke a mesterséges intelligencia szerint

2023.08.30. 2 perc olvasás

Bennifer kid

Fotó: így néz majd ki Sarolta hercegnő felnőttként

Fotó: így néz majd ki Sarolta hercegnő felnőttként

2023.08.29. 2 perc olvasás

Royal Future

Felrobbant a net: így néznének ki a Jóbarátok karakterei kisgyerekként

Felrobbant a net: így néznének ki a Jóbarátok karakterei kisgyerekként

2023.05.22. 2 perc olvasás

Friends Series

5 meglepő dolog, amit anyák találtak fel

5 meglepő dolog, amit anyák találtak fel

2022.05.01. 5 perc olvasás

ANYÁK NAPJA

A szórakoztatóipar leggazdagabbjai túlnyomórészt férfiak

A szórakoztatóipar leggazdagabbjai túlnyomórészt férfiak

2022.02.11. 2 perc olvasás

Toplista

A férfiaknak több joga lenne az orgazmushoz, mint a nőknek?

A férfiaknak több joga lenne az orgazmushoz, mint a nőknek?

2022.02.10. 3 perc olvasás

Orgasm gap

Miért égnek ki a nők gyorsabban, mint a férfiak?

Miért égnek ki a nők gyorsabban, mint a férfiak?

2022.01.22. 6 perc olvasás

Szerepek

Figyelem

Az általad megtekinteni kívánt tartalom olyan elemeket tartalmaz, amelyek az Mttv. által rögzített besorolás szerinti V. vagy VI. kategóriába tartoznak, és a kiskorúakra káros hatással lehetnek. Ha szeretnéd, hogy az ilyen tartalmakhoz kiskorú ne férhessen hozzá, használj szűrőprogramot!

Még nem múltam el 18 éves