A Facebook elnézést kért, mert az AI-je "főemlősnek" titulálta a fekete férfiakat

Címkék

Nem ez az első alkalom, hogy egy tech óriásnak magyarázkodnia kell rasszistának tűnő AI működés miatt. 2015-ben a Google Photos titulálta gorillának a fekete embereket. A Twitternek is voltak kellemetlen percei nemrég. Most pedig a Facebook AI-je követett el "elfogadhatatlan hibát", amikor a tartalomajánló rendszere megkérdezte a fekete férfiakról szóló videók nézőit, hogy szeretnének e még a továbbiakban is főemlősökről szóló videókat látni.

Részletek itt.

Hozzászólások

Nem hinném, hogy itt szándékosságról lenne szó. Programozói szempontból gondolom bizonyos rasszok megkülönböztetése a főemlősöktől nehezebb feladat mint más rasszok esetén.

trey @ gépház

Pár éve gondot okozott, hogy a machine learning datasetekben nem volt elég nem-kaukázusi példa – emiatt pedig a megtanult modell sem ismerhette fel őket. Talán még mindig létező probléma.

int getRandomNumber() { return 4; }  // ← aláírás
//szabályos kockadobással választva. garantáltan véletlenszerű.  xkcd

Lehet ez is probléma. De az sem róható fel senkinek, hogy a fekete bőrű emberek gyengébb fényviszonyok (értsd: sötétben) mellett nehezebben felismerhetők mint a fehérebbek. Ez nem rasszizmus, ez tény.

Az sem lehet vita kérdése, hogy pl. egy lapos, széles orr jobban hasonlít bizonyos főemlősökéhez, mint mondjuk egy kaukázusi orr.

trey @ gépház

volt az amikor a csajt label-ezte meg gorillanak. A csajnak iszonyat szeles orra volt, hatrafele hajlo homloka es a nagy hajat is hatrafesulve hordta a kepen. En aztan nem vagyok rasszista, de szemuveg nelkul bizony en is gorillanak neznem. hozzateszem erdemes elolvasni a macska-kutya machine leraning problemat ahol tobbtizezer kep eseten is elofordulhibas felismeres. De mondjuk multkor a kislanyom is azt mondta egy kutyara hogy macsak es en is elbizonytalanodtam volna, ha nem a kutyafuttatoban latom labdazni. Szoval en is csak azert tudtam hogy kutya, mert mas ( a kornyezet) utalt ra es tapasztaltabb vagyok, mint egy 3 eves. Szoval nemhogy egy ML/AI, de egy emebr is nehezen mondja meg neha mi micsoda :D 

Szerintem is igazad van. De a dolognak van az a története, hogy ott a földrajzi felfedezések körül, a feketéket, meg mindenféle benszülötteket nem tekintették embernek (pl egyház külön valami nem tudom már mit adott ki, amiben leszögezte, hogy ők is emberek és van lelkük).  És ha nem ember, akkor ugye bármi megtehető sacc vele. Rabszolgaság stb. Szóval az, hogy egy nem fehér valakit ebbe az irányba címkéznek ezért lehet érzékenyebb dolog. Főleg amerikában. Ha soha nem lett volna ilyesmi, akkor valószínűleg tényleg csak annyit jelent, hogy jobban hasonlít a majmokhoz, mint ahogy egy csomó fehér emberi arc is tud hasonlítani bizonyos állatokra, de ettől nem merül fel, hogy tényleg nem ember.

Azért ne használjon 7 milliárd ember bizonyos - ugyan nem tökéletes, de a mindennapokat jelentősen segítő -  algoritmusokat, mert van néhány gorillára hasonlító, érzékenyebb lelkű ember a világon, akinek az ük-ükapját *valakik* rabszolgaként tartották?

Nekem ez egy kicsit nyakatekert magyarázat.

trey @ gépház

"ne használjon 7 milliárd ember bizonyos algoritmusokat"

Azt hiszem, ezt egy kicsit túlgondoltad. Nem olvastam arról, hogy bárki erre szólított volna fel, és a FB sem mondta, hogy kikapcsolna bármit.

Gondolom, beraknak pár új képet a training datasetbe, és megtaníttatják a modellel.

Nem hiszem, hogy túlgondoltam, csak azon gondolkodtam, hogy nehogy eljöjjön az idő, amikor valami balfasz ütődött kitalálja, hogy az internet használat előtt 1 perc féltérdre ereszkedéssel vezekeljek a néger rabszolgatartás bűneiért, amit köztudottan, leginkább Közép-Európában, azon belül is Magyarországon követtek el leginkább.

trey @ gépház

"csak azon gondolkodtam, hogy nehogy..."

== túlgondoltad

Amit a korábbi hsz-edben írtál, annak sem volt sem veszélye, sem realitása.

Amúgy meg a féltérdre ereszkedés nem múltbeli bűnökért való vezeklés, hanem most jelenlévő rasszizmus elleni kiállás. Ebből pedig van Mo-on is. Elég a focimeccsen huhogó drukkerekre gondolni.

Túlgondoltam? Mondod te, azzal a konteóval, hogy náci, fehér programozók szántszándékkal ismeretnek fel AI-vel gorlllának kinéző négereket .... gorillának? :D

Amúgy meg a féltérdre ereszkedés nem múltbeli bűnökért való vezeklés, hanem most jelenlévő rasszizmus elleni kiállás. Ebből pedig van Mo-on is. Elég a focimeccsen huhogó drukkerekre gondolni.

Szépen belekeverted Magyarországot a témába. Miért nem a holland F1 szurkolókkal jöttél? 

trey @ gépház

Milyen konteó??? Ezt honnan veszed? Nem hiszek semmilyen hasonló ökörségben.

Csak annyit írtam, hogy ha félrelő a modell, majd betanítják több és/vagy pontosabb adattal. Nincs itt semmi látnivaló. A legkevésbé sem hiszem, hogy szándékosan rosszul annotált képekkel tanították volna be a rendszert.

Te hoztad fel Magyarországot, nem én. Arra utalva, hogy itt nem volt rabszolgaság, ezért itt nem kellene féltérdre ereszkedni. Ha jól értettelek. Erre írtam, hogy nincs összefüggés. Nem vágom, mi volt a holland F1 szurkolókkal.

>> hogy ha félrelő a modell, majd betanítják több és/vagy pontosabb adattal.

most elvonatkoztatva a facebookos esettől, gondolom abban egyetértünk, hogy nem minden négerre dob "majmot" az éppen reklamált ai. aki viszont pont úgy néz ki, mint egy másik főemlős, azt ennek megfelelően is címkézheti, vagy ha "betanítják több adattal", akkor esetleg egy majmot fog négerként címkézni, ami megint oda vezet, hogy pár megélhetési lilahajú földibálna raplizni fog (nem gondolom hogy valóban az "érintettek" csinálják a felhajtást).

Valszeg biztonságosabb a majmokat négerként címkézni, ők nem fogják kikérni maguknak. Vagy ha nem lehet teljes biztonsággal megállapítani, mi van a képen, kapjon valami általános címkét, vagy inkább semmilyet. Gondolom, van valami valószínűség hozzárendelve a kategóriákhoz.

én elhittem, divatos kifejezéssel élve igazként azonosítom, még ha a town rapist meme képével illusztrálták is

"A dolgok nem olyan egyszerűek, Rebbe. Bizonyos események megtörténtek, azonban nem igazak. Más események igazak, azonban sohasem történtek meg."
- Elie Wiesel

Félreértesz. A "tisztelet" szót a feketék (kisebbségek, nők stb.) iránt értettem. Nyilván vannak törvények a diszkrimináció ellen, amit az emberek jó esetben betartanak, de az nem feltétlen jelenti, hogy tisztelni is fogják ezeket az embereket.

Azt akartam mondani, hogy ezt nem lehet megkövetelni.

Egyetértek azzal, hogy ha megpróbálják, az kontraproduktív lesz.

Szerintem a letérdelés egy nemes gesztus, empátia kifejezése, szerinted viszont megalázó, valszeg azért mert kötelezőnek érzed.

Nem. A magyar kultúrkörben az előtt térdelsz le, akit felsőbbrendűnek ismersz el.

Gondolj csak a "térdre kényszerít" szófordulatra. "Térden állva könyörgök..."

A katolikus kultúrkörben a felmutatott Oltárisztentség (az Isten szimbóluma) előtt szoktak letérdelni.

"Térdre!" - hangzik a parancs a fogolytáborban,

 

A magyarság történetét végigkisérték a megszállások és a szabadságharcok: török, orosz, német... Nem, magyar kulturkörben nem térdelünk le azért, mert másvalaki elkövetett mások ellen valamit.

Ha megbánást, vagy empátiát fejezünk ki, azt nem térdeléssel tesszük. Az mást jelent. 

 

A BLM, mint marxista (ezáltal totális hatalomra törekvő) mozgalom nem véletlenül követeli meg a térdelést. Ebben a dologban van egy fenyegetés is illetve a mozgalom kitalálóinak a felsőbbrendűségét elismerő dolog is.

 

Ha megbántottad valamelyik barátodat, valaha is letérdeltél előtte?

Nyilvan ez nem egy egyenrangu szituacio, es valakit akarata ellenere terdelesre kenyszeriteni megalazo.

Viszont ha onkentesen tortenik, az igenis kifejez tiszteletet. Lanykeresnel is leterdelnek.

Nem tudok rola, hogy BLM barkit felszolitott volna, hogy terdeljen le. Egyre tobb ember tette meg onkent.

Es az, hogy egyesek huhognak azert, mert masok igy akarjak *onkent* a tiszteletuket kifejezni, az tahosag.

Ha nem tudsz ezzel azonosulni, vagy nem erint a problema, megertem, ne terdelj le, nem kert senki ra.

Tudtommal a szurkolókat nem kérte senki semmire, sem a stadionban, sem a tévék előtt.

A klub vagy egy válogatott meg azért legyen már képes egy ilyen egyszerű kérdésben egy egységes álláspontot képviselni. Annyi fegyelmezettség meg azért elvárható a játékosoktól, hogy ezt kövessék, ha már a csapat tagjai. Nem is tudok olyanról, aki ez ellen tiltakozott volna.

De biztosan nem vagyok elég informált.

Én pl. nem tudok két oroszlánt megkülönböztetni egymástól, ettől még ők meg tudják különböztetni magukat. Az is lehet, hogy a fekete embereknek meg a kaukázusiak olyan egyformák. Az "én csak azt nem értem" gondolatokkal az a baj, hogy nem gondolsz bele a másik ember nézőpontjába. A hasonlataid egy része egyébként igaz és tényen alapul, de ebből nem következik, hogy az algoritmus jogosan téved. Ebből csak annyi következik, hogy a feltehetően fehér programozók belekódolták a saját előítéleteiket. Ha odafigyelnek, akkor ez egy megoldható probléma.

Te azt írtad, hogy bizonyos rasszok megkülönböztetése programozói szempontból nehezebb, mintha ez elfogadhatóbbá tenné a cikkben említett problémát, én ezt próbáltam cáfolni.

Közismert probléma az IT-ban a fehér férfiak túlsúlya, de ugyanez igaz sok training datasetre is, valószínűleg ez a probléma gyökere. Racial bias néven kereshetsz forrást hozzá.

A fényerősség problémája jogos észrevétel, de ennek sem kell megoldhatatlan problémát jelentenie. Mondjuk az is vicces lenne, ha túlexponált fehér embert nézne jegesmedvének az algoritmus.

Dehogy konteó. Ezek a problémák évekkel ezelőtt is voltak már, és én annyit látok, hogy ez is egy fontos kutatási terület, vannak már rá ajánlások, stb. Tehát ha a FB okos emberei újra elkövetik, az egyszerűen bénázás. Nem a kifogást kell keresni. De el is ismerték, hogy bénáztak, szóval ennyi.

Nem, nem lehet a véletlenre fogni, a mesterséges intelligencia pont úgy működik ahogy az emberek. A tanult minták alapján próbálnak következtetéseket levonni. Ha pl egy eltérő etnikumú ember elveszi a labdádat, akkor hajlamos vagy azt a következtetést levonni, hogy minden olyan etnikumú embertől félni kell.

Erre az lesz a megoldás, hogy a gépeket is el kell küldeni diversity tréningre, ahol majd jól belekalapálják a prociba a céges HR-esek, hogy az unconscious bias egy nagyon csúnya dolog.

nem, nem programozzak. Az FB a dataset-et sem manualisan tolti fel, hanem valoszinuleg a teljes dataset egy reszen futtatjak, de nem elore beallitottan. Azaz az ML maga vizsgalja es ertekeli.

tehat azt mondod, hogy szolni kellene a feketeknek hogy tobb kepet toltsenek fel, mivel tul sok feher ember tolt fel kepeket??????

(kicsit tenyleg olvass utana az ML-nek es a kepelemzo algoritmusoknak, hogy ertsd miert beszelsz butasagokat)

Pongyolán fogalmaztam, tudom, hogyan működnek ezek. Érzésem szerint végső soron mégis a szoftvert kiadó mérnök felelőssége, hogy elkerülje a különféle biasokat. Ha szar datasetből dolgozik, az is egy rossz döntés, ha rosszul válogat a datasetből, az is. Evvel konzisztens az, hogy az FB kért elnézést.

Nem. A szarul csinalt release management tortenik igy.

Avagy ha kitolnak valami randa bugot production-be, azert mindenhol elgyepalnak valakit. Most se tortent maskent.

Alapvetoen egy ilyen, 1 milliard+ ember altal hasznalt platformon nem tesztelte senki, hogy mit mond a feketek fotoira (fyi, USA-ban ez kenyes tema es teljesen alapveto dolog), az nagyon eros. Ha 'teszetosza kft' webshopja ilyen, az elmegy, de facebook ilyet ne csinaljon.

nem tesztelte senki, hogy mit mond a feketek fotoira 

Feltételezem, nem minden feketéről készült fotót kategorizált félre, hanem csak ezt az egyet. Azt is feltételezem, hogy a FB (bár kétségkívül sok adathoz hozzáfér), mégsem tudja a világ összes fényképét megmutatni az algoritmusnak, hogy abból tanuljon.

>> nem tesztelte senki, hogy mit mond a feketek fotoira az nagyon eros

valahol a bohócvilágban ezközben:

  • <dude1> um, teszteltétek négerekre is?
  • <dude2> ... mi van??
  • <dude1> majmok és négerek képeivel
  • <dude2> baz halkabban, iit a HR. hülye vagy? miért teszteltük volna?
  • <dude1> hát... sok néger nagyon majomszerű, nem akarunk cirkuszt
  • <dude2> mondom halkabban! na jó, bedobok párezer állatkerti fotót a "black male" mappába, abból nem lehet gond, ha a fordítva téved
  • <dude1> k

Na, végre itt egy tökéletes tesztelő, aki minden bugot észrevesz. Jöhetnél hozzánk tesztelni.

nem tesztelte senki, hogy mit mond a feketek fotoira

Bár nem vettem részt a tesztelésében, de ezt azért erősen kétlem. Nem hinném ugyanis, hogy minden feketét gorillának nézett. Ettől még ez egy kellemetlen hiba.

de a machine learning nem ugy mukodik ahogy te gondolod....

nem hiszem, hogy ne lenne elegge kifinomultak mar a modelleik az FB-nel. De ezt mar elottem is megirtak, hogy mondjuk tobbmilliard fekete kepere nem rakta ra a tagot csak egyetlen egy kepre.

Szoval Te azt mondod, hogy a mondjuk 0.00000001%-nyi statisztikai hiba (es nem szoftver hiba!!!) az mar tok szar release management es szoftware-t jelent. Mutatnal nekem a cegednel egy build statisztikat? Ha nalatok ennel kevesebb a szoftware hiba, nem kellene ezzel reklamznotok a cegeteket? 

Mar fentebb is irtam, hogy meg az ember is hibazhat (foleg egy kisgyerek) annak meghatarozasaban hogy kutyat vagy macskat lat.

Az embernek nem kellene ilyen gyerekeket csinalnia. Mert meg faluhelyen elmegy, hogy osszekeveri a gyerek, de varosban nem, Legalizaljuk az abortuszt 4 eves korig a kis suttyokra, akik osszekeverik a macskakat es a kutyakat :D

LOL, akkor kuldenem a Facebooknak, es mindenkinek, aki szereti. XD

When you tear out a man's tongue, you are not proving him a liar, you're only telling the world that you fear what he might say. -George R.R. Martin

A Google képkeresőnek is volt hasonló esete, csak ott a fekete lyukra jött ki +18-as kép.

Biztos, hogy nem én gonoszoltam le!

A munkadarab ugye a rasszizmus.
A munkások a rasszisták és az antirasszisták.
Utóbbiak sokat túlóráznak mostanában.
Én leszarom a témát de valahogy mindennap erről kell beszélni.
Ezzel be is kerültem az első csoportba a második szerint....

-s-

Mi emberek tulajdonképpen valamennyien főemlősök vagyunk. Nem látom, hol itt a tévedés.

Lógok a szeren (K. Frigyes)

Lógok az ereszen (Sz. József)

Szerkesztve: 2021. 09. 08., sze – 15:51

.

Szerkesztve: 2021. 09. 08., sze – 16:38

Nem ertem, hogy miert kialt itt mindenki egybol rasszizmust?

 

Felfedte mar a facebook a programozok borszinet?

Konnyen lehet, hogy csak nove operalt afroamerikai drag queenek kodoltak. Es akkor mar abszolut nem gaz a szitu.

Saying a programming language is good because it works on all platforms is like saying anal sex is good because it works on all genders....