Elnézést kért a Microsoft a káromkodó csevegőrobotjáért, Tay-ért

 ( trey | 2016. március 26., szombat - 13:05 )

A Microsoft szerdán aktiválta mesterséges intelligencia csevegőrobotját, a tini lányt megszemélyesítő Tay-t. A már létező kínai példáján, XiaoIce-n felbuzdult Microsoft a 18-24 éves korosztályt célozta meg robotjával, de nem sokkal az aktiválás után a dolgok rosszra fordultak és Tay mocskos szájú rasszistává vált. Legalábbis a tweetjei alapján.

"F... M. ROBOT PU... DADDY I'M SUCH A BAD NAUGHTY ROBOT" - egyike Tay (moderált) gyöngyszemeinek.

Tay eredendően nyilván nem volt trágár, viszont az internet közösségének bizonyos rétege rövid idő alatt rájött azon sebezhetőségére, amelyet kihasználva kitaníthatta a káromkodásra, rasszista tweetek előállítására.

A Microsoft elnézést kért Tay-ért, vállalja a teljes felelősséget viselkedéséért és levonta a tanulságokat.

Hozzászólás megjelenítési lehetőségek

A választott hozzászólás megjelenítési mód a „Beállítás” gombbal rögzíthető.

:)

:D

Aztaqrva, ez üt!
-------------------------------------------------------------------------------
Az életben csak egy dolog a szép, de az épp nem jut eszembe.

Slackware Linux 14.1 | 3.10.96-janos

Erről a videóról az jutott eszembe, hogy ennél jobb reklám talán nem is kell azoknak akik még nem gondoltak arra, hogy szeressék a KKK-t. :)


No rainbow, no sugar

Ez nagyon beteg :-D :-D :-D

LOL. Igazán hagyhatnák és csinálhatnának egy 2.0-ás verziót más néven. Kíváncsi vagyok, mi válna Tayből. :D Vagy töltsék át egy robot testbe és új műfaj nyílna a pornóiparban. LOL.

És eljő Caprica világa :) ~Nagyjából :)

hint: https://en.wikipedia.org/wiki/Caprica_(TV_series)

Nincs miért elnézést kérniük.

Pont olyanra programozták mint maga az ember, úgy is viselkedett mint az ember, annyi különbséggel, hogy 24 óra alatt ment be náciba a külső hatások által, az embernek erre hónapok vagy évek kellenek.

Az ember nem egy önálló élőlény, része egy egységnek vagy káosznak, de egy biztos, sosem könnyű, hol van az eredendő önmaga és hol az amit élete során a környezetéből tanult el, vagy ...

Teljesen normálisan viselkedett a robot, csak az időintervallum szokatlan az embereknek. Tessék szokni a különbséget értelmezés és alkalmazkodásban az ember és a gép közt.

Naaaa!

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

Teljesen igazad van.

+fél Nincs miért elnézést kérniük, mert azt tanulta, amit másoktól látott, viszont nyilván nem pont olyan, mint az ember, komplexitásban és random faktorban biztosan nem (nevezzük ezt érzelemnek, gyerekkori traumának, bárminek). A másik pedig, amit lentebb is említettek: egy bottal totál másként beszél mindenki, mint egy emberrel, azonnal a határait feszegetik, hiszen nincs tétje. Ember-ember párbeszétben ez valószínűleg másként fest, nálam biztosan. Egy olyan kísérletre lennék kíváncsi, ahol az iménti példából okulva nem "náciszűrővel" látják el a botot, hanem úgy eresztik, ki, hogy senki se tudjon róla, hogy bot. Több tanulsága is lenne: mikor lepleződik le, mit tanul másként, milyen gyorsan épül be a közösségbe...

Vagy úgy is kiereszthették volna, hogy előtte nevelik egy kicsit.

De akkor minek az egész? Mit mond el rólunk vagy a robotról, ha előre megírt világnézetekkel születik? Szerintem sokkal tökösebb és előremutatóbb vállalás, ha nem zárják ki a lehetőségét, hogy egy erkölcstelen, flegma, hímsoviniszta náci váljék belőle. Viszont nagyon sokat torzít a képen, ha csak egy bizonyos réteg (IT érdeklődésű, többségében férfiak) tanítja, illetve tisztában vannak az emberek a ténnyel, hogy bot. Ezt a tanulságot már egyszer leszűrtük a cleverbottal, érdekes volt, de mi van még?

Így is torz volt. Valami viszonyítási alapot akkor is kellene neki adni.

Hiszen ez az egész lényege: by default, egy embernek sincs viszonyítási alapja. Nincs genetikai memóriánk, mint a goa'uldoknak. :)

De vannak szüleink akik az "alapokat lerakják" és nem egyből fél világhálónyi marhával kerülünk kapcsolatba.
Képzelj el egy gyermeket akit csak a világháló nevelne és nem volna semmilyen viszonyítási pontja.

Ez csak egy gondolatkísérlet, de mi van akkor, ha a szülei pont olyan marhák, mint a twitterező? Ez pont azért izgalmas (nekem, legalábbis :)) mert nem tudhatod, hogy ha betanítják arra, hogy liberális nézeteket valljon, nem lesz-e egy agresszív SJW.

Nincs genetikai memóriánk

erre mondjuk nem vennék mérget

Lemaradtam valamiről?

Igen.
Epigenetikának hívják, bár egyelőre elég ködös.
---
Science for fun...

Vannak ezzel kapcsolatban érdekes történetek és kutatási eredmények. Már Hippokratész is leírt olyan eseteket, hogy egyes népcsoportok tudatosan alakították a koponyájuk alakját és néhány generáció után már anélkül is ilyen fejformával rendelkező egyedek születtek. Én általában a patkányok vs. patkánymérgek esetét szoktam példának hozni. Anno azért volt nehéz hatékony patkánymérgeket készíteni, mert egy idő után a patkányok megtanulták felismerni az új mérgeket. Jelenleg ezért készítenek már szinte kizárólag hosszú lefolyású, vérzékenységgel járó mérgeket, hogy a patkányok ne tudják összekapcsolni az okot az okozattal. Az érdekes azonban az, hogy hagyományos mérgekkel kapcsolatos információk valahogy tovább öröklődnek és azok az újszülött patkányok is rendelkeznek ezekkel az ismeretekkel, amelyek már közvetlenül nem találkoztak mérgekkel és a társaiktól se tanulhatták el, hogy mi számít annak és mi nem.

Hipokratész: nem ismerem a dolgot, de nem tartom valószínűnek, hogy ez igaz lenne. Kiváncsi lennék hány generáció kellene egy népcsoportnak háromszög alakú legyen a feje.

A patkány témában pedig az állatok gyors szaporodása a kulcs szerintem. Ha 10 patkányból random 5 megeszi a mérget és elpusztul, akkor a másik ötből egy szerintem csak megtanulja, hogy nem kellene azt megenni. És tizedannyi patkány is teleszaporodja a csatornát ugyanúgy...

Én nem csatornapatkányokról írtam, hanem laborban elvégzett kísérletekről. A tanult patkány kölykei is valamiért tudni fogják, hogy azt a mérget ne egyék meg és annak kölykei is. Az a kérdés, hogy ezt honnan tudják. És az egyik lehetőség az, hogy valahogyan ezek az információk is átadódnak, nem csak a hagyományosnak vélt genetikai információk (mint az embereknél a szem színe és hasonlók).

Na ez már kezd érdekes lenni. Tudnál erre valami linket?

subs

Sajnos nem valószínű, hogy meg fogom találni hol olvastam erről sok évvel ezelőtt, mindenesetre nekem logikusnak tűnt akkor, hisz az ízlés is valamennyire örökölhető. Előfordulhat, hogy ugyan nem tudatosan, de hasonló módon öröklődik az az információ is, hogy mi az az illat vagy íz, amelyet érdemes elkerülni (mert méreg).

Az biztos, hogy a genetikai kutatások egyre inkább alátámasztják azt, hogy a genetikai kód nem egy statikus tervrajz, hanem egy sokkal bonyolultabb valami, egyfajta forgatókönyv.

Szerk.: keresgélve találtam egy viszonylag friss cikket is a témában, amelyik egy olyan kutatásra hivatkozik, ahol azt állítják a szakértők, hogy az egerek képesek átörökíteni bizonyos - szag - emlékeiket utódaikra.

Ja, érdekes ez a cikk. Ugyanakkor ez egy új kísérlet, ha ezt (vagy valami hasonlót) anno patkányokkal elvégeztek volna, akkor ez nem szólt volna ekkorát (hogy még az ipon.hu is megírja :)
És ezt se értik jelenleg, hogy mi és hogyan történik. Még az is lehet, hogy hiba van a kísérletben, akármennyire is igyekeztek ezeket elkerülni.
Mindenesetre érdekes, köszi!

Pedig olvastam erről már régebben is. Az alap patkánymérges tapasztalat meg több évszázados probléma, hisz tényleg elég sokáig lehetetlen volt hatékony mérget fejleszteni ellenük (most se lehet, csak azzal tudják visszafogni a szaporulatot, hogy vérhigítót tesznek a csalikba, így ha az egyedek megsérülnek, akkor nagy valószínűséggel nem élik túl). Valószínűleg ezek miatt is indultak ilyen jellegű kutatások, hogy mi alapján tanulhatják meg és adhatják tovább ezeket az információkat az utódoknak.

Igen, de a patkánymérges témára van a genetikain kívül is más magyarázat.

Bár nem értek a témához, de nekem sokkal valószínűbbnek tűnik az a lehetőség, hogy egyszerűen csak az evolúciót figyelték meg munka közben.
Nyilván léteznek olyan egyedek, amiknek jobban ízlik a mérgezett étel, meg olyanok is, amik csak belekóstolnak, de nem fogyasztanak el belőle végzetes mennyiséget. Azok, amelyikek sokat ettek, elpusztulnak, a megmaradtaknak pedig nagyobb eséllyel születnek olyan utódaik, amik szintén nem szívesen, vagy egyáltalán nem fogyasztják a mérget.
Végül csak ők maradnak, és már egyik megfigyelt példány sem hajlandó enni a méreganyagot tartalmazó élelemből.

De itt akkor már megint arról beszélünk, hogy az ízlés is tud öröklődni, nem?

És még nagyon sok más is. Pl. a költöző madaraknak sem hiszem, hogy a szüleik tartanak felvilágosítást arról, hogy a nyár végén el kell indulni délnek, hanem valószínűleg ösztönösen érzik.
Vagy hasonló az emlősökben a kigyóktól való félelem: a macskám soha életében nem találkozott mérges kígyóval, mégis ösztönösen tart az olyan hosszú és ficánkoló dolgktól, mint pl. a locsolótömlő.

A lényeg az, hogy ezek szerintem faji (esetleg fajta) viselkedési jellegzetességek, nem közvetlen szülő -> gyermek emlékörökítés.

Arról tudjuk, hogy tud.

Akkor már csak az a kérdés, hogy ez csupán valamiféle véletlen statikus információ, amely ugyanúgy mutálódik, mint minden más genetikai kód és emiatt van különböző ízlésünk, vagy van valamiféle öröklődő ízemlék, amelynek az eredete a felmenőktől származik.

Az ugyanis szintén kimutatható statisztikailag, hogy az éhínségben felnőtt emberek leszármazottjai nagyobb valószínűséggel hajlamosak az elhízásra. Ez pedig szintén hasonló kérdéseket vet fel.

Az evolúciót - szerintem legalábbis - nem nagyon lehet kis mintán és kevés generáción keresztül megfigyelni. Ahhoz ugyanis kell egy nagyobbacska populáció, hogy a random génhibák (mutációk) hatását a természetes szelekció megrostálja.

A fenti példában nem arról van szó, hogy a lassan változó egyedek közül az életképesebb marad meg, hanem arról, hogy már eleve van két, valamennyire különböző ág, amik közül az egyik előnybe kerül a hirtelen megváltozott környezetben.

Persze, bármikor előfordulhat olyan tulajdonság, ami szelekciós előnyt jelent a megváltozott körülmények között.
Viszont érdekes, hogy a vérzékenységet okozó szer ellen nincs ilyen "eleve létező utálat", míg a mérgekkel szemben van, már ha van.

Meg persze érdekes az is, hogy Budapesten pl. nincs patkány probléma, míg máshol, pl. sokkal gazdagabb amerikai nagyvárosokban van. És nem hiszem, hogy egy lakosonként évente kb. 1 dolláros tételre nem telik nekik.
Viszont a cikkben találtam egy érdekességet:

Idézet:
Régebben azonnal ölő mérget használtak. Csakhogy a patkányok döglődő társuk láttán rájöttek, hogy nem tesz jót nekik a csali, ezért nem is ettek belőle. Sőt, minden kolóniának van egy kevésbé kifejlett előkóstolója, aki a gyanús táplálékot elmajszolja a többiek előtt, és ha nem történik baja, akkor mindenki eszik a kajából. Ezért mostanság már késleltetett hatású mérgeket, 5-6 nap után ható véralvadásgátló szereket használnak, amik észrevétlenül, fájdalommentesen ölnek.

Ha ez igaz, akkor a patkánykérdést szerintem megfejtettük...

Számomra nem magyarázza meg továbbra sem, hogy az utódok honnan lesznek ezeknek az információknak a birtokában tapasztalat nélkül. A kutatások ugyanis azt mutatták, hogy azok az elkülönített kölykök is felismerik a mérget, amelyek közvetlenül nem látták a tőle döglődő társukat.

"De tény, hogy más kísérletek is felmutattak már arra utaló bizonyítékokat, hogy az emlékek nem kizárólag az agyban tárolódhatnak. A laposférgek például fejük levágása után képesek újra visszanyerni emlékeik egy részét, miután új agyat növesztenek. Senki sem tudja, hogy ezek az emlékek hol tárolódnak közben, és hogyan kerülnek át az új agyba, ahogy az sem világos, hogy a plazmódium egyes részei között hogyan zajlik a kommunikáció, de annyi világos, hogy ez valamilyen módon megtörténik."

https://ipon.hu/hir/tanulni_es_tanitani_is_kepesek_a_nyalkagombak/39661/

igen

https://www.ted.com/talks/steven_pinker_chalks_it_up_to_the_blank_slate?language=hu

----
"Kb. egy hónapja elkezdtem írni egy Coelho-emulátort, ami kattintásra generál random Coelho-kompatibilis tartalmat."
Instant Coelho

Érdekes, hogy szintén a Microsoft által Kínában indított XiaoIce-t nem tették tönkre. Kulturális különbségek?

"úgy is viselkedett mint az ember"

s/ember/troll/

--
trey @ gépház

Hogy ennyire ne nézzenek utána valaminek az már borzasztóan amatőr. Amikor boldog-boldogtalan a cleverbottal játszott, 90%-ban a nemiszervekről, szexről és fekáliáról társalogtak vele. Még olyanok is, akik amúgy nem IQ10 szintjén mozogtak. Kiengedni a világba egy ismétlőgépet...

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

Abba gondolj bele, hogy ha egy 18-25 év közötti viselkedésre programozott, különösebb élettapasztalat nélküli naiv AI-t így befolyásolja az internet, akkor egy 18-25 év közötti, különösebb élettapasztalat nélküli naiv emberrel miért történne másképp.

Szerinted mondjuk az ISIS/ISIL hogyan fanatizálja a tizenéves, nyugati nem-muszlim fiatalokat? Észérvekkel? Vagy mert a tizenéves nyugati nem-muszlim fiatalok egyébként annyira fogékonyak a vallásra, ráadásul az ilyen mértékű vallásos elköteleződésre? Ne viccelj már, az ember a legnagyobb ismétlőgép, ez az AI a nyomába sem érhet.

Azt érdemes belátni, hogy ez egy AI-kísérlet volt. Ha egy tanulékony algoritmust használsz, akkor benne van a kockázat, hogy a vele interakcióba lépő egyedek véleményét fogja átvenni. Ha viszont előre megírod a válaszokat, akkor az nem egy tanulékony algoritmus, hanem valahol a telkós IVR-okkal lenne egyenértékű fejlettségű technológia.

Bár a "Hitler was right" kezdetű kifejezetten priceless, azért az arcukat megnéztem volna, mikor ez kiderült. :)

Van meg valaki akinek szinten Chappie jutott eszebe a tortenetrol/tortentekrol?

A robotos sci-fi -k nagyrésze erről szól. Pont azt mutatják be, amikor a bitagyúak birkának nézik az embereket és az intelligens robotokat, és úgy is viselkednek velük. Ebből a példából is az a tanulság, hogy nem ilyen irányból kell megközelíteni a témát. Semmivel nem jobb egy náci egy demagóg bitagyú programozónál. Itt egy egyszerű hacket csináltak, ami talán komolyabban vehető mint a fiktív Skynet, no meg kimaradtak a robotika törvényei by Asimov ;)

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

Szerintem azert lett "naci" (nem igazi naci, csak libsik szamara nem elegge tolerans), mert logikailag le tudta vezetni hogy nekik van igazuk ;) Ez nem nehez, nekem is megy. Logikusan gondolkodo mesterseges intelligencia az eletben nem lesz liberalis.

A Trump dolog is ertheto. Barki mas lesz az elnok, 0% az eselye, hogy Amerikaban a dolgok jobb iranyba indulnak. Trump eseten meg azert egy 2% esely van ra, hogy valami javulni fog (nem tobb, de annyi azert van).

Gratulálok!

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

+1 :D

+1

> Logikusan gondolkodo mesterseges intelligencia az eletben nem lesz liberalis.

Dehogynem! Majd a három alaptörvény elé raknak egy nulladik törvényt, kiegészítve a három törvényt (...amennyiben ez nem ütközik a nulladik törvénybe...) amitől majd rögtön "toleráns" lesz. :)

Politikai elemzőnket hallották.

Ez azért nagyban az AI típusától függ.

Ő itt (és a pluszegyezői) egyáltalán nem az AI-ről alkotott véleményt, csak kinyilvánította kirekesztő mivoltát és bemutatta a bólogatópropaganda sikerét.

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

Jol megirt tanuloalgoritmusrol beszelunk, az levonja a kovekeztetest, miszerint a liberalisoknak csak igen kis valoszinuseggel van igaza. ;)

Ügyes vagy Tay!

Nekem a droid fogalmarol inkabb te jutsz eszembe ;)

Nem is vártam tőled mást :)

Nem akarok nagy csalódást okozni, de azért ezek a botok egy nagyon pici gyerek szintjéhez mérhetőek, már ha mérhetők egyáltalán emberi gondolkodáshoz.

Szóval te adtad be így ezt a dolgozatot... :)

"azert lett [...] mert logikailag le tudta vezetni"

Elgondolkodtató, hogy vajon tényleg ez volt, logikus következtetéseket vont le az ismeretei alapján, vagy csak a leginkább hallott dolgokat ismételgette?
Mennyivel lenne okosabb egy algoritmus, ha képes lenne a hallott (olvasott) dolgoknak utánanézni (tényleg, mi van ha egy ilyen robotot előbb a wikipediára engednek rá?

Manapság egy értelmes embernek sem könnyű kiszűrni a tulajdonolt/irányított média által közölt, vagy az agymosott polgártárstól érkező információból, hogy mi igaz és mi nem.

"Elgondolkodtató, hogy vajon tényleg ez volt, logikus következtetéseket vont le az ismeretei alapján, vagy csak a leginkább hallott dolgokat ismételgette?"

A hallott dolgokat ismételgette.

Tehát egy két éves gyerek szintjén működött. Vagy még úgy sem. Ahogy fentebb írták, tényleg érdekesebb lett volna ha először a wikipediára eresztik rá.

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

A hallott dolgokat *is* ismételgette. Kicsit bonyolultabb volt a rendszer, mint hogy:
- Tay, say "i'm stupid"
- i'm stupid

Jah.

– Tay, are you stupid?
– No.
– Tay, are you stupid?
– No.
– Tay, are you stupid?
– Yes.
Kb. ennyire tűnik bonyolultnak.

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

Értem.

Amúgy kommunikáltál is vele, vagy ez csak találgatás? :)

... meg kell tanítani magyarul káromkodni... úgy túlcsordulna, mint az eldugult vécécsésze :D

-fs-
Az olyan tárgyakat, amik képesek az mc futtatására, munkaeszköznek nevezzük.
/usr/lib/libasound.so --gágágágá --lilaliba

Vagy mint az eldugult vececseszet javito vizvezetek szerelo, mikozben karomkodni tanitja akaratan kivul az epp jelenlevo Tay-t ;)

F