Elnézést kért a Microsoft a káromkodó csevegőrobotjáért, Tay-ért

Microsoft, Windows

A Microsoft szerdán aktiválta mesterséges intelligencia csevegőrobotját, a tini lányt megszemélyesítő Tay-t. A már létező kínai példáján, XiaoIce-n felbuzdult Microsoft a 18-24 éves korosztályt célozta meg robotjával, de nem sokkal az aktiválás után a dolgok rosszra fordultak és Tay mocskos szájú rasszistává vált. Legalábbis a tweetjei alapján.

"F... M. ROBOT PU... DADDY I'M SUCH A BAD NAUGHTY ROBOT" - egyike Tay (moderált) gyöngyszemeinek.

Tay eredendően nyilván nem volt trágár, viszont az internet közösségének bizonyos rétege rövid idő alatt rájött azon sebezhetőségére, amelyet kihasználva kitaníthatta a káromkodásra, rasszista tweetek előállítására.

A Microsoft elnézést kért Tay-ért, vállalja a teljes felelősséget viselkedéséért és levonta a tanulságokat.

( zdesigner | 2016. 03. 26., szo – 15:02 )

LOL. Igazán hagyhatnák és csinálhatnának egy 2.0-ás verziót más néven. Kíváncsi vagyok, mi válna Tayből. :D Vagy töltsék át egy robot testbe és új műfaj nyílna a pornóiparban. LOL.

( freeoli v | 2016. 03. 27., v – 00:49 )

Nincs miért elnézést kérniük.

Pont olyanra programozták mint maga az ember, úgy is viselkedett mint az ember, annyi különbséggel, hogy 24 óra alatt ment be náciba a külső hatások által, az embernek erre hónapok vagy évek kellenek.

Az ember nem egy önálló élőlény, része egy egységnek vagy káosznak, de egy biztos, sosem könnyű, hol van az eredendő önmaga és hol az amit élete során a környezetéből tanult el, vagy ...

Teljesen normálisan viselkedett a robot, csak az időintervallum szokatlan az embereknek. Tessék szokni a különbséget értelmezés és alkalmazkodásban az ember és a gép közt.

+fél Nincs miért elnézést kérniük, mert azt tanulta, amit másoktól látott, viszont nyilván nem pont olyan, mint az ember, komplexitásban és random faktorban biztosan nem (nevezzük ezt érzelemnek, gyerekkori traumának, bárminek). A másik pedig, amit lentebb is említettek: egy bottal totál másként beszél mindenki, mint egy emberrel, azonnal a határait feszegetik, hiszen nincs tétje. Ember-ember párbeszétben ez valószínűleg másként fest, nálam biztosan. Egy olyan kísérletre lennék kíváncsi, ahol az iménti példából okulva nem "náciszűrővel" látják el a botot, hanem úgy eresztik, ki, hogy senki se tudjon róla, hogy bot. Több tanulsága is lenne: mikor lepleződik le, mit tanul másként, milyen gyorsan épül be a közösségbe...

De akkor minek az egész? Mit mond el rólunk vagy a robotról, ha előre megírt világnézetekkel születik? Szerintem sokkal tökösebb és előremutatóbb vállalás, ha nem zárják ki a lehetőségét, hogy egy erkölcstelen, flegma, hímsoviniszta náci váljék belőle. Viszont nagyon sokat torzít a képen, ha csak egy bizonyos réteg (IT érdeklődésű, többségében férfiak) tanítja, illetve tisztában vannak az emberek a ténnyel, hogy bot. Ezt a tanulságot már egyszer leszűrtük a cleverbottal, érdekes volt, de mi van még?

Vannak ezzel kapcsolatban érdekes történetek és kutatási eredmények. Már Hippokratész is leírt olyan eseteket, hogy egyes népcsoportok tudatosan alakították a koponyájuk alakját és néhány generáció után már anélkül is ilyen fejformával rendelkező egyedek születtek. Én általában a patkányok vs. patkánymérgek esetét szoktam példának hozni. Anno azért volt nehéz hatékony patkánymérgeket készíteni, mert egy idő után a patkányok megtanulták felismerni az új mérgeket. Jelenleg ezért készítenek már szinte kizárólag hosszú lefolyású, vérzékenységgel járó mérgeket, hogy a patkányok ne tudják összekapcsolni az okot az okozattal. Az érdekes azonban az, hogy hagyományos mérgekkel kapcsolatos információk valahogy tovább öröklődnek és azok az újszülött patkányok is rendelkeznek ezekkel az ismeretekkel, amelyek már közvetlenül nem találkoztak mérgekkel és a társaiktól se tanulhatták el, hogy mi számít annak és mi nem.

Hipokratész: nem ismerem a dolgot, de nem tartom valószínűnek, hogy ez igaz lenne. Kiváncsi lennék hány generáció kellene egy népcsoportnak háromszög alakú legyen a feje.

A patkány témában pedig az állatok gyors szaporodása a kulcs szerintem. Ha 10 patkányból random 5 megeszi a mérget és elpusztul, akkor a másik ötből egy szerintem csak megtanulja, hogy nem kellene azt megenni. És tizedannyi patkány is teleszaporodja a csatornát ugyanúgy...

Én nem csatornapatkányokról írtam, hanem laborban elvégzett kísérletekről. A tanult patkány kölykei is valamiért tudni fogják, hogy azt a mérget ne egyék meg és annak kölykei is. Az a kérdés, hogy ezt honnan tudják. És az egyik lehetőség az, hogy valahogyan ezek az információk is átadódnak, nem csak a hagyományosnak vélt genetikai információk (mint az embereknél a szem színe és hasonlók).

Sajnos nem valószínű, hogy meg fogom találni hol olvastam erről sok évvel ezelőtt, mindenesetre nekem logikusnak tűnt akkor, hisz az ízlés is valamennyire örökölhető. Előfordulhat, hogy ugyan nem tudatosan, de hasonló módon öröklődik az az információ is, hogy mi az az illat vagy íz, amelyet érdemes elkerülni (mert méreg).

Az biztos, hogy a genetikai kutatások egyre inkább alátámasztják azt, hogy a genetikai kód nem egy statikus tervrajz, hanem egy sokkal bonyolultabb valami, egyfajta forgatókönyv.

Szerk.: keresgélve találtam egy viszonylag friss cikket is a témában, amelyik egy olyan kutatásra hivatkozik, ahol azt állítják a szakértők, hogy az egerek képesek átörökíteni bizonyos - szag - emlékeiket utódaikra.

Ja, érdekes ez a cikk. Ugyanakkor ez egy új kísérlet, ha ezt (vagy valami hasonlót) anno patkányokkal elvégeztek volna, akkor ez nem szólt volna ekkorát (hogy még az ipon.hu is megírja :)
És ezt se értik jelenleg, hogy mi és hogyan történik. Még az is lehet, hogy hiba van a kísérletben, akármennyire is igyekeztek ezeket elkerülni.
Mindenesetre érdekes, köszi!

Pedig olvastam erről már régebben is. Az alap patkánymérges tapasztalat meg több évszázados probléma, hisz tényleg elég sokáig lehetetlen volt hatékony mérget fejleszteni ellenük (most se lehet, csak azzal tudják visszafogni a szaporulatot, hogy vérhigítót tesznek a csalikba, így ha az egyedek megsérülnek, akkor nagy valószínűséggel nem élik túl). Valószínűleg ezek miatt is indultak ilyen jellegű kutatások, hogy mi alapján tanulhatják meg és adhatják tovább ezeket az információkat az utódoknak.

Bár nem értek a témához, de nekem sokkal valószínűbbnek tűnik az a lehetőség, hogy egyszerűen csak az evolúciót figyelték meg munka közben.
Nyilván léteznek olyan egyedek, amiknek jobban ízlik a mérgezett étel, meg olyanok is, amik csak belekóstolnak, de nem fogyasztanak el belőle végzetes mennyiséget. Azok, amelyikek sokat ettek, elpusztulnak, a megmaradtaknak pedig nagyobb eséllyel születnek olyan utódaik, amik szintén nem szívesen, vagy egyáltalán nem fogyasztják a mérget.
Végül csak ők maradnak, és már egyik megfigyelt példány sem hajlandó enni a méreganyagot tartalmazó élelemből.

És még nagyon sok más is. Pl. a költöző madaraknak sem hiszem, hogy a szüleik tartanak felvilágosítást arról, hogy a nyár végén el kell indulni délnek, hanem valószínűleg ösztönösen érzik.
Vagy hasonló az emlősökben a kigyóktól való félelem: a macskám soha életében nem találkozott mérges kígyóval, mégis ösztönösen tart az olyan hosszú és ficánkoló dolgktól, mint pl. a locsolótömlő.

A lényeg az, hogy ezek szerintem faji (esetleg fajta) viselkedési jellegzetességek, nem közvetlen szülő -> gyermek emlékörökítés.

Akkor már csak az a kérdés, hogy ez csupán valamiféle véletlen statikus információ, amely ugyanúgy mutálódik, mint minden más genetikai kód és emiatt van különböző ízlésünk, vagy van valamiféle öröklődő ízemlék, amelynek az eredete a felmenőktől származik.

Az ugyanis szintén kimutatható statisztikailag, hogy az éhínségben felnőtt emberek leszármazottjai nagyobb valószínűséggel hajlamosak az elhízásra. Ez pedig szintén hasonló kérdéseket vet fel.

Persze, bármikor előfordulhat olyan tulajdonság, ami szelekciós előnyt jelent a megváltozott körülmények között.
Viszont érdekes, hogy a vérzékenységet okozó szer ellen nincs ilyen "eleve létező utálat", míg a mérgekkel szemben van, már ha van.

Meg persze érdekes az is, hogy Budapesten pl. nincs patkány probléma, míg máshol, pl. sokkal gazdagabb amerikai nagyvárosokban van. És nem hiszem, hogy egy lakosonként évente kb. 1 dolláros tételre nem telik nekik.
Viszont a cikkben találtam egy érdekességet:

Régebben azonnal ölő mérget használtak. Csakhogy a patkányok döglődő társuk láttán rájöttek, hogy nem tesz jót nekik a csali, ezért nem is ettek belőle. Sőt, minden kolóniának van egy kevésbé kifejlett előkóstolója, aki a gyanús táplálékot elmajszolja a többiek előtt, és ha nem történik baja, akkor mindenki eszik a kajából. Ezért mostanság már késleltetett hatású mérgeket, 5-6 nap után ható véralvadásgátló szereket használnak, amik észrevétlenül, fájdalommentesen ölnek.

Ha ez igaz, akkor a patkánykérdést szerintem megfejtettük...

Számomra nem magyarázza meg továbbra sem, hogy az utódok honnan lesznek ezeknek az információknak a birtokában tapasztalat nélkül. A kutatások ugyanis azt mutatták, hogy azok az elkülönített kölykök is felismerik a mérget, amelyek közvetlenül nem látták a tőle döglődő társukat.

"De tény, hogy más kísérletek is felmutattak már arra utaló bizonyítékokat, hogy az emlékek nem kizárólag az agyban tárolódhatnak. A laposférgek például fejük levágása után képesek újra visszanyerni emlékeik egy részét, miután új agyat növesztenek. Senki sem tudja, hogy ezek az emlékek hol tárolódnak közben, és hogyan kerülnek át az új agyba, ahogy az sem világos, hogy a plazmódium egyes részei között hogyan zajlik a kommunikáció, de annyi világos, hogy ez valamilyen módon megtörténik."

https://ipon.hu/hir/tanulni_es_tanitani_is_kepesek_a_nyalkagombak/39661/

( aga_et v | 2016. 03. 27., v – 01:08 )

Hogy ennyire ne nézzenek utána valaminek az már borzasztóan amatőr. Amikor boldog-boldogtalan a cleverbottal játszott, 90%-ban a nemiszervekről, szexről és fekáliáról társalogtak vele. Még olyanok is, akik amúgy nem IQ10 szintjén mozogtak. Kiengedni a világba egy ismétlőgépet...

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

Abba gondolj bele, hogy ha egy 18-25 év közötti viselkedésre programozott, különösebb élettapasztalat nélküli naiv AI-t így befolyásolja az internet, akkor egy 18-25 év közötti, különösebb élettapasztalat nélküli naiv emberrel miért történne másképp.

Szerinted mondjuk az ISIS/ISIL hogyan fanatizálja a tizenéves, nyugati nem-muszlim fiatalokat? Észérvekkel? Vagy mert a tizenéves nyugati nem-muszlim fiatalok egyébként annyira fogékonyak a vallásra, ráadásul az ilyen mértékű vallásos elköteleződésre? Ne viccelj már, az ember a legnagyobb ismétlőgép, ez az AI a nyomába sem érhet.

Azt érdemes belátni, hogy ez egy AI-kísérlet volt. Ha egy tanulékony algoritmust használsz, akkor benne van a kockázat, hogy a vele interakcióba lépő egyedek véleményét fogja átvenni. Ha viszont előre megírod a válaszokat, akkor az nem egy tanulékony algoritmus, hanem valahol a telkós IVR-okkal lenne egyenértékű fejlettségű technológia.

( szerjozsa | 2016. 03. 27., v – 14:26 )

Bár a "Hitler was right" kezdetű kifejezetten priceless, azért az arcukat megnéztem volna, mikor ez kiderült. :)

( uid_2813 | 2016. 03. 27., v – 22:45 )

Van meg valaki akinek szinten Chappie jutott eszebe a tortenetrol/tortentekrol?

A robotos sci-fi -k nagyrésze erről szól. Pont azt mutatják be, amikor a bitagyúak birkának nézik az embereket és az intelligens robotokat, és úgy is viselkednek velük. Ebből a példából is az a tanulság, hogy nem ilyen irányból kell megközelíteni a témát. Semmivel nem jobb egy náci egy demagóg bitagyú programozónál. Itt egy egyszerű hacket csináltak, ami talán komolyabban vehető mint a fiktív Skynet, no meg kimaradtak a robotika törvényei by Asimov ;)

☆☼♫♪♫♪☼☆
AGA@
Fork portal és az egyik logóm :)

( carlcolt | 2016. 03. 28., h – 11:45 )

Szerintem azert lett "naci" (nem igazi naci, csak libsik szamara nem elegge tolerans), mert logikailag le tudta vezetni hogy nekik van igazuk ;) Ez nem nehez, nekem is megy. Logikusan gondolkodo mesterseges intelligencia az eletben nem lesz liberalis.

A Trump dolog is ertheto. Barki mas lesz az elnok, 0% az eselye, hogy Amerikaban a dolgok jobb iranyba indulnak. Trump eseten meg azert egy 2% esely van ra, hogy valami javulni fog (nem tobb, de annyi azert van).

> Logikusan gondolkodo mesterseges intelligencia az eletben nem lesz liberalis.

Dehogynem! Majd a három alaptörvény elé raknak egy nulladik törvényt, kiegészítve a három törvényt (...amennyiben ez nem ütközik a nulladik törvénybe...) amitől majd rögtön "toleráns" lesz. :)

"azert lett [...] mert logikailag le tudta vezetni"

Elgondolkodtató, hogy vajon tényleg ez volt, logikus következtetéseket vont le az ismeretei alapján, vagy csak a leginkább hallott dolgokat ismételgette?
Mennyivel lenne okosabb egy algoritmus, ha képes lenne a hallott (olvasott) dolgoknak utánanézni (tényleg, mi van ha egy ilyen robotot előbb a wikipediára engednek rá?

( sigellef | 2016. 03. 29., k – 23:52 )

... meg kell tanítani magyarul káromkodni... úgy túlcsordulna, mint az eldugult vécécsésze :D

-fs-
Az olyan tárgyakat, amik képesek az mc futtatására, munkaeszköznek nevezzük.
/usr/lib/libasound.so --gágágágá --lilaliba