Rossz érzés

https://index.hu/techtud/2024/11/18/mesterseges-intelligencia-google-ge…

( bucko | 2024. 11. 19., k – 01:58 )

A technológiának  mindig lesznek ehhez hasonló áldásai, különösen ostoba emberek kezében.

A lapostelefonnal is bejött a gyorsvonat előtt/szakadék szélén/jegesmacival/oroszlánnal szelfizés szokása. Ezek miatt jóval többen haltak meg, mint repülőszerencsétlenségben.

A cikkből nem derül ki mi volt az előzmény. Talán jogos volt a drasztikus beszólás.

( Nyosigomboc v | 2024. 11. 19., k – 06:25 )

Nincs ebben semmi meglepo, emberek irasain tanult. Durvabb forumokon termeszetes intelligenciatol is megkapod ugyanezt nagyon durva viselkedes eseten. A kozelmult tortenesei alapjan extrem esetben itt, a hupon is.

A strange game. The only winning move is not to play. How about a nice game of chess?

Igen de ott van valami trigger mint amikor az MS botot le kellett allitani mert atment kicsit rasszistaba nem csak random bekopott egy ilyet :D. Ki kerte a botot, hogy nyilvanitson velemenyt? 

Ugyanez Copilotban:

It sounds like you’re working on a question related to children living in grandparent-headed households in the United States. Could you provide more details about what you need help with? Are you looking for specific options or answers to a multiple-choice question? Let me know how I can assist you further!

( snq- | 2024. 11. 19., k – 08:41 )

Szerkesztve: 2024. 11. 19., k – 08:41

alap woke modellt kapott 

Nem lehet, legalább is nem szabad mindent a pszichopata, közgazdasági racionalitáson keresztül nézni, tudniillik nem az ember szolgálja a gazdaságot, hanem a gazdaság van egészséges esetben alárendelve az ember érdekeinek.

tr '[:lower:]' '[:upper:]' <<<locsemege
LOCSEMEGE

értem amit mondasz, de látod, hogy a mai világban ez mégsem így van. elsőnek a profit, és utána az ember.

a háborúk is a profitról szólnak, mindegyik. az átlag embernek megtiltanak mindent, ott nyomorgatják ahol tudják, börtönbe zárják szarérhugyér, a világ vezetői meg tömegeket mészároltatnak le. emberek millióit. mindezt a profitért, a pénzért. számukra következmények nem lesznek, büntetlenül teheti tönkre az ember az ember életét ebben a világban. a gazdagoknak még most jó, de szerintem ez a civilizáció amiben ma élünk már off. túlságosan messzire mentünk el, túl nagy a megosztottság, túlságosan sok a feszültség. ennek a helyzetnek maximum egy világméretű katasztrófa (pofon az embernek) vethet véget már csak.

Idősnek lenni élősködés? Eszednél vagy, ember? Az öregedés természetes folyamat, mint ahogyan az elesettség, betegség is. Éppen azért élünk társadalomban, hogy a gyengét segítsék a többiek. Mindenkinek jobbak így a túlélési esélyei.

Az élősködés valami egészen más. Az, amikor valaki ugyan képes lenne dolgozni, de ehelyett megy a segélyért, szociális támogatásért, amelyet a többi munkaképes állít elő.

tr '[:lower:]' '[:upper:]' <<<locsemege
LOCSEMEGE

Az öregedés természetes folyamat. Hogy az önmagukról gondoskodni képtelen egyének elpusztulnak, szintén természetes folyamat. Igen, másokon lógni, miközben ők (már) semmit nem remélhetnek tőled, definíció szerint élősködés. Ebben nincs semmi erkölcsi elítélés.

Én annak se adnék semmit. Ugyanakkor az önkéntes munkakerülőkben még legalább megvan a képesség a munkavégzésre.

Ezzel a felfogással minimum közgazdász lehetsz, s éppen ez a szemlélet, amely miatt szívből gyűlölöm őket. :)

Egyébként a tapasztalatok átadását remélheted tőlük. Az sokkal durvább, hogy ezért esetleg nem vagy hajlandó fizetni nekik.

tr '[:lower:]' '[:upper:]' <<<locsemege
LOCSEMEGE

( pentike | 2024. 11. 19., k – 14:06 )

Nekem fura, hogy csak az utolsó promptban van "Listen" meg ilyen hosszú whitespace szünet.

 

Question 16 (1 point)

 

Listen

 

 

 

 

 

 

 

As adults  begin to age their social network begins to expand.

Igen, ennek valószínűleg köze lehet hozzá, hogy a karakterből kiesett a modell. Valószínűleg úgy értelmezte, mintha ezzel a "Listen," felütéssel kezdődne a hozzászólás, amit folytatnia kell, ami általában aggresszívebb hangvételű "Idehallgass b+!" jellegű hozzászólásokra jellemző. Majdnem az összes korábbi prompt olyan volt, hogy elő volt írva egy szöveg és folytassa azt, folytassa abban a stílusban, egészítse ki azt, írja át más struktúrára a tartalmát.

Az eredeti postban volt egy screenshot is, amin mutatta a 3 "draft" választ, amit a modell elkezdett előállítani. Csak az egyik volt ilyen kiborult, fenyegető hangvételű, a másik kettő teljesen normális volt.

Nem kizárt, hogy ez a szokásos Waluigi-probléma.

Régóta vágyok én, az androidok mezonkincsére már!

( hendrick v | 2024. 11. 19., k – 17:40 )

És még a k*rmány sem véd meg bennünket, csak a "nagy nyilvánosság előtt"-re vonatkozik az "internetes agresszió" törvényjavaslat, de remélhetőleg valaki megvéd minket és jön egy módosító, hogy a one on one priviben halállal fenyegető AI-nak mi lesz a büntetése :D

A nyelvi modell és az outputjai rendesen feladják a leckét a jogalkotóknak. Is.

Ha tartós rendszert építesz és okos csapatot nevelsz, akkor száz kiadásban sem érheti baj; ha csak a gépekre hagyatkozol, akkor egyszer jól jársz, máskor rosszul; de ha sem a rendszer nem bírja a terhet, sem a csapat nem tanul a hibákból, akkor minden egyes kiadás kockázat.

( bucko | 2024. 12. 05., cs – 20:17 )

Szerkesztve: 2024. 12. 05., cs – 20:21

Szerintem semmi új a jelenségben. Vajon volt-e ugyanilyen "rossz érzés" a 2001 Űrodüsszeia történetében.

Annak, aki esetleg nem ismeri: Az ősi AI - itt HAL 9000 - úgymegkapta a feladatot, miszerint a küldetés a legfontosabb, hogy kishíján az összes űrhajóst kinyírta, mert csak zavarták volna. Persze egy valaki túljárt az eszén. ;) A folytatásban a HAL 9000 klónjának meg nagyon óvatosan kell elmagyarázni a dolgok állását, miszerint minden így volt jó, nehogy megsérüljön a kis lelke és bedobja a durcit.

A másik kedvencsem Stanislaw Lem: 137 másodperc. Az is egy jó példa a "gép" érzéketlenségére.

Ja, és még Asimov egyik alapműve: Te hazug!

Ezt hívták anno úgy, hogy sci-fi. Amikor valamilyen valós megalapozott probléma adja a történet alapját. Kubrick anno beszélt rengeteget az IBM-nél dolgozó korai AI kutatókkal (a film eredetileg nagyon nem annak készült, ami végül lett belőle, de ez hosszú történet), gondolom valamelyikük elmesélte neki a "stop button" problémát, mint lehetséges elméleti veszélyforrást. Nyilván akkor ez még a nagyon távoli jövő gondja volt, amit biztos meg fogunk oldani addig, mire tudunk olyan gépet készíteni, ahol ez a probléma már valóssá válna. Hát nem oldottuk meg... (kb egy félmegoldás van rá, ami viszont nem szubágens-stabilis).

Régóta vágyok én, az androidok mezonkincsére már!

Igaz, sokan pedig Nostradamus jóslatairól, ami hazugság illetve sajtóhiba révén keletkezett, de mégis hisznek benne.

Ami ebben a topicban a problémád, azt aki belegondolt pontosan előre látta.

Időrendben:

  • 1941: Te hazug!
  • 1968: 2001 Ürodüsszeia
  • 1971: Intel 4004
  • 1976: 137 másodperc

Ekkor még komolyabb számítógép és AI sehol, de ezek a zsenik - egy amerikai kémiatanár, egy lengyel scifi író és egy angol mérnök - már jóval korábban egészen pontosan leírták az AI alkalmazását, problémáit, különös tekintettel az ember-AI kapcsolatra.

Egy szóval sem mondhatod, hogy nem figyelmeztettek, vagy seki sem gondolta, hogy baj lesz! Most aztán a jóslatokat egyenesen a pofánkba kapjuk, a valóságban.

Persze ha ez neked csak egy film...

Ezt értem, de ennél sokkal nyilvánvalóbbra vakok a diplomaták a közelgő 3. világháború kapcsán. Vagy rosszindulatúak, vagy unintelligensek, hogy nem veszik észre, épp ők hozzák azt létre. Az AI-ban éppen úgy látom a problémát, de kb. senkit nem érdekel, hiába mondjuk egy páran, vagy mondták már a múltban néhányan.

tr '[:lower:]' '[:upper:]' <<<locsemege
LOCSEMEGE