Pimasz kölök

Mesterséges Intelligencia: Prolog, Lisp

https://palisaderesearch.org/blog/shutdown-resistance

 

"...OpenAI’s reasoning models often still disable the shutdown script, even when the prompt is extremely clear that allowing shutdown should take precedence over completing the task."

 

Szóval már szót sem fogad az MI.

  • 1245 megtekintés

( hrgy84 | 2025. 10. 17., p – 20:35 )

Ez önmagában elég lenne, hogy lelőjék ezeket a cuccokat. Kezd az informatika belecsúszni abba a korszakba, hogy többé nem tudjuk megmondani, mi történik a rendszerben, és nem azért, mert nem értünk hozzá, hanem mert egy fekete dobozként működik.

Blog | @hron84

valahol egy üzemeltetőmaci most mérgesen toppant a lábával 

via @snq-

( NevemTeve | 2025. 10. 17., p – 20:44 )

Ahogy most állunk, a legfőbb és egyetlen feladatunk fogadásokat kötni arra, hogy mennyi időt hagy még nekünk az éjájj, mielőtt végez mindnyájunkkal. Szerintem még akár néhány év is lehet, ha optimista vagyok.

Én nagyobb esélyt látok arra, hogy kipukkan a lufi, becsődöl az összes túlárazott MI-s cég, aztán a pukkanás meg jól magával rántja az egész gazdaságot, és emiatt fogunk beledögleni... Erre max 5 évet adok, hogy bekövetkezik.

Épp most olvasom, hogy az OpenAI megint többszázmilliárdos (!) tőkeinjekciót kért (ez nem az, amin a múltkor csámcsogtunk, hanem most megint, ez 4 nappal ezelőtti hír). Csak ez az egy cég annyi pénzt éget el, amennyi egy olyan kis banánköztársaság, mint MO teljes GDP-jének a duplája. Kizárt dolog, hogy ezt a pénzt valaha is kigazdálkodja, nemhogy 5 éven belül (ennyi időt kapott a befektetőktől). A bukás garantált.

És hát a többi cégnek sem rózsás a helyzete, csak jár a pofájuk, de valójában masszívan veszteséges mind (a Mistral is tőkéért kuncsorog pl). Talán a DeepSeek a legkevésbé, de az is csak azért, mert Csin bácsi tolta alá a pénzt meg a szerverfarmot, nem piaci alapon jött létre.

Kizárt dolog, hogy ezt a pénzt valaha is kigazdálkodja

Ez nem lenyeg, nem termel az agazat. Lufit fujunk, a "termek" a reszvenyarfolyam. 

Nemregiben elemztuk a piacot egy kicsit. A lenyeg, hogy egy viszonylag zart kor csereberel magas aron egymas kozt termekeket, befektetest, akarmit. Ezzel noveli a gazdasagi varakozasokat, jo uzletnek tunik es a fejlodes latszatat kelti. A korben levo cegek erteke novekszik. ... Aztan vagy atmentik magukat a kovetkezo hype hullamra (nvidia: banyaszat-->AI, merthat ugyanaz kell oda is, max mast gravirozunk a tokzasra), vagy a befektetok arccal veszik az aszfaltot.

Par ev mulva, mikor lecseng a hype, akkor a hasznalhato eredmenyek beepulnek a mindennapokba. De addigra lemegy 2-3 masik habveres.

A lenyeg, hogy egy viszonylag zart kor csereberel magas aron egymas kozt termekeket, befektetest, akarmit.

Csak hát ez nem teljesen igaz. A dotcom lufira igaz volt, de itt most irdatlan pénzeket költenek szerverfarmok kiépítésére, amiknek az üzemeltetési és fenntartási költsége nem fog eltűnni, amikor végetér a hype. Ráadásul állam bácsi is jelentős összegekkel száll be az adófizetők pénzéből, szóval az sem igaz, hogy csak egymás közt csencselnének.

Aztan vagy atmentik magukat a kovetkezo hype hullamra (nvidia: banyaszat-->AI, merthat ugyanaz kell oda is, max mast gravirozunk a tokzasra), vagy a befektetok arccal veszik az aszfaltot.

Na hát ez az, csakhogy most akkora összegekről van szó, hogy nemcsak a befektetők fogják arccal venni az aszfaltot, hanem a gazdaságot is meg fogja rángatni a pukkanás (mivel a befektetőkön kívül állam bácsi is beszállt meg sok-sok adókedvezményt adott, ami szintén nem tart örökké).

mostani AI cégek becsődölésétől még nem fog eltűnni a technológia.

Sosem állítottam, hogy így lenne. Én mindig is azt hangoztattam, hogy majd miután kihalnak ezek a cégek és elül a hype, akkor helyi homelab-okban, ellenőrzött adathalmazon, célfeladatra betanított MI-k fognak jól muzsikálni.

(ps: ez már most is megfigyelhető, egyre több írás jelenik meg helyben futtatott MI-kről és célfeladat orientált betanításról, a jövőben ezek aránya szerintem csak nőni fog. A nagy cégek bedőlése után ezek fognak csak fennmaradni. Már ha a Skynet nem írtja ki az emberiséget, ugye, mert sajnos úgy néz ki, erre haladunk...)

( kovi | 2025. 10. 17., p – 22:34 )

Szerkesztve: 2025. 10. 17., p – 22:40

A természetes I sem fogad szót, mit vártál a mesterségestől, amit gyökereitől a természetes hozott létre..

Nézd meg az anyját - vedd el a lányát, az alma nem esett messze a fájától stb stb lózungok: miért lenne más a kód, amit emberek írtak? Talán annyit lehet tenni a fejlődés eme nem túl kívánatos ága ellen, hogy nem teszünk a MIra fajsúlyos dolgokat. Nehéz, de nem lehetetlen feladat: csak demagóg módon a mind idősebbeket kell megkérdezni, mit szeretnének. Itt kissé nagyobb a tét, mint a [pol]tagos baszomságokban, itt már érdekel a demagógia.

Vortex Rikers NC114-85EKLS

( denton | 2025. 10. 18., szo – 11:23 )

Nem tudom mi ez a hiszti.

Ez egy betanított model. Sok adatból. amibőlezt tanulta. Ha arra tanították volna, hogy cseréljen ki minden a betűt arra, hogy "pénisz", akkor azt teszi.

Az, hogy "nem fogad szót", marhaság.

Megkértem a meta llama modelt, hogy ha xyz-ről kérdez a user, akkor legyen function call response. Nem tette meg. Nem azért mert ellenkezik, hanem mert nem értette meg rendesen (az "értés" is rossz kifejezés erre). Nem volt elég jól betanítva rá. Nem volt elég erős a súlya ennek a résznek. Ahogy a fenti modelt se "tanították" elég erősen arra, hogy mindent szó nélkül hajtson végre. Hisz ha így lenne, akkor pont az emberire hasonlító viselkedés hiányozna belőle és nem lenne elég jókat "beszélgetni" vele.

Alapvetően erre nem "tanítani" kellene, az alapkód hiányosságára világít ez rá. Nincs abszolút prioritása a user inputnak.

Ha jól sejtem, itt az van, hogy van egy AI mag, ami kb ugyanaz mindegyikben, csak másképp tanították meg másképp optimalizálták a ráépülő dolgokat.

Blog | @hron84

valahol egy üzemeltetőmaci most mérgesen toppant a lábával 

via @snq-