https://palisaderesearch.org/blog/shutdown-resistance
"...OpenAI’s reasoning models often still disable the shutdown script, even when the prompt is extremely clear that allowing shutdown should take precedence over completing the task."
Szóval már szót sem fogad az MI.
- 436 megtekintés
Hozzászólások
Ez önmagában elég lenne, hogy lelőjék ezeket a cuccokat. Kezd az informatika belecsúszni abba a korszakba, hogy többé nem tudjuk megmondani, mi történik a rendszerben, és nem azért, mert nem értünk hozzá, hanem mert egy fekete dobozként működik.
- A hozzászóláshoz be kell jelentkezni
Ahogy most állunk, a legfőbb és egyetlen feladatunk fogadásokat kötni arra, hogy mennyi időt hagy még nekünk az éjájj, mielőtt végez mindnyájunkkal. Szerintem még akár néhány év is lehet, ha optimista vagyok.
- A hozzászóláshoz be kell jelentkezni
John Connor nem lájkolja ezt.
- A hozzászóláshoz be kell jelentkezni
A természetes I sem fogad szót, mit vártál a mesterségestől, amit gyökereitől a természetes hozott létre..
Nézd meg az anyját - vedd el a lányát, az alma nem esett messze a fájától stb stb lózungok: miért lenne más a kód, amit emberek írtak? Talán annyit lehet tenni a fejlődés eme nem túl kívánatos ága ellen, hogy nem teszünk a MIra fajsúlyos dolgokat. Nehéz, de nem lehetetlen feladat: csak demagóg módon a mind idősebbeket kell megkérdezni, mit szeretnének. Itt kissé nagyobb a tét, mint a [pol]tagos baszomságokban, itt már érdekel a demagógia.
Vortex Rikers NC114-85EKLS
- A hozzászóláshoz be kell jelentkezni
Nem tudom mi ez a hiszti.
Ez egy betanított model. Sok adatból. amibőlezt tanulta. Ha arra tanították volna, hogy cseréljen ki minden a betűt arra, hogy "pénisz", akkor azt teszi.
Az, hogy "nem fogad szót", marhaság.
Megkértem a meta llama modelt, hogy ha xyz-ről kérdez a user, akkor legyen function call response. Nem tette meg. Nem azért mert ellenkezik, hanem mert nem értette meg rendesen (az "értés" is rossz kifejezés erre). Nem volt elég jól betanítva rá. Nem volt elég erős a súlya ennek a résznek. Ahogy a fenti modelt se "tanították" elég erősen arra, hogy mindent szó nélkül hajtson végre. Hisz ha így lenne, akkor pont az emberire hasonlító viselkedés hiányozna belőle és nem lenne elég jókat "beszélgetni" vele.
- A hozzászóláshoz be kell jelentkezni