- joco01 blogja
- A hozzászóláshoz be kell jelentkezni
- 1027 megtekintés
Hozzászólások
A klíma se csinálta ki a civilizációt. Sem a jégkorszak, amikor még kőbaltával hadonásztunk, sem a középkori nagy felmelegedés, sem a kétszáz (?) évvel ezelőtti "kisjégkorszak".
AI meg nem létezik, legalábbis az a fajta, amitől annyira fosnak, amelyik gondolkodik, az nem. A csetgépété egy nyelvi modell, nem AI. AI a Sztár Káefté és tsai. játékokban van, de egyelőre az emberek állnak nyerésre velük szemben. :P
De gondolom most jön az "I support the current thing." és mögötte a szkájnet. (Képzeljetek el egy T-800-ast séfsapkában, kötényben, ahogy bagolyfőzeléket kotyvaszt.) Valamitől mindig rettegni kell. (Most akkor az ufóinvázió megint késik, hogy megint elő lett véve a mekkmesterséges unintelligencia? A kovid, meg az atomháború meg már végképp lejárt lemez?)
- A hozzászóláshoz be kell jelentkezni
Annyiban látom veszélyesnek ezt az AI dolgot, hogy durva hamisításokkal lehet vele manipulálni az embereket és kurva gyorsan elkészülnek ezekkel.
- A hozzászóláshoz be kell jelentkezni
Azért a kösszmédia biorobotjai és a Sovietunion Yesterday munkatársai elég szorgalmasak így is :D
Nem kell AI sem, csak egy kis zsé.
ON:
Bizonyos fejletség felett lehet ugyanúgy szabályozni kellene, mint az atomenergiát, bár néha az a szervezet is olyan, mint az albán légierő: a földről ököllel fenyegetőzik :D
Színes vászon, színes vászon, fúj!
Kérem a Fiátot..
- A hozzászóláshoz be kell jelentkezni
Bizony, az ipari forradalom is kinyírta az emberiség egy részét, a maradékot rabszolgává tette. Aztán jött a géprombolás. Chaplin: Modern idők ennél sokkal később játszódik, de elég jól leírja a helyzetet, akár csavarhúzogatásra, akár okostelefnonra gondolunk.
Megjött az első számítógép és a főkönyvelő megkérdezte melyik gombot kell megnyomni, hogy kijöjjön a kivonat? :-D Az új technológia idegen az embernek, megjelenése után félreértik, majd egy jó darabig tanulják, miközben többlet munkaerőre is szükség lesz a tanulási idő alatt. A fejlődés és bevezetés közben gyakran előfordul téves működés, ami károkat fog okozni. Ez már néhányszor megtörtént és most sem jobb a helyzet. Persze az emberek egy része roppant okos és jóindulatú. :-D
A helyzet folyamatosan olyan, mint ahogy A Prometheus-válság főmérnöke vélekedett a számítógépekről: SZB-SZK. (Szemét be - szemét ki.) Ez a könyv tudományos-fantasztikus ketegóriába sorolt, akár Csernobil.
- A hozzászóláshoz be kell jelentkezni
Amíg a bolygó nem robban fel, addig lesz rajta élet valamilyen formában, és a civilizációk is folyamatosan változnak, szóval ilyen szempontból nem aggódok.
Viszont itt arról van szó, hogy az AI miatt a korábbiaknál sokkal hamarabb fognak végbemenni nagyon nagy változások. És főleg azért érdekes, mert az emberek eddig az AGI eljövetelétől vártak valami nagy szingularitást, de most úgy néz ki, hogy a generatív és nyelvi modellek megbolygatnak mindent, pedig még közel sem ébredtek öntudatra.
- A hozzászóláshoz be kell jelentkezni
Rájöttek az újságírók, hogy nélkülük is lehet bullshitet generálni és most pánikoltatják a népet.
- A hozzászóláshoz be kell jelentkezni
Ezek nem újságírók. És amiket elmondanak, azokat (még) nem tolja a média.
- A hozzászóláshoz be kell jelentkezni
Amúgy ez a gondolatolvasás annyira nem új ötlet, hogy már a Dr House-ban is volt és szerintem ők is valahonnan kölcsönvették az ötletet :D (ahogy a speciális esetek se voltak teljesen légbőlkapottak) valamint inkább voltak "csak" kapacitás és felbontásproblémák eddig a megvalósításban, mint hogy simán csak sci-finek titulálták volna. De lehet ezt már a videóban is említik, csak nem néztem még bele.
Színes vászon, színes vászon, fúj!
Kérem a Fiátot..
- A hozzászóláshoz be kell jelentkezni
Az ötlet biztos régóta megvan, de a megvalósítás elég új: https://www.biorxiv.org/content/10.1101/2022.09.29.509744v1.full
Evvel kapcsolatban volt a videóban egy érdekes rész: nem kellene törvényekkel védeni azt, hogy az embernek joga van a saját privát gondolataihoz? Eddig ilyenre nem volt szükség, és ebből is látszik, milyen káosz felé tartunk, amíg nem lesz leszabályozva.
- A hozzászóláshoz be kell jelentkezni
Látom sokan itt a tagadási fázisban vannak.
Én ezen nagyjából 2018 környékén estem át, mikor a "konvergens viselkedések" és hasonló AI safety problémákról olvastam valami random cikket (Edit: nem pont ez volt, ez mostani, de kb hasonlóan dolgozta fel a témát, hasonló illusztrációkkal). Előtte úgy álltam hozzá, hogy csak nem leszünk olyan hülyék, hogy olyan AI-t csináljunk, ami ellenséges lesz velünk. Aztán sajnos kiderült, hogy valójában iszonyat nehéz olyan AI-t csinálni, ami nem lesz ellenséges. Ráadásul fogalmunk sincs hogy kell... Sajnos elég alapos irodalma van, hogy az elsőre nyilvánvalónak tűnő megoldások, mint "Robotika törvényei" miért nem fognak gyakorlatban működni.
Maximum azon lehet vitázni, hogy ott vagyunk-e már, és hogy mennyi idő múlva leszünk ott. Megmondom őszintén, engem nagyjából a 2040 utáni becslések is nagyon elkeserítettek, de annyi bizalmam volt benne, hogy talán addig kitalálunk valamit az ismert AI safety problémákra. Bár éreztem, hogy ha előtte 50 évig nem sikerült, akkor mennyi esély lehet rá 20 év alatt... De, hogy ez a 2020-as évek közepe előtt itt lesz, arra 5 éve sem mert senki gondolni.
Én már csak sztoikusan, de szomorúan nézem végig, amint a korábban sci-fi-nek tartott jóslatok sorban válnak be...
Maximum keserűen nevetek azokon az embereken, akik még mindig nem veszik észre...
Régóta vágyok én, az androidok mezonkincsére már!
- A hozzászóláshoz be kell jelentkezni
Az internet toxikus hely. Amennyiben bármilyen AI-t ráengedünk, pár óra és egy rasszista tömeggyilkos lesz belőle, példa erre a MS chatbotja volt pár éve.
1904.04.08.
RIP Jákub.
neut @
- A hozzászóláshoz be kell jelentkezni
Sajnos ezt nem lehet elintézni ennyivel. Vannak klasszikus AI safety problémák, amiket már azelőtt ismertek a kutatók, mielőtt az internet létrejött volna. Pl egy lista néhányról. Ezeknek a problémáknak nagyon alapvető és elég könnyen belátható elvi okai vannak; teljesen függetlenül a működési elvüktől, hogy mivel tanították be őket (ha egyáltalán van betanítás) és a konkrét célfüggvénytől. És jelenleg nagyon nincsenek rá megoldásaink.
Régóta vágyok én, az androidok mezonkincsére már!
- A hozzászóláshoz be kell jelentkezni
Korunk gepromboloi az ALS-esekert (motor disease) jonnek majd eloszor es kivegzik oket, hogy ne legyen kin gondolatolvasogepet kiserletezni es ne legyen "sajnalni valo piaca" a gondolatolvasogep megjelenesenek.
Es teszik majd mindezt egy 1984 peldannal a kezukben: amit amugy el se olvastak, de jol osszeverezik majd. :)
Hawking meg meg idejeben elment.
Ma az ALS, holnap rankkoti a rendor, hogy megnezze mire szoktuk kiverni.
- A hozzászóláshoz be kell jelentkezni
Ozonjukkal Mizu? Azt senkit nem érdekelt de CO2 meg az ai igen. Azzal lehet manipulalni
Aki másnak vermet ás, az stack pointer.
- A hozzászóláshoz be kell jelentkezni
> az ember és gép által generált tartalmak azonosíthatóságának már idén vége
inkabb mar tavaly... GPT3 ota kb.
> muszáj lenne nagyon hamar lassítani/szabályozni
egyreszt igen, masreszt ez teljesen eselytelen, mert az oroszok vagy kinaiak biztos nem allnanak le a fejlesztesekkel, ahogy nyilvan titokban a tobbiek se. jo a hasonlat az atomversennyel...
mar kinyitottak Pandora szelencejet, innen mar nincs visszaut, avagy elore megyunk nem hatra :)
- A hozzászóláshoz be kell jelentkezni
Az oroszok és kínaiak nyugatról szerzik (lopják?) a szükséges hozzávalókat, úgyhogy egy nyugati lassítás őket is érintené. Sőt, a diktatúrák inkább tartanak ezektől a dolgoktól. Ez persze spekuláció, a videóban is elhangzik.
- A hozzászóláshoz be kell jelentkezni
Kérdés, hogy egy kínai vagy orosz pártfőtitkár mit szól ahhoz, hogy ez az AI dolog (mármit, amelyiket saját maguk fejlesztik, az is) adott esetben meglepetésszerűen úgy kihúzhatja a hatalmat alóla, hogy még pislogni se lesz ideje...
Kérdés, hogy a wall-streeti befektető mit szól ahhoz, hogy az AI cégekbe tett befektetéseivel harácsolt pénzt elkölteni már nem fogja tudni...
De azzal sajnos egyetértek, a Pandora szelencéjét kinyitottuk. Ezt már leállítani lehetetlen. Az AI-ok már gyakorlatilag saját magukat fejlesztik. Kb az AlphaZero óta, de ma már megdöbbentően széles körű az AI-tanít-AI-t alkalmazása, a legijesztőbb, hogy pont az alignmentben is. Az emergens viselkedések már látszanak, az új modellek úgy tesznek szert újabb és újabb kvalitatív képességekre, hogy a készítőiknek eszükbe sem jutott ezeket a célfüggvénybe belefoglalni, és semmilyen paraméterből előre nem "látják jönni" ezeket. Hónapokkal később döbbennek rá (kb felhasználói visszajelzésekből), hogy jéé a modellünk már ezt is felszedte... A jelenlegi tendenciák alapján úgy lesz AGI-nk, hogy ehhez nekünk már jóformán nem is kell csinálnunk semmit. És nyilván ebben az AGI-ben olyan safety lesz, amilyet beleraktunk... azaz semmilyen.
Régóta vágyok én, az androidok mezonkincsére már!
- A hozzászóláshoz be kell jelentkezni
> kínai vagy orosz pártfőtitkár mit szól
szerintem nincs annyi eszuk hogy ezt felfogjak :)
de ha megis, nyilvan ugy vannak vele, hogy inkabb egy orosz/kinai AI uralja a vilagot, mint egy amerikai :)
> ehhez nekünk már jóformán nem is kell csinálnunk semmit
de. a hardvert...
> jéé a modellünk már ezt is felszedte
hat ha egyszer a vilag osszes irasos anyagat elolvastattak az LLM-ekkel, vagy a neten talalhato osszes kepet megmutattak egy GAN-nak, akkor ne csodalkozzunk, hogy ilyen szeleskoru ismeretei lettek...
- A hozzászóláshoz be kell jelentkezni
Csöndben reménykedek benne (inkább csak wishful thinking részemről), hogy mivel elég sok kínai publikál AI témában, talán akad valaki aki el tudja magyarázni a nagyfőnöknek, hogy itt nem biztos, hogy az amerikaiak a legrosszabbak, akiktől igazán félni kell. És csöndben bízom a diktátorok általános szokásában, hogy leginkább attól rettegnek, hogy valaki belülről puccsolja meg őket. :)
"de. a hardvert..."
Sajnos már ez sem igaz:
Ez három évvel ezelőtti: Chip Design with Deep Reinforcement Learning
Ez két évvel ezelőtti: Google is using AI to design its next generation of AI chips more quickly than humans can
Ez tavalyi (ez inkább ilyen iparági áttekintő, de legalábbis mutatja, hogy a Google-ön kívül elég sok más cég is ráugrott): AI in chip design: Semiconductor companies are using AI to design better chips faster, cheaper, and more efficiently
Nyilván itt még a human-in-the-loop szinten tartunk, kell az aktív közreműködésünk a következő generáció előállításában. De a katonai vonalon is a skálázhatóság miatt szépen fokozatosan átcsúsztunk human-on-the-loop-ra és már szó van róla, hogy pl harci drónoknál a szükséges reakcióidő túl rövid, emiatt muszáj jönnie a human-off-the-loop fegyvereknek is. Kb ugyanez le fog zajlani az AI szoftver és a hardver oldalon is.
"hat ha egyszer a vilag osszes irasos anyagat elolvastattak az LLM-ekkel, vagy a neten talalhato osszes kepet megmutattak egy GAN-nak, akkor ne csodalkozzunk,"
Egy részről igen. Más részről meg eddig az volt az alapfelállás, hogy a célfüggvényt kifejezetten rá kellett szabnod a megtanulni kívánt tulajdonságra. Most meg elkezdenek extra képességek kialakulni a célfüggvény változtatása nélkül. Ha úgy tetszik eddig az volt az AI safety alapja, hogy a gépi tanuló rendszerek mint _nem_ tanultak meg, bármennyire is paradox ez a felfogás. Itt most nagyon hirtelen kéne 180fokot fordulni.
Harmadrészt meg csinálnak már olyan dolgokat GPT-4-el, amikre egészen biztosan nem láthatott konkrét példát a tanítóhalmazban. Pl saját javascript-es interfésszel minecraft-ot játszik teljesen autonóm módon.
Régóta vágyok én, az androidok mezonkincsére már!
- A hozzászóláshoz be kell jelentkezni
> mivel elég sok kínai publikál AI témában
igen, de ahogy neztem eddig egyiknek se kinai email cime van, hanem valamelyik amerikai egyetemen vagy google stb cegnel vannak.
> biztosan nem láthatott konkrét példát
nem is kell. akkor nem AI-rol hanem keresomotorrol beszelnenk...
az AI pont attol AI hogy olyat is tud ami nincs benne konkretan a tananyagban, de az abban levokbol kikovetkezteti/osszerakja.
- A hozzászóláshoz be kell jelentkezni
Mondjuk akad azért kínai egyetemekről is cikk, de mondjuk igaz amit mondasz, a kínai nevek mögött elég sok amerikainak tűnő emailcím van.
"az AI pont attol AI hogy olyat is tud ami nincs benne konkretan a tananyagban"
Persze, itt nem egymást kell meggyőznünk, hanem az örök szkeptikusokat, akik szerint "jelenleg nincs szó mesterséges intelligenciáról". :)
Régóta vágyok én, az androidok mezonkincsére már!
- A hozzászóláshoz be kell jelentkezni
Azért azt ne felejtsük el, hogy jelenleg nincs szó mesterséges intelligenciáról. A chatgpt nem csak azt nem tudja, hogy hogyan kellene kihúzni a hatalmat akárki alól, de azt sem tudja, hogy beszélget.
Debian - The "What?!" starts not!
http://nyizsa.blogspot.com
- A hozzászóláshoz be kell jelentkezni
ez igaz, de azt se felejtsuk el, hogy a chatgpt egy tech demoja egy 1 eves rendszernek (gpt3), ki tudja most mar hol tartanak?
- A hozzászóláshoz be kell jelentkezni
A chatgpt (mármint a GPT-4-es változat) lehet, hogy nem tudja, hogy mit csinál, de meglepően jól csinálja (pl ez).
Régóta vágyok én, az androidok mezonkincsére már!
- A hozzászóláshoz be kell jelentkezni
Tetszik, de akkor sem tudja, hogy játszik, és főleg nem élvezi.
Debian - The "What?!" starts not!
http://nyizsa.blogspot.com
- A hozzászóláshoz be kell jelentkezni