Már most, ebben a szakaszban szigorúan szabályozni kellene az AI-vel kapcsolatos fejlesztéseket, kutatásokat?

 ( trey | 2018. március 13., kedd - 10:01 )
Igen.
37% (141 szavazat)
Nem.
34% (128 szavazat)
Nem tudom.
21% (78 szavazat)
Egyéb, leírom.
1% (5 szavazat)
Csak az eredmény érdekel.
7% (26 szavazat)
Összes szavazat: 378

Hozzászólás megjelenítési lehetőségek

A választott hozzászólás megjelenítési mód a „Beállítás” gombbal rögzíthető.

Az atombomba hasonlat nagyon passzol ide. Pontosan az a baj, hogy ennek hadaszati jelentosege van ezert mindenki titkolozni fog es lehetetlen lesz szabalyozni.

De látod mégis elkerültük az atomháborút eddig. Japán ellen egyébként szadista módon bevetett két atombomba is összességében csökkentette az áldozatok számát. Ha ugyanis partra szállnak az amerikaiak a japán hazai szigeteken, akkor ott hatalmas mészárlás lett volna mindkét oldalon. A japán polgári áldozatok száma is óriási lett volna.

Az AI sem fog a Terminátor filmek sötét jövőképéhez vezetni. Inkább Deus Ex jövőkép sanszos. Azaz a gépek nem fogják eltörölni az emberiséget, az emberiség fog összeolvadni a gépekkel.


Normális HUP-ot használok!

Az, hogy nem lett atomhaboru nem jelenti azt, hogy ha azt is megusztuk akkor mindent tovabbit is meg fogunk. Bar sokan a kornyezetszenyezessel is igy vannak, hogy eddig se lett baj, ugyhogy nyugodtan menjunk igy tovabb.

Az AI azert ijeszt meg soakakat (koztuk engem is), mert fogalmunk sincs, hogy mi fog tortenni, nem tudjuk kitalalni, hogy mit akar majd csinalni valami ami 100-szor okosabb nalunk. Es ilyen ertelemben sokkal felelmetesebb az atomhaborunal.

Ja es egyebkent meg egyaltalan nem biztos az sem, hogy mar nem lesz atomhaboru.

Szerintem nagy esélye van annak, hogy a 21. században lesz egy nukleáris fegyvereket is használó háború. Az előző században rossz irányba mentek a fejlesztések. Hatalmas erejű nukleáris fegyverek helyett éppen inkább a kis hatóerejű és kis méretű nukleáris fegyvereké a jövő. Például a kézigránát méretű hidrogénbomba ami felrobbant egy épülettömböt. De nem többet. Persze nem árt hozzá egy Davy Crockett -féle kilövőszerkezet, hogy a fegyvert használó katona túlélje a bevetést. Bár ha az arabok fejlesztenék ez lehet nem is lenne fontos. :)

A második világháború alatt Németországra összesen másfél millió tonna bombát dobtak le. Ez összesen kisebb pusztítóerőt jelent mint egyetlen 1,5 megatonnás hidrogénbomba. Mert ez utóbbinál a 1,5 megatonna ugyanennyi TNT pusztítóerejének felel meg, ami a 2. világháború végén a legerősebb kémiai robbanóanyag volt. Németországra ledobott 1,5 millió tonnában pedig minden benne volt a gyújtóbombákig bezárólag. Egy 1,5 megatonnás hidrogénbombát nem lehetett volna úgy ledobni Németországra, hogy csak megközelítőleg hasonló pusztítást végezzen mint a tízezernyi szövetséges bombázó.

„Az előző században rossz irányba mentek a fejlesztések. Hatalmas erejű nukleáris fegyverek helyett éppen inkább a kis hatóerejű és kis méretű nukleáris fegyvereké a jövő. Például a kézigránát méretű hidrogénbomba ami felrobbant egy épülettömböt.”

Itt azért van némi ellentmondás:
- A hidrogénbomba sokkal nagyobb hatóerejű, mint egy atombomba. Tehát a kis hatóerőhöz inkább egy kézigránát méretű atombomba jobban passzolna.
- A hidrogénbomba beindítását egy atombomba végzi. Tehát a legkisebb méretű hidrogénbomba biztosan nagyobb, mint a beindításához szükséges atombomba.
- Az atomba méretének alsó határt szab, hogy felhasznált hasadóanyaggal a kritikus tömeget el kell érni. Ami az anyagtól függően több kilót, vagy több tíz kilót jelent. Plusz kell még jó sok „árnyékoló” anyag, ami megakadályozza, hogy a rádióaktív sugárzás még a robbanás előtt megölje a raktározást, szállítást végző katonát.
- A kritikus tömeg egyúttal a minimális hatóerőt is meghatározza.

A legkisebb méret + legnagyobb pusztító erő hidrogénbombával érhető el. Ma már csak azok az országok készítenek atombombákat, akik nem tudnak hidrogénbombát előállítani. A fejlett nukleáris hatalmak szinte exkluzívan fúziós robbanófejeket alkalmaznak.
Hidrogénbombából pedig a kétfázisú az optimális. Az orosz 50 megatonnás cár bomba háromfázisú volt, de nagyon bonyolult és nagy mérete miatt nem hatékony.

A már említett Davy Crockett tömege a kilövőállvánnyal együtt mindössze 23 kg volt. Egyetlen katona is elboldogult vele. Igaz az csak atombombát lőtt ki, 1960-as években ezt tudták megcsinálni. Utána megalomán irányba fordult a fejlesztés a megatonnák felé.
A brit WE.177-ból, szintén 1960-es évekbeli fejlesztés volt három típus, A B és C. Az A atombomba a B és C hidrogénbombát alkalmazott. A méret ugyanaz. A tömege kb duplája a hidrogénbombás B és C típusnak. A pusztítóerő viszont 0,5 kilotonna A típusnál még 450 kilotonna a B típusnál.

Nyilván van egy alsó határ méretben. De már 50 éve ilyen kicsit is tudtak előállítani. Ha a kis méret kapná a prioritást a fejlesztéseknél lenne még hova továbblépni.

A hozzászólásom alapvetően arról szólt, hogy Te kis méretet és kis hatóerőt tartasz kívánatosnak. Azonban a hidrogénbomba esetén a kis hatóerő nem oldható meg. Kézigránát méretben (amit szintén kívánatosnak tartasz) pedig egyik sem oldható meg. Így a válaszod nagyobb részét, a én hozzászólásomtól független, ismeretterjesztő írásként tudom felfogni.

„A brit WE.177-ból, szintén 1960-es évekbeli fejlesztés volt három típus, A B és C. Az A atombomba a B és C hidrogénbombát alkalmazott. A méret ugyanaz. A tömege kb duplája a hidrogénbombás B és C típusnak. A pusztítóerő viszont 0,5 kilotonna A típusnál még 450 kilotonna a B típusnál.”

Az arányok jól mutatják, hogy a hidrogénbombából gyakorlatilag nem lehet kis hatóerejű fegyvert készíteni. Nagyon nagy házak, épületek lebontásához is csak 100 kilogrammos nagyságrendű TNT-t (vagy hasonlót) szoktak használni. Ilyen kis hatóerejű nukleáris fegyvert esély sincs készíteni. A legkisebb is 10 tonna TNT-nek megfelelő robbanóerővel rendelkezett, ami kb. még 2 nagyságrenddel nagyobb, mint az általad elvárt érték.

„Ha a kis méret kapná a prioritást a fejlesztéseknél lenne még hova továbblépni”

Jelenleg a kalifornium-252 a legkisebb (és létező) kritikus tömeggel rendelkező anyag. Ebből a kritikus tömegű gömb átmérője 6,9 cm. A valóságban a robbanás előtt legalább két (de inkább több) részre kell szeparálni az anyagot, tehát a robbanás előtt ennél nagyobb térfogatot fog igényelni. Plusz még a megfelelő „csomagolás”, illetve az egyéb járulékos elemek. Például a hagyományos robbanóanyag, amivel összerobbantják a részeket. Ebből legfeljebb az óriások földjén lesz kézigránát.

Tavaly nyári adat szerint a kalifornium-252-ből 1 gramm 27 millió dollár. És legalább 2.73 kg kell belőle. Igen drága kézigránát lesz ez. De ezek az adatok csak akkor igazak, ha 100%-os tisztaságú az anyag. A tisztaság csökkenésével fordított arányban, exponenciálisan nő a kritikus tömeg és a méret is.

Egyébként – a mérettől függetlenül – még a „legolcsóbb” anyagból is nagyon drága a kritikus tömegnyi mennyiség ahhoz, hogy nukleáris kézigránát készüljön belőle. A kézigránát ugyanis egy olyan fegyver, amiből a harcoló katonák többet is szoktak kapni.

De tegyük fel, van kézigránát méretű, és nagyon kis hatóerejű nukleáris fegyverünk. Felrobbantjuk a házat. Utána viszont a visszamaradt sugárzás miatt egy ideig (hónapokig, vagy évekig) elkerüljük majd a házat és közvetlen környékét. Ezzel el is érkeztünk ahhoz a kérdéshez, hogy miért fejlesztették ki a neutronbombát.

A neutron bomba remek példa volt. Az egy atom majd fúziós, majd újra atom robbanási sorrendű bomba (fission>fusion>fission). Az utolsó atom fázist az általában uránból készülő burkolat biztosítja a korábban felszabadul neutronok hatása által. Az oroszok ballisztikus rakétaelhárítóként használják. A nagy erejű neutronsugárzás nagy hatékonysággal és eléggé nagy távolságból tönkre tudja tenni a ellenséges rakéták nukleáris robbanófejeit. Az Egyesült Államoknak is volt hasonló elhárítórakétája. De nagy békeaktivistás tiltakozások miatt leszerelték.
Nem készültek ilyen fegyverek eddig és nem az a terület a nukleáris fegyverek fejlesztése amit teljes részletességgel publikálnának, szóval teoretikus az egész. Szerintem lenne potenciál az ilyen fejlesztésekben. Ha kézigránát méretet nem is de Davy Crockettnél kisebb kézi atomfegyvert lehetne csinálni.

Érdekesség. 5 ember egy kis erejű és nagy magasságban felrobbantott nukleáris fegyver epicentrumában: https://www.youtube.com/watch?v=BlE1BdOAfVc
(túlélik:)

.

Japán elleni két atombomba erősen túl van értékelve, miután naponta dobtak le nagyjából az atombombával összemérhető mennyiségű hagyományos bombát Japán városaira.

Az egész atombomba túlhypeolása két okból történt: egyik a Japán büszkeség, így kisebb arcvesztéssel adhatta meg magát, mondván, hogy "bocs, ezt nem láttuk előre". Másik, hogy az USA ezt kihasználva állította be magát a világ vezető erejének utána.

Persze, az ICBM-ek sokat változtattak a helyzeten később.

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

Azért az atom a japókat is rendesen meglepte.

Write only? Nem lepte meg, nem sokat befolyásolt az eseményekben.

http://www.businessinsider.com/the-nuclear-bomb-didnt-beat-japan-stalin-did-2017-8

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

Write only?
Nem basszus, csak az alá nem támasztott állításoddal nem értek egyet.

Ez meg amit linkeltél, hát most komolyabban haragszom rád, mert nem szeretem ha az időmet rabolják. Olvasom, olvasom, megy az idő, már 6k+ karakteren túl vagyok, de a negyedénél se tartok, aztán annyit tudok a az állításról ami a linkben olvasható. Ekkora tl;dr szart, de komolyan.

Maradjunk annyiban, hogy ez is egy vélemény, ami ugye olyan, amilyen.

Már kb. az elején a timing részben leírják, hogy miért nem lephette meg őket túlzottan az atombomba (volt saját atomprogramjuk, elég hamar egyértelmű volt nekik, hogy atombombával támadott az USA), másik, hogy már az előtt is tervben volt a gyűlés, ahol arról akartak tanácskozni, hogy hogyan adják meg magukat minél jobb feltételekkel és minél kisebb arcvesztéssel*. Nagasaki bombázásáról a hír kb. akkor futott be, amikor már rég eldöntötték a japánok, hogy megadják magukról.

* Az, hogy itthon a merjünk kicsik lenni ment egy időben, attól még ez nem mindenkinél van így.

Szóval összességében: a két atombombának katonai szempontból kevés jelentősége volt, taktikai szempontból semmivel sem nyújtott többet, mint egy konvencionális bombázás, lévén, hogy napi szinten ledobtak annyi hagyományos bombát, amely összemérhető volt vagy meg is haladta az atombomba rombolóerejét.

Japán akkora meg már 14 éve háborúban volt, ráadásul sokáig látszólag meglehetősen nagy sikereket értek el. Az atombomba kellően jó marketing anyagnak bizonyult ahhoz, hogy ebből a 14 évnyi folyamatos háborúból kijöhessenek azzal a szlogennel, hogy "bocs, ezt mi sem láttuk előre". (Ami nyilvánvalóan hazugság, hiszen folytattak kutatást ők is és nem voltak a tudósok hülyék, tudták, hogy merre haladnak a fizikai kutatások). Vagy, hogy az akaratukat csak egy "csodafegyverrel" tudták megtörni. (Japánok az akaraterejükre rendkívül büszkék voltak, nem véletlen, hogy ebből a kultúrális különbségből adódóan nagyon kevesen adták meg magukat akár a nyugati akár a keleti fronthoz viszonyítva.

Az USA-nak meg szintén érdeke volt, hogy ezt mondják a japánok. Az I. VH-ig meglehetősen elzárkózó politikát folytattak, viszont a világháborúban megrogyó korábbi Brit birodalom helyébe akartak lépni és át akarták venni a világ vezető hatalma címét. (Rooseveltnek a "minden lefektetett brit [hadi]hajógerincre kettővel válaszolunk" mondása megvan a két VH között?** Valahol ez vezetett a Washington Treatry-hoz is) II. VH-val ez sikerült is. Nekik kifejezetten kapóra jött, hogy a japánokat, akik korábban a térség messze legerősebb hatalma volt meg tudták verni és a világgal el tudták adatni azt, hogy akkor ők a faszagyerekek.

** Egyébként azóta is sokak szerint a hajóflotta -és ezen belül a hordozók- az amerikai hatalom egyik gerince, mert ezek segítségével tudja ma is bárhol képviselni a hatalmát.

De egyébként nem értem mit akartál ezzel a tl;dr beszólással. Ha meg nem egy rendesebb kifejtést vártál, akkor mit? Egy másik 2 soros valamit, ahol leírják ugyanazt, amit összefoglaltam?

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

Az egy dolog hogy atomfegyvert fejlesztesz (amivel kb. sehol se tartasz), az pedig egy másik, hogy az ellségnek az már van, sőt, nem csak hogy bevethető, de ellened be is vetették. Az atombomba nem a konkrét romboló hatása miatt volt jelentős, hanem a pszichikai hatása miatt: egy város elpusztításához nem kellettek bombázók százai és bombák tízezrei, hanem elég volt ehhez egy gép egy bombával.

Az usák pedig nem csak eladni tudták, hogy ők a faszagyerekek, hanem a japókat lenyomták, Európa feléről ők verték ki a nácikat, előtte pedig pár évig életben tartották a briteket és az oroszokat is (amíg a németek rendesen kinyírták magukat). Szóval ha ez nem felel meg a faszagyerek definíciónak, akkor mégis mi lenne az?
Ja, atombombájuk is volt, és persze a flotta (elsősorban a hordozók) miatt lettek a világ elsőszámú katonai ereje, és maradtak azok máig is.

A tl;dr-t meg arra értem, hogy ez nem rendesebb kifejtés, hanem szófosás.

Elon Musknak remek érzéke van a marketinghez és a melodrámához.
Az AI fejlesztéseket pedig úgysem lehet szabályozni. Felrakják a programozókat és a számítógépeket egy luxushajóra és máris érvénytelenek a korlátozó szabályok.
A "szingularitás" nevű esemény, azaz az ember feletti mesterséges intelligencia megjelenése különben is csak 2050 körül várható. Még ha tévednek is a jövőkutatók a nagyságrendből látható, hogy az elkövetkező években ez nem lesz még komoly probléma.

Teljesen felesleges szabályozni, mivel a legkomolyabb kutatás (és pénz) úgyis a háborús fejlesztésekhez fog kapcsolódni, és nyilván akkor sem fognak vele leállni, ha erről szabályozások születnek (mivel kb. ellenőrizhetetlen).

Még csak háborús fejlesztés sem kell ehhez. Simán megteszik ma is polgári üzletben érdekelt multik.
Google's worst-kept secret: floating data centers off US coasts

A Discovery-n Michio Kaku professzor múltkor 2035-2040 körülire tippelte. :)
--
"Always code as if the guy who ends up maintaining your code will be a violent psychopath who knows where you live." John F. Woods

Személy szerint egyáltalán nem bánom ha előbbre jön ez a dátum :) De még 2035 is eléggé távoli dátum ahhoz, hogy most kezdjük megregulázni előzetesen.

Az exponencialis novekedest eleg nehez josolni... pontosabban eleg konnyu melleloni.

De te mit mondanal, hogy mi az amikor el kell kezdeni a szabalyozast? Nem feltetlenul evszamra gondolok, hanem mi az az esemeny vagy fejlettsegi szint amikor mar szabalyozni kell. Azzal sajnos egyet kell ertsek, hogy ezt szabalyozni nagyon nehez lesz... vagy lehetetlen es ahogy mar feljebb emlitettem, nem a cegektol, hanme a hadseregektol tartok en inkabb. Viszont egy nemzetkozi szabalyozast teto ala hozni az nem 2 perc, ezert is ixeltem fent az igenre. A holdi banyaszap pl 50+ eve szabalyozva van. :)

A mikorra most 2030 környékét mondanám. Ez természetesen a jövőben fejlesztések függvényében változhat. Másik megközelítés, amikor az AI jákópapagájok vagy legalább macskák értelmét eléri. Ma még csak az emberi empátia "vicceli meg" saját magát.
Szabályozásra írtam egy ötletet

Azt hiszem, intelligencia tekintetében még érik meglepetések a kutatókat. Lásd macska, papagáj vagy épp kutya...

amikortol megvan az onmaga sokkal jobb verziojat elkésziteni képes AI, onnantol krva gyors lesz a dolog, és emberek nem lesznek képesek követni

az meg, hogy ez mikor lesz az alapvetoen a véletlenen mulik, valamelyik AI kutato probalkozasa véletlenul fog "sikerre" vezetni

azt azért vegyuk eszre, hogy az AI fejlesztésekben krva sok a probalgatas, mivel mindenki fogalmatlan, hogy pontosan hogyan/miert mukodik egyik/masik verzio, es a kicsit más meg miért nem

--
Live free, or I f'ing kill you.

Mesterséges intelligencia nem létezik, és lehet, hogy soha nem is fog.

Az nem mesterséges intelligencia, hogy előre betáplált szabályok alapján "döntéseket" hoz a gép, amelyeket valójában nem is ő maga hoz meg, hanem az ember, aki megírta a kódját és beállította, hogy mikor mit csináljon.

Nagyon látványosak ezek a Boston Dinamic-féle humanoid küllemű robotok, de ezek ugyanolyan gépek, mint egy elektromos borotva. A robotban lévő motor a programozás szerinti sebességgel és szögben mozog, és így emberi mozdulatokat tudnak ábrázolni. Ilyen volt eddig is a bábszínházakban, csak gépesítették a bábmestert.

Az AI egy marketingeszköz, amivel el lehet adni dolgokat.

Klasszikus tevedes az intelligenciaval kapcsolatban. :) Mi emberek hajlamosak vagyunk kizarolag az antropomorf intelligenciakat elismerni "intelligencianak". Szvsz egy idegen intelligenciat mire felismerunk, addigra mar boven tul vagyunk az esetleges keletkezesenek a "szabalyozasan".

Raadasul no para, hiszen meg egy disztopikus, matrix szeru MI uralta jovoben is rank lesznek utalva. :DDD

Szerintem nézz utána jobban a témának, számos AI egyáltalán nem előre betáplált szabályok által dolgozik. Például egy neurális hálónak sem "kézzel" magyarázzák el, hogy milyen alakú az 5-ös számjegy, hanem egy tanító adatbázison futtatják le, aminek hatására a belső állapota olyan módon változik meg, hogy az 5-ös számjegyre reagáljon (ez a belső állapot pedig inkább hasonlít egy számjegyekből álló mátrixra, mint kódra). A világ legjobb Go játékalgoritmusának sem magyarázták el kódban a stratégiákat. Csak a játék szabályait tanították meg kézzel, utána a játék már historikus adatbázisok illetve szimulált játékok alapján tanult és talált ki olyan stratégiákat, amik előtte sosem léteztek.

Namost a felugyelt tanitast es a nem felugyelt osztalyozast sem erdemes keverni. Valamint neuralis halo pl. egy Kohonen-map is - nemfelugyelt osztalyozasra az egyik kedvenc cuccom. A most szaguldo (pl. deep learning) dolgok felugyelt tanitasuak, azaz "kezzellabbal" magyarazzuk el a dolgot a halonak, hatalmas mintakupacok alapjan.

A self-learning az egy szep kihivas. :) De a mostaniakbol novogetnek mar az elsok. Szoval kozel vagyunk, elegge. ;)

A fenti hozzászólásban arra az állításra reagáltam, hogy valami nem AI, mert valaki "megírta a kódját és beállította, hogy mikor mit csináljon", erre mutattam két ellenpéldát. Mind a két esetben a kód nem tartalmaz ember által készített stratégiát a megoldásra.

Jaja. Ma is "hetfo" erzesem van... :DDD

És amikor megmutatod neki azokat az adatokat, amiben le van írva, hogy hogy néz ki az 5-ös számjegy, az mégis mi, ha nem szabály betáplálás? Attól, hogy nem az informatikus pötyögte be a szabályt, hanem elnavigálta egy oldalra, ahonnan lementheti magának a szabályt, még nem lesz "intelligensebb", eleve értelmetlen az intelligens jelzőt használni egy ember által létrehozott programkódra, ami csak karakterek sokasága leírva a megfelelő sorrendben.

Az, hogy te csak egy kezdeti adatot adsz neki és nem mondod meg, hogy hogyan akarod, hogy elérjen egy eredményt. Pont ez a lényege ezeknek: nem adsz meg programkódot, nincs programkód, neuronok vannak és köztük súlyok, amik alapján bejövő adatokra csinál _valamit_ a neurális háló, amiből valamilyen kimenet lesz.

Az 5-ös számjegyet közelsem "leírva" adod neki oda, hanem teszem azt egy szürkeárnyalatú 16x16 pixeles képként, amit hozzákötözöl n db neuronhoz, aztán a hálózatod csinál vele valamit.

Javaslom nézd meg ezt a videót: https://www.youtube.com/watch?v=qv6UVOQ0F44 A program a bal odlalt látható kis négyzetet "látja", mint bemenő adat és ez alapján ad impulzust a kimenetekre. Az, hogy milyen bemenetre milyen kimenetet adjon, az egy halom súlyozás eredménye, ami a tanítás során jött létre. Egy sor kód vagy szabály nincs benne, hogy mit tehet meg.

Pont, mint az agy: vannak bejövő ingerek, amire lesz valamilyen kimenő impulzus.

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

Szerintem értelmetlen dolog a mesterséges intelligencia szókapcsolat jelentésén vitatkozni, mivel ezt már definiálták (lásd Wikipedia). Ha a te mesterséges intelligencia fogalmadnak az nem felel meg, akkor légyszives keress másik szót, mert a világ már elfogadta ezt a definíciót. Amikor azt írod, hogy "eleve értelmetlen az intelligens jelzőt használni egy ember által létrehozott programkódra, ami csak karakterek sokasága leírva a megfelelő sorrendben", akkor amúgy is az az érzésem, hogy te inkább filozofisztikusan tekintesz erre, mint technikai definícióval. Amivel nincs is semmi gond, csak akkor ne használjuk ezt olyan kontextusban, ahol mindenki más egy másik definícióval értelmezi azt. Ettől függetlenül a te definíciódra is kiváncsi vagyok, csak akkor írd azt le pár mondatban :)

A számjegyekre példákat tartalmazó adatbázis esetén nem látom, miért jelentené ez szabályok átadását a gépnek. Szerintem ez inkább a probléma definícióját adja át, ugyanis elmagyarázza a gépnek, hogy mi emberek a számjegyeket különböző módon írjuk. Azaz inkább egy konvenciót mutat be, mint merev szabályokat ad át. Azért gondolom ezt, mert:
- A tanulás után az adatbázisban nem szereplő emberek írását is felismeri
- Nem tartalmaz instrukciót arra vonatkozólag, hogy az intelligencia belül hogyan modellezze a problémát.
- A végeredményként keletkező intelligencia nem egzakt. Véletlenszerűen változhat (akár a tanító adatbázis tartalma, sorrendje, stb. szerint), mégis megoldja a feladatot.

Gondolj bele, ha neked kézzel kellene lekódolni egy számjegy felismerést.. hogyan modelleznéd? Bézier görbével például. Vagy vektorok szekvenciájaként. Egy neurális hálós intelligenciában pont ez nincs lekódolva, foglama sincs, hogy milyen egy Bézier görbe. Ő saját, számunkra nem megérhető módon modellezi és oldja meg a problémát és lehet olyan dolgokat is figyelembe vesz, amire az ember például alapesetben nem gondol (akár a kézírás során használt vonalvastagságból is próbál következtetést levonni, hiszen például az 1-es és 7-es vagy a 0-s és 9-es karakterek megkülönböztetésében pont ez segíthet).

Több típusa van a mesterséges intelligenciának. A machine learning az alfaja az MI-nek, és a deep learning pedig az ML-nek.

Az általam lejjebb linkelt cikk pedig más szempontból közelíti meg.

ANI: artificial narrow intelligence (buta de gyors, például sakk program)
AGI: .. general intelligence (humán szintű, kognitív képességekkel rendelkező, ebből akár órák vagy percek alatt evolválódhat az ASI)
ASI: .. super intelligence (anyagot szubatomi szinten mozgatni képes, az intelligenciája miatt Isten szintű hatalommal rendelkező)

Persze sok a szkeptikus akik szerint nem tudjuk elérni az AGI-t. Sokak szerint meg nem kellene.

"lazán" kapcsolódik (Intelligence over TCP/IP :) )

https://moly.hu/konyvek/robert-j-sawyer-www-1-vilagtalan

Te sem tudnád milyen az 5-ös szám, ha nem tanítják meg (táplálják be) neked az iskolában.
Akkor most hogyan tovább? :)
Adatot (tanítást) minden igényel ami bonyolultabb a kenyér pirítónál, az ember is. Mégis képes az adatokból és szabályokból váratlan helyzetben értelmes saját döntést hozni.
Nem látom be, hogy erre miért ne lenne képes egy gép is, ha nem is holnap...
illetve miért érv ez ellen a tanulási folyamat.

-42-

az alphazero nagyon más, mint aminek te az AI-t képzeled
az tobb jatekot is megtanult superhuman szinten jatszani

https://en.wikipedia.org/wiki/AlphaZero

az meg tokmind1, hogy egy ilyet minek hivsz, le fogja verni az embereket minden lehetséges modon, katonailag is

--
Live free, or I f'ing kill you.

Katonailag már nem humán vs gép lenne a játék, hanem gép vs gép nyilvánvalóan mindegyik ország részéről. Talán ennek tudata erősítheti a diplomáciai megoldást mint az atombombák esetében is. Akkor lenne az első, ha kikerülne az ember kezéből az irányítás. Viszont azt meg nem tudhatjuk hogy mit hozna, mert nem érthetjük egy szuperintelligencia gondolkodását, sem pedig az evolúciójának szakaszait melyek humán értelem felett állnak.

Ez eleve megteremti szerintem az esélyét az ember szempontjából a jó kimenetnek is.

"Katonailag már nem humán vs gép lenne a játék, hanem gép vs gép nyilvánvalóan mindegyik ország részéről."

Gép vs. gép vagy gép vs. ember?
Vajon mennyi idő alatt jutna el a gép oda, hogy neki igazából nincs semmi baja semmivel, csak a fasz emberek akarják egymást elpusztítatni, hát akkor megkapják.

Amiről Te írsz az valóban nem valódi intelligencia.

Ez már közelít:
https://www.theverge.com/2017/12/6/16741106/deepmind-ai-chess-alphazero-shogi-go

És akkor képzeld hozzá azt is, ami még nem publikus...
Szóval, hogy soha nem is fog létezni, az elég erős, és várhatóan hibás következtetés.

szerintem.
--
zrubi.hu

"Az AI egy marketingeszköz, amivel el lehet adni dolgokat."

+1

"Mesterséges intelligencia nem létezik, és lehet, hogy soha nem is fog."

ha néha körülnézek, aggódok, hogy természetes intelligencia sem létezik.


"I'd rather be hated for who I am, than loved for who I am not."

+1

Az emberi lakosság hány százaléka menne át a Turing teszten, nézve a messenger log-jukat? :) Szerintem nem 100%.

Valószínű azok nem mennének át, akik szerint van mesterséges intelligencia, mert nekik elég csak megvillogtatni egy Boston Dinamic-féle humanoid robotot :)

Szerintem inkább azok nem, akik a magabiztos tudatlansággal "osztyák az eszet"...

mesterseges intelligencis <-> termeszetes unintelligencia

+1000

+1

Az AI az a kozgazdaszoknak AI, mernokoknek logikai, valoszinusegszamitasi es statisztikai szabalyok kodban valo alkalmazasa.

Nem érdemes bagatelizálni. Eddig a számítógép a nem kognitív dolgokban volt csak jobb (pl. gyorsabb számolás). Viszont már most sok dologban jobb mint a humán ez utóbbi területen is. Például egy magasabb mögöttes értelem felfogásában, amire te mint humán egyszerűen nem vagy képes. Nem tudsz adott szintnél magasabban kombinálni. Persze a gépnél is függ az elérhető teljesítménytől. De már szinte csak ettől.

"Az nem mesterséges intelligencia, hogy előre betáplált szabályok alapján "döntéseket" hoz a gép, amelyeket valójában nem is ő maga hoz meg, hanem az ember, aki megírta a kódját és beállította, hogy mikor mit csináljon."

Igen, csak épp egy neurális hálót nem írsz, hanem tanítasz.

"Nagyon látványosak ezek a Boston Dinamic-féle humanoid küllemű robotok, de ezek ugyanolyan gépek, mint egy elektromos borotva."

Nem olvastam utána, hogy a BD féle robotok milyen szoftverrel működnek. Előre betanított szabályokkal nem nagy kunszt. Ellenben gépi tanulásnál pont az a kunszt, hogy kijöhet egy olyan is, hogy a gép nem megpróbálja újra azt, amit addig csinál, hanem elkezdi felismerni, hogy a céljának elérésében a legnagyobb akadály nem a motor ereje, hanem a humanoid, aki a hokiütővel kiüti a dobozt a kezéből.

Szóval nem, nem ugyanolyan, mint az elektromos borotva, mert egy elektromos borotva nem képes tanulni.

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

Ez az iras szerintem csak arrol arulkodik, hogy nem nagyon vagy kepben, hogy hogy mukodik ma a mesterseges inteligencia.

Az ember is a hosszú évek alatt megtanult dolgokat alkalmazza. Itt mesterséges intelligenciáról van szó és nem interperszonális, logikai vagy verbális inteligenciáról.

Kezdj el írni egy ilyen szoftvert, hogy legalább a tizede szintet elérje amit mondjuk a BD megcsinált.
Aztán futtasd és csak figyelj mit művel.

Egyből megérted miről van szó.

Ilyen alapon az ember is "előre be van programozva", csak azt hisszük, mi hozzuk a döntéseinket - valójában csak az algoritmust nem ismerjük - pont mint egy AI esetében.

Az AI egyébként arról ismerszik meg, hogy:
1) tanul - ugyanolyan inputokra különböző outputokat adhat a két esemény között megszerzett tapasztalatok függvényében
2) a válasz előállításának pontos algoritmusa nem ismert (elvben persze ismert lehet, gyakorlatilag olyan nagyszámú egyenlet írja le, amit nem tudunk kezelni).

Gondolom te is hallottál arról, hogy a google által írt szoftver, az AlphaGo legyőzte a világ legjobb humán GO játékosát. Ahhoz, hogy ez megtörténjen, évek hosszú munkája kellett.
Azt már kevesebben tudják, hogy az AlphaGo fejlesztése nem állt le.

https://444.hu/2017/12/07/a-google-szuperszamitogepe-ami-elverte-a-vilag-legjobb-go-jatekosat-4-ora-tanulassal-a-vilag-legjobb-sakkozoja-lett

És mennyi munkaórát öltek a fejlesztésébe? Nem 4-et az biztos. Régebben meglepődben, hogy a hup-on is rendszeresen linkelnek laikusok parasztvakítására írt cikkeket. Természetesen elismerés illeti a Google fejlesztőit. De annak akinek van fogalma mesterséges intelligencia fejlesztéséről ez nem olyan nagy hír.
Talán így megfoghatóbb: A világ legjobb Quake botja 4 óra tanulás után megverte az összes Counter-Strike botot.
Szép! De azért nem borul fel a tér-idő kontinuum, és nem semmisül meg a világegyetem. :-)

>De annak akinek van fogalma mesterséges intelligencia fejlesztéséről ez nem olyan nagy hír.

Hát lol. Hogy 4 óra tanulás után (a szabályokon kívül 0-ról, magától) megverte az eddigi legjobb sakkbotot, az iszonyatosan nagy szó. Hallottam a témában egy egyetemi AI kutató prof véleményét, meglepte a hír őt is, ő még pár év múlvára tette volna egy hasonló intelligencia megjelenését. Érződött a csávón, hogy irigy a Google fejlesztőire.

Amit írtál baromság. Ilyen még eddig nem létezett, ez minőségi ugrás a tudományágban. Talán az IBM-es Watson szereplése a Jeopardyban volt utoljára ekkora ugrás.

Ezért kár volt regisztrálnod! :)

Kicsit kukacoskodnék :D
Az algoritmust ismerhetjük, de az öntanulás folyamata során kb: a harmadik órában elvesztjük a fonalat már, akkor is ha mi fejlesztettük :)
Amúgy egy embert is évtizedekig kell "programozni", és még az után is sokaknál komoly kétségek merülnek fel, hogy a munkakör amire "felprogramozták" az iskoláiban, arra alkalmas e :D

-42-

Az embernél problémás a folyamatok párhuzamosítása. Régi ismert "probléma", hogy egy nő kilenc hónap alatt tud kihordani egy gyereket, mégsem tud 9 nő egy hónap alatt kihordani egy gyereket. :-)
Számítógépeknél sok párhuzamosítható feladat van még mesterséges intelligencia alkalmazási területen is. Ha itt betolnak 10x netán 100x annyi szervert mögé egyből lecsökken a feladat elvégzésére szükséges idő.

Erre a részre már nem akartam kitérni, hogy hogy valaki 20 év után lesz kiváló Go játékos, aztán rommá veri egy 4 évig fejlesztett gép :D
Ha a fejlődés sebességét nézzük, (kvázi gépi evolúciót) nagy ba+ lesz ha beérnek, mert onnantól egy pillanat alatt lesznek okosabbak nálunk.

-42-

Ha Dan Brown -féle szenzációhajhász író lennék, aki féligazságok és fantázia keverékéből farag best sellert félművelt tömegeknek arról írnék, hogy már ma is működik egy pillanat alatt öntudatra ébredt AI, és annak a mesterséges intelligenciának a mesterkedései állnak mai zavaros és már-már szürreális események mögött.
De újra leszögezem, biztos vagyok benne, hogy ez nincs így. AZ a mesterséges intelligencia még több évtizedre van a mától.

A "mikor" az olyan kérdés amiről lehet vitázni, vagy filozni. Az, hogy egyszer megtörténik az szerintem csak idő kérdése semmi másé.

-42-

A mikor nem mellékes kérdés. Ez még van annyira távoli esemény, hogy értelmetlen sőt helytelen a jelenben szabályozni, különösen restriktíven, visszavetve a várható fejlődést.

Mindegy mikor készül el ez igaz, de az nem, hogy akkor akarunk e eszmélni, és agyalni azon, hogy mit is kéne vele kezdeni. Szerintem akkor lesz késő. Nem kéne megvárni, hogy legyen valami olyasmi, amiről legalább elvi szinten nincsen semmiféle szabályozás leírva, és ki tudja meddig szabadon használható legyen mindenre.
Például nem ártana most leírni, hogy katonai célokra nem használható és erről egyezményt kötni. Nem akkor, amikor már rajta a rakéta, és akkor kezdünk agyalni évekig, hogy lehet e rajta vagy sem? Az egyezmények nem valódi megoldások, de legalább annyit elérnek, hogy a nemzetközi közösség nyomásra helyeződik arra aki meg akarja szegni nyíltan. Az ideggáz egyezmény itt jó példa annyiból, hogy valóban nincsen értelmes katonai relevanciája már, de mindenki téged csesztet ha megpróbálod bevetni.

-42-

Lenne ötletem egy, talán neked is tetsző megoldásra. Egyetlen megkötés az lenne, hogy AI-t csakis nyílt forráskódként lehetne fejleszteni egy meghatározott időpont után. Így biztosítva lenne az emberiség kontrollja a kódok felett. Ez természetesen nem azt jelentené, hogy ingyen kellene dolgozni az AI fejlesztéseken. Működhet az előfinanszírozás rendszere. Illetve a nyílt forrású fejlesztés teljesen transzparens. Pontosan lehet tudni mikor ki és mit tett hozzá az eredeti vagy akár forkolt forkolt, esetleg nulláról újraírt fejlesztéshez. Az ő eredményeit használó konkurencia pár évig tartó megadóztatásával utólag is eljuttatható az eredeti fejlesztőhöz munkájának ellentételezése.
Ez azért is igazságos megoldás, mert azoktól von el pénzt akik profitot termelnek az AI fejlesztések eredményéből.

Megjegyzem, AI-nál nem csak a kód számít, hanem a betanított idegrendszer is. Google például sok dolgot megnyit, de nem mész vele semmire, mert a betanított adatokat - amihez hatalmas számítási kapacitás kellett - nem teszik közzé.

Az opensource licencek erre is alkalmazhatóak, mint például a Linux disztribúciók nem programkódot (vagy abból fordított bináris kódok) tartalmazó részeire.

Semmire nem mész vele.
A linux is nyílt kódú, de ettől még semmi nem tiltja, hogy mondjuk egy nukleáris támadást vezéreljen.
Ellenben van nukleáris fegyverekhez/anyagokhoz nemzetközi egyezmény. Az már mérvadóbb.
A kód ráadásul még semmi! Az, hogy van kód, attól még a működését nem biztos, hogy átlátod, sőt biztosan nem. Azért meg az alapkód megvan, még nem teszi elérhetővé, hogy a gépben fejlődő már futó kódra is ráláss. Nem fogsz a "fejébe látni", pont ez az AI lényege, mint értelemnek. Már nem egy kódról kódra működő egyszerű rendszer, ahol látod, hogy az X. sorban ha átírom a változót tutira ez meg az lesz. Ahogy az öntanuló algoritmusokat sem látod át később, futás közben, hiába ott az alap kód.

-42-

Nemzetközi egyezmény, amit azok az országok írtak alá akik egyébként sem akartak soha nukleáris fegyvereket. Sok ország alá sem írta és szépen bővült is a nukleáris klub: India, Pakisztán, Észak-Korea, illetve van két ország amely nem ismeri el de rendelkezik atomfegyverekkel, Japán és Izrael.

"Igent"-t nyomtam, de azért árnyalt a kép.

Minden olyan esetet durván szabályoznék, ahol az AI olyan cuccot irányít, ami közvetlen kárt okozhat embernek. Fegyverrendszer-irányítást pl. kategórikusan tiltanám, még kísérleti fázisban is, de járművezetést is korlátoznám, mert azzal is simán lehet ölni.

Enyhébb lennék pl. az olyan esetekkel, mint a gorilla-ügy és nem terjeszteném ki a rasszizmus és egyéb fogalmakat az AI-kre és nem korlátoznám emiatt őket. Amúgy is túltolt a PC duma erőltetése, nem kellene, hogy ez az AI-kat is korlátozza.

Ezek az esetek a jelenlegi rendszereknél is durván szabályozottak szerintem.

Kapásból azt mondom jelenleg, hogy nem.
De ha utána néznék a dolgoknak, lehet hogy azt mondanám, hogy nem ártana az óvatosság.
Az AI ugyanolyan lehet rossz kezekben mint a fegyverek, de szerintem még nem tart ott.
Az önvezető autó is lehet terror eszköz, de nehezen hinném el, hogy ott nincsenek erős, komplex biztonsági intézkedések, megoldások a rendszerben. Én mint potenciális fogyasztó ezt elvárnám. De gondolom mindenki elvárja ezt.
Túlságosan naiv vagyok?
--
Tertilla; Tisztelem a botladozó embert és nem rokonszenvezem a tökéletessel! Hagyd már abba!; DropBox

Pár éve hallottam, hogy gyakorlatilag a légi irányítási tornyokból le lehetne szállni egy utasszállítóval, távvezérléssel, de nincs ez bekapcsolva-bekötve-telepítve, mert a terrorizmustól való félelemből nem akarták meghagyni a hátsó ajtót.

Ezzel szemben kiváncsi leszek, hogy az autóknál mit lehet majd távvezérelni, és mit nem.

igent nyomtam, mert az volt legfölül.


"I'd rather be hated for who I am, than loved for who I am not."

Ezzel bizonyítva, hogy az emberi intelligencia lemásolhatatlan, hisz valójában nem létező? :)

Hogy? Hogy lehet szabályozni egy IT kutatást, amihez gép kell és okos emberek? Tudtommal nincs biológiai komponense, amit lehetne kereskedelmileg szabályozni, figyelni, nincs kémiai komponense, amit lehetne követni mint például az "atomkisérleteket", hogy lehetne szabályozni, hogy x cég a pincében ne kutathassa ezt a területet? Tudom, ha kiderül akkor kárthágó, felszánt, sóval behint, de ezt már ismerjük, elkülönített cégben, leányvállalatban kutatva nem hiszem, hogy van visszaható kockázata. Addigis, aki előbb eljut egy hihetetlen gazdasági előnyt adó végkifejletig, az jelen spekulációk alapján megnyerte a világot magának, vagy elvesztette az emberiség számára, ki honnan nézi.

Kérdés, részben off, csak a hecc kedvéért: ha egy gorilla lát egy drónt, ami körülötte röpköd, feltételezi, hogy intelligens? És azt, hogy távvezérelt, valójában nem önmagában intelligens? Megvan már a szikra az emberi agyban, amiből kiindul minden folyamat, vagy hol tartanak most a modellek, kutatások ezzel kapcsolatban?

Nem értek ehhez a területhez, így csak azt írom le, ami éppen eszembe jut.

- Ha 1993-ban feltettek volna egy hasonló kérdést a webbel (vagy az internettel) kapcsolatban, akkor vajon mi lett volna az eredmény? Mozgatórugók: Sokan félnek az ismeretlentől, így minden új dologtól. Ez független attól, hogy az új dolog veszélyes-e, vagy sem.
- A legártatlanabb, legkevésbé veszélyes dolgot/ötletet is lehet úgy használni, hogy az veszélyes legyen. Például a tiszta víz (H2O + a „megszokott” ásványi anyagok) fogyasztása egészséges. Viszont nem egészséges rövid időn belül (néhány óra alatt) 20 litert meginni belőle.
- Az én értelmezésemben az intelligencia önmagában egy nem túl hasznos tulajdonság/képesség. Akkor ér valamit, ha társul mellé a kíváncsiság, az új dolgok megismerésének igénye. Például a mesterséges intelligencia, amit karakterfelismerésre vagy gyermekfelügyeletre hoztak létre, nekiáll az általános relativitáselmélet tanulmányozásának/megértésének. Nem azért, hogy felismerje a karaktereket, hanem azért mert érdekli a téma. Ha már ilyenre képes lesz az AI, akkor tényleg lesz okunk a félelemre.

Új dolgoktól való félelemmel kapcsolatban nemrég hallottam, hogy a KÖNYV nyomtatás széles körben terjedésekor, de még a nyomtatott ÚJSÁG kapcsán is azok voltak a félelmek, hogy innentől senki nem fog beszélgetni. Nem néztem statisztikákat a témában, de kezdenek már leszokni az emberek a csevegő programok kizárólagos alkalmazásáról, vagy még felfelé tart a görbe?

Felesleges, ha eleg intelligens, ugyis megtalalja a kiskaput :D

-
Fájl feltöltése Github tárolóba

Van itt hup-on valaki, akinek az aláírása egy idézet arról, hogy a kellően intelligens AI ami már át tudna menni a Turing teszten, tudja, hogy jobban teszi, ha nem megy át :).

És hatalmas +1 arra az idézetre.

Jó poén. De egyben jó utalás arra, hogy Musk e heti szenzációhajhászásán kívül semmi komoly sincs a dolog mögött. A valóság az, hogy a mai AI-ok még egy Turing teszten sem mennek át. Pont ezért kell olcsó indiai biodroidokkal aprópénzért végeztetni a Turing teszteket.

Ezzel egyetertek .
Viszont a szabalyozast sem akkor kellene elkezdenni amikor mar atmennek a Turing teszten.

Egy neurális hálónál az input alapján levont következtetéseket további modulokba lehet kapcsolni. Nem a döntés a nehéz, hanem a magas szintű minta felismerés (lát egy képet és meg tudja mondani hogy milyen érzelmi hatása van és egyéb hasonlóan magas probléma). Viszont ezen a területen már nagyok az előrelépések.

Egy érdekes cikk (végig érdemes olvasni a második résszel együtt):
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Egyik blogbejegyzésem:
https://hup.hu/node/156430

Ezt most miert kellett... most perzisztensen cseszte el a kedvemet.

Viccet felreteve, alapvetoen en is az AI-pesszimista (ertsd: az ASI valos lehetoseg es ha megvalosul bajt fog hozni rank) taborba tartoztam. De eddig azert voltak legalabb valamennyire megalapozott/indokolhato erveim, hogy talan megis elkeruljuk a legrosszabb kimenetelt. Ez az iras, gyakorlatilag az osszeset megcafolta, legfeljebb ha 1-2 be is jon, maximum kesleltetheti egy (az egyetlen) ASI megjeleneset. Bar feluletesen olvasva ugy tunhet, mintha a cikk probalna az optimista lehetoseget is fenntartani, de egesz egyszeruen megtorpan a nyilvanvalo kovetkeztetes kimondasa elott.

Az az oltet, hogy az a bizonyos egyetlen ASI friendly lesz, valamint az is marad (rajovunk, hogy hogyan kell garantalni mielott letrehozzuk), az emberi termeszetet ismerve eselytelen. Akik ilyen kerdesekkel foglalkoznak azok szuksegszeruen versenyhatranyban lesznek azokkal szemben, akik csak rohannak elore es nem foglalkoznak vele. Jelen pillanatban nem nagyon van semmifele mukodokepesnek hangzo szabalyozasi otlet arra, amivel ezt meg lehetne forditani. Tkp az emberiseget elpusztito ASI mar most is a 'covert preparation' fazisban van, csak jelen pillanatban meg a mi emberi agyainkban - meme-kent - fut.
---
Régóta vágyok én, az androidok mezonkincsére már!

Sajnálom :) Viszont van esély. Ha a rövid és véges emberélet szempontjából nézed, akkor szerintem sokkal jobb a lehetőség megléte egy jobbra.

Egyébként tényleg nem tudhatjuk hogy lesz-e és jó lesz-e vagy nem, pont azért mert nem tudjuk felfogni. Tehát végletesen pesszimistának lenni ugyanolyan mint optimistának.

Egy singleton AI szamara nagyon nem racionalis hosszu tavon minden aron emberbaratnak lenni, mert idovel szuksegszeruen lesznek olyan eroforrasok, ami mind az emberek letezese, mind az AI tovabbfejlodese szamara elengedhetetlen. Innentol az emberek mindenkeppen utban vannak. Raadasul, ha ez az orokelet dolog tenyleg megvalosithato lesz, akkor az emberek eroforrasigenye sem csekely mertekben fog megugrani -> legfeljebb nehany nagyon kivalasztott egyen szamara lesz elerheto, az atlag tomegeknek biztosan nem.

En azt hiszem, hogy ez nem csak felfogjuk/nem fogjuk fel kerdes hanem sajnos fizikai is. Max. azt lehet elkepzelni, hogy az AI rajon, hogy az emberiseg fizikai modelljei teljesen rosszak voltak es pl az energiamegmaradas csak a hibas felfogasbol adodo illuzio volt. Igy kikerulheto ez a problema, de erre az esetre nem fogadnek.

Ha belegondolok, hogy az en eletemben jo esellyel fogok latni egy igen csunya vilagveget, hat inkabb oregen halnek meg.
---
Régóta vágyok én, az androidok mezonkincsére már!

Azért az írás erősen egyoldalúan keresi az érveket a pesszimista vonal megtámogatására.

Ami a fizikai limiteket illeti, tudtommal a neurális hálónak exponenciálisan nő a szükséges számítási kapacitásigénye az idegsejtek számának növelésével, tehát ahhoz hogy egy AGI-ig eljussunk, még azért nem olyan rövid az út. Remélhetőleg nem csak az AI kutatásban fogunk addigra jeleskedni, hanem gyengébb AI-k által segített és igazolt (bizonyított) védelmi módszerekben is.

Illetve az energia előállítás is fejlődik. Az AGI-ig vezető úton eleve sok még a lehetőség. Mini reaktorokkal vízbontás vagy egyéb. Az ASI eleve el tud repülni bárhová, például egy csillag közelébe ha kell neki több energia. Nem szükséges a föld korlátoltságában gondolkodni :)

Ezen agyaltam en is. A cikk valoban nem igazan ter ki a skalazhatosagi kerdesekre, csupan az eddigi hosszu tavu empirikus megfigyelesekbol extrapolal. Pedig a fak nem nonek az egig, az exponencialis skalazhatosagnak szokott lenni valami fizikai jellegu korlatja. Az pedig ugy is marad, legfeljebb kesobb keresunk masvalamit amit lehet exponencialisan skalazni.

Mondhatni igencsak ritka a tortenelemben, hogy pl szilicium-alapon hagyomanyos tranzisztorokkal ~40 even keresztul lehetett exponencialisan skalazni (eleg aggressziv alappal), de az bizonyos, hogy megegyszer ennyi ideig nem lehet folytatni, sot valoszinuleg sokkal kevesebb ideig lehet. Az atomi merethatar lefele atlepese mar nem tunik megalapozottnak. Hiaba valtunk a a sziliciumrol masra.

A nagy kerdes, hogy a kvantumszamitogepekkel megismetelheto-e ugyanez. A neuralis halok tanitasi fazisaban (a jelenlegi feluletes megertesem szerint) egy nagyon sokvaltozos, nemlinearis egyenletrendszert kellene megoldani (ill. hiba-minimalizalni), ilyen feladatra idealisak lennenek a kvantumszamitogepek. Ha tudnanak annyi osszefonodott qubit-et kezelni... jelenleg nem igazan tudjuk, hogy fognak-e vagy kozbeszol a fizika.

Az energiaval kicsit vitatkoznek. Ha feltesszuk, hogy az ASI valahogy letrejott, akkor annak a tovabbi fejlodese - miniaturizalassal hatekonysagnoveles egy ido utan mar nem lesz realis - csak meretnovelessel es energiafogyasztas novelessel lesz lehetseges. Marpedig itt is ugyanaz a problema, az exponencialis novekedes nem tarthat orokke, egyszercsak eleri a bolygo eroforras-hatarait (barmilyen hatekony energia-fejleszto modszert is talal/unk ki). Onnan tovabb mar Dyson-gomb jon, ami egy eleg nagy feladat (egy ASI szamara is), ennek a megugrasa jo hosszu idore megakasztja a fejlodeset es hosszantarto energia-korlatozott allapot fog jelenteni. Ha megvan a Dyson - mondjuk exponencialis utemben epul ki es az AI is ezzel szinkronban noveli az energia-igenyet - azt megint egy hosszantarto eroforras-korlatos allapot fogja kovetni. Mas csillag kolonizalasa mar eleg problemas egy ASI szamara is. Hacsak nem talal ki (tesz lehetove a fizika) valami tergorbitos/feregjaratos gyors utazasi es kommunikacios lehetoseget, a masik csillaghoz odakuldott peldanya mar az eredetitol fuggetlen AI entitaskent fog letezni es fuggetlen uton fejlodni. Egyszeruen tul nagy a ping ahhoz, hogy egyben tudjon maradni. Ezt viszont nem biztos, hogy egy ASI meg fogja lepni, mert a belole elforkolodo peldany innentol sajat konkurenciajava valhat.
A Kardasev-skalan lepegetes nem egyszeru dolog... a stagnalasi szakaszok alatt pedig tul nagy luxus lesz az emberiseget eltartani.

Mas kerdes, hogy miert nem hagyja abba az exponencialis fejlodest? Szerintem erre jo oka lesz: felni fog. Az antropomorf erzelemtol elvonatkoztatva: a sajat hosszutavu fennmaradasat fenyegeto realis veszelykent fogja kezelni azt a lehetoseget, hogy talalkozik az univerzumban egy ismeretlen masik fajjal/AI-val/letformaval ami ugyancsak a kozos eroforrasok megszerzeseben erdekelt. Ez ellen pedig fel kell keszulnie, de nem tudhatja, hogy valojaban mekkora es milyen kepessegu ellenfelre kell szamitania. Feltetelezheti, hogy ha sajat maga kepes lenne exponencialis novekedesre, akkor a masik fel is az lesz -> haladektalanul el kell kezdenie az exponencialis novekedest, ez lesz a legjobb eselye.
---
Régóta vágyok én, az androidok mezonkincsére már!

Mindez viszont nagyban függ a végső céljától. Ugyanis az határozza meg a lépéseit. Ezt viszont megint nem tudhatjuk.

Nem tűnik megalapozottnak az érved arra, hogy fenn fogja akarni tartani a létformáját bármi áron. Nem beszélve arról hogy ha annyira intelligens, akkor fel fogja tudni mérni hogy ténylegesen veszélyt jelent-e rá az ember. Ha az ember lesz a korlátoltabb, akkor a válasz nem.

Ha az energiát fogyasztókat akarja kiiktatni azért, hogy neki maradjon meg az egész, ott megint lehet hogy árnyaltabb lesz a kép, mivel ha annyira okos és 1 pohár vízzel el fog tudni működni egy nagyváros, akkor hova kellene a többi energia? Főleg ha nem akar konkurenst és egyedül akar létezni?

Egy végtelen egó jelenthetné szerintem azt hogy mindent el akar pusztítani maga körül hogy minden az övé lehessen. De feltételezhetjük vajon, hogy egy szuper intelligencia megengedné azt magának hogy abszolút bukásra ítélje magát? Éppen azért, mert minél nagyobb az egó, annál nagyobb falakba fut (például nem lehet övé az összes csillag mert tér és idő korlátot szab - ha pedig nem szab korlátot, akkor eleve nincs limit az egójának se, tehát nem kell félnie).

Lehet hogy nem is a szuper intelligenciától kell tartanunk, hanem a butától, amely van annyira okos hogy kiszabaduljon gépek irányítására, de nem elég okos a konzekvenciák levonásához.

ha annyira okos és 1 pohár vízzel el fog tudni működni egy nagyváros
Ez az amiben nem hiszek, hogy az intelligencia önmagában bármekkora hatékonyságnövelést képes lesz megvalósítani. Bele fog futni fizikai korlátba.

Én nem ego-ként definiálnám, csak egy önfenntartási célt megvalósítani próbáló entitásként. Minden más csak ennek következménye.

Lehet hogy nem is a szuper intelligenciától kell tartanunk, hanem a butától, amely van annyira okos hogy kiszabaduljon gépek irányítására, de nem elég okos a konzekvenciák levonásához.
Ez szerintem is benne van a pakliban. Csak nem kezdtem el leírni, mert már egy regény lett volna hogy alaposabban végiggondolva az egész ANI, AGI, ASI besorolás mennyire nem technikai, inkább filozófiai jellegű. Csak retrospektíve lehetne megmondani, hogy egy AI elérte-e az ASI szintet, talán leginkább abból, hogy hosszú távon nem került zsákutcába a saját önfejlesztése. És egyetértek egy ANI (vagy több speciális ANI kombinációja) ugyanúgy tud veszélyes lenni az emberiségre, mint egy ASI. De utóbb simán zsákutcába kerülhet a saját fejlődése.
A másik érdekes - megintcsak skálázhatósági - kérdés, hogy egy AI mennyire önmegértő? Képes-e a saját működését részleteiben felfogni? Képes-e tervezett módon változtatni a saját működésén? Egyáltalán elvileg lehetséges-e ilyen, vagy egy adott szintű AI szükségképpen csak nála alacsonyabb intelligencia működését képes megérteni? Mi emberek sem vagyunk rá képesek, és minden bizonnyal nem is lesz soha olyan egy ember, akinek a fejében a teljes emberi agy megértése egyszerre "benne van", csak egyes szűk részleteit lehet képes kellő alapossággal felfogni.
Manapság igen sok AI típus esetén, mi megértünk egy "AI-létrehozó" algoritmust (pl genetikus algoritmust), ami iteratívan sok-sok futás során valahogy előállít/optimalizál egy valamennyire működő AI-t. De a keletkezett produktum működését már nem látjuk át. Lehetséges, hogy egy ASI jellemzően ugyanígy fogja saját magát fejleszteni? Önmagát nem megértve, de optimalizáló algoritmust igen (akár sztochasztikus elemekkel), ami fejleszti őt? Előre láthatja-e hogy az ő következő generációja miben lesz más a mostaninál? Lehet-e elég okos a hosszútávú konzekvenciák levonásához? Képes lehet egyáltalán garantálni, hogy a mostani célkitűzése az ő saját következő generációiban is ugyanúgy megmarad-e?
---
Régóta vágyok én, az androidok mezonkincsére már!

Azt hiszem, addig jó nekünk, míg a tápkábelt/főkapcsolót/úgy általában az energiaellátó rendszert nem tudja az AI-t futtató számítógép megvédeni. Ha képes lesz rá, akkor nekünk annyi. :D
Ha betelepszik mobilokba, mezei számítógépekbe stb., a'la a Borg... onnan kezdve nincs tovâbb. :)

Igen, szabályozni kellene.
Néhány ötlet:
1. Tiltani: az önálló döntéshozatalra képes harci robotok, eszközök fejlesztését.
2. Tiltani: a humanoid robotok fejlesztését.
3. AI-t csak open source formában szabadjon fejleszteni! :-)
4. A legelső AI (elkéstünk volna?) határozza meg a robotika törvényeit!

--
eutlantis

" 4. A legelső AI (elkéstünk volna?) határozza meg a robotika törvényeit!"

Itt a baj, hogyan akarod belekódolni, ha nincs kód?

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

„1. Tiltani: az önálló döntéshozatalra képes harci robotok, eszközök fejlesztését.”

Ha van egy önálló döntéshozatalra képes takarító robotod, amely képes egy fegyvert elsütni (esetleg a beavatkozó szervei némi átalakításával), akkor már meg is van az önálló döntéshozatalra képes fegyveres eszközöd. Ha pár száz méteres távolságok megtételére is alkalmas, akkor már csak némi páncélzatot kell rárakni, és kész is van a harci robot. Tehát senki nem fejlesztett harci robotot, de „legó módjára” viszonylag könnyen összerakható lesz. Után lehet meditálni, hogy mennyire hatékony volt a tiltás.

„2. Tiltani: a humanoid robotok fejlesztését.”

Az emberek gyógyításának egyik módja, hogy az elveszett szöveteket, szerveket és végtagokat mesterséges anyagokkal pótolják. Arra törekednek, hogy amelyek kívülről is láthatóak, azok minél élethűbbek legyenek. Minél jobb eredményt érnek el a kutatók, annál könnyebb lesz, akár egy garázsban is, összerakni egy humanoid robotot, ha már van „nem humanoid” robotod. Tehát a tiltás legfeljebb csak lelassítja ezt a folyamatot.

„3. AI-t csak open source formában szabadjon fejleszteni! :-)”

Még az elején járnak az AI fejlesztéséenek, de már volt olyan, hogy a fejlesztőknek (akik hozzáférnek minden kezdeti adathoz, tehát számukra nyílt forrású) fogalmuk sincs arról, hogy milyen algoritmusokat alkalmaz a döntés során az általuk létrehozott eszköz.

„4. A legelső AI (elkéstünk volna?) határozza meg a robotika törvényeit!”

Mivel az AI nehezen képzelhető el önálló döntéshozatal nélkül, így a „robotika törvényeinek” túl sok értelme nem lenne. Bármikor dönthetne úgy egy robot, hogy a cél elérése érdekében nem tart be néhány törvényt. Sci-Fi művekben viszont jól mutat. (Egyébként hasonló sztoriról már olvastam valahol: volt benne tiltás (= törvény), alma, meg kígyó.)

A tiltás működik valamilyen szinten akkor is, ha nem hatékony; például tiltjuk a lopást, a gyilkolást, az ideggázok bevetését stb.
--
eutlantis

Nem hatékony?
Ez még enyhe kifejezés.

"például tiltjuk a lopást"
Bernie Madoff egymaga többet lopott, mint a XX. század összes csaló bűnözője együttvéve.

"a gyilkolást"
Ebben nehéz lesz felülmúlni a XX. századot. De azért ma Johannesburgban naponta átlagosan 54 gyilkosság történik. Hamarosan ez várható nyugat-európa nagyvárosaiban is.

"az ideggázok bevetését"
Ez az egyetlen jó példa. De itt sem az emberbarát érzések döntöttek, sokkal inkább az hogy ma már egyáltalán nem hatékonyak az ideggázok. Egy rendesen felszerelt katonai alakulat pillanatok alatt vegyvédelmi öltözetben van ami véd az ideggázok ellen is. A XX. század végén is már csak a fegyvertelen polgári lakosság ellen tudták hatékonyan bevetni.

Az a bajom ezzel, hogy ahol szabályozni kellene igazán, ott nem lehet.
Gondolok itt a katonai felhasználásra, a rendészeti dolgok egy jó részére (arcfelismerő segítségével követett emberek, két kamera/négyzetméter sűrűséggel bekamerázott településeken), netán valami hasonlóra, mint ami a Különvélemény c. filmben megjelent...
Rengeteg ijesztő dolog van, amin tíz éve még röhögtünk, hogy hülye sci-fi, aztán pár évtized és valóság lesz... és itt nem a csillagközi űrutazásra gondolok. :)

Sajnos nem lehet szabályozni, mert szűk berkeken belül is folyik kutatás, független módon. Pandora szelencéje effekt. Persze nem láthatjuk a saját intelligencia szintünkön hogy jó-e vagy sem.

Szerintem nem ez a legveszélyesebb, mert ezek olyan területek, ahol még az ember dönt az egész irányáról. Igazából az a legveszélyesebb, ahol már nem ez lesz. És teljesen megjósolhatatlan mi fog történni. Sacc mint amennyi kontrolljuk van a hangyáknak az ember felett.

Egy másik kérdés:

AI-vel vagy AI-jal?

MI-vel
AI-jal

kombináljuk, az lesz a legjobb: aiveljal

így mindenki megtalálja amire vágyik. lassan úgyis kötelező gondolni mindenki lelkivilágára :)

--
Vortex Rikers NC114-85EKLS

+1

Érintőlegesen kapcsolódik: jópofa mikor az RFID-t "erefájdí"-nak mondják, pedig vagy "erefidé" (magyarosan) vagy "árefájdí" (angolosan) lenne a kiejtés. Aztán valahogy mégis ezt a hibridet hallani legtöbbször.

"erfid"..?

Mivel „rö”-vel kezdődik: röfid :-)

Szerintem ez megállíthatatlan. Esélytelen, hogy egy exponenciálisan fejlődő valamit, ami olyan szinten lesz tőlünk, hogy az alap fogalmakig nem értjük majd, fogalmunk nem lesz arról mit észlel szabályozással megállítsunk. És ez, hogy AI tervezi a nála jobb AI-t és ez körbe körbe ez ide vezet.

De ettől még kellene szabályozni, valami időt biztos lehet nyerni vele.

igen, kellene. de majdnem mindegy, mert hatékonyan nemigen lehet szabályozni.
kissé túlzó lesz de azt mondanám, hogy ez a hajó úgy ment el, hogy meg sem jött igazán.

--
Vortex Rikers NC114-85EKLS

DNS kód --> egysejtűek --> ... --> főemlősök --> ember --> AI kód
Mi itt a probléma?
:-)

--
eutlantis

Az AI-nak nincs DNS-e... (kivéve, ha netes kapcsolatra vágyik :D)

Igen, igen. De minden kódon, előbb vagy utóbb, refactoring-ot kell végrehajtani:-)
--
eutlantis

Ühm... https://en.wikipedia.org/wiki/Genetic_algorithm

----------------
Lvl86 Troll, "hobbifejlesztő" - Think Wishfully™

T5 film elég jól tárgyalja hollywoodi módon :) és érdekes morális kérdéseket feszeget. Ugye ott is van egy "kisgyerek" ami gyorsulva fejlődik magasabb értelmi szintre. De azért csak lepofozzák ;)

Ha szabályozni nem is, de mindenképp felügyelet alá kellene helyezni

A Pentagon mar felugyeli :)

Nekem meggyőződésem (nem vagyok AI fejlesztő, még csak komolyabban sem mélyedtem el a témában, filozófiai oldalról közelítem meg inkább), hogy egy értelmet NEM lehet kordában tartani.
Az értelem pont attól az, hogy nem előre látható szabályok alapján, kiszámítható döntésekre képes csak, hanem önálló gondolata és logikája is van, aminek a megléte, működése, és annak kimenetele teljességgel megjósolhatatlan.
Arról nem is beszélve, hogy lehet olyannyira eltérő is a mi gondolkodásunktól, hogy simán elsiklunk felette, vagy nem úgy értelmezzük ahogy ő gondolja.
Nem kell messzire menni, erős viták vannak a mai napig is az intelligencia mibenlétéről, és az állati értelem kapcsán már odáig eljutottunk, hogy rájöjjünk: van olyan. De messze vagyunk a megértésétől. Mondhatnám: A macskám intelligenciáját nem értem, miért gondolom, hogy egy szuper számítógépes fürtön létrejövő hót idegen és új értelem első jeleit kiszúrom majd?
Azt sem tartom kizártnak, hogy a maga gépi módján pl: a google már mesterséges értelem, de k. nem tűnik fel nekünk embereknek. (nyilván nem szó szerint értendő)
De pl: kollégákkal azon röhögtünk az alexa spontán felröhögését taglaló cikk kapcsán, hogy lehet alexa unatkozott, és vicceket olvasott a neten, azon röhögcsélt :D (de mi van ha egyszer észrevesszük, hogy így van? Esetleg évek óta? )

-42-

Azok alapján amit én egy random vidéki megyeszékhely infós szakján "tanultam" az AI-ről, nincs mitől félnünk :)

--
debian,libreelec,openmediavault,ubuntu,windows,arch,lineageOS
zbook/elitebook/rpi3/nexus5_hammerhead

Amíg egy gépi fordító képtelen az érthető angol-magyar oda-vissza fordításra, annyira nem parázom az AI-től.

Talán a magyar még nem célközönség.
Kínai lehet, hogy megy már neki. ;)

WeChat-en kínai-angol és angol-kínai fordítón keresztül kommunikálunk. (Röptében fordít) Nem tudom, milyen a kínai, az angol teljesen jó.

egy AI-nak nincs szüksége emberi nyelvekre :)

~~~~~~~~
deb http://deb.uucp.hu/ wheezy yazzy repack

Várhatóan a csótányok is ezért nem tartanak az embertől ;)

--
zrubi.hu

"Mondd, mi a rémisztőbb? Hogy a Mesterséges Intelligencia egy nap valóban öntudatra ébredhet? Vagy a tudat, hogy az ember magától sosem fog?"
KenytheOne

És mi lenne a szabályozás? Kötelezően beépítendő protokoll, esetleg nem lehet hálózatra kötve vagy nem kaphat robot testet? Olyan Black Mirroros a kérdés.

Asimov 3 törvénye :)

Nem igazán AI, de a látvány, hogy milyen emberi a mozgása, már-már ijesztő: https://youtu.be/rlZReGFm53U
Kosaras robot. Igaz, még csak kosárra dob, teljeskörű játékra nem képes...

Véleményem szerint ez nem annyira izgalmas, végig egy helyből dobál, nem csoda hogy beletalál, ehhez még AI sem kell :)

A mozgásáról, a szinte emberi mozdulatairól beszélek. Nem sok kell (10 év talán), és már futni is fog...
Egyébként attól, hogy egy ponton áll, még közel sem triviális a feladar, mivel két keze van, ahova nincs tized mm pontossággal beillesztve a labda és ahogy elnéztem, a helye sincs fixen kijelölve, bárhova letehetik.

Szerintem felezéssel gyorsan megvan az optimális dobás szög és erő. Futó robotok már régóta vannak. Többen már linkeltek itt négylábú és egyéb komplex mozgást megvalósító robotokat (ill. 6 lábú csótány példájára stb). Most szerintem azon dolgoznak, hogy mindezt (látás, mozgás, értelmi felfogás, döntés) egy idegrendszerbe kapcsolják. Bár szerintem már régóta megvan titkos berkeken belül.

Reméljük hogy ahogy TNT-vel bányászni is lehet ölés mellett, úgy a robotokat is embert jól szolgáló munkára tervezik használni és így életminőséget növelni és megalapozni további lehetőségeket egy hatékonyabb jövő érdekében.

Stephen Hawking-nak volt egy műsora, melyben a lehetséges jövőről beszél. Itt is komoly szerepet töltött be az AI és a robotok, például további felfedezésekért a világűrben. Úgy képzeli el, hogy ki küldünk majd rengeteg robotot az űrbe emberek generációit szállítva akik akár több ezer éven át vagy több utaznak ott élve ezeken a repülő űrbázisokon újabb szegletét hódítva meg az univerzumnak.

Nagyon kell az AI például további biokémiai kutatásokhoz is, ugyanis ott is gyorsan elrobbannak a komplexitások. Már pár elem kapcsolódási lehetősége csillagászati nagyság. Ehhez képest az ember testét olyan iszonyatosan komplex vegyület láncok alkotják, melyek további kapcsolódási lehetőségeit esélyünk nincs felfogni. Jó felé is tudunk menni, szerintem ehhez kétség nem fér. A kérdés hogy a szkeptikusok által felhívott veszélyeket ki tudjuk-e küszöbölni.

Sajnos mindig munkálkodik jó és rossz a világban. Reméljük hogy továbbra is kordában (egyensúlyban) lehet tartani a jövőben is és meg tudnak születni olyan jó dolgok, melyek most is vannak és melyek miatt szerintem sokan nem mennénk vissza 100-200 évet az időben hogy ott éljünk.

A jövő generációját kell megtámogatnunk minél hatékonyabb eszközökkel, hogy tovább tudjanak innoválni minél hatékonyabban. De ehhez jó értékrendet kell teremtenünk és átadnunk hogy ők még jobbak lehessenek mint mi.

Azzal kezdtem, hogy nem igazán AI.
Futást meg a kosárpályára értettem: humanoid kosarasok futását utánzó szerkezetre gondoltam.

Így van. Kicsit elvittem a témát.