Mesterséges intelligencia emel vádat a bűnözők ellen Kínában

HUP cikkturkáló

Mesterséges intelligencia emel vádat a bűnözők ellen Kínában

Kínai kutatók olyan gépet fejlesztettek ki, amely mesterséges intelligencia (MI) segítségével képes vádat emelni.

A kutatók szerint az MI „ügyész” több mint 97 százalékos pontossággal képes vádat emelni egy adott eset szóbeli leírása alapján. A gépet a sanghaji Pudong Népi Ügyészség, az ország legnagyobb és legforgalmasabb kerületi ügyészsége építette és tesztelte – olvasható az SCMP oldalán.

  • 523 megtekintés

( dotnetlinux | 2022. 01. 06., cs – 22:33 )

Az elvek kérdése egy dolog, de szakmailag tetszik. Nincs már messze (károgás on) a szingularitás, amikor majd nem értjük, hogy mi kapcsolja ki az internetet egy gépi tanuló algortmus futásának eredményeként pont annál az embernél, akit azért tartunk hogy felügyelje ezeket a gépeket.

( hgen | 2022. 01. 06., cs – 22:40 )

"Elnézést Virág elvtárs, ez az ítélet"

( uid_17626 | 2022. 01. 06., cs – 22:43 )

Szerkesztve: 2022. 01. 06., cs – 22:43

Régen itthon is foglalkoztak ezzel a lehetőséggel. Itt  a bírókat akarták volna kiváltani.  Már nem emlékszem mikor 10-20 éve?

Akkor még nem állt azon a szinten a mesterséges intelligencia, épp a sötét középkort élte, hogy ez életképes lehetett volna, 20 éve. 10 éve épp csak újra rátaláltunk a helyes útra, még akkor is korai lett volna. Ma már közel vagyunk ahhoz hogy jó lenne, sőt ilyen pocsék minőségű bírói ítéletek mellett egyenesen szükségszerű. 

Kínaiak óvatosak, csak a vádemelésről van szó. A bírói tevékenység még emberi kézben marad. Így nincs nagy kockázat, mert ha tévedne a MI akkor is ott a hagyományos eljárás ahol ez kiderül. Majd a tapasztalatok alapján javítják a következő betanítást. Ha a rendőrök átlagos értelmi szintjét nézzük, akik a vádemelési javaslatok jelentős részét készítik, annál egy mesterséges intelligencia csak jobb lehet. Az ügyészségen már magasabb szinten áll a szakmai kompetencia, de addig el is kell jutnia az ügynek. Szerintem bonyolult, nehezen átlátható gazdasági ügyekben lehet  igazán hasznos egy ilyen megoldás a jövőben. Kínában még csak néhány kategorizált tucat ügyre vetik be, az ügyészeknek több idejük marad a bonyolultabb ügyekre. 

“Az ellenség keze betette a lábát”

Nagyon halványak az emlékeim. Azt hiszem Japánban kezdődött el az élőnyelv matematikai modellezése nyolcvanas években (?). Az lett volna az alapja ennek is. Az eredeti japánkoncepció szintén halvány emlékeim szerint elbukott. Talán a vége az lett, hogy nem lehet biztonsággal megoldani.

fixme

 

Itthon a lényeg az lett volna, hogy az általános problémákat algoritmus oldja meg. Ilyen egy válásnál pl. a gyerektartás összege.

Mesterséges neurális háló visz most szinte mindent, illetve ilyen esetekben a tanítóminták összeállításához fuzzy logic. 

Erről a Japán kutatásról nem olvastam. Valami LISP fejlesztés? A 80-as években népszerű volt. 

“Az ellenség keze betette a lábát”

en eleg sokat foglalkoztam az elmult 5 evben NLP-vel, spamszuro fejlesztes kapcsan.

a word2vec feltalalasa (2013) elott nem igazan lehetett ertelmesen dolgozni szoveggel matematikai modellekben, mert nem tudtad normalisan lekepezni, max ugy, hogy minden szohoz rendeltel egy random szamot, de ezzel az analog (pl. neuralis halos) modellek nem tudnak mit kezdeni. vagy lehetett bag-of-word-ozni, hogy minden szo 1-1 vektor dimenzio, de akkor nagyon hamar annyi dimenziod lesz, hogy az mar nem kezelheto. szoval 2013 elott leginkabb a Bayesian statisztika ment, de az tul primitiv ilyen osszetett elemezesekhez, es nem is vizsgalja a szavak sorrendjet vagy emashoz valo viszonyat, kapcsolatat, csak az elofordulasi valoszinuseget kulonbozo osztalyu szovegekben.

a word2vec (es ennek mutacioi, doc2vec, fasttext, glovec etc) hozta el a lekepzest a text es a neuralis halo kozott. innentol mar csak a kepzelet es az eroforrasok szabnak csak hatart, hogy milyen neuralis halos modellt huzol ra (leginkabb CNN, LSTM) es azt mire tanitod meg...  pl: http://thot.banki.hu/deepspam/model.png

Egyes szabálysértéseknél müködik. Pl gyorshajtás. A trafi lelő, online megy a kép a központba, automatikusan azonosítja a rendszám alapján a tulajt és generalja a határozatot. Kézbesíteni kell, azt szerintem a posta végzi. Ha meg a tulaj nyilatkozik nem ő vezette az autót, azt már humán dolgozza fel, de kb, átírja a nevet. Nyilván ilyen sablonozható dolgoknál működik.

Kommentelés előtt elolvashatnád a témát adó cikket talán. 

"a nyolc leggyakoribb shanghai bűncselekményt képes azonosítani: a hitelkártyacsalást, a szerencsejáték-üzemeltetést, a veszélyes vezetést, a szándékos testi sértést, a hivatalos feladatok akadályozását, a lopást, csalást és az úgynevezett "bajkeverést".

Pont olyan mint a rendszámfelismerés mert arról már hallottál valamit. Jó volt a binyiglitároló festésed. 

“Az ellenség keze betette a lábát”

Kommentelés előtt elolvashatnád mire írtam, akkor nem kellene terhelni a hülyeséggel magad, meg mást sem. 

Mivel kétlem hogy értelmezni tudod a dolgokat, segítek. Oregon írta hogy itthon is volt kezdeményezés ez irányban, erre válaszoltam, hogy jelenleg hol tartunk a gépi feldolgozásban. Szerintem tök jó amúgy. 

Nem, nem a topic nyitóhoz szóltam hozzá. 

Nem, nincs olyan hogy csak és kizárólag a topic nyitóhoz lehet hozzászólni. 

Igen, teljesen hülye vagyok, gondolom úgy érzed egy szinten vagyunk, ezért kommunikálsz velem. 

Igen, a kurva anyámat. 

Van még valami, vagy mehetek? 

LOL. Oszt ugyan miért nézel le mélyen engem? Kíváncsi vagyok a mozgató rugóra a fejedben :)

(Halkan jegyzem meg, hogy attól hogy lenézel mélyen valakit, akár még hülyébb is lehetsz a célszemélynél, nics összefüggés a kettő között. Persze nyugi, nem nálam, mert én sík hülye vagyok) 

Kiszűrt téged a neurális háló mint potenciális hupper futóbolondot. 

Veled szemben én írtam képfelismerő alkalmazást, feladat közlekedési táblák felismerése volt, CNN. Szóval csak mosolygok a fogalmatlan picsogásodon a témában. 

Oregon hozzászólásából is csak az első pár szót sikerült értelmezned.

“Az ellenség keze betette a lábát”

Na, várj csak. Mik azok a picsogásaim, amitől futóbolond vagyok? 

Nem állítottam hogy bármilyen szoftvert írtam, fog álmatlanság meg hogy értsem? Nincs olyan a sebesség túllépéseknél, ami írtam? 

Miért zavar, hogy Oregonnak mire mit írok? 

3 témakörben várom a válaszod. 

Ezt írta Oregon: "Régen itthon is foglalkoztak ezzel a lehetőséggel. Itt  a bírókat akarták volna kiváltani.  Már nem emlékszem mikor 10-20 éve?"

Erre te: "Egyes szabálysértéseknél müködik. Pl gyorshajtás. A trafi lelő, online megy a kép a központba, automatikusan azonosítja a rendszám alapján a tulajt és generalja a határozatot. Kézbesíteni kell, azt szerintem a posta végzi. Ha meg a tulaj nyilatkozik nem ő vezette az autót, azt már humán dolgozza fel, de kb, átírja a nevet. Nyilván ilyen sablonozható dolgoknál működik."

Nos a bírók nem foglalkoznak Magyarországon sem rendszámok fényképről való tömeges felismerésével. Annál drágább a munkaidejük :-)

"Nyilván ilyen sablonozható dolgoknál működik" - Hát egyáltalán nem vagy képben. De azért aranyos, hogy próbálkozol. 

“Az ellenség keze betette a lábát”

Egy témakörben sikerült válaszolnod. Azért várom a másik kettőben is. 

Akkor amire írtál: értem hogy mit írt Oregon, arra válaszoltam hogy jelenleg hol tart a dolog nálunk. Nem, nem sikerült bírókat, akár ügyészeket kiváltani azóta sem, de a rendőrségnél sikerült egyszerű szabálysértési ügyekben (gyorshajtás, mást egyébként nem tudom dolgoznak-e fel így) az előadókat kiváltani, legalábbis első körben. Panasz, vagy más sofőr megnevezése esetén már humán erőforrás jár el. 

Sablonozható (a magyar példára mondtam) mert, csak le kell generálni a határozatot (nálunk nem is MI végzi ezt, mert minek) a rendszám, az alapján a tulajdonos, a helyszín, sebességhatár, sebesség túllépés mértéke, az alapján a bírság mértéke adatok változtatásával. Nyilván nem tudom, nálunk hogy működik ez, de így képzelem ahogy leírtam: sablon határozat, adatokkal meg feltölti a program. Ha te többet tudsz erről, érdekel, nyugodtan leírhatod. Még mindig a magyar példáról beszélek. 

Ezeket fel tudod dolgozni? 

Nem, még mindig nem az MI-ről beszélek. 

Nem, eddig sem arról beszéltem. 

Igen, ha a magyar, általam plusz megjegyzésként, érdekességként felhozott ügymenettel kapcsolatban tudsz cáfolni, kiegészíteni, azt szívesen veszem. 

Nem, a semmitmondó, személyeskedő, lufi dumádra nem igazán vagyok kíváncsi, de ha megkönnyebbülést okoz, írd le nyugodtan. 

Igen, a fentebbi még meg nem válaszolt témakörben is várom a válaszod. 

Érzésre az egésznek az az origója, hogy a törvények logikailag koherensek legyenek egymással és ne legyenek benne vakfoltok. Ha ez megvan, akkor az egész egy döntési fa és "csak" a büntetési tételek súlyosságát kell belőni.

Van egy olyan érzésem, hogy a 0. pontnál elakadtak :D

"The only valid measurement of code quality: WTFs/min"

Erről régen, talán 15 évvel ezelőtt hallgattam előadást a BME-n, az MI kutatócsoport egyik doktoranduszának volt ez kutatási témája. A törvényszövegeket, ill jogi definíciókat megpróbálták (azt hiszem) ontológiákkal modellezni és kifejezetten az volt a cél, hogy formális logikai levezetéssel tudjanak ellentmondásokat és inkonzisztenciákat azonosítani a törvényekben.

A bajok már eleve azzal kezdődtek, hogy gigantikus mennyiségű implicit definíciót kellett kézzel hozzátenni (kezdve ilyenekkel, hogy természetes személy => ember, ember => férfi | ember => nő - csak hogy egy manapság "közkedvelt" olyan példát hozzak amiben határozottan fejlődött a jogrendszer, mert ezeket már explicit rögzíti :) ), és sok esetben a logikai levezetés óriásit tudott változni attól függően, hogy valami ilyen "common sense" definíciót pontosan hogy vettünk fel. Pl ember az mindig elő embert jelent-e vagy sem. Persze a legtöbb helyen a kontextusból kiderül, hogy nem lenne értelme cselekvőképtelen (mert elhunyt) személlyel az adott mondatnak, csak itt jön a dilemma, hogy a jogi szöveget logikai állításokká átíró ember vajon hozzáteheti-e ilyen módon a saját tudását, vagy ezzel már egy saját szubjektív értelmezését keveri bele a szabályrendszerbe. Ezek nélkül viszont nem működik az egész.

Szóval elég gyorsan visszavezetett a probléma oda, hogy a joganyag feldolgozása mellé kb az egész világról alkotott tudásunkat is kéne modellezni ellentmondásmentesen, ebbe meg jópáran belebuktak már (asszem a Cyc project volt a leghíresebb).

Régóta vágyok én, az androidok mezonkincsére már!

Mondjuk ez mar az alkotmany/alaptorveny eseteben sem teljesul. Pl.:

XV. cikk

(3).: Mindenki egyenlo.
(4), (5).: Vannak egyenlobbek.

szerk: rosszul emlekeztem a szamokra, javitottam

A strange game. The only winning move is not to play. How about a nice game of chess?

XV. cikk

(1) A törvény előtt mindenki egyenlő. Minden ember jogképes.

(2) Magyarország az alapvető jogokat mindenkinek bármely megkülönböztetés, nevezetesen faj, szín, nem, fogyatékosság, nyelv, vallás, politikai vagy más vélemény, nemzeti vagy társadalmi származás, vagyoni, születési vagy egyéb helyzet szerinti különbségtétel nélkül biztosítja.

(3) A nők és a férfiak egyenjogúak.

(4) Magyarország az esélyegyenlőség és a társadalmi felzárkózás megvalósulását külön intézkedésekkel segíti.

(5) Magyarország külön intézkedésekkel védi a családokat, a gyermekeket, a nőket, az időseket és a fogyatékkal élőket.

Kicsit erőltetett ez a következtetés szvsz. 

“Az ellenség keze betette a lábát”

Ezek azért kerülnek bele mert korábban, ami ma már jogtörténelem ez nem így volt. A hermafroditákkal sem korábban sem most nem szoktak foglalkozni. Akkor már azt is "hiba" hogy a törvény előtti egyenlőség nincs leszűkítve az ember fajra. Szóval így az állatok, meg gombák, növények ... stb is egyenlőek csak nem jogképesek. Nem mélyednek el nagyon formális logikában a jogi karokon. 

“Az ellenség keze betette a lábát”

( NevemTeve | 2022. 01. 07., p – 10:12 )

Szerkesztve: 2022. 01. 07., p – 10:15

Ha a derék rendőrnek van esze, akkor ezek után arra optimalizál, hogy az AI a rendőri jelentés alapján azt vádolja meg, aki kell. Mondjuk "Fa Mulan gyanusan úgy néz ki, mint egy ujgur, és gyakran találkozik más ujgurokkal." Mulan már mehet is az átnevelőtáborba.

(Ez már a címből is világos: "AI emel vádat a bűnözők ellen". Ugyebár akit megvádolnak, az bűnöző, és aki bűnöző, azt megvádolják.)

( gergov | 2022. 01. 07., p – 17:28 )

Erdekes temakor ez. Ugy tudom, hogy az USA-ban hasznalnak automatizalt rendszereket bunozes elorejelzesre (megmondja, hova erdemes a jaroroket kuldeni) es ovadek osszegenek megallapitasara. Az utobbi par evben viszont elkezdtek piszkalni oket, mert ugy tunik, hogy rasszistak lettek: sokkal gyakrabbab kuldenek jaroroket feketek es latinok altal lakott varosreszekbe, es az ilyen szemelyek ovadekat is magasabb osszegben allapitjak meg.