https://www.hwsw.hu/hirek/63180/eu-europai-bizottsag-mestersege-intelli…
Szerintetek mit akar a költő?
A magas kockázatú kategóriánál felsorolt pontok egy része trivialitás, természetesen mindenki jó minőségű tanítómintával igyekszik dolgozni, az ésszerűség határán belül naplózni is szoktunk.
De például az, hogy mi lenne a "megfelelő kockázatértékelési és -csökkentési rendszer" már elég ködös.
Természetesen fontos, hogy például egy cukorbeteg életvitelét vizsgáló inzulinpumpa ne a napi 10 emeletet lépcsőző testedzés előtt adjon be nagyobb adat inzulint, de ha elromlott lift miatt kell váratlanul 10 emeletet lépcsőzni arra elég nehéz felkészíteni egy bármilyen jó tanulómintákkal betanított rendszert. Kockázatnak kockázat. Annyit lehet tenni, hogy figyelmezteti a rendszer a páciensét arra, hogy azonnal fejezze be az intenzív testmozgást és fogyasszon cukor-tartalmú ételt. E nélkül nem valószínű, hogy eddig engedélyt kapott az egyébként is szigorú szabályozás mellett. Ehhez nem kell rendelet.
Vagy ezen túl egy banki hitelkockázatelemző neurális hálónál vissza kell térni az algoritmikus megoldásokra mert egy statisztika kihozza, hogy nagy arányban hitelképtelennek minősíti az egyébként alkoholista alkalmi munkákból élő ügyfeleket, akik történetesen nagy arányban valamilyen népcsoporthoz tartoznak. Utóbbi esetben a programozója be tudja mutatni azért lett hitelképtelennek minősítve mert rendszertelen jövedelmi viszonyok nem érnek el a vizsgált időszakban egy meghatározott szintet és a hitelkérelmező még alkoholista is, az igényelt hitelösszeg pedig túl magas. Előbbi esetben a rendszer programozója sem tudja megmondani miért lett hitelképtelennek minősítve az ügyfél. Pedig mindkét esetben helyes a hitelbírálat.
A "megfelelőségének értékeléséhez" mit vizsgálna a hatóság? Majd szerintük rossz lesz a ReLU és inkább szigmoid aktivációs függvényt kellene használni, hogy "megfelelő" legyen? :)
Az elfogadhatatlan kockázatnál említett "kormányok általi társadalmi pontozás" mintha Kína pontozós nemzeti "játékára" utalna. Ilyet mi nem akarunk, ezt megértem. De azt nem itt kellene megfogni hanem a tömegesen gyűjtött adatok anonimizálási követelményeinél, amire egyébként ott van a GDPR. Mi lesz a már futó projektekkel? ... Számtalan nyitott kérdés.