Kiterjesztett gyermekvédelmi intézkedéseket jelentett be az Apple

Címkék
 

A kiterjesztett gyermekvédelmi intézkedések érintik/érinteni fogják az iOS, iPadOS, watchOS és macOS rendszereket, az Siri, Search, Messages szolgáltatásokat és alkalmazásokat, valamint az iCloud-ba feltöltött képeket stb.:

Apple is introducing new child safety features in three areas, developed in collaboration with child safety experts. First, new communication tools will enable parents to play a more informed role in helping their children navigate communication online. The Messages app will use on-device machine learning to warn about sensitive content, while keeping private communications unreadable by Apple.

Next, iOS and iPadOS will use new applications of cryptography to help limit the spread of CSAM online, while designing for user privacy. CSAM detection will help Apple provide valuable information to law enforcement on collections of CSAM in iCloud Photos.

Finally, updates to Siri and Search provide parents and children expanded information and help if they encounter unsafe situations. Siri and Search will also intervene when users try to search for CSAM-related topics.

These features are coming later this year in updates to iOS 15, iPadOS 15, watchOS 8, and macOS Monterey.*

[...]

Another important concern is the spread of Child Sexual Abuse Material (CSAM) online. CSAM refers to content that depicts sexually explicit activities involving a child.

To help address this, new technology in iOS and iPadOS* will allow Apple to detect known CSAM images stored in iCloud Photos. This will enable Apple to report these instances to the National Center for Missing and Exploited Children (NCMEC). NCMEC acts as a comprehensive reporting center for CSAM and works in collaboration with law enforcement agencies across the United States.

[...]

This innovative new technology allows Apple to provide valuable and actionable information to NCMEC and law enforcement regarding the proliferation of known CSAM. And it does so while providing significant privacy benefits over existing techniques since Apple only learns about users’ photos if they have a collection of known CSAM in their iCloud Photos account. Even in these cases, Apple only learns about images that match known CSAM.

[...]

Részletek az Apple bejelentésében.

Hozzászólások

Szerintem a cél végső soron nemes. Az összes perverzet tegyék börtönbe!

trey @ gépház

Az alapcel helyes, de a lejto, amin elindul a cel elereseert, az csuszos.

Hiaba csak "halozatokon atfutott kepek hash-eivel osszeellenorzes", meg a kamu stat, hogy "false positive is one in a trillion", a legsulyosabb conviction tipust (legsulyosabb kovetkezmenyekkel) automatizaltak, es elindulnak az egyre kevesbe sulyosabbak fele a kormanyok.

Apple’s method of detecting known CSAM is designed with user privacy in mind. Instead of scanning images in the cloud, the system performs on-device matching using a database of known CSAM image hashes provided by NCMEC and other child safety organizations. Apple further transforms this database into an unreadable set of hashes that is securely stored on users’ devices.

Before an image is stored in iCloud Photos, an on-device matching process is performed for that image against the known CSAM hashes. This matching process is powered by a cryptographic technology called private set intersection, which determines if there is a match without revealing the result. The device creates a cryptographic safety voucher that encodes the match result along with additional encrypted data about the image. This voucher is uploaded to iCloud Photos along with the image.

Using another technology called threshold secret sharing, the system ensures the contents of the safety vouchers cannot be interpreted by Apple unless the iCloud Photos account crosses a threshold of known CSAM content. The threshold is set to provide an extremely high level of accuracy and ensures less than a one in one trillion chance per year of incorrectly flagging a given account.

Only when the threshold is exceeded does the cryptographic technology allow Apple to interpret the contents of the safety vouchers associated with the matching CSAM images. Apple then manually reviews each report to confirm there is a match, disables the user’s account, and sends a report to NCMEC. If a user feels their account has been mistakenly flagged they can file an appeal to have their account reinstated.

Természetesen, hogy mindenki láthassa az Apple jó szándékát, az a minimum, hogy az általa alkalmazott keresési algoritmusok stb. forráskódját egy mindenki által olvasható repository-ba tolja, hogy az ágáló security expert-ek is megnyugodhassanak 100%-ban. :D

trey @ gépház

Egyetértek.

Ugyanakkor elgondolkodtató lehet az egész tágabb perspektívában. Az államok ugyebár társadalomra veszélyes tevékenységek bizonyos spektrumát rendelik ilyen eszközökkel [pl titkosszolgálati, gyártói backdoor (e2e defeated) ] üldözni, de ez a spektrum egyrészt földrajzilag is eltérő (más állam más spektrum) másrészt időben is változik, más a spektrum ma és más holnap. Gondolatkísérlet: ugyanezek az eszközök 1950/60-ban 1990-es években és ugyanezek ma és  a jövőben. Ha a gondolatkísérlettel végeztünk akkor érdemes belegondolni a valós fenyegetésbe, hogy a jövőben vajon mi várható, ami ellen valóban bevetik, mik lesznek azok az államellenes tevékenységek mely klientúrában és mely államban, és mely gyártó hol kihelyezett eszközei fognak ezek ellen adatot gyűjteni.

Pl a Kínába eladott iphone-ok akkor a kínai Social Credit System nevű adattárba fognak-e ugyanezekkel a módszerekkel adatokat szolgáltatni? Mely államok fognak még hasonló citizen rating rendszereket felállítani? Mik lesznek a pontozás alapjai? Mely gyártók fognak/nem fognak adatot szolgáltatni? Lehetnek-e illúzióink ezek kapcsán, vagy a kérdés csak az, hogy mikortól, illetve hogy bevallottan vagy stikában szolgáltatnak majdadatot, mert államérdek a titkos adatszolgáltatás?

Vagy a kérdés csupán az, hogy az az ország/nemzet ahol épp lakunk mikor vezet be egy hasonló citizen rating system-et, és annak mik lesznek a publikus/nem publikus súlyozói. Aztán a további kérdések, hogy a kettős állampolgárokról akkor mindkét állam gyűjtheti majd az adatokat, és a környezetükről is :D Big data újabb lépcső, már ugyanazokat az adatokat nem több cégnek, hanem több állam nemzeti rating systemjének árusítják majd. A távoli jövőben egy külföldi állampolgár beutazásakor majd a big data alápján előminősítik belépéskor a belépő turista kockázatait bonus/malusait.

Az Apple a kínai piac megtartása érdekében eddig is átadta a kínai állampolgárok személyes adatai feletti felügyeletet a kínai kommunista párt által ellenőrzött állami cég kezébe. Ebben semmi változást nem látok.

Ha jól értem, arra célzol, hogy ha mondjuk ezt a rendszert az 1950-es évek Angliájában vetnék be, akkor a homoszexuálisok bajban lennének, hiszen akkor ott akár kémiailag kasztrálták is őket, míg most meg nincs olyan cég, amelyik anyagi érdekből ne terjesztené a meleg propagandát.

trey @ gépház

Szinte mindegy, hogy melyik országot nézzük. Teljesen mások voltak és mások lesznek pár évtized eltéréssel az üldözendő tevékenységek, de most már itt vannak az új eszközök. A gyermekpornográfia elleni fellépés klassz ma. Holnap mire fogják használni?

Igen, értem, hogy mit mondasz. De azt azért vedd észre, hogy ezek a kérdések azért mindig társadalmilag széles körben normálisnak tekintettektől eltérőket érintik. Azért azt nem hiszem, hogy lesz olyan földrajzi hely, kor, ahol mondjuk az "apa férfi, az anya nő" család és azok gyerekei képbe kerülhetnének. Márpedig, ha tetszik, ha nem, a föld lakossága kb. ezt tekinti normálisnak.

Abban lehet valami, hogy akik most felülnek erre a buzi/transz nem tudom milyen vonatra (és most én a propaganda hatására belerántott fiatalakat értem, akik pár év múlva már nem akarnak azok lenni, akik genderfluidok is csak azért most, mert Billie Eilish 19 évesen most az, de már láttam az új albuma klippjének előzetesét, már kezdi ő is ezt kinőni, kirakta már a melleit ... ) ... Hát, nekik lehetne ebből gondjuk ... ha úgy alakul.

trey @ gépház

Nem értem miért a férfi-nő hetero- mittoménmilyen (nem értek én ehhez a genderakármihez) inerciában gondolkodsz csak. Bármilyen tevékenységet tekinthetünk deviánsnak. Pl az 50-es években megkeresztelted a gyereked, az egy állam által nem jó szemmel nézett tevékenység volt, míg ma a keresztény egyházak által fenntartott iskolákban nevelt gyermekek oktatásának ellátására magasabb normatívát kapnak, mint a nem egyházi fenntartású intézmények. Láthatóan változtak a preferenciák. Még ha szuperheteró családot is veszünk alapul, egyszerűen az állam-egyház viszonylatban. De nem akarom a b*ziügyről állam-egyház viszonylatra terelni a témát, mert nem erre céloztam, hanem arra, hogy bármilyen viszonylatban megváltozhat az állam preferenciája 20 év mulva, és nem csak sarkalatos kérdésekben, amire ma bónusz jár 20 év múlva malus járhat, és viszont, csak most már a pontozáshoz az adatokat új eszközökkel is be lehet gyűjteni olcsón, és azok az adatok amik ma megvannak, valószínűleg meglesznek 20 és 40 év múlva is, amikor más szemmel fogják nézni ugyanazokat az adatokat, ahogy ma is más szemmel olvassuk a kommunista vagy a Horthy rendszerbeli titkosszolgálati jelentéseket.

Nem értem miért fura neked, hogy gyermek- és gyermekvédelem témában normális családmodell példával élek. :D Azért megegyezhetünk abban, hogy gyerekek jelenleg természetes módon férfi-nő kapcsolatból jönnek létre.

:D

hanem arra, hogy bármilyen viszonylatban megváltozhat az állam preferenciája 20 év mulva, és nem csak sarkalatos kérdésekben, amire ma bónusz jár 20 év múlva malus járhat, és viszont, csak most már a pontozáshoz az adatokat új eszközökkel is be lehet gyűjteni olcsón, és azok az adatok amik ma megvannak, valószínűleg meglesznek 20 és 40 év múlva is, amikor más szemmel fogják nézni ugyanazokat az adatokat, ahogy ma is más szemmel olvassuk a kommunista vagy a Horthy rendszerbeli titkosszolgálati jelentéseket.

Igen. Itt egy kicsit elszaladt nálad a konteo, éreztem én. A buzi téma pont úgy jön ide, hogy most gyerekpornó az üldözött, de vannak olyan országok, ahol a fasszal kardozásért akasztás jár jelenleg is. Mit nem értesz? Azt látom, hogy hoztam egy valós példát, de betriggerelődött nálad az automatikus liberális védelmi mechanizmus a hatására.

trey @ gépház

Ja, hogy téged nem érdekel, hogy egyes országokban akasztanák a buzikat, ha rajtakapnák őket, mert a telefonjukon homo képeket detektálna majd egy ilyen algo a jövőben? Pedig ez pont ugyanaz a téma, amit te feszegettél. Csak benne van a homo szó, így sünbe ugrottál.

Mutatom az országokat, ahol jelenleg halálbüntetést kaphat, aki meleg:

  • Jemen
  • Irán
  • Mauritánia
  • Katar
  • Szaúd-Arábia
  • Afganisztán
  • Szomália
  • Szudán
  • Egyesült Arab Emirátusok
  • Nigéria

Úgy érzed, ez nem valós veszély?

trey @ gépház

Vagy te ugrottál farkasverembe, mert szűklátókörűen nem látod, hogy nem csak ez a kisebbség fenyegetett az ezen módszerekkel kielemzett és felhalmozott adatok által... de téged csak az a kis szegmens érdekel... engem meg nem csak az a kis szegmens érdekel, mert ez az egész sokkal messzebbremutatóbb annál.

Igen, van akinek az a téma a fixációja, férfiaknál nem ritka :D

De gondolj bele egy szigorú saria rendőrség, aki szerint minden emberábrázolás bűn, mondjuk ott azt kérik az apple-től, hogy face detectiont nyomjanak rá, nem recognition, csak detect :)

hogy lásd mennyire ontopic: "az iOS, iPadOS, watchOS és macOS rendszereket, az Siri, Search, Messages szolgáltatásokat és alkalmazásokat, valamint az iCloud-ba feltöltött képeket stb" ezekre. Aztán mehet is a szigorúbb saria rendőrség ki a tisztátalanokhoz, kivételszabály ugyebár ha a próféta van a képen, mert csak az megtűrt bizonyos szigorúbb  irányzatoknál.

Mert én egy szexuális téma (gyermekpornó) témában a témánál maradtam.

Nem. Azt még érteni vélem, hogy politikai számításból a kormány/a Fidesz miért keveri a pedofíliát a homoszexualitással, de hogy egy felsőfokú diplomával rendelkező, amúgy értelmes(nek) tűnő felnőtt magyar állampolgár miért keveri a kettőt, azt már nehezebb felfognom.

A probléma az, hogy a keresztényüldözés ma is létező jelenség, van olyan ország, ahol hivatalosan is büntetés jár érte, máshol csak a szomszédjaid koncolnak fel érte.
Az Apple által készített algoritmus meg alkalmas lehet arra is, hogy mondjuk imádkozó alakot keressen, vagy falra akasztott keresztet. 

Már csak az a kérdés, hogy mondjuk kínában mikor kérik be a gyermekmolesztálás mellett a katolikus hitre vonatkozó képeket is.

Nagy Péter

Neked mindenről a melegek ugranak be? :) Végülis egész jól tolod a "melegpropagandát" :)

Visszatérve a citizen rating* részhez, ott azért lehet arról is szó, hogy bizony te nem szimpatizálsz a kormány intézkedéseivel akkor már -5 pont ... elérsz egy min. pontot akkor pl majd nem ülhetsz fel repülőre, stb.
Jó igen, ez kicsit költői túlzás (bár Kínában talán már nem), de a rendszer vége ilyen irányba fog kifutni.

Offtopic volt, függetlenül a pedofilos témától, azok ellen támogatok én is minden fellépést és intézkedést.

A példát nem vitatom. De én is hoztam egy lehetséges példát. (vagy már megvalósult példát, szerencsére nem mozgok otthonosan a Kínai komm. párt állampolgári pontozási rendszereiben)

Azon csodálkozom, hogy remek hogy most volt a Pride hónap meg minden, meg jönnek szembe ezek a dolgok, én valahogy ezeket szimplán ignorálom, nem érik el az ingerküszöbömet se.

Kb annyira érdekelt hogy "szivárványozás" megy mintha mondjuk SzanyiTibor mond valamit ami oltári nagy baromság, bár ő csak olyat tud mondani :). Semennyire.

Valahogy ezeken én átsiklok és nem pörgök rajta. Szivárvány van? jó legyen.. Szanyi mondott valamit? oké.. kit érdekel? :)

Ja, az nemes, börtönben a helyük, ahogy a drogkereskedőknek, maffiának, terrorpistáknak is. Csak nem úgy, hogy a többség privát szférájába kontárkodnak bele.

They’re scanning your end to end encrypted iMessages for nude photos - na, az az end to end encryption is sokat érhet, amibe simán belenéznek. Ezek teljesen hülyének néznek mindenkit. Mindegy, látom felhagytak az ötlettel, annyira sok negatív kritikát kapott, teljesen jogosan. Főleg az Apple egy olyan cég, aki nem engedhet meg magának ilyet, hiszen prémiumként adják el magukat, akkor a privát szféra tiszteletében is prémiumot kell nyújtsanak. Egy olcsó tömeggyártó még csak variálhatna ilyennel.

“I didn’t start using Linux so I could have friends.” (Luke Smith, 2019) 🐧

Igen, pont ezt írtam én is, csak úgy tűnik senki sem akarja érteni. Most egy olyan szolgáltatást telepít az apple minden iOs-be, ami megkerüli az e2e dolgokat és közvetlenül a végpontot szkenneli, indexeli és generál riportot, mert máshogy nem nagyon működhet... a mai combos mobiloknál ez is belefér az erőforrásokba. Aztán ki tudja mikor kap az ötleten egy másik kormány, aki mondjuk nem gyermekpornót keres, hanem... teljesen mindegy, hogy mit, valami mást. Gyakorlatilag a pegasus jellegű alapszolgáltatásokat az ios-be integrálják. ÉS a vicces az, hogy lesz egy marhanagy adatbázisuk, hogy kinél mi van, és ahogy a kormányok kitalálják, hogy ma ez az ellenség, holnap az, úgy mindig másnak adhatják el az adatcsomagját, és szolgálhatnak a fizető megrendelőnek "információkkal".

Teljes mértékben egyetértek, hogy bizonyos bűncselekmények egyértelműen üldözendőek, de ez a techgnológia/szolgáltatás szerintem nem fog megállni a gyermekpornográfia jellegű fotók azonosításánál, ez csak amolyan első/utolsó nyilvános fecske, és egyben mutatja, hogy nem az end user az egyetlen customer.

Persze, pont ez a veszély benne. Olyan címen, hogy pedó vagy, belenéznek az adataidba. Persze ha már ott vannak, mi állítja meg őket, hogy mást is nézzenek, meg adatot gyűjtsenek az emberről? Mert nyilván nem tudod ellenőrizni, hogy mit gyűjtöttek rólad. Ezért nem szabad ilyet engedni, mert ilyen meg amolyan címen elkezdenek belenézni mindenbe, és nincs megállás onnan. Szépen üldözzék csak a pedókat hagyományos módszerekkel, bejelentés alapján, meg rendes nyomozással, ahol a bőnösségét rábizonyítják, házkutatás, gépei átnézése, stb.. Mert ezek a dolgok eleinte a naiv emberek számára jól is hangzanak, hogy gyerekvédelem, meg antiterrorizmus, meg nemzetbiztonság, meg szervezett bűnözés elleni harc, persze, ezeket ki ne támogatná, csak hát milyen áron, milyen módszerekkel, meddig engedjük elmenni az illetékeseket, ez a kérdés.

Tim Kukka sem tudom mit szólna, ha itt mi a HUP-ról belenéznék az adataiba, telóján, gépén. Szerintem nem rajongana az ötletért. Ő kivétel, meg gyanú felett áll. Ja, nem, csak nem gondolják ezt át elvi síkon. Most kitalálták, hogy ezzel a gyerekvédelemmel fognak villogni, mert jó PR, hogy ők ezzel is foglalkoznak meg megmentik a világot, közben meg a hatalmukat növelik gátlástalanul. Eddig is megvetettem az Apple-t, nagy ellenzőjük vagyok régóta, a zárt ökoszisztémájuk, meg fogyasztói jogok (szabad szoftverhasználat, javíthatóság, akkuidővel trükközések, versenyellenes szoftverboltozásuk, stb.) sárba tiprása miatt, de most még nagyobbat süllyedtek a szememben.

Itt nem a pedókkal kéne foglalkozni, hanem ezeket a túl nagyra nőtt multikat, mint a Google, MS, Apple, Amazon, stb. fel kéne darabolni, mert már túl nagy a hatalmuk. Ahogy anno az AT&T-vel is tették nagyon helyesen.

“I didn’t start using Linux so I could have friends.” (Luke Smith, 2019) 🐧

Ha jol ertem nem az afrikai banyakban dolgozo gyerekeket vedik.

Nem tudom amerikában hogy mennek a dolgok, de azt azért nem bánnám, ha EU-ban kicsit jobban odafigyelnének mennyire kémkedhet az Apple és Google a felhasználói után. Persze ma már pár naiv és bolond kivételével ezeket zokszó nélkül nyeli be az ember, de talán pont ezért fizetjük a nálunk okosabbakat mindenféle EU-s bizottságokban, hogy mindent azért ne lehessen.

A papok telefonjáról is jelenteni fog? Vagy azt elintézik megint az egyháznál? 

Valahol itt van nálam gyomorforgatás. Persze a pedo keresztény pap ok, de a meleg nem pedo pár nem. Miért is kivételek még mindig az egyházi személyek?

Nem túl tisztességes a gyermekeket felhasználni a megfigyeléssel kapcsolatos érzékenyítésre. De legalább bárkire rá lehet mondani, hogy pedofil vagy pedofil-támogató, ha nem örvendezik az új gyermekvédelmi funkciókon.

:)

Szerkesztve: 2021. 08. 06., p – 14:42

Holnaputan: Samsung gunyt uz az iOS 15 ezen feature-bol es csinal egy gyerekedet furdetos Galaxy reklamot

Mahoz ket honapra: a Samsungba is bekerul egy szaklapba beadott papiron "1 kvadrillio esetbol egyszer tevedo" gyakorlatban false positive-okkal teli algoritmus, ami feljelent, ha ilyen tartalmat talal barmilyen kepen. :)

Ha erkölcsi magasságokba akar emelkedni a cég akkor mindjárt kezdheti magán, nem? Talán nem kéne afrikai gyerekekkel bányáztatni a ritka-föld fémeket. Álszent g.cik.

Szerkesztve: 2021. 08. 06., p – 17:00

Apple belső levél:

Team Apple,

I wanted to share a note of encouragement to say that everyone at NCMEC is SO PROUD of each of you and the incredible decisions you have made in the name of prioritizing child protection.

It’s been invigorating for our entire team to see (and play a small role in) what you unveiled today.

I know it’s been a long day and that many of you probably haven’t slept in 24 hours. We know that the days to come will be filled with the screeching voices of the minority.

Our voices will be louder.

Our commitment to lift up kids who have lived through the most unimaginable abuse and victimizations will be stronger.

During these long days and sleepless nights, I hope you take solace in knowing that because of you many thousands of sexually exploited victimized children will be rescued, and will get a chance at healing and the childhood they deserve.

Thank you for finding a path forward for child protection while preserving privacy.

Elolvasva a kommenteket a cikkhez, nekem nem az jön le, hogy az Apple felhasználókat meggyőzte volna az Apple, hogy ez nekik jó, még ha az csomagolás tetszetőssé sikerült.

trey @ gépház

Szerkesztve: 2021. 08. 07., szo – 08:12

Kovezzetek meg, de en azt gondolom, hogy bar a szandek jo, evi 1-2 fogasnal tobbet nem fog elerni a rendszer. Most ezt szeles korben kommunikaltak, innentol aki ilyesmivel foglalkozik, tudni fogja, hogy nem Apple keszulekkel kell csinalni.

Masreszt ezekben a korokben van nemi biztonsagtudatossag. Egyszer vegighallgattam errol egy eloadast. Vannak darknet forumok, ahol felvilagositjak egymast, hogy mit hogyan kell, igy aztan sokszor teljes lemez titkositassal vedett geprol, tor halozaton keresztul, vagy titkositott USB meghajtokon csereberelik az anyagokat.

+1, a kulonbozo mentalis problemak kozt van valami korrellacio, siman lehet, hogy fognak vele par csokkent kepessegut.

Volt regen egy musor, "To Catch a Predator" volt a cime asszem. Mindig kibereltek egy hazat, par onkentes kiskorunak adta ki magat chatszobakban, es ha rajuk irt egy-egy pedo, odahivtak a bekamerazott hazba, hogy elbeszelgessenek vele. Neha fiatalabbnak sminkelt szinesz is fogadta. Az egyik epizodban besetalt a csapdajukba egy ilyen beteg ficko, aztan masnap ugyanazt a fickot ugyanazzal a nickkel sikerult elhivni egy parkoloba. Nehany ilyen szellemi szinten van. Egy hasonlobol siman kinezem, hogy spyPhone-on tarolja az ilyen kepeit. Foleg, hogy az AAPL felhasznalok sokszor azert azok, mert tul butak valami normalis rendszert hasznalni.

When you tear out a man's tongue, you are not proving him a liar, you're only telling the world that you fear what he might say. -George R.R. Martin