Kész áldás ez az MI az emberiség számára! Egy újabb hasznos területen sikerült bevetni, immár a radikális szélsőségesek termelik tonnaszám a propagandájukat vele...
https://www.washingtonpost.com/technology/2024/05/17/ai-isis-propaganda/
(Teljes cikk fizetős, de a hivatkozott tanulmány itt elérhető: https://ent.siteintelgroup.com/Articles-and-Analysis/extremist-movement…)
Kicsit rákeresve kiderül, egyáltalán nem újkeletű dologról van szó, nemcsak meglovagolják az épp aktuális LLM hájpot. Már évvekkel ezelőtt, 2020-ban is aktívan használták a technológiát (akkor persze még koránt sem volt ennyire kiforrott, mint manapság): https://www.bbc.co.uk/news/technology-54011034
A kérdés, ami a cikk kapcsán felmerült bennem: ha ezek a nem épp a kifinomult technikai ismereteikről híres szélsőségesek már ilyesmire képesek az erősen limitált hozzáférésükkel, akkor vajon mit tudhat az MI egy jól képzett, állami forrásokkal alaposan kitömött propagandacsoport kezében, akiknek direkt ez a dolguk és teljeskörűen hozzáférnek a legújabb cutting-edge technológiához?
Ugyan, mi baj lehet belőle...?
Hozzászólások
Paywall, nem olvasható cikk
Aláírás _Franko_ miatt törölve.
neut @
A teljes szöveg valóban csak előfizetőknek érhető el, de a lényeg már ennyiből is egyértelműen átjön. Illetve beraktam a hivatkozott tanulmány linkjét a nyitóba.
Szerintem egy terrorszervezetnek manapság organizációs szinten elég kifinomult technikai ismeretek kellenek. Én nem nézném le őket. Nyilván nem az egyszeri öngyilkos merénylő intézi a propagandát.
Nem is erre gondoltam, hanem arra, hogyha (a technológia használatában korlátozott) amatőr össze tud hozni egy ilyen minőségű Mein Kampf-ot felolvasó Emmát, akkor mire lehet ez a technológia képes egy profi kezében?
Mármint, arról az MI által generált hulladékról, ami mostanában ellepi a netet, még meg tudjuk mondani, hogy generált, na de vajon igaz ez azokra a tartalmakra is, amiket a cutting-edge technológiával, irózatos pénzből hoznak össze?
Sieg Heil!
https://www.esp8266.org/
Köszönjük a tartalmas, építő jellegű hozzászólásodat a témában.
> Már évvekkel ezelőtt, 2020-ban is aktívan használták a technológiát
igazabol szoveg generalas mar joval korabban, mar a 2017-es transformer model (amire a mai AI hype epul) megjelenese elott is letezett, es eleg jo volt:
http://karpathy.github.io/2015/05/21/rnn-effectiveness/
az LLM-ekben inkabb az a plane, hogy megertik amit kerdezel es arra tud valaszolni, ha csak fosni kell a szot adott temaban az mar 10 eve is ment.
> hozzáférnek a legújabb cutting-edge technológiához
hat a zart modellekhez (GPT, Gemini) biztos nem fernek hozza ok se, max API-n keresztul de az ugye elegge cenzurazott.
es ma mar sajat modelt epiteni se annyira koltseges, mint mondjuk 3-5 eve volt. foleg ha nem kell tudnia a vilag osszes problemajat megoldani, csak egyet...
itt van egy amit 4 nap alatt epitettem 1db 3090 kartyaval, magyar hir es forumoldalak tartalmaval tanitva:
http://193.224.38.187:23911/
mondjuk ez inkabb konteot general mint propagandat, de ez nyilvan az inputon mulik:
Volt az már régebben is, MegaHAL, 1995.
Na, ebben egyáltalán ne legyél biztos!
Van az a pénz, amiért minden megszorítás hirtelen megszűnik az API-n és adott célra betanított adatbázis kerül mögé, nem pedig a mindent tartalmazó katyvasz, amit a pórnépnek kínálnak.
Gondolj csak a Cambridge Analytica botrányra, ott is elvileg csak API-n keresztül, szigorúan szűrt adatokhoz férhettek hozzá a fejlesztők, aztán csak kiderült, nagyon is létezett az a pénz. amiért egyes cégek bármilyen FB adatot megkaphattak. Itt sincs ez másként.
Hát ezen iszonyat jót röhögtem, kösz!
> szigorúan szűrt adatokhoz férhettek hozzá a fejlesztők, aztán csak kiderült, nagyon is létezett az a pénz
nem volt az szurve egyaltalan, en is irtam anno 6-8 eve FB scrapert, eleg hatekonyan huzta le az infot sima public API-n, en is meglepodtem hogy nincs meg egy rate limit se rajta... jo nyilvan a privat csoportokba nem latott bele.
De, átlag fejlesztőnek csak olyan adatot mutatott, amit a felhasználók nem tiltottak le direktben (az más kérdés, hogy a tiltás jól el van dugva a felületen és az adatok többsége ezért publikus).
Dehogynem, csak Te nem csengettél az FB-nek eleget, neked azért nem mutatta az API. Aki perkált, mint a katonatiszt, az nemcsak a privát csoportokba, hanem még a csevegésbe is belelátott.
Pont emiatt súlytotta az FTC rekordösszegű 5 milliárd dolláros birsággal őket 2019-ben.
Ugyanezt simán kinézem bármelyik MI-s cégtől, egész biztos létezik az a pénz, amiért kötetlen API-t adnak tetszőleges céladatbázissal, csak hát ezt nem kötik az átlagfelhasználók orrára, ez csak a prémium ügyfelek számára elérhető.