A "Ryzen AI" egyelőre Windows-only, az AMD tudni akarja, hogy érdekli-e a linuxosokat

AMD

Az újabb, AMD Ryzen 7040 sorozatú laptopokkal megérkezett a felhasználókhoz a Ryzen AI:

A Ryzen AI szoftverplatform lehetővé teszi a fejlesztők számára, hogy PyTorch vagy TensorFlow segítségével képzett gépi tanulási modelleket futtassanak olyan laptopokon, amelyekben jelen van az AMD Ryzen™ AI technológia. A szoftver intelligensen optimalizálja a feladatokat és terheléseket, felszabadítva a CPU és GPU erőforrásokat, és lehetővé teszi az optimális teljesítmény elérését alacsony energiafogyasztás mellett.

Szépséghibája, hogy mindezt csak Windowson. A linuxosok persze ezt kikérték maguknak:

This is how a story gets off to a bad start.

AMD is losing the Linux guys https://youtu.be/Mr0rWJhv9jU

Mármint, hogy az nem jó irány, hogy egy processzor feature Windows-only.

A panaszos jegyet csakhamar lezárták. De, az AMD staff egy tagja nemrég újranyitotta, hogy a linuxosok, összeszedhessék igényeiket.

Szóval, aki szerint nincs rendben az, hogy egy új AMD CPU funkció csak Windows felhasználók számára érhető el, az jelezze!

( x-daemon | 2023. 10. 24., k – 17:51 )

kar lenne parlagon hagyni, mire lehet hasznalni? a pytorch es a tensorflow nem ad nekem ehhez eleg infot.

neked aztan fura humorod van...

> a pytorch es a tensorflow

az AI cuccok 90+ %-a ezen frameworkok egyikere epul, szoval szinte barmire lehetne hasznalni.

mas kerdes, ha a tanitast nem tamogatja csak a "hasznalatot" akkor az azert elegge bekorlatozza.

meg nekem ez elegge bullshit szagu, milyen AI funkcio lehet az a CPU-ban? gondolom olyasmi lehet mint intelnel az AVX-ek, azaz plusz utasitasok vektoros muveletekhez... gondolom azert is zart valami es nem akarjak opensource kiadni mert akkor kiderulne a parasztvakitas.

Támogatja a tanítást, és azt állítják, hogy a szoftveres megoldáshoz képest, nyolcszoros gyorsulást értek el, úgy, hogy 40%-kal kevesebb energiát igényel. Ami a blogokat, nyelvi modellek, amiket írtál, jelentősen gyorsítja.

Bár abban a tokozásban van, kitérnek arra, hogy a CPU és GPU terheit csökkenti. Ebből én azt gondolom, hogy egy megvásárolható darab, amiben van CPU, GPU meg még ki tudja mi, mellette van egy fel vásárolt XDNA, ami külön található a kis négyzet alapú hasábban.

A célról, hogy miért kerül egy tokozásba a CPU és GPU mellett a Xilinx-től vásárolt technológia, az, hogy a felhőből, az ott futtatott számításokat áthelyezzék a felhasználóhoz laptopra, nem is veszélyes Watt mennyiséggel, ami maximum 54W.

igen/nem johet:
intel pentium mainstream volt?
ha szerinted nem, akkor hagyjuk is :)

az, hogy hanyan voltak hajlandoak megvenni hozza az "intel-kartya DLC" kaparossorsjegyet, teljesen mas kerdes. a lehetoseg adott volt.
azt meg majd meglatjuk, hogy hany linuxos/windozos scripter fog ryzen mobil procival AI-sat jatszani... :)

nem. "az, hogy hanyan voltak hajlandoak megvenni hozza az "intel-kartya DLC" kaparossorsjegyet, teljesen mas kerdes. "
miert nem?
mert nem volt piacilag eletkepes :)

intel szerint persze kurvajo otlet volt :)
https://www.pcworld.com/article/481956/article-860.html

( Raynes v | 2023. 10. 24., k – 18:06 )

Engem nem érdekel az AI, de linuxosként nagyon támogatom, hogy ne csak Win only funkció legyen. Aki akarja használni, az tudja, meg az AMD is több lábon áll, ha multiplatformosak a megoldásai, külön marketingpont lehet az eladásoknál, reklámban, stb..

“Windows 95/98: 32 bit extension and a graphical shell for a 16 bit patch to an 8 bit operating system originally coded for a 4 bit microprocessor, written by a 2 bit company that can't stand 1 bit of competition.”

Engem érdekelne, de csak ismerkedés szintjén, ezért kínlódok pont egy HP Ryzen mini-pc bios hekkelésével :) igaz, nem ez a széria, kissé öregecske, de lehet bele nvidia kártyát is tenni és mivel nincsen konkrét célom, szeretném ha lenne a sufniban egy ismerkedésre talán elégséges gép, kínlódok vele még kicsit aztán nekiadom a lányomnak Steam-ezni ;). Ha az újabb AMD AI-t ismerő procijával be tudok szerezni egy kicsi gépet, ami esetleg még tartalmaz egy pci-e sínt is egy további nvidia laphoz, akkor jó lenne ha ezt is támogatná, mert nekem egyetlen gépem sincsen amin win futna! Így teljesen azonosulni tudok azzal amit írtál, mert alapvetően szeretem az AMD megoldásait, de mintha minden termékvonalukon van valami gebasz, olyan semmilyen érzésem van, mert soha nem teljes az AMD kép!

„Niemand ist unnütz! Man kann immer noch als schlechtes Beispiel dienen!”

dzsolt

( emberk | 2023. 10. 24., k – 18:22 )

Szerkesztve: 2023. 10. 24., k – 18:54

Hát nem tudom, Amennyiben csak inference olyan sokat nem biztos hogy ér. A tanításaimhoz nyilván nem jóm forwardhoz külön gépet önmagában nem látom értelmét. Nekem egy 3060-as gpu-m van (erősen belépő szint ai-nál)az 1XX-k ért már megveszed, és inference esetén még nem futottam olyan hálóba bele amire nem elég, és kikísérltezni kis batchen hogy mi az ami működhet elég. Komoly tanításra meg úgyis szerver kell. Ha volna rajta backprop érdekelne kíséréleti fejlesztésre jó lehet. Nem tudom mennyire költséges azt támogatni, hogy ez linuxon is menjen egyébként. Fejlesztőknek ez kevés. Inkább azon ügyködnének hogy legyen konkurens az nvidia-nak trainra. Próbálta egy kolegám a pytorch-rocm-ot. Hagyjuk.

( Carter | 2023. 10. 24., k – 18:54 )

"olyan laptopokon" - de nagy bullshit szöveg. Aki gépi tanulásra használja a gpu-t az 1) nem ótvar tetűlassú laptoppal szívatja magát 2) nem az energiafogyasztás fogja érdekelni b) ha mégis, akkor meg nem pytorch-ot fog használni...

Ez nem csak laptopokról szól! A beágyazott rendszerek, mini-pc megoldások, robotika, autonóm vezetés, stb... ahol a méret és a teljesítményfelvétel számít az mind idetartozik. Még ha nem is nyújt akkor a teljesítményt, mint egy desktop vagy egy munkaállomás esetleg erre kihegyezett szerver, akkor is vannak használati esetek ahol van létjogosultsága és egy öntökönszúrás (amihez ért ám az AMD) kizárni a linuxot ebből! Azért lássuk be, a világ nagy és nem az orrod elé tolt részén fut linux a háttérben. A beágyazott rendszerek jelentős piaca linuxra alapoz. Hosszútávon pedig -akarjuk vagy nem- a kenyérpirítón és a cirokseprőn is AI lesz, kár lenne ha a kenyér is MS licencel pirulhatna csak vagy a sarokban ott maradna a por, mert a licenc nem engedi a fejlesztést abban az irányban. Szóval a laptopok csak a látható réteg, de ez ennél távolabbra mutat!

„Niemand ist unnütz! Man kann immer noch als schlechtes Beispiel dienen!”

dzsolt

( KGer | 2023. 10. 24., k – 18:58 )

ez azt jelenti hogy csak win-only driver van az AI hardware-hez és a driver-t nem lehet rendesen visszafejteni?

 

( zrubi v | 2023. 10. 24., k – 22:48 )

az idei buzzword: AI-t mindenhová!

 

majd elmúlik... :D

 

szerintem.

zrubi.hu

jelenleg az IBM-nek dolgozom, igen. :)

De nem, nem én vagyok az IBM! Sőt, elég sokszor még a 'véleményünk' sem egyezik ;)

Amit ide 'nyilatkozok' az minden esetben határozottan magánvélemény, és semmi köze az IBM - mint cég -  termékeihez, politikájához, vagy akár csak a marketing mantráihoz.

 

De egyébként a termékről:

ahogy látható, az nem a CPU-ba barmol bele, hanem egy kiegészítő - opcionális - 'célhardver'.

Aminek egyébként  szerintem is van értelme ;)

zrubi.hu

( trey | 2023. 10. 25., sze – 07:32 )

Szerkesztve: 2023. 10. 25., sze – 07:53

De milyen szépen elment mindenki a "jósrác" AMD húzása mellett, hogy élből lezárta a linuxosok panaszticketét, majd miután kezdett nagyobb nyilvánosságot kapni, nagy kegyesen visszanyitották, mindenféle különösebb ígéret nélkül ...

(AMD-huszárok: NagyZ, Raynes stb. véleményei jöhetnek)

trey @ gépház

A Github alapján nekem ez inkább úgy tűnik hogy ez nem önmagában egy CPU funkció, hanem egy könyvtár, amin keresztül az átlagfelhasználó el tudja érni ezeket a funkciókat (AMD Ryzen™ AI Software Platform includes the tools and runtime libraries for for optimizing and deploying AI inference on your AMD Ryzen™ AI based PC.).

Illetve máshol azt is írják, hogy úgy néz ki, a Linux kernelben is dolgoznak: "All the communications have only referenced Microsoft Windows 11 support, so the Linux support may be lacking but at the same time we've seen a lot of AMD-Xilinx code going upstream into the Linux kernel in recent months albeit not explicitly mentioning Ryzen AI."

Oké. Értem, hogy kellemetlen.

Van egy funkció, amit az AMD Windowson 0. napon támogat, Linuxon a fasorban sincs. Reklamációra magyarázat nélkül zárják a ticket-et, majd elkerülendő a PR-katasztrófát, nagy kegyesen megnyitják.

Szuper kis hozzáállás. Leírom helyetted én:

A fasz üsse ki a fogukat!

trey @ gépház

( GoRien | 2023. 10. 25., sze – 10:51 )

Engem nem érdekel az AI. Egy újabb ócska ámítástechnikai parasztvakítás, ugyanúgy mint az informatika nagy része. Mondanám, hogy hagyják meg a degeneratív AI-t a windowsosoknak, de ezzel a kívánsággal is csak rosszat kívánnék magomnak, úgyhogy ne legyen se linuxosoknak, se windowsosoknak.

És még van jópár ilyen számítástechnikának nevezett ámítástechnika, amire szeretik verni a f*rkukat ezek az ócska ámítástechnikai cégek. Davosi agyhalott ámokfutó kuplerájok.

Jó, hát úgy egészében persze, hogy az, de pl a neurális hálók nagyon is hasznos dolog, olyan problémákra, amit eddig vért pisálva se nagyon lehetett algoritmizálni, valamint át tudja alakítani a felhasználói interfészeket, még ha itt sokan nem is örülnek, mert bash scripttel kelnek és RegExp-pel álmodnak. Nem kell mindenkinek informatikusnak lenni és van igény egy végtelenségig könnyen kezelhető univerzális eszközre. Ezekhez meg kell a hw támogatás.

Színes vászon, színes vászon, fúj!

Kérem a Fiátot..

( bolond | 2023. 10. 25., sze – 14:43 )

Szerintem reklámot akartak csinálni.

:)

( hyperborg | 2023. 10. 25., sze – 14:47 )

Jó lenne, ha nem kellene külön Google Coralt venni ha az ember Frigate-t akar futtatni (hogy az IP kamera felismerje a postást :D) 
A Frigate alaphangol Linux, szóval use-case is meglenne.