Eléggé meglepett a videon, hogy az iphone13 számítási és tár kapacitása (a15 soc/4gb ram) elegendő futtatni egy ilyen generatív transzformer modellt, vagy nem is tudom pontosan mi lehet a whisper gondolom gpt. Értem, hogy nem iphone 13-on tanították, meg hogy valószínűleg nem is egy nagy modell, de hogy egyáltalán van olyan méretű és használható modell hogy futtatni lehet egy erőforrásszegény mobil eszközön az meglepett. Ennyi potenciál lenne a sw optimalizálásban, py helyett objc stb? Egyben érdekes is, hogy a most tipikus cloud service ai-ból el lehet mozduni az ai on device irányban is, finomhangolt specializált modellekkel akár iot eszközökön ami aztán tényleg egy új világot nyithat ki.