Szerintem a sok matek elég sokféle lehet, nem csak machine learning. Elméleti fizikusok sokmindenre szoktak formulamanipulációs programokat használni (Maple, Mathematica, Reduce, ...), ezek közül pl. a Reduce free (both as in free beer and as in free speech), a fejlesztői .deb csomagot csinálnak a snapshotokból, én ubuntun használom, de biztos egy csomó más disztribúción is elmegy.
Manapság a python tényleg nagyon divatos tudományos (numerikus) feladatok megoldására, de igazából nem a legalkalmasabb nyelv. Itt van egy relatíve új nyelv is, a Julia, abból még elég sok disztróra nincs csomag, ez is lehet egy szempont.
Ugyanakkor szerintem a fizikusnak a számítógép elsősorban eszköz, az a jó, ha nem kell sok időt tölteni a reszelgetésével -> ha már ismersz egy disztribúciót, azt érdemes használni, és a tudományos célú programokat valahogy felrakni rá (csomag, bináris targéza, vagy source).