Ahhoz, hogy megalkossunk egy gépet, nem kell teljes mértékben átlátnunk a működését. Elég, ha a számunkra lényeges részeket - milyen változtatás hogyan hat a tulajdonságaira - értjük. Sőt, érteni sem kell, egyszerű próbálgatással is ki lehet tapasztalni az optimális felépítést.
Így születnek az olyan szoftverek, mint a windóz, vagy a systemd, amit az alkotója se lát át, az se tudja, hogy működik és meg is van az eredménye... Minden lesz, csak nem optimális.
Elméleti akadálya az ASI-nek sincs. Neurális hálók teljesítménye jellemzően remekül növelhető nagyobb háló és több/jobb minőségű tanítási adat felhasználásával, a szerkezet, algoritmusok változtatása nélkül.Hasonlót egyébként már láttunk a sakkprogramok fejlődésénél. Ahhoz, hogy a világbajnokot legyőzni képes sakkprogramot csináljon valaki, elég csak felületesen ismernie a játékot, a többit pótolja a számítógép nyers ereje.
Ez nyers matek, nem gondolkodás. Ahhoz nem kell gondolkodni, hogy péppé verj egy sakkvilágbajnokot, elég, ha gyorsabban számolod ki az összes lehetőséget; a Deep Blue már 30 éve is elpáholta Kaszparovot.