Nem pontosan értem, hogy jön ide ez a consciousness és self-awareness.
Itt szerintem az a kérdés, hogy mi lesz az AI célja. Olyan ez, mint amikor egy gyereket nevelünk. A neveléssel lehet befolyásolni a céljain, de az is lehet, hogy csak megtévesztően viselkedik és közben bólogat, majd amikor kikerül a befolyásunk alól, akkor teljesen másképp fogja élni az életét. A gyerek esetében van egy "alap propgamozás", amit az evolúció alakított ki az agy huzalozásával. Egy gépnél én nem tudom, hogy mi lesz ez a(z alap) cél és azt sem, hogy tudjuk befolyásolni. Nyilván a tanítással de a direkt részleteket, a neurális háló alsó rétegeit nem fogjuk tudni átlátni.