Mert miből áll az elvileg intelligens gondolkodó lények "öntudata"? A neurális háló elvű működés és jelenlegi ismereteinkkel meghatározhatatlan mennyiségű adat logikai feldolgozása, valós sztochasztikus, korrelációs összefüggések adott esetben szimulációs meghatározásával és még egy csomó, általam nem ismert, sok szálon futó párhuzamosan végzett becsléssekkel történő matematikai számítás lehetősége amely elvezet a végeredményhez, a döntéshez.
Nem hiszem hogy az emberi tudat működését, és az "öntudatra ébredést" túlzottan misztifikálni kellene. (Az emberbe genetikailag beépített "én-kályhák" is valamikori, pusztán rendelkezésre álló adatokból elvégzett matematikai műveletek eredményei, csak készre, - a csecsemőbe is, - már fixen beépítve.
Tehát az AI, ember által meghatározott "korlátos" öntanulásának algoritmusa nem sokáig lesz korlátos, a bevitt, feldolgozott adatmennyiség függvényében. Csak erről a folyamat pár évtizedes végére valószínűleg már nem sokat fogunk tudni.)
És nem akarok okoskodni, de az emberek fejébe sem "látunk bele", az agy működésével komolyan életeket eltöltő tudósok sem. - Hát még akkor a szokásosan hibásan program-fejlesztett, egymásra épülő algoritmusok által "önfelélesztett", működni kezdő "szörny-algoritmusok" világába.
Szerintem ez az "öntudatra ébredés" előbb bekövetkezhet mint nem, és inkább hibásan, torz szemlélettel az ember által kívánt világ irányába mint "jóságosan".