"Ez olyan AI, ami úgy gondolkozik, mint te, csak felmérhetetlenül sokkal de sokkal okosabb lesz."
A mondat utolsó része az, ami miatt nem úgy fog gondolkodni mint az ember :)
De persze nem tudhatjuk, hogy is fog gondolkodni, ezért mindig magunkat, embereket vesszük alapul, mert nincs más referencia pontunk, hiszen nem ismerünk nálunknál intelligensebb lényeket.
Már csak azért is rossz az embert alapul venni, mert az embert az ember egy adott intelligenciával születik, ami fejlődik és a környezete rengeteget beleszól abba, hogy végül milyen emberré nő fel. A szülei, a hely ahol él, az iskola, a barátai, ...
Ezek egy robotnál mind hiányozni fognak.
Egyáltalán, ki neveli majd a robotokat? Ha tényleg emberszerű lesz a gondolkodásuk, akkor rájuk is lehet hatni, jó és rossz irányba egyaránt.
Egyszerűen nekik is kell valami infó arról, hogy mi a rossz és mi a jó. Viszont ha ezzel tisztában vannak, akkor szerintem ők felsőbbrendűségükből fakadóan helyes döntéseket hoznak majd. De az irányt majd nekünk kell majd megmutatnunk nekik.