Ez az egesz "ontudatra ebredes" dolog boncolgatasa szerintem nagyon felrevisz. A sci-fi irodalom es filmek szeretik ezzel a romantikus es dramai elemmel magyarazni a gepek ember ellen fordulasat, de AI safety szempontbol nincs valodi relevanciaja.
Sokkal foldhozragadtabb praktikus okai vannak, amiert egy altalanos agens szuksegszeruen ember ellen fordul.
Eleve ket kulon szot szokas hasznalni ra:
- "consciousness" - ez az a bizonyos emberi "en nezek ki a fejembol, en vagyok a testemben" elmeny, amit a tudomany jelenleg kb objektiven vizsgalni sem nagyon tud
- "self-awareness" - ez csak annyit jelent, hogy egy aktor (ember vagy gepi agens) tisztaban van vele, hogy o sajat maga is benn van a problematerben es a feladata vegrehajtasa soran figyelnie kell ra, hogy sajat magat mukodokepes es cselekvokepes allapotban megtartsa legalabb a feladat vegeig.
Ez az utobbi dolog az, amit egyreszt elvarunk egy AI-tol, hogy egyaltalan AGI-nek minosuljon es autonom modon tudjon altalanos feladatokat megoldani. Enelkul nagyon gyorsan zsakutcaba/uzemkeptelen allapotba navigalhatja magat a legegyszerubb feladat vegrehajtasa soran is. Masreszt viszont rengeteg AI safety problemanak is kivalto oka (lasd: veszleallitogomb-problema).