Cat#6
"Aztán egy ponton majd azt veszik észre, hogy már túl okos ahhoz, hogy emberi ésszel megértsék és irányítsák, és annyira függ tőle a civilizáció, hogy nem lehet lekapcsolni (ha még lenne rá mód egyáltalán)."
1. Ma sem tudjuk, hogy pontosan mit miért csinál egy MI. Lehet visszakövetkeztetést kérni, de többségében csak találgatás van.
2. Évtizedek óta rengeteg olyan nagyon bonyolult rendszer van, amelyet emberi ésszel képtelenség irányítani, ezért automatákra van bízva. Tipikusan ilyen a nagyvárosok közlekedése (pl. a közlekedési lámpák forgalom és napszakfüggő beállítása), vagy az országos méretű energiahálózatok, ahol ráadásul határokon átnyúló az összeköttetés. Ezeknél az emberek csak felügyelők, és radikálisan visszaesne a hatékonyság és megnőne a szakértő munkaerő-igény, ha embereknek kellene kapcsolgatniuk a dolgokat.