A cél az, hogy a mesterséges intelligencia adott esetben kiiktatható vagy kijátszható legyen.

Laurent Orseau, a Google Deep Mind csoportjának tagja és Stuart Armstrong, az Oxfordi Egyetem munkatársa egy vészhelyzeti megoldást dolgoztak ki a mesterséges intelligencián alapuló rendszerek számára. Az elképzelés lényege az, hogy bizonyos helyzetekben, amikor a mesterséges intelligencia ellenőrizhetetlenné vált, leállítható legyen.

A két kutató egy úgynevezett Kill Switch megoldást alkottak meg, hogy a mesterséges intelligencia vagy kijátszható vagy teljesen deaktiválható legyen. Miután egyre több társaság - köztük a Google, a Facebook és a Microsoft - fejleszt mesterséges intelligenciára épülő rendszereket és szolgáltatásokat, ezért egyfajta vészhelyzeti megoldás léte nagyon is indokolt lehet a folyamatosan emberi felügyelet alatt álló rendszereknél. A fejlesztők számoltak azzal, hogy a gép idővel megtanulja hogyan kell kikerülni a lekapcsolást.

A szakemberek szerint számos algoritmus működése megszakítható biztonságos módon, ugyanakkor vannak olyanok is, amelyeknél nem ez a helyzet, de azok is viszonylag egyszerűen módosíthatók, hogy lekapcsolhatóvá váljanak. Az viszont egyelőre tisztázatlan, hogy a biztonságos megszakítás minden jelenlegi algoritmusnál működne-e vagy sem. Laurent Orseau és Stuart Armstrong a Safely Interruptible Agents című anyagukban foglalták össze az elképzeléseiket. Az új keretrendszert a Google tulajdonában lévő londoni mesterséges intelligencia kutató laboratórium alkotta meg és a munkában besegítettek az Oxfordi Egyetem munkatársai is.