Berta Sándor
Az arcfelismerés kockázataitól tart a Microsoft
A tengerentúli óriáscég illetékese szerint túl sok hivatal támaszkodik az eljárásra.
Bár a különböző arcfelismerő rendszerekkel az IT-cégek sok pénzt kereshetnek, s a hatóságok és a kormányok növekvő érdeklődése miatt folyamatosan nő a kereslet e megoldások iránt, de Tim O'Brien szerint nem minden szólhat a bevételekről. A menedzser a Microsoft mesterséges intelligencia programokért felelős ügyvezető igazgatója és egyúttal a társaság etikai vezetője. A szakember elsősorban az arcfelismerő technológiákkal foglalkozik.
Azt O'Brien is elismerte, hogy az arcfelismerő megoldások rendkívül sok előnyt kínálnak, többek között lehetővé tehetik az eltűnt vagy elhunyt személyek azonosítását, de ott van az érem másik oldala is: a visszaélési lehetőség. Nem véletlen, hogy New Hamsphire, Oregon és Kalifornia megtiltotta a helyi hatóságoknak az arcfelismerő rendszerek alkalmazását. A menedzser szerint a legnagyobb probléma az, hogy az emberek hajlamosak arra, hogy megbízzanak a technológiában. Az automatizált eszközök jelenléte arra csábítja a felhasználókat, hogy már ne is hozzanak önálló döntéseket és azt tegyék, amit a számítógép javasol nekik. A kísértés nagy és ha rossz a döntés, azzal sokat lehet ártani az érintett személy(ek)nek.
A szakember hozzátette, hogy az is problémás, hogy egyetlen arckifejezésből akarnak a rendszerek következtetni az emberek aktuális érzelmi állapotára. Ráadásul gyakori, hogy a kutatók színészeket kérnek fel a megoldások beállítására vagy képzésére és arra, hogy különböző mimikákat mutassanak. Az előítéletektől természetesen a Microsoft szoftvere sem mentes. O'Brien rámutatott, hogy minden vállalatnak kötelessége lenne ismertetni a rendszerei hibáit és a gyengeségeit, s mindent közérthetően dokumentálni. Az ügyfelek bizalmát ugyanis csak így lehet elnyerni. A hibák teljesen rendben vannak, ha azokból tanulnak a piaci szereplők.
A Microsoft etikai vezetője hangsúlyozta, hogy sajnos mindig lesz valamennyi előítélet, de lehet és kell is harcolni a jelenség ellen, dolgozni kell a vakfoltok eltüntetésén. A menedzser hisz abban, hogy az arcfelismerő és más hasonló technológiákat a jövőben igazságosabbá lehet tenni. Rámutatott: felelőtlenek lennének, ha nem lennének őszinték és nem beszélnének nyíltan a kockázatokról, ugyanis csak ebben az esetben lehet egy olyan jövőt létrehozni, amelyben az emberek jól érzik magukat.
Korábban Brad Smith, a Microsoft elnöke és jogi igazgatója szintén bírálta az arcfelismerő szoftvereket és azok hasznosságát. A menedzser azt írta, hogy az arcfelismerés egy komoly eszköz, amelyet rosszul alkalmaznak és az ilyen megoldások használatát a kormányoknak szabályozniuk kellene. Ráadásul kérdéses, hogy a technológia mennyire használható észszerűen és jogsértések nélkül. Szerinte ebben a folyamatban komoly szerepük van az olyan cégeknek, mint a Google és az Amazon, amelyek képfelismerő programokat készítenek katonai és politikai célokra. Szerinte az arcfelismerés jó példát jelent azokra a mesterséges intelligencia algoritmusokra, amelyek a jövőben számos etikai kérdést vetnek majd fel.
Bár a különböző arcfelismerő rendszerekkel az IT-cégek sok pénzt kereshetnek, s a hatóságok és a kormányok növekvő érdeklődése miatt folyamatosan nő a kereslet e megoldások iránt, de Tim O'Brien szerint nem minden szólhat a bevételekről. A menedzser a Microsoft mesterséges intelligencia programokért felelős ügyvezető igazgatója és egyúttal a társaság etikai vezetője. A szakember elsősorban az arcfelismerő technológiákkal foglalkozik.
Azt O'Brien is elismerte, hogy az arcfelismerő megoldások rendkívül sok előnyt kínálnak, többek között lehetővé tehetik az eltűnt vagy elhunyt személyek azonosítását, de ott van az érem másik oldala is: a visszaélési lehetőség. Nem véletlen, hogy New Hamsphire, Oregon és Kalifornia megtiltotta a helyi hatóságoknak az arcfelismerő rendszerek alkalmazását. A menedzser szerint a legnagyobb probléma az, hogy az emberek hajlamosak arra, hogy megbízzanak a technológiában. Az automatizált eszközök jelenléte arra csábítja a felhasználókat, hogy már ne is hozzanak önálló döntéseket és azt tegyék, amit a számítógép javasol nekik. A kísértés nagy és ha rossz a döntés, azzal sokat lehet ártani az érintett személy(ek)nek.
A szakember hozzátette, hogy az is problémás, hogy egyetlen arckifejezésből akarnak a rendszerek következtetni az emberek aktuális érzelmi állapotára. Ráadásul gyakori, hogy a kutatók színészeket kérnek fel a megoldások beállítására vagy képzésére és arra, hogy különböző mimikákat mutassanak. Az előítéletektől természetesen a Microsoft szoftvere sem mentes. O'Brien rámutatott, hogy minden vállalatnak kötelessége lenne ismertetni a rendszerei hibáit és a gyengeségeit, s mindent közérthetően dokumentálni. Az ügyfelek bizalmát ugyanis csak így lehet elnyerni. A hibák teljesen rendben vannak, ha azokból tanulnak a piaci szereplők.
A Microsoft etikai vezetője hangsúlyozta, hogy sajnos mindig lesz valamennyi előítélet, de lehet és kell is harcolni a jelenség ellen, dolgozni kell a vakfoltok eltüntetésén. A menedzser hisz abban, hogy az arcfelismerő és más hasonló technológiákat a jövőben igazságosabbá lehet tenni. Rámutatott: felelőtlenek lennének, ha nem lennének őszinték és nem beszélnének nyíltan a kockázatokról, ugyanis csak ebben az esetben lehet egy olyan jövőt létrehozni, amelyben az emberek jól érzik magukat.
Korábban Brad Smith, a Microsoft elnöke és jogi igazgatója szintén bírálta az arcfelismerő szoftvereket és azok hasznosságát. A menedzser azt írta, hogy az arcfelismerés egy komoly eszköz, amelyet rosszul alkalmaznak és az ilyen megoldások használatát a kormányoknak szabályozniuk kellene. Ráadásul kérdéses, hogy a technológia mennyire használható észszerűen és jogsértések nélkül. Szerinte ebben a folyamatban komoly szerepük van az olyan cégeknek, mint a Google és az Amazon, amelyek képfelismerő programokat készítenek katonai és politikai célokra. Szerinte az arcfelismerés jó példát jelent azokra a mesterséges intelligencia algoritmusokra, amelyek a jövőben számos etikai kérdést vetnek majd fel.