SG.hu
Az MI-re támaszkodás elsorvasztja az önálló gondolkodást
A mesterséges intelligencia ígéretes módszer lehet a munkahelyi termelékenység növelésére, de a technológia elkoptatja a készségeket, azaz megakadályozhatja a szakembereket abban, hogy saját tudásukat frissen tartsák.
Úgy tűnik, hogy az MI rontja egyes orvosok képességét a rutinvizsgálatok során az eltérések észlelésére. A Lancet Gastroenterology & Hepatology folyóiratban megjelent tanulmány szerint azok a belgyógyászok, akik kolonoszkópia eljárások során MI-támogató eszközöket használtak, alacsonyabb arányban észlelték a rendellenességeket, miután ezeket az eszközöket elvették tőlük. A tanulmányt végző Dr. Marcin Romanczyk szerint az eredmények meglepőek voltak, és úgy vélte, hogy a felismerési arány csökkenése részben az MI-ra való túlzott támaszkodásnak köszönhető. A példa nem egyedi: olyan kritikus ágazatokban, mint a légi közlekedés, ahol életek forognak kockán, már korábban is voltak bizonyítékok arra, hogy a szakemberek a biztonság rovására túlzottan az automatizálásra támaszkodnak.
1443 olyan beteg esetében, akiknél MI-támogatott rendszerekkel és anélkül végeztek kolonoszkópiát, az MI-támogató rendszerrel megismerkedett belgyógyászok a technológia használatával 28,4%-os arányban észlelték a potenciális polipokat, míg az MI-eszközök használatának megszűnése után ez az arány 22,4%-ra csökkent, ami 20%-os csökkenést jelent az észlelési arányban. Az orvosok kudarca, hogy már nem tudtak annyi polipot felismerni a vastagbélben, amikor már nem használták az MI-támogatást, meglepetésként ért Dr. Marcin Romanczykot, a lengyelországi Tychy H-T. Medical Center gasztroenterológusát, a tanulmány szerzőjét. Az eredmények nemcsak az MI-ra való túlzott támaszkodásból fakadó potenciális lustaságot kérdőjelezik meg, hanem az orvosok és a régóta fennálló analóg képzés közötti változó kapcsolatot is.
"Az orvostudományt könyvekből és mentorainktól tanultuk. Figyeltük őket. Ők mondták meg nekünk, mit kell tennünk” - mondta Romanczyk. "Most pedig egy mesterséges objektum sugallja, mit kell tennünk, hova kell néznünk, és valójában nem tudjuk, hogyan kell viselkedni abban a konkrét esetben.” Romanczyk tanulmánya hozzájárul ahhoz a növekvő mennyiségű kutatáshoz, amelyek megkérdőjelezik az emberek képességét az MI használatára anélkül, hogy saját készségeiket veszélyeztetnék. Tanulmányában az MI-rendszerek segítettek a vastagbél polipjainak azonosításában úgy, hogy zöld kerettel jelölték meg a rendellenességek helyét. Romanczyk és csapata természetesen megvizsgálta, miért viselkedtek így az orvosok, de mivel nem számítottak erre az eredményre, ezért nem gyűjtöttek adatokat arról, hogy miért történt ez.
Romanczyk azt feltételezi, hogy a belgyógyászok annyira megszokták a zöld négyzet keresését, hogy amikor a technológia már nem volt ott, a szakembereknek nem volt okuk bizonyos területekre figyeljenek. Ezt „Google Maps-hatásnak” nevezte, és a kutatási eredményében a papír térképek korszakából a GPS korszakába való átmenet során a járművezetőkben lezajlott változásokhoz hasonlította: sokan ma már annyira az automatizálásra támaszkodnak a leghatékonyabb útvonal megtervezéséhez, hogy míg 20 évvel ezelőtt könnyedén kitalálták azt maguk, ma már erre képtelenek lennének.
Az MI egyre növekvő használata a munkahelyeken nagy reményeket keltett a munkahelyi teljesítmény javítását illetően. A Goldman Sachs tavaly azt jósolta, hogy a technológia 25%-kal növelheti a termelékenységet. Azonban a legújabb kutatások arra is figyelmeztetnek, hogy az MI-eszközök bevezetése negatív hatásokkal is jár. A Microsoft és a Carnegie Mellon Egyetem egy idei tanulmánya megállapította, hogy a megkérdezett tudásmunkások körében az MI növelte ugyan a hatékonyságot, de csökkentette a tartalommal való kritikus foglalkozást, és gyengítette az ítélőképességet.
Az automatizálásnak az emberi kritikus képességek elsorvadásában játszott szerepének valós következményei már jól ismertek. 2009-ben az Air France 447-es járata Rio de Janeiroból Párizsba tartva az Atlanti-óceánba zuhant, és a fedélzeten tartózkodó 228 utas és a repülőgép személyzete mindannyian életüket vesztették. A vizsgálat megállapította, hogy a repülőgép autopilótája meghibásodott, mert jégkristályok zavarták meg a sebességérzékelőket, és a repülőgép automatizált „repülésirányítója” pontatlan információkat kapott. A repülőszemélyzet azonban nem volt megfelelően kiképezve arra, hogyan kell ilyen körülmények között manuálisan repülni, és a megfelelő korrekciók helyett az automatizált repülésirányító hibás utasításait követték.
Az Air France balesete egyike azoknak a baleseteknek, amelyekben az emberek nem voltak megfelelően kiképezve, és helyette automatizált funkciókra támaszkodtak. "Olyan helyzet alakult ki, hogy vannak pilóták, akik nem értik, mit csinál a repülőgép, hacsak egy számítógép nem értelmezi nekik” - mondta William Voss, a Flight Safety Foundation elnöke az Air France-vizsgálat kapcsán. "Ez nem az Airbusra vagy az Air France-ra jellemző probléma. Ez egy új képzési kihívás, amellyel az egész iparágnak szembe kell néznie.”
Ezek az események számvetésre kell kényszerítsenek minket, különösen az olyan kritikus ágazatokban, ahol emberi életek forognak kockán - véli Lynn Wu, a Pennsylvaniai Egyetem információs tanszékének docense. Bár az iparágaknak a technológiára kell támaszkodniuk, az intézményeknek kell gondoskodniuk arról, hogy az emberek megfelelően alkalmazzák azt - mondta. "Fontos, hogy tanuljunk a repülés történetéből és az automatizálás előző generációjából, hogy az MI abszolút mértékben is javítsa a teljesítményt” - mondta Wu. "De ugyanakkor meg kell őriznünk a kritikus készségeket, hogy amikor az MI nem működik, tudjuk, hogyan kell átvenni az irányítást.”
Hasonlóképpen, Romanczyk sem kerüli az MI jelenlétét az orvostudományban. "Az MI része lesz, vagyis máris része az életünknek, akár tetszik, akár nem” - mondta. "Nem azt akarjuk mondani, hogy az MI rossz, és nem szabad használni. Inkább azt mondjuk, hogy mindannyiunknak meg kell próbálnunk megvizsgálni, mi történik az agyunkban, hogyan hat ránk? Hogyan tudjuk hatékonyan használni?” Ha a szakemberek és a specialisták továbbra is az automatizálást akarják használni munkájuk javítására, akkor kötelességük megőrizni kritikus készségeiket - mondta Wu. Az MI emberi adatokra támaszkodik a képzéséhez, ami azt jelenti, hogy ha a képzése hibás, akkor az eredménye is az lesz. "Ha mi nagyon rosszak vagyunk valamiben, akkor az MI is nagyon rossz lesz” - mondta Wu. "Jobbnak kell lennünk ahhoz, hogy az MI is jobb legyen.”
Úgy tűnik, hogy az MI rontja egyes orvosok képességét a rutinvizsgálatok során az eltérések észlelésére. A Lancet Gastroenterology & Hepatology folyóiratban megjelent tanulmány szerint azok a belgyógyászok, akik kolonoszkópia eljárások során MI-támogató eszközöket használtak, alacsonyabb arányban észlelték a rendellenességeket, miután ezeket az eszközöket elvették tőlük. A tanulmányt végző Dr. Marcin Romanczyk szerint az eredmények meglepőek voltak, és úgy vélte, hogy a felismerési arány csökkenése részben az MI-ra való túlzott támaszkodásnak köszönhető. A példa nem egyedi: olyan kritikus ágazatokban, mint a légi közlekedés, ahol életek forognak kockán, már korábban is voltak bizonyítékok arra, hogy a szakemberek a biztonság rovására túlzottan az automatizálásra támaszkodnak.
1443 olyan beteg esetében, akiknél MI-támogatott rendszerekkel és anélkül végeztek kolonoszkópiát, az MI-támogató rendszerrel megismerkedett belgyógyászok a technológia használatával 28,4%-os arányban észlelték a potenciális polipokat, míg az MI-eszközök használatának megszűnése után ez az arány 22,4%-ra csökkent, ami 20%-os csökkenést jelent az észlelési arányban. Az orvosok kudarca, hogy már nem tudtak annyi polipot felismerni a vastagbélben, amikor már nem használták az MI-támogatást, meglepetésként ért Dr. Marcin Romanczykot, a lengyelországi Tychy H-T. Medical Center gasztroenterológusát, a tanulmány szerzőjét. Az eredmények nemcsak az MI-ra való túlzott támaszkodásból fakadó potenciális lustaságot kérdőjelezik meg, hanem az orvosok és a régóta fennálló analóg képzés közötti változó kapcsolatot is.
"Az orvostudományt könyvekből és mentorainktól tanultuk. Figyeltük őket. Ők mondták meg nekünk, mit kell tennünk” - mondta Romanczyk. "Most pedig egy mesterséges objektum sugallja, mit kell tennünk, hova kell néznünk, és valójában nem tudjuk, hogyan kell viselkedni abban a konkrét esetben.” Romanczyk tanulmánya hozzájárul ahhoz a növekvő mennyiségű kutatáshoz, amelyek megkérdőjelezik az emberek képességét az MI használatára anélkül, hogy saját készségeiket veszélyeztetnék. Tanulmányában az MI-rendszerek segítettek a vastagbél polipjainak azonosításában úgy, hogy zöld kerettel jelölték meg a rendellenességek helyét. Romanczyk és csapata természetesen megvizsgálta, miért viselkedtek így az orvosok, de mivel nem számítottak erre az eredményre, ezért nem gyűjtöttek adatokat arról, hogy miért történt ez.
Romanczyk azt feltételezi, hogy a belgyógyászok annyira megszokták a zöld négyzet keresését, hogy amikor a technológia már nem volt ott, a szakembereknek nem volt okuk bizonyos területekre figyeljenek. Ezt „Google Maps-hatásnak” nevezte, és a kutatási eredményében a papír térképek korszakából a GPS korszakába való átmenet során a járművezetőkben lezajlott változásokhoz hasonlította: sokan ma már annyira az automatizálásra támaszkodnak a leghatékonyabb útvonal megtervezéséhez, hogy míg 20 évvel ezelőtt könnyedén kitalálták azt maguk, ma már erre képtelenek lennének.
Az MI egyre növekvő használata a munkahelyeken nagy reményeket keltett a munkahelyi teljesítmény javítását illetően. A Goldman Sachs tavaly azt jósolta, hogy a technológia 25%-kal növelheti a termelékenységet. Azonban a legújabb kutatások arra is figyelmeztetnek, hogy az MI-eszközök bevezetése negatív hatásokkal is jár. A Microsoft és a Carnegie Mellon Egyetem egy idei tanulmánya megállapította, hogy a megkérdezett tudásmunkások körében az MI növelte ugyan a hatékonyságot, de csökkentette a tartalommal való kritikus foglalkozást, és gyengítette az ítélőképességet.
Az automatizálásnak az emberi kritikus képességek elsorvadásában játszott szerepének valós következményei már jól ismertek. 2009-ben az Air France 447-es járata Rio de Janeiroból Párizsba tartva az Atlanti-óceánba zuhant, és a fedélzeten tartózkodó 228 utas és a repülőgép személyzete mindannyian életüket vesztették. A vizsgálat megállapította, hogy a repülőgép autopilótája meghibásodott, mert jégkristályok zavarták meg a sebességérzékelőket, és a repülőgép automatizált „repülésirányítója” pontatlan információkat kapott. A repülőszemélyzet azonban nem volt megfelelően kiképezve arra, hogyan kell ilyen körülmények között manuálisan repülni, és a megfelelő korrekciók helyett az automatizált repülésirányító hibás utasításait követték.
Az Air France balesete egyike azoknak a baleseteknek, amelyekben az emberek nem voltak megfelelően kiképezve, és helyette automatizált funkciókra támaszkodtak. "Olyan helyzet alakult ki, hogy vannak pilóták, akik nem értik, mit csinál a repülőgép, hacsak egy számítógép nem értelmezi nekik” - mondta William Voss, a Flight Safety Foundation elnöke az Air France-vizsgálat kapcsán. "Ez nem az Airbusra vagy az Air France-ra jellemző probléma. Ez egy új képzési kihívás, amellyel az egész iparágnak szembe kell néznie.”
Ezek az események számvetésre kell kényszerítsenek minket, különösen az olyan kritikus ágazatokban, ahol emberi életek forognak kockán - véli Lynn Wu, a Pennsylvaniai Egyetem információs tanszékének docense. Bár az iparágaknak a technológiára kell támaszkodniuk, az intézményeknek kell gondoskodniuk arról, hogy az emberek megfelelően alkalmazzák azt - mondta. "Fontos, hogy tanuljunk a repülés történetéből és az automatizálás előző generációjából, hogy az MI abszolút mértékben is javítsa a teljesítményt” - mondta Wu. "De ugyanakkor meg kell őriznünk a kritikus készségeket, hogy amikor az MI nem működik, tudjuk, hogyan kell átvenni az irányítást.”
Hasonlóképpen, Romanczyk sem kerüli az MI jelenlétét az orvostudományban. "Az MI része lesz, vagyis máris része az életünknek, akár tetszik, akár nem” - mondta. "Nem azt akarjuk mondani, hogy az MI rossz, és nem szabad használni. Inkább azt mondjuk, hogy mindannyiunknak meg kell próbálnunk megvizsgálni, mi történik az agyunkban, hogyan hat ránk? Hogyan tudjuk hatékonyan használni?” Ha a szakemberek és a specialisták továbbra is az automatizálást akarják használni munkájuk javítására, akkor kötelességük megőrizni kritikus készségeiket - mondta Wu. Az MI emberi adatokra támaszkodik a képzéséhez, ami azt jelenti, hogy ha a képzése hibás, akkor az eredménye is az lesz. "Ha mi nagyon rosszak vagyunk valamiben, akkor az MI is nagyon rossz lesz” - mondta Wu. "Jobbnak kell lennünk ahhoz, hogy az MI is jobb legyen.”