SG.hu
A Google MI-je azt hazudja, hogy nem Boeing, hanem Airbus repülő zuhant le Indiában
A Google nyilatkozatában az áll, hogy a mesterséges intelligencia "tartalmazhat hibákat".
Amikor jelentős események történnek, a legtöbb ember a Google-hoz rohan, hogy információt találjon. Egyre gyakrabban az első dolog, amit látnak, az egy mesterséges intelligencia áttekintés, egy olyan funkció, amely már hírhedt arról, hogy kirívó hibákat követ el. (Az Apple összefoglalója hasonlóan béna.) A tegnapi tragikus indiai repülőgép-szerencsétlenséget követően a Google MI-összefoglalója téves információkat terjeszt, azt állítva, hogy az incidens egy Airbus repülőgépet érintett - pedig valójában egy Boeing 787-es volt.
Az utazók manapság jobban odafigyelnek az utasszállító típusokra, miután néhány évvel ezelőtt a Boeing 737-es modellcsaládot érintő balesetek sorozata történt. A légitársaságok katasztrófáira vonatkozó keresések az elkövetkező napokban biztosan megugranak, mivel a jelentések szerint az Air India 171-es járatának lezuhanásakor több mint 200 utas vesztette életét. A generatív mesterséges intelligencia működése azt jelenti, hogy a Google találati oldaláról a részleteket kereső emberek egy része téves benyomást kaphat.
Nem minden keresésre kapunk MI-választ, de a Google folyamatosan bővíti ezt a funkciót a tavalyi debütálása óta. A cég keresőjét nyilvánvalóan elárasztottak az Air India balesetéről szóló találatok, és az MI magabiztosan (és tévesen) azt állította, hogy az érintett gép egy Airbus A330-as volt, amely röviddel a felszállás után lezuhant. De miért követ el a Google ilyen hibákat? A legjobb tipp a kiváltó okra az, hogy az Air India balesetéről szóló számos cikk az Airbus céget is megemlíti, mint a Boeing fő versenytársa. Az AI Overviews lényegében ezeket az eredményeket foglalja össze, és az MI rossz útra téved, mert nem képes megérteni, hogy mi az igazság.
A Google nem titkolja, hogy generatív MI-eszközei hibázhatnak - minden MI-áttekintés alján található egy nyilatkozat, amely megjegyzi, hogy „az MI-válaszok hibákat tartalmazhatnak”. Gyakorlatilag minden mesterséges intelligencia termékben van egy hasonló sor, de ez nem túl feltűnő, és a felhasználók egyszerűen elnézik ezt, amikor egy olyan robottal beszélgetnek, amely nagyon magabiztosnak tűnik a tévedéseiben. Talán ezek a figyelmeztetések nem elegendőek, amikor a hallucinációk továbbra is ilyen gyakoriak.
Ebben az esetben az AI Overview hibája felbosszanthatja az Airbus-t, amely valószínűleg egyáltalán nem szeretné, ha ebben a kontextusban megemlítenék. Eközben némi lélegzetet adhat a Boeingnek, amely a repülőgépeivel kapcsolatos közelmúltbeli problémák miatt nem kevés reputációs kárt szenvedett el.
A sajtóhírekre reagálva a Google közölte, hogy manuálisan eltávolította ezt a választ a mesterséges intelligencia áttekintéséből. "Mint minden keresési funkció esetében, itt is szigorúan fejlesztünk, és az ehhez hasonló példákat használjuk fel rendszereink frissítésére. Ez a válasz már nem jelenik meg. Minden Search funkcióval kapcsolatban magas minőségi mércét tartunk fenn, és az AI Overviews pontossági aránya megegyezik más funkciókkal, mint például a Featured Snippets."
Amikor jelentős események történnek, a legtöbb ember a Google-hoz rohan, hogy információt találjon. Egyre gyakrabban az első dolog, amit látnak, az egy mesterséges intelligencia áttekintés, egy olyan funkció, amely már hírhedt arról, hogy kirívó hibákat követ el. (Az Apple összefoglalója hasonlóan béna.) A tegnapi tragikus indiai repülőgép-szerencsétlenséget követően a Google MI-összefoglalója téves információkat terjeszt, azt állítva, hogy az incidens egy Airbus repülőgépet érintett - pedig valójában egy Boeing 787-es volt.
Az utazók manapság jobban odafigyelnek az utasszállító típusokra, miután néhány évvel ezelőtt a Boeing 737-es modellcsaládot érintő balesetek sorozata történt. A légitársaságok katasztrófáira vonatkozó keresések az elkövetkező napokban biztosan megugranak, mivel a jelentések szerint az Air India 171-es járatának lezuhanásakor több mint 200 utas vesztette életét. A generatív mesterséges intelligencia működése azt jelenti, hogy a Google találati oldaláról a részleteket kereső emberek egy része téves benyomást kaphat.
Nem minden keresésre kapunk MI-választ, de a Google folyamatosan bővíti ezt a funkciót a tavalyi debütálása óta. A cég keresőjét nyilvánvalóan elárasztottak az Air India balesetéről szóló találatok, és az MI magabiztosan (és tévesen) azt állította, hogy az érintett gép egy Airbus A330-as volt, amely röviddel a felszállás után lezuhant. De miért követ el a Google ilyen hibákat? A legjobb tipp a kiváltó okra az, hogy az Air India balesetéről szóló számos cikk az Airbus céget is megemlíti, mint a Boeing fő versenytársa. Az AI Overviews lényegében ezeket az eredményeket foglalja össze, és az MI rossz útra téved, mert nem képes megérteni, hogy mi az igazság.
A Google nem titkolja, hogy generatív MI-eszközei hibázhatnak - minden MI-áttekintés alján található egy nyilatkozat, amely megjegyzi, hogy „az MI-válaszok hibákat tartalmazhatnak”. Gyakorlatilag minden mesterséges intelligencia termékben van egy hasonló sor, de ez nem túl feltűnő, és a felhasználók egyszerűen elnézik ezt, amikor egy olyan robottal beszélgetnek, amely nagyon magabiztosnak tűnik a tévedéseiben. Talán ezek a figyelmeztetések nem elegendőek, amikor a hallucinációk továbbra is ilyen gyakoriak.
Ebben az esetben az AI Overview hibája felbosszanthatja az Airbus-t, amely valószínűleg egyáltalán nem szeretné, ha ebben a kontextusban megemlítenék. Eközben némi lélegzetet adhat a Boeingnek, amely a repülőgépeivel kapcsolatos közelmúltbeli problémák miatt nem kevés reputációs kárt szenvedett el.
A sajtóhírekre reagálva a Google közölte, hogy manuálisan eltávolította ezt a választ a mesterséges intelligencia áttekintéséből. "Mint minden keresési funkció esetében, itt is szigorúan fejlesztünk, és az ehhez hasonló példákat használjuk fel rendszereink frissítésére. Ez a válasz már nem jelenik meg. Minden Search funkcióval kapcsolatban magas minőségi mércét tartunk fenn, és az AI Overviews pontossági aránya megegyezik más funkciókkal, mint például a Featured Snippets."