Egyértelműen kideríthető lesz, hogy a technológia felelős-e egy adott problémáért.

Másfél héttel ezelőtt vált ismertté, hogy az Európai Unió egy új irányelvben határozná meg, hogy a mesterséges intelligencia által okozott károkért kiknek kell felelniük. Most kiderült, hogy az EU emellett meg akarja könnyíteni a technológia áldozatai által indított pereket. Jelenleg a mesterséges intelligencia áldozatai számára rendkívül nehéz bizonyítani, hogy a technológia a "hibás" az okozott kárért. A Frankfurter Allgemeine Zeitung információi alapján az Európai Bizottság átfogó hozzáférést kíván biztosítani az érintetteknek a mesterséges intelligencia adatokhoz és naplókhoz.

A technológia mindennapi életben való egyre szélesebb körű alkalmazása új kérdéseket vet fel. Az egyik központi kérdés: ki a felelős, ha valami rosszul sül el? Ha ma valakit elüt egy autó, az ügy általában egyértelmű. Amennyiben a gépkocsit hibátlanul szállították le, a tulajdonos vagy a sofőr felel a kárért. De ki felel a téves diagnózisokért, ha az orvosok a technológiát használják? Vagy a dokumentumok mesterséges intelligencia általi helytelen értékeléséért, legyen az egy banki hitelfelvétel vagy egyéb kérelem?

Elméletileg a válasz ugyanaz, mint az összes termék esetében. Amennyiben egy termék hibás, a gyártónak meg kell térítenie a károsultnak a kárt. De az "áldozatnak" kell bizonyítania, hogy a kárt a termék okozta. Pontosan itt van a probléma: a felhasználók számára gyakran nem érthető, hogy egy mesterséges intelligencia miért és hogyan "dönt". A szakértők "feketedoboz problémáról" beszélnek, mert sokszor maguk az alkalmazók sem tudják miért az az eredmény jön ki, ami.

Az Európai Bizottság ezért tesz javaslatot a bizonyítási teher megfordítására az egyedi esetekben. A testület ezen túlmenően arra is kötelezni akarja a szolgáltatókat, hogy pontosan ismertessék, hogyan működik a technológiájuk. A javaslat szerint a sértett feleknek lehetőséget kell kapniuk arra, hogy a szolgáltatóktól például a képzési vagy vizsgálati adatok nyilvántartását, a műszaki dokumentáció és a jegyzőkönyvek adatait vagy a minőségirányítási rendszerekre vonatkozó információkat kikérhessék. Kétség esetén perelhetnek emiatt. A bíróságnak azonban gondoskodnia kell arról, hogy az üzleti titkok védelme érdekében csak a feltétlenül szükséges adatok kerüljenek nyilvánosságra.

Ha a szolgáltató ennek nem tesz eleget, a bizonyítási teher megfordul: az alkalmazónak kell bebizonyítania, hogy a mesterséges intelligenciája nem volt "hibás". Ki kell deríteni azt is, hogy ha a szolgáltató nem rendelkezett megfelelő kockázatkezeléssel, vagy ha a technológia betanítási adatai nem voltak elég jók. Mindig megfelelő emberi felügyeletet kell biztosítani. A harmadik személyt megkárosító, magas kockázatú mesterséges intelligencia felhasználóinak esetében viszont a bizonyítási teher megfordul, ha nem tartják be a használati utasítást, vagy ha az alkalmazás szempontjából nem releváns adatokkal látják el a mesterséges intelligenciát. Ettől függetlenül az Európai Bizottság nem avatkozik bele a nemzeti jogszabályokba és a javaslatból szintén kimaradtak a büntetőjogi kérdések és a közlekedési ágazattal kapcsolatos kérdések.