Az AI rejtett hibái és emberi gondolkodásmód
A legutóbbi Qubit Live eseményen, amely a mesterséges intelligencia (AI) korlátait és az azon belüli elvárásokat tárgyalta, Jelasity Márk, a Szegedi Tudományegyetem Mesterséges Intelligencia Tanszékének vezetője bemutatta, hogy a jelenlegi AI modellek működése sok szempontból eltér az emberi gondolkodástól. Előadása azt sugallja, hogy ezek az alkalmazások többsége az adatalapú tanulásra épül, amely gyakran nem tükrözi a valóságokat és rendszerhibákhoz vezet.
Jelasity kiemelte, hogy az AI modellek tanulása nem a szabályok megértésén alapul, hanem hatalmas mennyiségű adat – például sakklépések vagy állatok képei – bemutatásán. A modellek, mint a DeepMind AlphaZero, a saját generált játszmákból tanulnak, ám ezek nem mindig képesek a gyenge állásokból tanulni, mivel rögzített stratégiákra támaszkodnak, ami végül hibás következtetésekhez vezethet.
Továbbá, bemutatta a problémát, hogy az AI rendszerek hajlamosak hibás döntéseket hozni, például a kutyák és macskák megkülönböztetésében, ahol a modellek gyakran magabiztosan téves válaszokat adnak, ha a bemeneti képek nem illeszkednek egyértelműen a kategóriákhoz. Például egy kutya tükörképe macskának minősülhet, míg a játékhelyzetek rotációjának megváltoztatása különböző nyerési esélyeket generálhat ugyanazon helyzet esetén.
Ezek a rendszerek olyan hibákra is képesek, amelyeket az emberi szem sohasem követne el. A manipulált képeken, ahol az eltérések minimálisak, az AI képes volt minden egyes alkalommal hamisan azonosítani az objektumokat – ez mutatja a neurális hálók sebezhetőségét. A közelmúltban végzett kísérletek szerint, ahol a képeket kisebb mértékben módosították, a modellek rendre téves válaszokat adtak, mintha egy struccot láttak volna.
Az emberi gondolkodás párhuzamai az AI működésével
Jelasity Márk a Nobel-emlékdíjas Daniel Kahneman által leírt gondolkodási modellekre is hivatkozott. Az AI különböző működési módjait a „gyors” döntéshozatalhoz hasonlította, amely az ember számára természetes reflex, szemben a lassabb, kritikusabb gondolkodással. Ez a fajta működés azt jelenti, hogy az AI nem követ egy hagyományos, logikai vonalat, hanem inkább mozaikszerűen összerakva tünteti fel a tudásának struktúráját.
Fontos megjegyezni, hogy bár a gondolatfák kidolgozása, amelyet más kutatások is vizsgálnak, segíthet csökkenteni a hibák számát, a modellek alapvető hibái továbbra is megmaradnak. Jelasity hangsúlyozta, hogy ez a különbség az emberi és gépi gondolkodás között nem csupán egy látszólagos analógia, hanem mélyebb összefüggések is rejlenek mögötte.
Az eseményt követően a közönség számára elérhetők lesznek a kerekasztal-beszélgetés felvételei, emelve a tudományos diskurzus színvonalát és elérhetőségét. Az elhangzott előadás és a téma további részletei az érdeklődők számára egy új perspektívát nyújtanak a mesterséges intelligencia és az emberi gondolkodás viszonyában.
