A tudományos képek és az AI: Egyre nagyobb bizalomvesztés?
A tudományos közösség jelenlegi kihívásainak egyik központi eleme az AI által generált képek használata, amely komoly aggodalmakat vált ki a kutatók körében. Az ELTE Társadalomtudományi Kutatóközpont korábbi kutatója, Üveges István hangsúlyozza, hogy míg egyre többen alkalmazzák az AI-eszközöket tanulmányaik vizuális kiegészítésére, a tudományos cikkek minősége folyamatosan csökken. Az AI képek áradata nemcsak a cikkek validálásának komoly kockázatát jelenti, hanem a tudományos hitelesség is veszélybe kerülhet, hiszen a kiadók fáradozása a minőségi szűrés terén nem tart lépést e fejlődéssel.
Az elmúlt évben, a ChatGPT megjelenése óta az publikálásra benyújtott tanulmányok száma 42%-kal növekedett, azonban sajnálatos módon a becslések szerint ezen cikkek minősége romlott. Az AI-generált képek és szövegek esetenként teljesen valótlan információkat tartalmaznak, amelyek a cikkek hitelességét megkérdőjelezik. Üveges tapasztalatai szerint már találkozott olyan esettel, ahol a szöveg és a rajta szereplő AI logó nem állt összhangban a tudományos tartalommal, amely végül a cikk elutasításához vezetett.
AI-képek és a visszavont tudományos cikkek
A nemrégiben bekövetkezett visszavonások is figyelemre méltóak. 2024 májusában a New England Journal of Medicine folyóiratban megjelent tanulmányban AI-al manipulált képek miatt kellett visszahúzni egy cikket. A kutatók elismerése szerint véletlenül alkalmaztak mesterséges intelligenciát a tanulmányhoz benyújtott ábrák készítésekor, aminek következményeként a publikáció elvesztette tudományos értékét.
Hasonló módon egy Frontiers in Cell and Developmental Biology folyóiratban megjelent, de visszavont tanulmány szintén AI kaliberű probléma miatt akadt meg. A cikkben bemutatott ábra, mely egy patkány spermaőssejt-kutatásával foglalkozott, aránytalanságokat mutatott az ábrázolt testtájakkal, és a magyarázó szöveg is értelmetlen volt. A kutatók elmondták, hogy a Midjourney AI-modellt használták az ábra készítésekor, amely miatt a cikk nem felelt meg a tudományos követelményeknek.
A valódi képeket imitáló AI-alapú képek veszélyei
Az AI-eszközök által generált képek valódi mikroszkópos felvételekhez hasonlóak is lehetnek, ami a szakértők számára nehézséget okozhat a megkülönböztetésük során. Egy kutatócsoport olyan kísérletet végzett, amelyben 250 akadémikust kérdezett meg a generált mikroszkópos képekről. Az eredmények azt mutatták, hogy a szakértők is nehezen tudták az AI-képeket az autentikus felvételektől megkülönböztetni, ami újabb aggodalmakat vet fel a tudományos munkák hitelességét illetően.
Átláthatóság mint megoldás
Az akadémiai közösség próbálja szabályozni az AI által generált tartalmak alkalmazását, de ez a folyamat nem követi az eszközök gyors fejlődését. Az olyan neves tudományos kiadók, mint a Nature Portfolio és az Elsevier, már dolgoznak a helyzet kezelésén. A Nature Portfolio például arra kötelezi a szerzőket, hogy egyértelműen jelöljék meg az AI által generált képeket, míg az Elsevier megköveteli a szerzőktől, hogy dokumentálják a képek eredetét és ne használjanak AI-t a kísérleti eredmények helyettesítésére.
A tudomány jövője a mesterséges intelligencia korában
A tudósok szkepticizmusának fenntartása elengedhetetlen a tudomány hitelessége szempontjából. Üveges figyelmeztet, hogy amennyiben a tudományos közösség nem képes a saját minőségellenőrzésének fenntartására, a szélsőséges nézetek megerősítését és a tudomány hitelességének csökkenését kockáztatja. A jövőbeli tanulmányok igazi kihívása lesz, hogy az AI-eszközök helyes és etikus használatát biztosítani lehessen, hogy megőrizzük a kutatások iránti közbizalmat.
