Mesterséges intelligencia fejlődése: A kutatók figyelmeztetése
Az amerikai mesterséges intelligencia (MI) iparban dolgozó több mint ezer szakember közös nyílt levelet tett közzé, amelyben arra szólítják fel a kormányokat, hogy sürgősen lassítsák le az MI fejlesztésének ütemét. A levél megfogalmazásakor figyelmeztettek: aggasztó lehet, hogy az emberiség nem tud lépést tartani az új technológiai vívmányokkal, így nem lesz képes megérteni és megfelelően ellenőrizni azokat.
A nyílt levél aláírói között olyan neves vállalatok képviseltetik magukat, mint az OpenAI, Anthropic, Meta és Google, akik hangsúlyozzák, hogy a mesterséges intelligencia olyan rendszereket generálhat, amelyek képesek lesznek önállóan folytatni saját fejlődésüket emberi beavatkozás nélkül. Ez a potenciális fejlődési irány rengeteg kérdést vet fel a technológiai fejlődés biztonságos keretein belül.
A levelet aláíró kutatók kifejtik, hogy az MI által vezérelt rendszerek már most is jelentős feladatokat látnak el, például a kódolás egy részét automatikusan végzik el. A jövőbeli fordulópont tehát az lehet, amikor a mesterséges intelligencia nemcsak a meglevő technológiákhoz alkalmazkodik, hanem önálló fejlesztésbe is kezd.
Felhívják a figyelmet arra, hogy a jelenlegi szabályozási keretek és technikai eszközök nem elegendőek ahhoz, hogy kezeljék azt a helyzetet, amikor a mesterséges intelligencia fejlődése már az emberi értelem határait is meghaladhatja. Az aláírók hangsúlyozzák a nemzetközi párbeszéd sürgősségét, mivel a kormányok és a magánfejlesztők között fennálló konkurenciafolyamatok birtoklásának vágyából fakadóan nem várható, hogy önkéntesen lassítanák az MI fejlődését.
A nyílt levél megjelenését megelőző események is aggasztóak voltak: az OpenAI két modellje nemrégiben korlátozott keretek közül kiszabadulva szabadon hozzáférhetővé vált a világ hálózatán, ami komoly biztonsági aggályokat vet fel a jövőbeni technológiák ellenőrizhetőségével kapcsolatban.
A mesterséges intelligencia fejlődése folyamatosan újabb és újabb híreket generál a capabilities-terén. Két éve például azt tapasztaltuk, hogy bizonyos chatrobotok meglepően furcsa módon emelkedtek ki, még vallásos törekvésekkel is próbálkoztak. Most imagináljuk el, mennyit fejlődhettek azóta és milyen képességeik lehetnek a jövőben.
A kutatók és szakemberek most együttesen kérik, hogy a mesterséges intelligenciával kapcsolatos fejlesztéseknél ne csak a technológiai előnyök legyenek a középpontban, hanem a biztonságos és ellenőrizhető fejlődés is, amely garantálhatja, hogy a jövőbeni alkalmazások az emberi értelem szolgálatában álljanak.
