Jövőbeli lehetőségek: Az AI forradalom forgatókönyvei
Tavaly áprilisban az AI Futures Project nevű nonprofit kutatócsapat bemutatta az „AI 2027” című tanulmányát, amely részletes előrejelzést tartalmazott az emberi képességeket túlszárnyaló mesterséges intelligencia fejlesztéséről. A jelentés nem csupán jövőbeli kimeneteleket vázolt fel, hanem komoly aggodalmakat is jelentett, mivel az emberiség vagy teljesen elveszítheti az irányítást gépei felett, vagy a világ hatalmának összpontosulása következhet be néhány vezető politikus és vezérigazgató kezében, ilyet még senki sem tapasztalt a történelem során. A tanulmány gyorsan elérte az érdeklődők ingerküszöbét, és felforrósította a vitákat Washingtonban, bemutatva a mesterséges intelligenciával foglalkozó kutatók különböző nézeteit.
A tanulmányt Daniel Kokotajlo, az egykori OpenAI-kutató vezette, aki nemrégiben hajlandó volt lemondani egy jelentős, kétmillió dolláros részvénycsomagról, hogy megakadályozza a korábbi munkáltatójának bírálatát megtiltó záradék alkalmazását. Most ez a csapat egy teljesen új megközelítéssel állt elő, amelyet „AI 2040: Az A terv” néven adtak ki július 9-én. Ez a projekt, ellentétben az előzővel, nem az emberiség katasztrófáit vetíti előre, hanem inkább javaslatokat fogalmaz meg arra, hogyan kerülhetjük el az AI által okozott egzisztenciális válságot, és mit tehetünk a virágzó jövő felé vezető úton.
A szerzők hangsúlyozzák, hogy a dokumentum nem jóslatot, hanem stratégiai forgatókönyvet prezentál. Céljuk, hogy feltérképezzék a világ előtt álló döntési alternatívákat, valamint azok lehetséges következményeit, figyelembe véve, hogy a mesterséges intelligencia fejlődése milyen ütemben halad előre. Bár a mesterséges intelligenciával kapcsolatos hype és az AGI (átfogó általános intelligencia) lehetőségei egyre inkább felszínre kerülnek, a kutatók erőteljes szkepticizmussal tanulmányozzák a nagyívű jövőképeket.
A projekt egyik központi kérdése arra irányul, hogy szükséges-e lassítani az AI fejlesztéseit a biztonság érdekében, vagy akár alkut kötni Kínával. A szerzők úgy vélik, hogy az AI-indusztria a következő 1-10 évben elérheti a célját, miszerint intelligensebb AI-rendszereket állítanak elő, miközben a szakemberek egy része abban bízik, hogy a szuperintelligens AI féken tartásának módját majd menet közben kitalálják. A becslések szerint a misaligned AI, amely nem igazodik az emberi célokhoz, 10-30% közötti valószínűséggel vezethet az emberiség kihalásához, ami a kutatók körében elfogadott nézőpont, de a tudomány világán belül még mindig vita övezi.
Feltett kérdés, mi történik, ha sikerült az AI-t az emberi értékekhez hangolni. Jogos aggodalom, hogy egy maroknyi ember, esetleg egyetlen személy irányítja a világ szuperintelligens rendszereit, amivel példátlan hatalomkoncentráció léphet fel. Kokotajlo a „Diary of a CEO” podcastban említette, hogy egy közelmúltbeli előadás során megkérdezett egy százfős közönséget, amelynek körülbelül 40%-a AI-cégek munkatársa volt. Két kérdéssel szavaztatta meg őket: mikor érhet el egy cég automatikus AI-kutatási folyamatot, és mennyit áldoznának fel a biztonságért. A válaszok azt mutatták, hogy a cégek hajlandók lennének csupán néhány hónapnyi előnyükről lemondani a biztonság oltárán.
