A racionalitás korlátai/Emergens intelligencia
Emergens intelligencia
[szerkesztés]Mateklecke 6195. - A racionalitás korlátai 46. rész: Az emergens intelligencia illúziója
A természet tele van olyan példákkal, ahol egyszerű szabályok komplex, intelligensnek tűnő viselkedést eredményeznek. Conway Életjátékában (530. lecke) a siklók mozognak, ágyúk lőnek ki siklókat, alakzatok pulzálnak, pedig csak néhány egyszerű szabály írja le egy kétdimenziós rácson a cellák változását.
Madárrajok látszólag döntéseket hoznak, pedig minden egyed csak három egyszerű szabályt követ: kerülje a túl közeli ütközést, igazodjon a szomszéd irányához, és maradjon a csoport közelében. A három szabály eredménye, hogy több száz madár szinkronban fordul, hullámzik és kerüli a ragadozót, mintha egyetlen óriási szervezet lenne (5023. lecke - Mumuráció).
A Physarum polycephalum, egy sejtszerű nyálkagomba pedig "tervez", képes megtalálni a legrövidebb utat az élelemforrások között. Amikor Tokió vasúthálózatát szimulálták ételcsomókkal, a gomba olyan hálózatot rajzolt, amely meglepően közel állt az emberi mérnökök által tervezett optimális vasúti vonalakhoz. Központi agy nélkül, csupán helyi kémiai reakciókkal, okosnak tűnő döntéseket hozott.
A közös az előbbi példákban, hogy lokális szabályok érvényesülnek központi vezérlés nélkül. Ez az emergens viselkedés kulcsfontosságú a mesterséges intelligencia megértésében is, különösen abban a kérdésben, hogy mit értünk valódi intelligencián.
A modern nagy nyelvi modellek működése meglepően hasonlít az emergenciához. Ezek a rendszerek nem gondolkodnak, ehelyett statisztikai mintázatokat követnek, hogy megjósolják, milyen szó vagy kifejezés illeszkedik a legvalószínűbben egy adott kontextusba. Milliárdnyi szöveges példából tanulják meg ezeket a mintákat, majd alkalmazásuknál ezeket reprodukálják. Mégis, amikor egy MI modell koherens érvelést produkál, kreatív megoldást javasol vagy érzékenyen reagál egy érzelmi problémára, természetes módon tulajdonítunk neki szándékot, megértést, sőt akár tudatosságot. Ez a jelenség nem új, John Searle Kínai szoba gondolatkísérlete már évtizedekkel ezelőtt rámutatott arra, hogy egy gép akkor is tűnhet értelmesnek, ha valójában nem ért semmit. Képzelj el egy embert egy szobában, aki nem tud kínaiul, de van nála egy szabálykönyv, ami megmondja, milyen kínai jelekre milyen más jeleket kell visszaadni. Ő csak követi a szabályokat, és kívülről úgy tűnik, mintha folyékonyan beszélne kínaiul, pedig valójában fogalma sincs róla, mit mond. A helyes válaszadás nem feltétlenül jelent valódi megértést.
Az emberi agy evolúciós okokból rendkívül jól felkészült arra, hogy szándékot és tudatosságot tulajdonítson más entitásoknak. Az elmeelmélet (mások mentális állapotainak megértése, 18. rész) kritikus volt a túléléshez, ezért hajlamosak vagyunk ezt a képességet túlalkalmazni. Antropomorfizáljuk az állatokat, a természeti jelenségeket, sőt még a gépeket is.
Ez a kognitív torzítás különösen erős a nyelvi interakciók esetében. Amikor egy MI folyékonyan kommunikál velünk, az agy ugyanazokat a neurális hálózatokat aktiválja, mint emberi beszélgetőpartner esetén. A tükorneuronok rendszere, amely mások cselekedeteinek szimulálásáért felelős, automatikusan működésbe lép, még akkor is, ha tudjuk, hogy egy géppel beszélgetünk. A mesterséges intelligencia esetében az emergencia különösen izgalmas kérdéseket vet fel. Egy nyelvi modell tréningje során olyan komplex mintázatok alakulnak ki a neurális hálózat súlyaiban, amelyeket még a fejlesztők sem értnek teljes mértékben. Ez a fekete doboz probléma azt jelenti, hogy néha a modell viselkedése meglepő és előre nem jósolható (akárcsak a természetes emergens rendszereknél).
Például a GPT-modellek képesek voltak olyan feladatokat megoldani a tréning során, amelyekre explicit módon nem tanították őket (egyszerű matematikai számítások vagy logikai következtetések, persze sokszor tévednek is). Ez arra utal, hogy a statisztikai mintázatok tanulása során emergensen alakulnak ki magasabb szintű képességek.
Az MI-val való interakcióinkban a jelentés nagy része a mi fejünkben születik meg. Amikor egy nyelvi modell értelmes választ ad, mi vagyunk azok, akik kontextust és szándékot tulajdonítunk neki. Ez nem jelenti azt, hogy az MI válasza értéktelen, a madárraj koordinált mozgása is valóságos és hatékony, függetlenül attól, hogy nincs központi vezérlés.
De mindenképpen arra int minket, hogy óvatosak legyünk az MI képességeinek túlértékelésével, ugyanakkor ne becsüljük alá az emergens viselkedés valódi erejét sem. A mesterséges intelligencia nem azért érdekes, mert valóban gondolkodik, hanem mert olyan mintázatokat produkál, amelyek hasznos interakciót tesznek lehetővé velünk. Ez nem csökkenti az MI hasznosságát, de segít reálisan látni a korlátait is.
Végső soron az intelligencia (legyen az természetes vagy mesterséges) mindig egy rendszer és környezete közötti kölcsönhatásban nyilvánul meg.