A mindentudó algoritmus mítosza - avagy miért hisszük el gondolkodás nélkül, amit a mesterséges intelligencia mond

Az emberiség hosszú utat tett meg a barlangrajzoktól az okostelefonig, de egy dolog változatlan maradt: szeretünk hinni az autoritásnak. Régen a sámán volt az, aztán a tanító, majd a szakértő a televízióban, ma pedig ott ül velünk szemben egy letisztult felület mögött egy algoritmus, és higgadt, tárgyilagos mondatokban közli a véleményét. Mi pedig kontroll nélkül bólogatunk. Nem mindig, persze, de azért meglepően gyakran. A legtöbbször.

 

 

 

Hogy miért? Hát mert a mesterséges intelligencia válaszai gördülékenyek, jól szerkesztettek, magabiztosak. Nincsenek bennük „öö”-k, nem keresgéli a szavakat, nem pislog zavartan, miközben próbálja összerakni a gondolatait, nincsenek kínosan hosszú szünetek a mondatok között és sosem feleli azt egy kérdésre, hogy "nem tudom". 

 

Pontosan ezért hatnak sokszor tekintélyt parancsolónak a mesterséges intelligencia által felkínált válaszok, megoldások. Az ember agya imádja azt, ha valami logikusan hangzik, szépen van csomagolva, ha pedig még pontozott listába is rendezik, ahogy például a Chat GPT szokta, az már fél siker.

 

Pedig a mesterséges intelligencia nem mindentudó. Nem látja a világot, nem tapasztal, nem „tud” a szó emberi értelmében és a legkevésbé sem érez. 

 

Mintákból, statisztikai összefüggésekből, korábbi szövegek lenyomatából dolgozik. És ahogyan az emberek is képesek tévedni, félreérteni, túlságosan is általánosítani vagy egyszerűen rossz következtetésre jutni, úgy az AI is. Csakhogy míg egy ismerősünk esetében könnyedén legyintünk, amikor valami orbitális baromságot mond, hogy „jó, ezt most benézte”, addig egy algoritmusnál, az AI generálta válasznál hajlamosak vagyunk azt gondolni, ez biztos így van, hiszen gép írta, ami mindent tud. Mintha a szilícium önmagában garancia lenne az igazságra.

 

A helyzetet tovább bonyolítja egy másik, egyre gyakoribb reflex. Amikor valami kellemetlen, kínos vagy egyszerűen nem tetszik, gyorsan meghozza az ember az ítéletet: Ez nem én voltam, ezt a mesterséges intelligencia csinálta. Ilyenkor hülye és gonosz, persze, a máskor egekig magasztalt AI.

 

Úgy viselkednek az emberek, mintha az AI egy digitális bűnbak lenne, amelyre minden balhé ráverhető, minden kínos fotó vagy videó ráfogható. Sőt! Minden más hiba is. Rossz e-mail? AI írta. Félresikerült poszt? AI generálta. Kínos bemutatkozó szöveg? Hát persze, hogy a gép volt.

 

Érdekes kettősség ez. Amikor az AI olyasmit ír vagy mond, ami beleillik a világképünkbe, akkor hirtelen szinte orákulummá válik, ám amikor kellemetlen következményei vannak egy szövegnek, képnek vagy videónak, akkor már csak egy ügyetlen vagy gonosz robot, akivel el lehet vitetni a balhét.

 

Pedig az igazság ennél sokkalta prózaibb. A mesterséges intelligencia egy eszköz. Olyan, mint egy rendkívül gyors, soha nem fáradó asszisztens vagy titkárnő, aki elkészíti a vázlatot, összefoglal, javasol, de a felelősség, a döntés súlya soha nem az övé. A felelősség mindig azé, aki használja, aki kontroll nélkül bemásolja a szöveget, majd elküldi vagy publikálja.

 

Talán ez az a pont, ahol a digitális korszakban már egy új műveltségi formára lenne szükség: az algoritmikus józan észre. Nem ártana egy vészcsengő a fejben, és hang, ami ilyenkor felteszi a kérdést, vajon tényleg stimmel minden? Biztos, hogy mindent leellenőriztünk? Mindenre van forrás?

 

Mert ha ezt a lépést kihagyjuk, akkor a mesterséges intelligencia nem a gondolkodást segíti és a munkát könnyíti, hanem sokkal inkább elhiteti velünk, hogy helyettünk gondolkodik. Ez pedig már nem technológiai, hanem kényelmi kérdés, ami azonban tud akár veszélyes is lenni. Bár tény, hogy az ember mindig is szeretett volna egy olyan eszközt, amely leveszi a válláról a döntés terhét, és most az ölünkbe is hullott. Csak közben nem árt emlékezni arra, hogy a gép nem tévedhetetlen, ahogy mi sem, akik gondolkodás nélkül elfogadjuk, amit ír vagy mond. És gondolkodás nélkül rávágjuk, mintegy "lehülyézve", hogy "ez csak az AI" volt, ha éppenséggel valami kínos.

 

Pedig nem ártana, ha nem csak a testünket, a fizikumunkat nem hagynánk elsenyvedni, hanem az agyunk egészségéről, a sok kis apró fogaskerék olajozott működéséről is gondoskodnánk. És jó lenne, ha arra használnánk a mesterséges intelligenciát, amire való: asszisztensnek, titkárnőnek, vagy nevezze ki ahogyan akarja. Egy hasznos segítségnek, mely azonban kontrollt igényel.