A kérdés és a válasz között a modell olyan utat jár be, amit a felhasználó alig lát. Döntési helyzetben ez a homály már kockázat, mert a gép statisztikai választ ad, a felelősség pedig az embernél marad.
„A human in the loop elv szerint a felelősség az embernél marad, bármit írjon is ki a gép.”
Az alábbi cikk AI összefoglaló a műsorban elhangzott beszélgetés alapján. Kövesd velünk a legújabb AI trendeket! De… Pontos információkért hallgasd a rádiót, vagy hallgasd/nézd újra a hang és videó anyagainkat!
Farkas Athéne, a Mesterséges Intelligencia Etika Fórum (MIEF) kutatási és szakértői vezetője a mesterséges intelligencia fekete doboz jellegéről beszélt.
A black box a szakzsargonban azt a réteget jelöli, ami a kérdés és a válasz között zajlik, és a felhasználó számára rejtve marad. A repülőgép adatrögzítőjéhez hasonlóan itt is olyan információ gyűlik össze, ami az első pillantásra láthatatlan. A bemenet lehet szöveg, fájl vagy kép, a kimenet pedig válasz és grafika, a kettő közötti feldolgozás viszont gyakran lekövethetetlen.
A hétköznapi keresésnél ez a homály ritkán zavar, döntési helyzetben viszont már tétje van.
Egy vezető aligha hivatkozhat arra, hogy a modell így javasolta, és ezért így döntött. Mire egy ember döntéshez jut, érzelmek, korábbi tapasztalatok és a szervezet saját adatai is beleszólnak a mérlegelésbe. Két kolléga ugyanarra a dilemmára eltérő választ ad, és két modell sem ad azonos eredményt ugyanarra a feladatra. A fekete doboz ezért akkor válik kockázattá, ha a gép szabadon, ellenőrizetlen webes forrásokból állít össze érvelést, miközben a cég pontosan meghatározott anyagokból várta a munkát.
A pontos utasítás szűkíti a teret, amelyben a modell szabadon kalandozhat.
Szerepet lehet adni a rendszernek, és meg lehet mondani, milyen forrásból dolgozzon, mielőtt választ ad. A prompt engineering ezt a precíz utasítást jelenti: részletes kérésnél a modell hivatkozható alapokra tud támaszkodni, és kevésbé csúszik el általános statisztikai válaszba. A nagy nyelvi modellek jellemzően azt adják vissza, ami a tanítóanyagban a leggyakrabban fordul elő, ezért a kereső helyetti használat kényelmes, a pontosság viszont esetről esetre változik. Vállalati környezetben ezért fizetős, zártabb előfizetéses modellekkel dolgoznak, és külön figyelik, milyen belső anyagok kerülnek a rendszerbe.
A modell belső logikáját a fejlesztőközpontokban sem látja át mindenki teljes egészében.
A válasz attól függ, milyen adatbázison tanították a rendszert, és a felhasználó milyen saját információval egészíti ki. Ugyanazt a kutatási kérdést két modellen lefuttatva eltérő eredmény jöhet, ezért érdemes több változatot is kipróbálni, és tudni, melyik rendszer mire erősebb. Ezek a kimenetek segédletek maradnak a döntés előtt, önálló ítéletnek kevés az alapjuk. A középvezetői szinttől felfelé a vállalati szférában már afelé tart a gyakorlat, hogy a forráskezelés és a modellválasztás a munkakör része legyen.
A human in the loop elv szerint a felelősség az embernél marad, bármit írjon is ki a gép.
A kapott szöveget értelmezni kell: elfogadható-e, kell-e árnyalni, finomítani, vagy érdemes elölről kezdeni a kérdezést. Az apró betűs figyelmeztetés a felületeken rendre jelzi, hogy a modell tévedhet, és a kimenetért felelősséget vállal. A gépi tanulás és a neurális hálók felépítik a választ, a felhasználásról viszont az ember dönt. Vak követés helyett a kritikus gondolkodás szűri meg, mi kerül egy szerződésbe vagy egy vezetői előterjesztésbe.
Az európai uniós mesterségesintelligencia-szabályozás kockázati osztályok szerint ír elő jelölést és átláthatóságot.
A biztonsági szempontból kritikusnak minősített szervezeteknél kötelező feltüntetni, ha egy tartalom mesterséges intelligencia által készült vagy szerkesztett. A kisebb szereplők, amelyek tevékenysége alacsony kockázatú, és érzékeny HR-adatot vagy más céges információt ebben a körben nem kezelnek, kívül esnek a szigorúbb besoroláson. A magasabb kockázati körbe tartozókra viszont vonatkozik a jelölési kötelezettség, ami a tévéreklámok sarkában megjelenő AI-jelzésben is tetten érhető. A szabály a felhasználás szintjéhez kötődik, és a belső működés teljes feltárását a hétköznapi felhasználótól senki sem várja el.
A magyarázható modellek teljes körű bevezetése ettől még távoli forgatókönyv.
A magyarázható, úgynevezett explainable AI más típusú rendszert jelöl, ahol a paraméterezésbe mélyebben bele lehet nyúlni, a nagy nyelvi modelleknél viszont a két világ eltér egymástól. Egy ChatGPT- vagy Gemini-jellegű rendszertől is ki lehet kényszeríteni a hivatkozást, ha a kérés pontosan megmondja, melyik fejezetrész vagy belső szakasz alapján indokoljon. Saját, végig átlátható modell építéséhez magas képzettség és komoly erőforrás kell, a kész megoldások pedig még fejlesztés alatt állnak. A Business Class beszélgetése ezért arra mutatott rá, hogy a fekete doboz kezelése gyakorlati kérdés: tudni kell, honnan dolgozik a rendszer, és a végső szót ember mondja ki.
Mit jelent a fekete doboz a mesterséges intelligenciánál? A bemenet és a kimenet közötti feldolgozást, amit a felhasználó nehezen vagy egyáltalán nem tud végigkövetni. A modell a tanítóanyagában gyakori mintákból ad statisztikai választ.
Kinek a felelőssége a modell javaslata alapján hozott döntés? Az emberé. A felületek apró betűs figyelmeztetése is jelzi, hogy a rendszer tévedhet, a human in the loop elv pedig a kritikus felülvizsgálatot várja el a felhasználótól.
Betiltják a nem magyarázható modelleket? Ilyen fordulat egyelőre távoli. A nagy nyelvi modellnél pontos kéréssel ki lehet kényszeríteni a hivatkozást, a valóban magyarázható rendszer viszont más típusú modell, és komoly erőforrást igényel.
Kaprinay Zoltán üzleti sparring partner, a Sparring Partner in Business védjegy birtokosa a Jazzy Rádió FM90.9 Business Class műsorában a vezetői magányról és a mesterséges intelligencia hétköznapi használatáról beszélt. Az Index.hu, az A38 Hajó és a Bónusz Brigád után Marbellából épít cégeket, és tizennégy saját ügynökkel dolgozik. A különbséget a kritikus gondolkodás és a józan paraszti ész adja. "Aki a gondolkodást is kiszervezi, ugyanazt a felszínt kapja, mint egy témában […]
