Markovics Milán Mór, a Nemzeti Közszolgálati Egyetem oktatója, a Mesterséges Intelligencia Etika Fórum elnöke a Jazzy Rádió FM90.9 Business Class műsorában azt járta körül, miért ül filozófus a nyelvi modell mögött, és hol csúszik félre a tanítóadat.
“Jó adat nélkül jó mesterséges intelligencia sincs.”
Az alábbi cikk AI összefoglaló a műsorban elhangzott beszélgetés alapján. Kövesd velünk a legújabb AI trendeket! De… Pontos információkért hallgasd a rádiót, vagy hallgasd/nézd újra a hang és videó anyagainkat!
A Mesterséges Intelligencia Etika Fórum különböző területekről hoz egy asztalhoz jogászt, mérnököt, pedagógust és biztonsági szakembert.
Markovics Milán Mór, a Nemzeti Közszolgálati Egyetem oktatója, a MIEF elnöke a Jazzy Rádió FM90.9 Business Class műsorában a fórum lényegét a hatás oldaláról közelítette meg. A mesterséges intelligencia itt jogi, etikai, társadalmi, oktatási, biztonsági és szervezeti kihívásként kerül a terítékre. A közös munka célja egyszerűen hangzik: jobb világot hozni a gépek mellé.
2025-ben filozófiai kíváncsiságból indult a kör.
A nyitó kérdés akkor még a tudat volt: lehet-e tudata egy gépnek. Az online alkalomra jogász, geográfus és mérnök is bejelentkezett, és kiderült, hogy az etikán mindenki mást ért. A nagy techcégek közben filozófiai, etikai hátterű etikai szakemberek felvételébe kezdtek. A nemzetközi gyakorlat tehát ugyanoda futott, mint a hazai fórum.
Az etika ott lép be, ahol a törvényes eljárás mégis elfogadhatatlan.
Angolul ezt lawful but awfulnak hívják. Egy országban kivégezhetnek egy nőjogi aktivistát, mert a helyi jog engedi, a közvélemény mégis elutasítja. A munkahelyen előfordul, hogy a körülményeket úgy alakítják, a dolgozó maga mondjon fel, és így elmaradjon a végkielégítés. A párkapcsolatban és a munkatársi viszonyban a bizalom megléte szintén etikai ügy, a mesterséges intelligencia pedig ugyanezen a terepen jelenik meg.
Tizenöt éve a DeepMind eladása már etikai feltételhez kötődött.
A cég a modern mesterséges intelligencia egyik első nagy műhelye volt, a Facebook reklámoptimalizálásra, Elon Musk az önvezető autókra akarta. A Google-hoz végül azzal a kikötéssel került, hogy független etikai bizottság tiltja a katonai alkalmazást, az emberi élet kioltását. 2018-ban a Project Maven drónképelemző programja miatt a dolgozók sztrájkoltak, a szerződés lejárt. 2025-ben a Palantirral kötött, 1,3 milliárd dolláros megállapodás már azt mutatja, milyen törékeny ez a keret.
A fekete dobozban a programozó sem látja a döntés útját.
A nagy nyelvi modell nem úgy működik, mint a zacskós mag, amit valaki kézzel hámoz. A tanuló algoritmust megírják, a belsejében keletkező útvonalról azonban keveset tudunk. A megmagyarázhatóság ezért alapelv: ha a rendszer helyesnek tűnő választ ad, de a lépéseket senki sem követi, a diák is csak a feladatgyűjtemény hátulját másolja. Igaznak látszik az eredmény, a számolás mégis homályban marad.
A COMPAS-rendszer állatorvosi lova lett az elfogult tanítóadatnak.
Az amerikai igazságszolgáltatás a visszaesés esélyét mérte vele feltételes szabadlábra helyezéskor, a sajtó utánajárása után feltűnően sok fekete bőrű kapott magas kockázatot. Az utóellenőrzés mást mutatott. Angliában a járőröző rendszer mindig ugyanabba a kerületbe küldte a rendőrt, mert onnan jött a sok adat, a sok adat meg onnan jött, mert oda küldték a járőrt. Jó adat nélkül jó mesterséges intelligencia sincs.
Hasonló csapda várta az Amazon toborzó szoftverét.
A rendszer az életrajzokat rangsorolta, és a férfiakat hozta előre. A nemre utaló jeleket kivették, a hobbi és a klubtagság mégis elárulta a női pályázót. A tanítóanyagban korábban több férfi szerepelt, a modell tehát a megszokott mintát jutalmazta. A fekete dobozba belenyúlni ettől még nehéz, a torzítás egy része bent marad.
A katonai oldalon a tévedés ára emberélet.
Sajtóhírek szerint chatbotos rakományelemzés tévesen ellenséges szállítmánynak minősített egy hajót forró vizeken, és volt olyan jelentés is, amely iskolát ért találatot kötött hibás, géppel feldolgozott adathoz. Messzemenő következtetést ezekből óvatosan kell levonni. Ember is téved: a Collateral Murder felvételén kamera volt a háton, a helikopteres kezelő fegyvert látott. A digitális rendszer kisebb eséllyel hibázik, a modern problémákat azonban ki kell szűrni.
A finomhangolás két szálon fut.
A safety azt akadályozza meg, hogy a modell bankot törjön fel, vagy ártson, és önkárosító kérésre szakemberhez irányítson. Az alignment a világnézeti igazítás: Amanda Askell az Anthropicnál éppen azért felel, hogy a válasz ne legyen sértő, uszító vagy etnikailag megkülönböztető. Európában más az emberi jogok súlya, mint más kulturális körben, egységes földrajzi értékrend pedig nincs. Ettől van szükség etikai szakemberekre a programozó mellett, mert a technikai javítás önmagában gyenge a politikai és erkölcsi érzékenységgel szemben.
Mi az a MIEF? A Mesterséges Intelligencia Etika Fórum rövidítése. Jogász, mérnök, pedagógus, filozófus és biztonsági szakember vizsgálja együtt az AI jogi, etikai és társadalmi hatását.
Mi a fekete doboz probléma? A nagy nyelvi modell belső útvonalát a készítő sem követi biztosan. Helyesnek tűnő válasz születhet úgy, hogy a döntés oka rejtve marad.
Miért csúszik félre a COMPAS és a toborzó AI? A tanítóadat a korábbi gyakorlatot őrzi. Ha a múltban egy csoport alulreprezentált volt, a modell ugyanazt a mintát jutalmazza, még akkor is, ha a nyílt megkülönböztető jelet kivették.
Magyarországon 853 idősotthon működik, 54 ezer államilag finanszírozott férőhellyel, ezek gyakorlatilag mind foglaltak. Emellett nagyjából 40 ezren állnak várólistán. Dr. Nagy Viktor, az Idősotthonok és Nyugdíjasházak Országos Egyesületének elnöke a Jazzy Rádió FM90.9 Business Class adásában a férőhelyhiány, a bérszínvonal és a szakképzett munkaerő hiányának összefüggéseit járta körül. "Egy időzített bombán ülünk. A kérdés az, hogy ez a bomba mikor fog ténylegesen berobbanni." https://lmzem.hu/playaudio.mp3?path=2%2Fpublic%2Fpodcast%2F1ed8b41b-3d20-6d10-b4d2-d1aee33598f9%2Fepisode%2F1f1bbd88-32ba-6646-85cc-cd8a1d75f6ab%2Fdownload Magyarországon 853 idősotthon 54 ezer állami […]
