A Jazzy Rádió FM90.9 Business Class vendége Mányi Balázs, a Mesterséges Intelligencia Etika Fórum alelnöke volt. A beszélgetés a céges AI-használatról, az ingyenes ChatGPT-re feltöltött titkokról és a kiberbiztonság mindennapi réseiről szólt.
“Kétféle cég van: akit már megtámadtak, és akit meg fognak támadni.”
Az alábbi cikk AI összefoglaló a műsorban elhangzott beszélgetés alapján. Kövesd velünk a legújabb AI trendeket! De… Pontos információkért hallgasd a rádiót, vagy hallgasd/nézd újra a hang és videó anyagainkat!
Mányi Balázs, a Mesterséges Intelligencia Etika Fórum (MIEF) alelnöke, címzetes egyetemi docens a munkahelyi mesterséges intelligencia kontrolljáról beszélt.
A MIEF betűszó, a fórum hetente vagy kéthetente ültet egy asztalhoz mérnököt, kibervédelmi szakembert, filozófust és teológust. A beszélgetések célja, hogy a gyorsuló változásra közös nevezőt találjanak etika és felelősség ügyében. A vendég szerint a világ annyira felgyorsult, hogy sok területen már nem tudunk lépést tartani.
A legnagyobb céges rés az, hogy a vezető nem tudja, milyen modellt használ a beosztottja.
Van, ahol már létezik belső szabályzat, máshol még az sem. Mányi Balázs szerint az első lépés egy mesterséges intelligencia policy, akár az ISO 42001 alapján, akár egyszerűbb céges előírásként. Számos példa van arra, hogy a cég fizet enterprise Copilotot, a munkavállaló mégis az ingyenes ChatGPT-be teszi a szerződést, a pénzügyi adatot, a névsort. Abból adatvédelmi incidens és üzleti titoksértés lesz, és ha kiderül, a cégnek nagyon rosszat tesz.
A dolgozó azért nyúl a nyilvános modellhez, mert azt ismeri.
Szeptemberben kijött a nagy platformok újabb generációja, a Gemini, a ChatGPT Astra és a kevésbé ismert Meta-modell is. Mányi Balázs szerint a belső, fizetős rendszer sokszor gyengébbnek tűnik, holott a különbség a kommunikációban és az oktatásban van. Aki nem ismeri a céges eszközt, a ChatGPT-t választja. A modell leírását szinte senki nem olvassa el, pedig ott van, mire használják az adatot, tanítanak-e belőle, tárolják-e felhőben.
Egészségügyi adat is megy fel névvel és TAJ-számmal.
A rendelőből kilépve sokan azonnal a ChatGPT-nek dobják be a leletet, kort, nevet, mindent. Ezek szenzitív adatok. A compliance nagyobb cégeknél már keresi a tiltott használatot, középvállalatnál erre ritkán van kapacitás. Eszközökkel, akár AI-jal is lehet figyelni, ki nyitja meg a GPT-ablakot. A vendég szerint a megoldás három egymásra épülő lépés: megírni a policy-t, elmondani tréninggel vagy játékos oktatással, aztán mérni és ellenőrizni.
A kibertámadás ma már nem csak a bankkártyára megy.
A Land Rover hónapokra állt le egy behatolás után, magyar cégeket is ért hasonló. Mányi Balázs szerint a kibervédelemre költik a cégek a legkevesebbet, pedig kétféle szervezet van: akit már megtámadtak, és akit meg fognak. Van egy harmadik is, akit újra megtámadnak, mert nem védekezett. A vezetői felelősség itt paradigmaváltást kíván. Az AI miatt a kártékony kódok gyorsabban készülnek, mint ahogy a védelem lépést tud tartani.
Hamis számla is készül már tökéletes pecséttel.
Egy Bajnokok Ligája-döntő idején a szálloda több tízmilliós számláját másnak küldték el, magyar pecséttel, ugyanazzal az aláírással, spanyol számlaszámra. Az érintettek utaltak, aztán jött az igazi számla. Az AI a neten fellelhető adatokból személyre szabott támadást rak össze. Magánszemélynél a klasszikus zsarolóvírus a másik véglet: a gép zárolva, adat vissza nem kerül, ha nem fizetnek. Sokszor elég egy adathalász e-mailre kattintani.
Jelszót a böngészőbe tenni kényelmes, de kockázatos.
Mányi Balázs jelszókezelőt javasol, egyfajta széfet, és erős, egyedi jelszavakat. Őszintén hozzáteszi, hogy ezt kevesen csinálják, ő sem mindig. Ha kiderül, hogy kiszivárgott egy jelszó, azonnal cserélni kell. Vannak oldalak, ahol e-mailre rá lehet keresni, szerepel-e nyilvános adatbázisban. A kétfaktoros azonosítást ott kell bekapcsolni, ahol a rendszer felkínálja. A határ a paranoiás védelem és az élhető netezés között mindenkinek más, attól függ, hányszor kapott már zsarolóvírust.
Cégnek először szakember kell, belül vagy kívül.
Magyarországon van már kiberbiztonsági képzés, a szakma mégis hiányos. A megelőzés olcsóbb, mint a helyreállítás. A dolgozónak tudnia kell, hogyan ismeri fel az adathalász levelet, és kinek jelenti. Ezt szabályzat és rendszeres tréning viszi át, adathalász-szimulációval mérhető is, hányan ugranak bele. A támadás AI-jal gyorsul, a védelemnek is AI-t kell használnia a detektáláshoz.
A fórum asztalánál filozófus és teológus is ül.
A pápa és a dalai láma is nyilatkozott már a mesterséges intelligenciáról. Mányi Balázs az ipari forradalomhoz hasonlítja a tempót. Négy év alatt jutottunk el odáig, hogy az Astra modell fejlesztője szerint közelítünk az AGI-hoz, az emberihez hasonló általános intelligenciához. A gép mindig ott van, nem fáradt, nem nyűgös. A gyereknek meg kell tanítani, mit osszon meg vele, és mit higgyen el. A Her című film már mutatta, hová futhat egy hang, ha mindig elérhető.
Mi az a MIEF? A Mesterséges Intelligencia Etika Fórum rövidítése. Interdiszciplináris egyesület, ahol hetente vagy kéthetente technológus, kibervédelmi szakember, filozófus és teológus beszél az etika és a felelősség kérdéseiről.
Miért veszélyes az ingyenes ChatGPT a cégnek? A feltöltött szerződés, névsor vagy pénzügyi adat tanításra és tárolásra is kerülhet. Ez üzleti titoksértés és adatvédelmi incidens, különösen akkor, ha a cég közben fizetett, zárt modellt tart fenn.
Mit tegyen először egy középvállalat? Írjon AI-szabályzatot, tanítsa meg a dolgozóknak, melyik belső eszközt használják, majd ellenőrizze a használatot. Párhuzamosan bízzon meg kibervédelmi szakembert, és tartson adathalász-tréninget.
Hinora Ferenc, a Magyar Marketing Szövetség elnöke a Jazzy Rádió FM90.9 Business Class adásában a szeptember 17-i Marketing Summitot mutatta be. A Müpa három termében a marketinget üzleti növekedéssel, technológiával és versenyképességgel kötik össze. "Egy konferencia valódi értéke az utána megszülető döntésekben mérhető." https://lmzem.hu/playaudio.mp3?path=2/public/podcast/1ed8b41b-3d20-6d10-b4d2-d1aee33598f9/episode/1f1ab529-7c0f-6192-9bd2-bd6205a49017/download A marketing a versenyképesség ügye a vállalati asztalnál. Hinora Ferenc, a Magyar Marketing Szövetség elnöke a Jazzy Rádió FM90.9 Business Class műsorában arról beszélt, hogy szeptember […]
