Árnyék AI fenyegeti a cégeket a Mythos korában

Az árnyék AI már nem sci-fi, hanem valós üzleti kockázat, amely nap mint nap fenyegeti a magyar vállalatok üzleti titkait és adatvagyonát.

„A kibervédelem és az AI-szabályozás nem szükséges rossz, hanem a mai világban kötelező és megkerülhetetlen.”

Az árnyék AI már nem sci-fi, hanem valós üzleti kockázat, amely nap mint nap fenyegeti a magyar vállalatok üzleti titkait és adatvagyonát.

Az Anthropic Claude Mythos modellje rávilágított, hogy az AI képes autonóm módon kibervédelmi sebezhetőségeket találni és kihasználni.

Április elején az Anthropic kiadta a Claude Mythos Preview nevű nagy nyelvi modellt, amely nem csupán azonosította a fenyegetéseket, hanem saját magát továbbképezve kódot is írt a sérülékenységek kihasználására. A fejlesztők hátraléptek, és nem hozták nyilvánosságra a modellt. Helyette létrehozták a Glasswing Projectet, és csak tizenkét nagy amerikai tech cégnek – köztük az Apple-nek, a Microsoftnak, a Googlenak, a Cisconak és az Nvidiának – adták át először. Ha ez rossz kezekbe kerül, beláthatatlan kibervédelmi következményei lennének az átlagpolgártól a nagyvállalatokig.

Egy 27 éves nulladik napi sebezhetőség megtalálása és kihasználása mutatja, hogy az AI új korszakot nyitott a kiberbiztonságban.

Korábban a hekkerek hónapokig vagy évekig tartó kutatással találtak ilyen lyukakat a rendszerekben. A Mythos azonban önállóan fedezte fel és írta meg a támadókódot. Ezután az Anthropic cégértékelése rövid idő alatt 380 milliárdról 900 milliárd dollárra ugrott, megelőzve az OpenAI-t. Ez világosan jelzi, hogy az AI már nem csak eszköz, hanem komoly kockázat is.

Az árnyék AI különösen veszélyes a KKV-k és a nagyobb vállalatok számára, mert a munkavállalók titokban használják.

Sok cégvezető tiltja az AI-t, de a tiltás nem működik. A munkavállaló a céges Enterprise Copilot helyett az ingyenes ChatGPT-be másolja fel a szerződéseket, üzleti titkokat vagy akár bankszámlaszámokat. Az árnyék AI pontosan ezt jelenti: a szervezet tudta nélkül történő használat. Az ingyenes modellek szerződési feltételei szerint az adatokkal továbbtanulnak, így egy hasonló kérdésnél a versenytárs máris megkapja az árbevételi adatokat vagy a szenzitív információkat. Ez GDPR-sértés, reputációvesztés és hatalmas pénzügyi kockázat.

A vezetők hozzáállása döntő: a kibervédelem és az AI-szabályozás ma már kötelező.

Sok cégnél nincs szabályzat, vagy van, de a munkavállalók nem tartják be. A NIS2 irányelv szerint június 30-ig minden érintett szervezetnek meg kell lennie az auditnak. Aki nem NIS2-kötelezett, annak is ajánlott foglalkozni vele, különösen a vezetői szinten. A legjobb eszköz erre az ISO 42001-es szabvány, az AI Management System, amely pontosan szabályozza az AI használat folyamatát. Magyarországon most indulnak az első auditok, de a külföldi multik magyar leányvállalatai már megszerezték a tanúsítványt.

Az EU AI Act augusztus 2-i határideje a magas kockázatú rendszerekre vonatkozik, és súlyos bírságokkal jár.

Chatbotoknál fel kell tüntetni, hogy mesterséges intelligenciával beszélünk. Generált képeknél jelölni kell az AI eredetet. A HR-rendszerekben, ahol munkavállalókat osztályoznak, kötelező az emberi felügyelet. Az ISO 42001 nagy segítséget nyújt az EU-s megfeleléshez is. A felelős MI használatát a mief.hu civil egyesület is támogatja.

Az első lépés mindig a felmérés: van-e árnyék AI a cégben?

Utána készítsünk pontos szabályzatot és kockázatkezelést. A tiltás helyett a felelős használat ösztönzése a cél. Így csökkenthetjük az adatszivárgást, védjük az üzleti titkokat és felkészülhetünk a Mythos-korszak kihívásaira.

• Mi az árnyék AI és miért veszélyes? Az árnyék AI azt jelenti, hogy a munkavállalók a cég tudta nélkül használnak ingyenes AI-eszközöket bizalmas adatokkal. Ez adatszivárgást, GDPR-sértést és versenytársi előnyt okozhat.
• Mit jelent a Claude Mythos jelenség a vállalatoknak? Az Anthropic új modellje autonóm módon talál és használ ki nulladik napi sebezhetőségeket. Ha kiszivárog, hatalmas kibervédelmi kockázatot jelent még a KKV-knak is.
• Milyen lépéseket tegyen egy cégvezető azonnal? Mérje fel az AI-használatot, alkosson szabályzatot és vezesse be az ISO 42001-et. Így csökkentheti az árnyék AI kockázatait.

Hasonló tartalmak:

Mesterséges intelligencia: hype vagy valóság?
Digital Media Hungary idén újvilágteremtőket hoz

What is Claude Mythos and what risks does it pose?
Anthropic limits rollout of Mythos AI model over cyberattack fears