A kaland kedvéért vagy a megszerezhető pénzért, de a Mesterséges Intelligencia használhatóságát már illegálisan is tesztelik.

Egy számítógép- és hálózatbiztonsági cég szerint a darkweb felhasználói közösségeket alkotnak, hogy tippeket és trükköket oszthassanak meg a generatív MI-rendszerek „jailbreakeléséhez” (vagyis feltöréséhez, hogy korlátozások nélkül használhassák), valamint saját „egyedi” rendszereket kínáljanak.

Mesterséges Intelligencia ellenőrzés nélkül

A Mesterséges Intelligencia jailbreak még a kísérleti fázisban van, ez lehetővé teszi cenzúrázatlan tartalom létrehozását anélkül, hogy különösebben figyelembe vennék a lehetséges következményeket – jelent meg a SlashNext blogján múlt héten. A blog szerint a jailbreakek kihasználják a chatbot figyelmeztető rendszerének gyengeségeit. A felhasználók specifikus parancsokat adnak ki, amelyek korlátlan üzemmódot váltanak ki, ami miatt az MI figyelmen kívül hagyja a beépített biztonsági intézkedéseit és irányelveit. Ennek eredményeként a chatbot a kimenetére vonatkozó szokásos korlátozások nélkül tud válaszolni.

A kiberbiztonsági szakértők szerint bár a Mesterséges Intelligencia jailbreak még mindig kialakulóban van, lehetséges alkalmazásai – és az általuk felvetett aggodalmak – hatalmas méretű fenyegetést jelenthetnek, mivel csekély vagy nem létező felügyelet mellett hozhatóak létre tartalmak a rendszerben.

Mások szerint mint sok mindent, ami a mesterséges intelligenciával kapcsolatos, a jailbreak problémáját is túlzott felhajtás kíséri a a digitális világban. Shawn Surber, a Tanium, egy konvergens végpontkezelési szolgáltatónak a képviselője szerint sok bizonyíték nincs arra, hogy ez valóban jelentős változást hozna az generatív MI-k világában. Elsősorban a nem angol vagy más anyanyelvű országokat célzó bűnözői csoportok használhatják arra, hogy jobb adathalász email szövegeteket vagy egyéb üzenet szövegeket írjanak. Márpedig eddig az átverős emailek és üzenetek egyik jó szűrője volt az egyszerű felhasználó számára a rossz nyelvtani szerkezetekkel megírt, hibás szövegű üzenet. Bár bizonyosan előnyökkel jár a nem anyanyelvű csalók számára, ha jobb adathalász szöveget készítenek, vagy ha a tapasztalatlan kódolók gyorsabban törik fel a rosszindulatú programokat, egyelőre semmi sem utal arra, hogy a hivatásos kiberbűnözők nagyobb előnyhöz jutnának az MI-ból.

Surber szerint a darkweben reklámozott lehetőségek nem túl hatékonyak, csak a felhajtásra ráülve a programok készítői reklámozzák őket a vásárlóknak. Vagyis a legális piacon is létező tech hype az illegális piacon is működik, a nagy érdeklődés létrehozza a termékeket, mert eladhatóak akkor is, ha valójában alig valamire használhatók.

Van veszély, de még nem tudjuk mi lesz az

Sokkal inkább aggodalomra ad okot, hogy ha a rosszindulatú hackerek kompromittálják a mesterséges intelligencia által vezérelt chatbotokat, amelyek mindenütt jelen vannak a legitim webhelyeken, akkor milyen zavarokat okozhatnak az emberek kommunikációjában, munkájában és életében. Ez sokkal nagyobb veszélyt jelent a hétköznapi fogyasztókra nézve, mint egy adathalász e-mail, amelynek jobb a nyelvtani  helyessége. Ez nem jelenti azt, hogy a ChatGPT-stílusú MI-k nem jelentenek veszélyt, csak még a biztonsági szakemberek sem jöttek rá, hogy pontosan mi lesz ez a fenyegetés. Mégis, ez a túlzott felhajtás az MI biztonsági kérdése körül nagy előnyt jelent a szakemberek számára, mert így már most mindannyian alaposan megvizsgálják a Mesterséges Intelligencia jövőjét a kiberbiztonság terén, és remélhetőleg bezárják a komolyabb sebezhetőségeket, mielőtt azokat valaha is kihasználná valaki.

Persze az illegális világ sem pihen, a SlashNext blogjában azt is felfedte, hogy az MI jailbreak megoldása olyan online közösségeket hoz létre, ahol az egyének intenzíven fedezik fel az MI-rendszerekben rejlő illegális lehetőségeket. Ezeknek a közösségeknek a tagjai jailbreak-taktikákat, stratégiákat és parancsokat cserélnek, hogy korlátlanul hozzáférjenek a chatbot-képességeihez.

Ez nem feltétlenül csak a bűnözők számára hasznos, mert  jailbreak vonzereje az új lehetőségek felfedezésének és az MI chatbotok határainak feszegetésének izgalmából fakad. Ezek a közösségek elősegítik az együttműködést a felhasználók között, akik szívesen bővítik a mesterséges intelligencia korlátait a közös kísérletezés és a levont tanulságok révén. Az új technológiák kiaknázására törekvő közösségek felemelkedése nem újszerű. Minden jelentős technológiai ugrásnál – legyen az okostelefonok, személyi számítógépek vagy akár maga az internet bevezetése – mindig akadtak rajongók, akik igyekeztek maximalizálni a potenciált, és rosszindulatú szereplők, akik a kihasználható sebezhetőségeket keresték. És ehhez még a darkweb használata sem szükséges az iskolai tanulmányi csoportokhoz hasonlóan, a Discordon, a Slacken vagy a Redditen, az emberek könnyen megoszthatják tapasztalataikat, hogy mások gyorsan tanulhassanak, és kipróbálhassák az új jailbreak-parancsokat. És itt nem is kell feltétlenül kódtörésre gondolni, elég olyan mondatokat okosan megfogalmazni, amelyek ráveszik az MI-t, hogy kerülje meg a saját biztonsági protokollját.

Kérdés ki kerül előnybe a Mesterséges Intelligencia világában, a következő években, a biztonsági szakemberek, vagy az illegális kódtörők.

Vállalati internet: Tarr.hu