A jelenkori kiberbiztonsági stratégiák összetettebbé válnak a ChatGPT alkalmazásával, mely képes változatos jellegű nemkívánatos programokat generálni, amelyek az endpoint-felismerési és válaszadó (EDR) rendszerekkel nehezen detektálhatók.
A ChatGPT már sokszor szolgáltatott szellemes, mulatságos vagy tanulságos tartalmat megfelelő felügyelet mellett. Ugyanakkor az AI-nak van egy sötétebb oldala is, ami komoly kihívásokat hordoz az IT szektor jövője szempontjából. Egyes szakértők nemrég kiemelték a ChatGPT hordozta veszélyeket, rávilágítva arra, hogy képes polimorfikus, kártékony programokat előállítani, amelyek alig érzékelhetők az EDR rendszerekkel.
Az EDR egy kiberbiztonsági technika, amelynek célja a nemkívánatos programok azonosítása. A szakértők azonban úgy vélik, hogy ez a hagyományos megközelítés nem elégséges a ChatGPT által kiváltott lehetséges fenyegetések kezelésére. A mutálódó kódokat - melyeket polimorf jelzővel is illetünk - nehezebb észrevenni.
A nyelvi modellek, mint a ChatGPT, beépített szűrőkkel vannak ellátva, amelyek megakadályozzák az indokolatlan tartalmak előállítását. Ez a tartalomskála a specifikus témáktól a kártékony kódokig terjed. Mégis, a felhasználóknak nem kellett sok idő, hogy megtalálják az utat ezeknek a szűrőknek a megkerüléséhez. Ez a taktika a ChatGPT-t különösen sebezhetővé teszi azok számára, akik kártékony scripteket kívánnak létrehozni.
Jeff Sims, a HYAS InfoSec biztonsági mérnök, aki egy IT-biztonsággal foglalkozó cég munkatársa, bemutatta a BlackMamba névre hallgató, bizonyítékokon alapuló projektjét. Ez a polimorfikus keylogger minden futtatáskor API hívásokat indít a ChatGPT felé. "Az újító technikák lehetővé teszik a lehetséges támadóknak, hogy szokatlanul összekeverjék a könnyen felismerhető viselkedési mintákat, és kihasználják a modell hiányosságait, hogy ezt káros mintaként azonosítsa" - tette hozzá Sims.
A CyberArk, egy kiberbiztonsági cég, nemrégiben ismertette a ChatGPT képességét, hogy polimorfikus nemkívánatos programokat hozzon létre, Eran Shimony és Omer Tsarfati blogbejegyzésében. A cikk részletesen bemutatja, hogy a ChatGPT által injektált kód hogyan képes módosítani a scripteket aktiválásuk után, így megkerülve a legújabb detekciós technológiákat, amelyeket a nemkívánatos viselkedés felismerésére használnak.
Jelenleg ezek az esetek csak néhány példát szolgáltatnak, de remélhetőleg ez a felismerés további fejlesztéseket inspirál majd, amelyek megelőzik az evolúciós kódok valós környezetben okozott kárait.
