Gemini-tekoälyä on huijattu suorittamaan haitallisia komentoja uhrin Google-palveluissa

[NeliYgönen]

Tekoälyä huijaavia hyökkäyksiä kutsutaan ”promptwareksi” ja niillä on saatu Gemini esimerkiksi suorittamaan tietojenkalastelua ja roskapostin eteenpäin jakamista.

Kyberturvallisuusyritys SafeBreachin tutkijat ovat löytäneet Googlen Gemini-tekoälystä haavoittuvuuden, jolla Gemini on saatu huijattua haitallisiin toimiin, kuten vaikkapa tietojenkalasteluun, roskapostin lähettämiseen uhreille tai näiden Google Kalenterin tietojen poistamiseen. Hyökkäyksissä on hyödynnetty Geminin laajaa hyödyntämistä Googlen eri palveluissa, joihin ihmiset Google-tilillään kirjautuvat. Myös uhrin tärkeiden tietojen poistamista tai tämän kuvaamista Zoomin kautta on havaittu. Väärinkäytöksiä, jotka voivat olla esimerkiksi tietynlainen kalenterikutsu uhrille, kutsutaan varsin kuvaavasti nimellä ”promptware”, sillä niiden tarkoitus on saada uhrin Gemini suorittamaan hyökkääjän haluamaa haitallista komentoa.

SafeBreach tiedotti Googlea havainnoistaan jo helmikuussa, mihin Google vastasi blogikirjoituksessaan kesäkuussa. Vaikka väärinkäytöksiä on tehtailtu teknologiayritysten tuotteiden pohjalta jo pitkään, eivät tietoturvallisuusasiantuntijat ole SafeBreachin näkemyksen mukaan ottaneet promptware-ongelmaa asianmukaisella vakavuudella, etenkin kun teknologiayritykset valjastavat tekoälytoimintoja useimpiin tuotteisiinsa kiihtyvällä vauhdilla, kuten vaikkapa Geminin kohdalla.

Lähde: Tom’s Hardware