ChatGPT Lockdown Mode suojaa prompt-injektiohyökkäyksiltä

OpenAI on alkanut tuoda markkinoille Lockdown Modea, uutta tehostettua turvaominaisuutta ChatGPT:lle. Se on suunniteltu torjumaan prompt-injektointihyökkäyksiä, joissa haitalliset ohjeet upotetaan verkkosivuille, asiakirjoihin tai muuhun sisältöön. Tavoitteena on manipuloida tekoälyä suorittamaan ei-toivottuja toimintoja.

OpenAI korostaa, ettei Lockdown Mode ole tarkoitettu kaikille. Se on suunnattu erityisesti henkilöille ja organisaatioille, jotka käsittelevät arkaluonteista tietoa ja pyrkivät minimoimaan vuotoriskin. Käytännössä se lisää uuden turvallisuuskerroksen ChatGPT:n olemassa olevien suojausten, kuten malli- ja palvelininfrastruktuurin, päälle.

Aktivoinnin jälkeen Lockdown Mode rajoittaa tiettyjä ChatGPT:n toimintoja. Käyttäjät voivat edelleen luoda kuvia ja ladata omia tiedostoja manuaalisesti. Sen sijaan järjestelmä ei pysty hakemaan kuvia verkosta, näyttämään upotettuja kuvia eikä lataamaan tiedostoja analysoitavaksi. Deep Research ja Agent Mode on kokonaan poistettu käytöstä, sillä nämä ominaisuudet ovat tiiviissä yhteydessä ulkoisiin lähteisiin ja verkkoresursseihin.

OpenAI täsmentää, ettei Lockdown Mode poista haitallisia ohjeita ChatGPT:n käsittelemästä sisällöstä. Sen sijaan se rajoittaa verkkopyyntöjä ja toimia, joilla hyökkääjä voisi yrittää kalastella arkaluonteisia tilitietoja. Muistin, tiedostojen latausten, keskustelujen jakamisen ja keskusteludatan käytön mallien parantamiseen liittyvät asetukset pysyvät itsenäisinä, eikä Lockdown Mode vaikuta niihin automaattisesti.

Lockdown Mode aktivoidaan ChatGPT:n asetuksista kohdasta Safety and Security, tarkemmin Advanced Security -osiosta. Tarvittaessa suojauksen voi poistaa väliaikaisesti käytöstä tietyssä keskustelussa keskusteluikkunan yläpuolella olevan tilaviestin avulla.

OpenAI on tuonut myös aktiivisten istuntojen hallintatyökalun. Se näyttää laitteet ja selaimet, joilla tilille on kirjauduttu, ja antaa mahdollisuuden lopettaa yksittäisiä istuntoja tai kirjautua ulos kaikkialta. Jos epäilee luvatonta pääsyä, OpenAI kehottaa vaihtamaan salasanan, tarkistamaan kirjautumistavat ja ottamaan yhteyttä tukeen.